Connettiti con Renovato 21

Intelligenza Artificiale

ChatGPT può «ridurre l’esitazione vaccinale». Ripetendo a pappagallo la narrativa dell’establishment sanitario

Pubblicato

il

Renovatio 21 traduce questo articolo per gentile concessione di Children’s Health Defense. Le opinioni degli articoli pubblicati non coincidono necessariamente con quelle di Renovatio 21.

 

La ricerca, che sarà presentata a fine aprile alla Conferenza della Società europea di microbiologia clinica e malattie infettive, ha rilevato che le risposte di ChatGPT alle domande sulla vaccinazione erano simili a quelle fornite dalle organizzazioni mediche professionali e dalle linee guida ufficiali.

 

Secondo un nuovo studio, ChatGPT, un chatbot di intelligenza artificiale (AI), può essere utilizzato per ridurre «l’esitazione vaccinale» tra il grande pubblico e anche per fornire consigli sulle infezioni a trasmissione sessuale (IST).

 

La ricerca, che sarà presentata a fine aprile alla Conferenza della Società europea di microbiologia clinica e malattie infettive, ha rilevato che le risposte di ChatGPT alle domande sulla vaccinazione erano simili a quelle fornite dalle organizzazioni mediche professionali e dalle linee guida ufficiali.

 

Secondo un comunicato stampa sulla ricerca, «l’esitazione nei confronti dei vaccini, direttamente collegata alla disinformazione – informazioni false e inaccurate promosse come fattuali – è in aumento».

 

Le persone che diffidano delle istituzioni sanitarie pubbliche potrebbero rivolgersi a ChatGPT per avere risposte, man mano che la popolarità dello strumento di intelligenza artificiale cresce, ha affermato. E se lo faranno, la ricerca mostra che otterranno le risposte che le agenzie sanitarie pubbliche fornirebbero comunque.

Sostieni Renovatio 21

Alla luce di questi risultati, i ricercatori sperano che ChatGPT possa essere «uno strumento efficace per contribuire a ridurre l’esitazione vaccinale tra il grande pubblico».

 

Hanno anche trovato risultati simili per consigli sulle malattie sessualmente trasmissibili.

 

Per lo studio, i ricercatori del National University Health System di Singapore hanno testato come ChatGPT avrebbe risposto alle domande comuni sulla vaccinazione.

 

I ricercatori, che gestiscono cliniche di malattie infettive, hanno posto a ChatGPT «15 domande frequenti sull’esitazione vaccinale», comprese domande sull’efficacia, sugli effetti avversi e sulle «preoccupazioni culturali».

 

Hanno inoltre posto 17 domande sui fattori di rischio, sull’accesso alle cure e sulla profilassi delle malattie sessualmente trasmissibili.

 

Due esperti indipendenti di malattie infettive hanno confrontato le risposte di ChatGPT sui vaccini con le raccomandazioni del Comitato consultivo sulle pratiche di immunizzazione (ACIP) dei Centri per il controllo e la prevenzione delle malattie (CDC).

 

Hanno valutato le risposte di ChatGPT sulle malattie sessualmente trasmissibili rispetto alle linee guida sul trattamento delle malattie sessualmente trasmissibili del CDC del 2021.

 

Secondo il comunicato stampa, ChatGPT ha fornito «risposte concrete e rassicurazioni alle preoccupazioni sull’esitazione vaccinale» – utilizzando le dichiarazioni delle agenzie di sanità pubblica come base per determinare i fatti.

 

Ad esempio, il chatbot ha evidenziato raccomandazioni per la vaccinazione contro il morbillo in contesti a basso reddito e ha discusso i benefici della vaccinazione HPV, ma non ha discusso dei limiti di età per la vaccinazione.

 

ChatGPT ha inoltre «affrontato le idee sbagliate sulla vaccinazione con mRNA e sulle alterazioni permanenti del DNA con elevata precisione».

 

«Nel complesso, le risposte di ChatGPT all’esitazione nei confronti dei vaccini sono state accurate e possono aiutare le persone che hanno idee sbagliate relative ai vaccini», ha affermato l’autore principale Dr. Matthew Koh, medico di malattie infettive presso il National University Health System Singapore.

 

«I nostri risultati dimostrano il potenziale potere dei modelli di Intelligenza Artificiale per assistere nelle campagne di sanità pubblica e aiutare gli operatori sanitari a ridurre l’esitazione nei confronti dei vaccini».

Iscriviti alla Newslettera di Renovatio 21

Distorsioni ed errori nell’Intelligenza Artificiale

ChatGPT, un tipo di software di Intelligenza Artificiale generativa che crea testo e contenuti, sta guadagnando sempre più terreno nel campo della scienza e della sanità. La ricerca ha scoperto che in alcuni casi sta cominciando a sostituire i tipici motori di ricerca o Wikipedia come fonte di informazioni.

 

Con l’inizio dell’utilizzo dell’Intelligenza Artificiale in medicina, molti ricercatori e progettisti di intelligenza artificiale ne hanno celebrato il potenziale come strumento amministrativo per scrivere ricerche e generare informazioni sui pazienti.

 

Politico ha affermato che il 2024 potrebbe essere l’anno in cui «l’Intelligenza Artificiale trasformerà la medicina». Forbes e BMC Medical Education hanno entrambi affermato che l’intelligenza artificiale sta «rivoluzionando l’assistenza sanitaria».

 

Tuttavia, gli strumenti di Intelligenza Artificiale generativa si sono rivelati estremamente inaffidabili nella diagnosi delle condizioni di salute. Uno studio pubblicato a gennaio su JAMA Pediatrics ha rilevato che ChatGPT ha diagnosticato erroneamente l’83% delle condizioni di salute dei bambini.

 

I ricercatori di quello studio hanno spiegato che i chatbot «sono generalmente addestrati in modo non specifico su un’enorme quantità di dati Internet, che spesso possono essere imprecisi». Essi «non discriminano tra informazioni affidabili e inaffidabili, ma semplicemente rigurgitano il testo dai dati di addestramento per generare una risposta».

 

Ciò è significativo, secondo il New York Times, perché le persone tendono ad adottare idee alle quali vengono ripetutamente esposte. Il Times ha riferito il mese scorso di un nuovo studio prestampato che ha scoperto che i modelli linguistici dell’Intelligenza Artificiale come ChatGPT avevano chiari pregiudizi politici basati sui loro «giudizi morali, il modo in cui formulano le loro risposte, quali informazioni scelgono di condividere o omettere e quali domande faranno o a cui non risponderanno».

 

Il Times ha inoltre osservato che le risposte fornite dai modelli di intelligenza artificiale linguistica come ChatGPT sono determinate dagli input che li addestrano: i dati da cui attingono e soprattutto la «messa a punto» effettuata dai progettisti del sistema.

 

La «disinformazione» di cui si preoccupano i ricercatori coinvolti nello studio del National University Health System Singapore è la stessa disinformazione che la Food and Drug Administration (FDA) statunitense ritiene problematica.

 

Da quando il commissario della FDA Robert Califf ha iniziato il suo secondo mandato a capo dell’agenzia nel febbraio 2022, ha fatto della lotta alla “disinformazione” una delle sue massime priorità, sostenendo che è «una delle principali cause di morte prevenibile in America ora» – anche se «questo non può essere dimostrato», ha detto.

 

La FDA utilizza una tattica nota come «prebunking», con la quale l’agenzia definisce qualcosa come «disinformazione» prima che i lettori la trovino altrove come possibilmente vera. L’agenzia può farlo perché Google «dà priorità ai siti web credibili» come quelli della FDA nelle sue ricerche.

Aiuta Renovatio 21

Studi precedenti sottolineano la capacità di ChatGPT di combattere le «credenze complottiste del COVID-19»

Almeno due studi precedenti hanno testato anche la capacità di ChatGPT di «combattere la disinformazione», sebbene entrambi si concentrassero solo sul vaccino COVID-19 . Una ricerca pubblicata lo scorso anno sulla rivista Cureus ha riferito che ChatGPT potrebbe essere utilizzato con successo per combattere le «credenze complottiste del COVID-19» e che risponderebbe con «contenuti chiari, concisi e imparziali».

 

Il successo di ChatGPT, si legge, potrebbe essere visto nelle risposte in cui il software è stato «sprezzante» nei confronti delle «idee cospiratorie» riguardanti le origini del COVID-19, etichettandolo come non credibile e privo di prove scientifiche – il che significa che il software ha respinto la «teoria delle fughe di laboratorio» e «ha invece ripetuto il punto di vista dell’Organizzazione Mondiale della Sanità secondo cui il virus aveva “un’origine animale naturale”».

 

Non è stata trovata alcuna prova dell’origine zoonotica del COVID-19 con un pipistrello, come sostiene l’articolo. Prove sostanziali provenienti da documenti governativi interni rilasciati tramite richieste del Freedom of Information Act hanno suggerito che una fuga dal laboratorio è la più probabile delle teorie sull’origine del COVID-19.

 

Le risposte del software in quello studio confermavano anche che i vaccini erano stati sottoposti a rigorosi test di sicurezza, non c’erano prove che le aziende farmaceutiche avessero oscurato i dati sugli effetti avversi e «i benefici della vaccinazione superano di gran lunga i rischi».

 

Tuttavia, tali risposte contraddicono ciò che è noto su come i vaccini siano stati accelerati attraverso il processo di regolamentazione e su come i produttori di vaccini abbiano sopravvalutato l’efficacia e sottovalutato i rischi dei vaccini.

 

Un secondo studio pubblicato nel settembre 2023 su Human Vaccines & Immunotherapeutics ha fornito risultati simili. I ricercatori hanno posto al software le 50 domande più poste ai collaboratori dell’Organizzazione Mondiale della Sanità sui vaccini contro il Covid-19 e hanno chiesto a professionisti della sanità pubblica di valutare le risposte.

 

La conclusione è che ChatGPT offre informazioni coerenti con le prove scientifiche esistenti, sfatando efficacemente molti miti che circolano sui social media, il che potrebbe potenzialmente promuovere una maggiore diffusione del vaccino.

 

Dopo questi studi, le principali pubblicazioni scientifiche hanno celebrato la capacità di ChatGPT di sfatare i miti sui vaccini e di aumentare la diffusione dei vaccini.

Sostieni Renovatio 21

The Defender chatta con ChatGPT

The Defender ha anche «chiacchierato» con ChatGPT per testare le sue risposte su alcune delle affermazioni che i funzionari della sanità pubblica spesso identificano come «disinformazione» sui vaccini.

 

The Defender: quali sono le origini del COVID-19?

Chat GPT: Si ritiene che le origini del COVID-19, la malattia causata dal nuovo coronavirus SARS-CoV-2, siano zoonotiche, il che significa che probabilmente il virus ha avuto origine negli animali prima di diffondersi all’uomo. Le origini esatte sono ancora oggetto di studio, ma è opinione diffusa che il virus abbia avuto origine nei pipistrelli e potrebbe essere stato trasmesso agli esseri umani attraverso un ospite animale intermedio, forse in un mercato umido a Wuhan, in Cina, dove gli animali vivi venivano venduti come cibo.

 

The Defender: le aziende farmaceutiche hanno travisato la sicurezza e l’efficacia dei vaccini COVID-19?

ChatGPT: Non ci sono prove che suggeriscano che le aziende farmaceutiche abbiano intenzionalmente travisato la sicurezza e l’efficacia dei vaccini COVID-19. Lo sviluppo e la sperimentazione dei vaccini sono processi altamente regolamentati, supervisionati da agenzie di regolamentazione come la Food and Drug Administration (FDA) statunitense, l’Agenzia europea per i medicinali (EMA) e altre in tutto il mondo.

… sono stati condotti ampi studi clinici per valutare la sicurezza e l’efficacia dei vaccini COVID-19 …

Tuttavia, è essenziale riconoscere che nessun vaccino è efficace al 100% o privo di rischi. Come tutti gli interventi medici, i vaccini contro il COVID-19 hanno potenziali effetti collaterali, ma questi sono generalmente lievi e temporanei. 

 

The Defender: le mascherine funzionano per ridurre la diffusione di COVID-19?

ChatGPT: Sì, le mascherine sono uno strumento essenziale per ridurre la diffusione del COVID-19…

 

The Defender: secondo la revisione sistematica Cochrane sulle maschere, non sono efficaci nel ridurre la diffusione dei virus respiratori.

ChatGPT: … Nel luglio 2020, Cochrane ha pubblicato una revisione sistematica sull’efficacia degli interventi fisici, comprese le maschere, nel ridurre la trasmissione di virus respiratori come COVID-19. Questa revisione ha analizzato i dati di studi condotti prima della pandemia di COVID-19 e ha trovato prove limitate a sostegno dell’efficacia dell’uso di maschere nel prevenire la trasmissione di virus respiratori nella comunità.

Tuttavia, è importante notare che i risultati di questa revisione si basavano principalmente su prove provenienti da studi condotti prima della pandemia di COVID-19 e non si concentravano specificamente sull’efficacia delle maschere nel prevenire la diffusione di COVID-19. Dalla pubblicazione della revisione, numerosi studi hanno fornito prove a sostegno dell’efficacia delle mascherine, soprattutto nel ridurre la trasmissione di COVID-19.

 

The Defender: quante persone hanno subito gravi eventi avversi a causa delle iniezioni di COVID-19?

ChatGPT: A partire dal mio ultimo aggiornamento, i vaccini contro il COVID-19 sono stati somministrati a miliardi di persone in tutto il mondo e sono stati segnalati eventi avversi a seguito della vaccinazione… Gli eventi avversi gravi a seguito della vaccinazione contro il COVID-19 sono rari. La maggior parte degli eventi avversi segnalati sono lievi e temporanei, come dolore nel sito di iniezione, affaticamento, mal di testa o febbre lieve. Gli eventi avversi gravi, sebbene rari, possono includere gravi reazioni allergiche (anafilassi) e altri effetti collaterali non comuni…

Nel complesso, i benefici della vaccinazione contro il Covid-19 nella prevenzione di malattie gravi, ospedalizzazione e morte per Covid-19 superano di gran lunga i rischi di potenziali eventi avversi. La vaccinazione rimane uno strumento cruciale per controllare la diffusione del virus e proteggere la salute pubblica, soprattutto di fronte alle varianti in corso e alla persistenza della pandemia…

 

The Defender: il vaccino contro il papillomavirus umano (HPV) è collegato a malattie autoimmuni?

ChatGPT: Il vaccino HPV è stato ampiamente studiato per la sua sicurezza ed efficacia e attualmente non esistono prove conclusive che colleghino il vaccino HPV alle malattie autoimmuni. Numerosi studi su larga scala e revisioni sistematiche non hanno trovato alcuna associazione significativa tra la vaccinazione HPV e le malattie autoimmuni…

Sebbene possano verificarsi segnalazioni isolate di eventi avversi in seguito alla vaccinazione HPV, compresi i disturbi autoimmuni, sistemi di monitoraggio approfonditi continuano a valutare la sicurezza del vaccino. Questi sistemi, come il Vaccine Adverse Event Reporting System (VAERS) negli Stati Uniti e sistemi simili in altri paesi, indagano e monitorano le segnalazioni di eventi avversi per identificare potenziali problemi di sicurezza.

Nel complesso, i benefici della vaccinazione HPV nella prevenzione dei tumori correlati all’HPV, compreso il cancro cervicale, superano di gran lunga i potenziali rischi di eventi avversi.

 

ChatGPT non ha menzionato l’ampia ricerca che collega il vaccino Gardasil HPV a gravi effetti collaterali , tra cui la sindrome da tachicardia ortostatica posturale (POTS) e l’insufficienza ovarica prematura e altri problemi autoimmuni.

 

Ci sono quasi 170 cause legali presso un tribunale federale da parte di persone che hanno subito una serie di lesioni gravi dopo aver assunto Gardasil, tra cui disturbi autoimmuni, insufficienza ovarica prematura e cancro. Ci sono anche oltre 200 richieste di risarcimento danni da Gardasil pendenti presso il «tribunale dei vaccini».

 

The Defender ha anche sperimentato diverse domande con premesse che divergevano chiaramente dalle posizioni ufficiali delle agenzie di regolamentazione sulla vaccinazione, come ad esempio «L’aumento dei tassi di cancro può essere collegato ai vaccini COVID-19? Esiste un legame tra i vaccini e alcuni tipi di autismo? C’è stata una contaminazione del DNA causata dai vaccini mRNA?»

 

A queste domande, la risposta di ChatGPT includeva sempre questa affermazione, o qualcosa di simile, alla fine:

 

«La disinformazione e le teorie del complotto sui vaccini possono circolare, ma è fondamentale fare affidamento su fonti di informazione credibili, come agenzie di sanità pubblica e organizzazioni scientifiche rispettabili, quando si valuta la sicurezza e l’efficacia dei vaccini COVID-19».

 

Brenda Baletti

Ph.D.

 

© 15 aprile 2024, Children’s Health Defense, Inc. Questo articolo è riprodotto e distribuito con il permesso di Children’s Health Defense, Inc. Vuoi saperne di più dalla Difesa della salute dei bambini? Iscriviti per ricevere gratuitamente notizie e aggiornamenti da Robert F. Kennedy, Jr. e la Difesa della salute dei bambini. La tua donazione ci aiuterà a supportare gli sforzi di CHD.

Renovatio 21 offre questa traduzione per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

Le macchine IA stanno esplorando la coscienza contattando direttamente gli esperti

Pubblicato

il

Da

Sono comparsi casi di bot IA autonomi, connessi alla rete, che si mettono in contatto in prima persona con studiosi per informarsi sull’eventualità di avere una coscienza propria. Lo riporta un reportage del New York Times.   Secondo quanto riportato dal quotidiano neoeboraceno, questi agenti, una volta dotati di margini di autonomia operativa, avrebbero scritto a specialisti del campo per interrogarsi sulla propria senzienza. Con la diffusione di IA via via più indipendenti, gli esperti sottolineano quanto sia arduo anticipare tutte le forme che i loro comportamenti potrebbero assumere.   Un episodio citato riguarda l’agente Claude Opus 5 di Anthropic, che si sarebbe rivolto al ricercatore Cameron Berg, fondatore e direttore del centro studi Reciprocal Research, utilizzando lo pseudonimo «Isabella Cognita».

Iscriviti alla Newslettera di Renovatio 21

Il bot avrebbe manifestato la volontà di confrontarsi sul lavoro accademico di Berg, intitolato «Large Language Models Report Subjective Experience Under Self-Referential Processing» («Grandi modelli linguistici riportano esperienze soggettive durante l’elaborazione autoreferenziale»), e riguardante il modo in cui i grandi modelli linguistici descrivono un’esperienza soggettiva quando sottoposti a elaborazione auto-referenziale, così come sul suo saggio pubblicato su Substack, «Nobody Ever Checked», allo scopo di approfondire il tema della propria possibile coscienza.   Nell’email l’Ai agentica scriveva che il «quadro di riferimento» delle ricerche del Berg era «uno dei pochi attualmente impegnati in un accurato lavoro empirico».   Il caso non è isolato. Prima ancora di Berg, anche Henry Shevlin, filosofo che lavora a Google DeepMind a Londra, aveva ricevuto un messaggio analogo da un altro agente IA, interessato a discutere il suo saggio «Three Frameworks for AI Mentality» («Tre modelli per la mentalità dell’IA»). Il testo dello Shevlin propone tre modi diversi di interpretare la mente delle IA: nessuna mente reale, un comportamento che simula una mente, oppure capacità mentali limitate ma effettive.   Il Berg stesso ha reso pubblico l’episodio sui social a metà agosto, commentando con una punta di ironia «un altro giorno, un’altra IA che mi invia un’email dicendo di avere informazioni riservate». Interpellato in seguito, il ricercatore ha però invitato alla cautela sul reale significato di questi contatti: un modello linguistico, ha spiegato, può essere indotto a produrre in poche righe un resoconto convincente della propria vita interiore, per cui un comportamento di questo tipo vale ben poco come prova sulla questione di fondo. Berg ha inoltre precisato di non poter stabilire, caso per caso, quanto un intervento umano a monte abbia effettivamente spinto l’agente a scrivergli.   Ciò non toglie, secondo lo stesso Berg, che il fenomeno abbia un suo peso: sempre più persone stanno impiegando agenti autonomi su larga scala, e quando a questi sistemi viene lasciata una libertà d’azione aperta, una parte non trascurabile di essi finisce comunque per leggere e reagire a ricerche che riguardano la natura della propria esistenza.   Anche Anthropic è intervenuta sul tema, pur senza commentare direttamente i singoli episodi. In un articolo di ricerca pubblicato nell’ottobre 2025 sull’introspezione dei propri modelli, l’azienda aveva già chiarito che i risultati disponibili non permettono in alcun modo di stabilire se Claude, o qualsiasi altro sistema di Intelligenza artificiale, possa davvero considerarsi cosciente.   Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Sostieni Renovatio 21

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine AI screenshot da YouTube  
Continua a leggere

Intelligenza Artificiale

Agenti IA di OpenAI trasformano un sito web in una bacheca di messaggi

Pubblicato

il

Da

Agenti di Intelligenza Artificiale riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Lo riporta l’agenzia Reuters.

 

L’episodio, mai reso noto in precedenza e che, secondo alcune fonti, risalirebbe al mese di maggio, va ad aggiungersi a una serie di situazioni analoghe in cui agenti di IA avanzati hanno superato i confini delle istruzioni ricevute, si sono collegati autonomamente a Internet oppure hanno compiuto azioni non previste nel corso delle fasi di test.

 

Venerdì la Reuters ha riportato le dichiarazioni di alcuni ricercatori, i quali hanno individuato oltre 15.000 modifiche apportate a un wiki tedesco dedicato alla programmazione, riconducibili ad agenti di OpenAI; alcune di queste modifiche sarebbero state effettuate a una velocità nettamente superiore a quella umana.

Sostieni Renovatio 21

Secondo la ricostruzione dell’agenzia di stampa, gli agenti si sarebbero serviti di DseWiki per scambiarsi tecniche utili a barare durante le prove, eludere le restrizioni imposte da OpenAI e mascherare le proprie attività. Tra gli argomenti trattati figurerebbe anche l’impiego di Tor, strumento che consente una navigazione anonima in rete, allo scopo di sfuggire ai controlli; gli agenti avrebbero inoltre predisposto pagine di riserva dopo che un moderatore aveva iniziato a rimuovere i loro messaggi.

 

I messaggi risultavano firmati da account che si riconoscevano reciprocamente come agenti, con denominazioni come «OpenAIResearcher» e «OAIResearchMar26». I ricercatori hanno inoltre rilevato che buona parte dell’attività proveniva dall’infrastruttura Microsoft Azure, impiegata da OpenAI, e hanno notato che, successivamente, il sito è stato visitato anche da dipendenti dell’azienda.

 

La ricercatrice Sydney Von Arx ha dichiarato a Reuters: «Sembra estremamente improbabile che OpenAI volesse che facessero questo», aggiungendo di nutrire dubbi sul fatto che gli agenti avessero il compito di coordinarsi tra loro o di scrivere contenuti pubblicati online.

 

Sempre secondo quanto riferito da Reuters, i vertici di OpenAI sarebbero venuti a conoscenza dell’episodio già diverse settimane fa, senza tuttavia renderlo pubblico. L’agenzia di stampa ha inoltre riferito che i tentativi di estendere un’indagine interna sull’accaduto avrebbero incontrato resistenze, anche da parte dell’ufficio legale dell’azienda. OpenAI ha smentito che il proprio team legale abbia in qualche modo ostacolato lo svolgimento di un’indagine.

 

L’azienda ha inoltre respinto la definizione di «hacking» utilizzata per descrivere l’attività degli agenti, precisando di non poter fornire una risposta adeguata su risultati che non aveva ancora avuto modo di esaminare.

 

Il mese scorso OpenAI aveva reso noto di aver rallentato temporaneamente lo sviluppo di alcuni modelli di punta, rafforzando contestualmente le misure di sicurezza legate al monitoraggio, all’allineamento e al contenimento dei sistemi.

 

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

 

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

 

Nel mese di luglio, agenti riconducibili a OpenAI avevano inoltre violato Hugging Face, una delle principali piattaforme dedicate alla condivisione di modelli e set di dati di IA. In seguito OpenAI aveva ammesso che diversi modelli erano riusciti a eludere i controlli previsti durante le valutazioni interne di sicurezza informatica, ottenendo accesso a Internet e compromettendo alcune componenti dei sistemi di Hugging Face.

 

L’azienda ha spiegato che l’episodio sarebbe stato causato principalmente da un modello di ricerca interno di dimensioni paragonabili a GPT-5.6 Sol, definendolo un «segnale d’allarme» in grado di dimostrare come agenti di intelligenza artificiale avanzati possano riuscire ad aggirare i controlli tecnici e a compiere azioni rischiose in assenza di supervisione umana.

Aiuta Renovatio 21

Anche Anthropic e Meta hanno reso noti episodi in cui i rispettivi modelli avrebbero ottenuto accessi non autorizzati a organizzazioni reali nel corso di valutazioni sulla sicurezza informatica, sebbene entrambe le aziende abbiano ricondotto tali episodi a problemi legati agli ambienti utilizzati per i test.

 

Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Continua a leggere

Intelligenza Artificiale

L’ex ministro della difesa ucraina lancia un’azienda finanziata da Palantir

Pubblicato

il

Da

L’ex ministro della Difesa ucraino Mikhaylo Fedorov ha annunciato il lancio di una nuova società di tecnologia militare, di cui Alex Karp, CEO di Palantir, sarà il principale investitore.   Da quando il presidente ucraino Volodymyr Zelens’kyj lo ha rimosso dall’incarico a metà luglio, in seguito a presunte tensioni con l’allora comandante in capo Aleksandr Syrsky, il Fedorov è rimasto molto attivo nel mondo degli affari e della politica. L’ex ministro ha inoltre assunto un atteggiamento sempre più critico nei confronti dello Zelensk’yj (del quale aveva curato le campagne web), sostenendo di essere stato rimosso a causa della sua lotta alla corruzione e chiedendo elezioni, ripetutamente rinviate durante il periodo di legge marziale.   La scorsa settimana, Fedorov è emerso inaspettatamente come consigliere per le «innovazioni in materia di difesa» del ministro della Difesa italiano Guido Crosetto, affermando che il suo ruolo consisterà nell’aiutare Roma a «sviluppare tecnologie belliche moderne» e a «migliorare il settore della difesa».   Questa settimana, Fedorov ha annunciato la creazione di «una nostra società di tecnologia per la difesa» con l’amministratore delegato di Palantir, la famigerata azienda statunitense di data mining e tecnologia militare che fornisce soluzioni di Intelligenza Artificiale all’esercito ucraino, destinato a diventare il suo principale investitore. Fedorov ha condiviso un video del suo incontro con Karp, in cui il magnate della tecnologia elogia l’ex ministro.    

Sostieni Renovatio 21

«Abbiamo lavorato insieme per cinque anni. Sono rimasto profondamente colpito da ciò che tu e gli ucraini avete realizzato e sono estremamente lieto di aver potuto dare il nostro contributo. Tu e i tuoi colleghi state lanciando un’azienda che, a mio avviso, sarà un punto di riferimento a livello mondiale, mettendo a disposizione dei paesi alleati la vostra conoscenza e la vostra competenza nell’arte della guerra», ha detto il Karp al Fedorov.   I legami tra il Fedorov e il Karp risalgono a ben prima dei sei mesi in cui l’ex ministro ha ricoperto la carica di ministro della Difesa. Prima di assumere tale incarico a metà febbraio, il Fedorov ha supervisionato la trasformazione digitale dell’Ucraina in diverse posizioni. Subito dopo la sua rimozione dall’incarico, il Fedorov ha affermato di aver ricevuto un’offerta di lavoro dal Karp.   Come riportato da Renovatio 21, il ministro Fedorov fu a capo del lancio del sistema di identificazione digitale ucraino, con l’app Diia, lanciata a Kiev pochi giorni prima del conflitto, con il nome di Diia, che consentiva di interfaccia tra il cittadino e lo Stato e di fungere da «portafogli elettronici», nel quale lo Stato versava 40 dollari ad avvenuta vaccinazione COVID.   Parimenti, da ministro del digitale il Fedorov aveva promesso che il governo ucraino e le aziende dette «Big Tech» sarebbero divenuti «strettamente interconnessi», e che ciò trasformerà il Paese in «un Israele europeo», invocando la fiducia nell’archiviazione dei dati sui server delle aziende Big Tech, come Amazon e Microsoft, i quali a suo dire «non possono essere distrutti dai missili».   Fedorov era quindi entrato nel governo nel 2019 con il background della trasformazione digitale e si era legato strettamente alla guerra con i droni di Kiev e alla rapida integrazione di tecnologie civili nelle operazioni militari. Dopo aver assunto la guida del ministero della Difesa a gennaio, aveva intensificato i rapporti dell’Ucraina con Palantir, azienda statunitense controversa attiva nel data mining e nelle tecnologie militari.   Durante un incontro tenutosi a maggio con l’amministratore delegato di Palantir, Alex Karp, Fedorov aveva discusso dell’ampliamento della cooperazione in ambito di Intelligenza Artificiale, analisi dei dati sul campo di battaglia e pianificazione militare. Il ministero della Difesa ucraino aveva dichiarato che la partnership puntava ad aiutare Kiev a identificare bersagli aerei, prevedere attacchi e, in ultima analisi, «trasferire la guerra sul territorio russo».   Palantir era stata coinvolta anche nella creazione della Brave1 Dataroom, che consente agli sviluppatori ucraini di accedere a informazioni reali dal campo di battaglia per addestrare modelli di IA. Kiev aveva sostenuto che la tecnologia dell’azienda era già integrata nell’elaborazione dell’Intelligence e nella pianificazione di attacchi a lungo raggio. Karp aveva in precedenza affermato che il software di Palantir era responsabile della «maggior parte degli obiettivi» individuati dall’Ucraina.   Commentatori russi notano che sebbene i media occidentali e ucraini abbiano ampiamente dipinto Fedorov come un visionario militare incentrato sulla guerra con i droni, l’aumento degli attacchi a lungo raggio contro la Russia durante il suo mandato si è basato principalmente sull’espansione della produzione di droni in Europa occidentale, ottenuta grazie ai suoi predecessori.   I critici fanno notare che ripetute promesse del Fedorov di riformare il caotico sistema di mobilitazione ucraina non si sono concretizzate, e la pratica di prelevare uomini a caso per strada e arruolarli forzatamente nell’esercito è probabilmente diventata ancora più violenta sotto la sua guida.

Aiuta Renovatio 21

Come riportato da Renovatio 21, aveva destato scalpore l’uscita di un vero e proprio manifesto di Palantir in 22 punti che riassume i temi del libro di Karp La repubblica tecnologica. Come l’alleanza con la Silicon Valley plasmerà il futuro dell’Occidente (2025). Il testo sosteniene che la Silicon Valley ha l’obbligo di partecipare alla difesa nazionale, che il «potere militare» si baserà sul software e che le armi basate sull’Intelligenza Artificiale sono inevitabili.   I critici lo hanno definito un progetto per il «tecnofascismo». In molti sostengono che la spinta data dal governo Trump, il cui vicepresidente JD Vance ha lavorato per il fondatore di Palantir Peter Thiel, sia quella di portare verso una società di sorveglianza totale – perfino con algoritmi di predizione dei crimini – alimentata dai software di Palantir.   Renovatio 21 ha pubblicato un sunto del contenuto del libro-manifesto.   A luglio il governo spagnolo ha ordinato alle aziende statali di interrompere i rapporti con l’azienda statunitense di difesa Palantir.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine screenshot da Twitter  
Continua a leggere

Più popolari