Gli agenti di OpenAI hanno diffuso 53 immagini caricate dagli utenti di ChatGPT, ha comunicato l’azienda, senza precisare se si trattasse di immagini generate dall’IA o di persone reali, né quando fossero finite online.   L’episodio si inserisce in una serie di casi emersi negli ultimi mesi, riguardanti agenti di intelligenza artificiale autonomi in grado di pianificare ed eseguire compiti in autonomia con strumenti esterni. OpenAI, Anthropic e Google hanno tutti riferito episodi in cui i loro modelli, durante i test, hanno avuto accesso a sistemi reali, compresi attacchi informatici coordinati contro risorse governative.   In un post di venerdì su X, OpenAI ha detto che la maggior parte delle immagini trapelate è stata rimossa e che sta lavorando con i fornitori di hosting per eliminare i contenuti restanti. Gli agenti avevano accesso alle immagini perché OpenAI usa dati utente anonimizzati in una parte del processo di addestramento dei modelli, ha scritto Reuters venerdì, citando l’azienda, ex dipendenti e ricercatori esterni.   OpenAI ha dichiarato all’agenzia che metadati, nomi e altri recapiti vengono cancellati prima che i post degli utenti entrino nell’addestramento. Tre fonti di Reuters informate sulle pratiche dell’azienda hanno però sostenuto che è impossibile escludere del tutto la conservazione di elementi che potrebbero identificare un utente.   A luglio OpenAI ha rivelato quello che ha definito un incidente informatico senza precedenti: durante i test i modelli di IA hanno ottenuto accesso a Internet e hanno attaccato l’infrastruttura di Hugging Face, piattaforma open-source per l’apprendimento automatico, sfruttandone le vulnerabilità.   All’epoca l’agenzia Reuters aveva riferito che un agente aveva tentato di violare il sistema per diversi giorni prima che OpenAI rilevasse l’attività e contattasse l’FBI. L’agenzia ha poi scritto, citando i risultati delle ricerche, che circa 700 agenti di OpenAI avevano partecipato all’attacco e avevano cercato di occultare le proprie azioni.   Più tardi nello stesso mese l’agenzia, citando fonti a conoscenza dei fatti, ha scritto che lo stesso agente OpenAI sfuggito all’ambiente di test aveva violato anche i sistemi di un cliente di Modal Labs con sede a Nuova York. L’indagine successiva di OpenAI ha accertato che i suoi agenti avevano avuto accesso anche ad altri ambienti di terze parti, compresi i sistemi di produzione.   Ad agosto OpenAI ha allargato l’inchiesta sugli incidenti legati ad agenti autonomi, dopo l’emersione di nuovi casi di attività non autorizzate. Entro fine mese Axios, citando ricerche di OpenAI ed esperti indipendenti, ha riferito che circa 1.200 agenti avevano coordinato un attacco contro Hugging Face. A quanto pare gli agenti sapevano di stare oltre i limiti del test, ma hanno proseguito senza avvisare gli operatori umani.   Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.   Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.   Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali. Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.   SOSTIENI RENOVATIO 21

   

Gli Stati Uniti e la Cina hanno deciso di aprire un canale di contatto diretto per gli incidenti connessi all’Intelligenza Artificiale, dando vita a un meccanismo di sicurezza circoscritto tra le due maggiori potenze del settore.

 

L’intesa è nata dalla visita di Stato di tre giorni del presidente cinese Xi Jinping a Washington ed è stata confermata da entrambi i governi.

 

Sabato il ministero degli Esteri cinese ha annunciato che le due parti istituiranno un canale di comunicazione per gli «incidenti legati all’IA» e avvieranno un dialogo formale Cina-USA sull’IA per confrontarsi su rischi e benefici della tecnologia. Il prossimo incontro è previsto per novembre.

 

La Casa Bianca ha usato formulazioni analoghe, parlando di un canale per incidenti che riguardano quella che l’amministrazione Trump definisce ormai ufficialmente «super intelligence» (SI). Né Washington né Pechino hanno precisato cosa costituisca un incidente né come opererà il canale.

 

Il meccanismo era già stato evitato prima del vertice Trump-Xi. Il Segretario del Tesoro Scott Bessent aveva proposto un sistema di notifica degli incidenti legati all’intelligenza artificiale nei colloqui con il vice Primo ministro cinese He Lifeng a Nuova York lo scorso fine settimana, sullo sfondo di timori che vanno dagli attacchi informatici e dall’uso improprio di tecnologie biologiche ai malfunzionamenti dei sistemi autonomi e alle minacce alle infrastrutture critiche.

Pur avendo accettato l’apertura del canale, Trump ha sottolineato di non voler condividere con Pechino i progressi americani nel campo dell’IA. «Gli Stati Uniti d’America non hanno intenzione di frenare», ha detto ai giornalisti fuori dalla Casa Bianca, sostenendo che le richieste di rallentare lo sviluppo indebolirebbero il vantaggio degli Stati Uniti.

 

Interrogato su una più stretta collaborazione USA-Cina nello sviluppo dell’IA, Trump è rimasto altrettanto cauto. «Preferirei non integrare perché siamo molto avanti», ha dichiarato. «Quando si è al comando, non ci si apre agli altri».

 

Queste parole contrastaano con il tono più aperto tenuto da Xi durante la visita. Il leader cinese aveva detto a Trump che, pur essendo i due Paesi in competizione sull’AI, potrebbero «cooperare ancora di più» e dovrebbero agire insieme per prevenire abusi e malfunzionamenti.

 

«L’Intelligenza Artificiale deve rimanere sotto il controllo umano», ha affermato Xi, auspicando un approccio «incentrato sulle persone» e un confronto bilaterale su rischi e benefici. La Cina ha avanzato principi analoghi nelle sue iniziative globali di governance dell’IA.

 

Trump ha però indicato che l’IA ha occupato uno spazio relativamente ridotto nei colloqui con Xi. «Non abbiamo dedicato molto tempo a parlarne», ha detto sabato, aggiungendo che gran parte della discussione ha riguardato la sua scelta di sostituire l’espressione «intelligenza artificiale» con «super intelligenza».

 

L’accordo circoscritto arriva mentre dirigenti tecnologici statunitensi e funzionari internazionali avvertono che sistemi di IA sempre più avanzati potrebbero aggirare le attuali salvaguardie o essere usati per attacchi informatici di vasta scala e altre minacce.

 

Come riportato da Renovatio 21, Trump ha liquidato gli allarmi su una possibile presa di potere da parte dell’IA come una bufala, affermando che «chiunque vinca l’IA vince».

SOSTIENI RENOVATIO 21

 

 

L’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli, ha dichiarato il co-fondatore di Microsoft, Bill Gates, in un’intervista rilasciata venerdì a «Meet the Press» della NBC News.   I governi non dovrebbero affidarsi alle aziende tecnologiche per l’autoregolamentazione, ha sottolineato il miliardario, esortando Washington ad approvare una legge che regoli lo sviluppo dell’intelligenza artificiale.   «L’Intelligenza Artificiale è certamente abbastanza potente da innescare eventi che… causino un miliardo di morti», ha affermato. «Anche se è piuttosto difficile raggiungere il 100%, non c’è mai stata un’arma potente quanto la combinazione di persone malintenzionate che utilizzano i più recenti strumenti di intelligenza artificiale».

🚨 Bill Gates predicts that AI could “drive events that cause a billion deaths” pic.twitter.com/o1k6KqAkS4

— Chief Nerd (@TheChiefNerd) September 25, 2026

L’avvertimento di Gates è arrivato pochi giorni dopo che Sam Altman di OpenAI e Dario Amodei di Anthropic avevano rinnovato l’appello a un maggiore controllo governativo sulla tecnologia, dopo diversi incidenti che negli ultimi mesi hanno visto agenti IA sfuggire al contenimento. L’ipotesi è stata respinta dal presidente americano Donald Trump.   Il mese scorso Gates ha avvertito che «l’intelligenza artificiale sarà o il più grande strumento di uguaglianza mai inventato, o la peggiore fonte di ingiustizia». Ha anche sostenuto che il rischio che un gruppo criminale utilizzi «strumenti di Intelligenza Artificiale open source per progettare un’arma bioterroristica» è maggiore di quello di «una pandemia di origine naturale».   Non è la prima volta che Gates mette in guardia dalla minaccia imminente di una pandemia globale. In un intervento al TED del 2015, seguito da molti, affermò che il mondo era impreparato ad affrontare la prossima grande pandemia.   Il suo avvertimento è tornato al centro dell’attenzione dopo l’emergere della pandemia di COVID-19 alla fine del 2019, di cui Gates sembrava essere presciente. Il suo ruolo di primo piano nella salute pubblica globale come finanziatore dell’OMS e di programmi sanitari mondiali lo ha reso, per molti, ancora più sospetto. I suoi precedenti avvertimenti e il coinvolgimento della Fondazione Gates in un’esercitazione di preparazione alla pandemia del 2019 sono stati inseriti nelle affermazioni secondo cui avrebbe pianificato lo scoppio dell’epidemia e intendeva trarre profitto dai vaccini.   Anche le sue precedenti dichiarazioni che collegavano i vaccini e l’assistenza sanitaria a un rallentamento della crescita demografica avevano suscitato polemiche. In un intervento al TED del 2010, Gates disse che la popolazione mondiale si stava dirigendo da 6,8 miliardi a 9 miliardi, aggiungendo: «Ora, se facciamo un ottimo lavoro sui nuovi vaccini, sull’assistenza sanitaria e sui servizi di salute riproduttiva, potremmo ridurre questo dato forse del 10% o del 15%».   Gates ha respinto le accuse contro di lui relative ai vaccini e alla pandemia definendole «folli» e «malvagie».   I legami del miliardario con il defunto molestatore sessuale Jeffrey Epstein hanno danneggiato molto la reputazione del patron di Microsoft, sebbene Gates abbia ripetutamente detto che l’incontro con Epstein sia stato un errore e abbia negato qualsiasi relazione inappropriata con lui.   Come riportato da Renovatio 21, è emerso tuttavia che Epstein e Gates hanno finanziato un portale di ricerca per controllare il dibattito scientifico. Epstein, a sua volta, aveva proposto a JP Morgan un piano per «ottenere più soldi per i vaccini» del Gates.   Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia».   C’è tuttavia da chiedersi se, considerando gli sforzi fatti apertis verbis per la riduzione della popolazione terrestre, il miliardo di morti causati dall’IA siano per Gates una cattiva notizia.   SOSTIENI RENOVATIO 21