OpenAI ha sospeso il lancio previsto di un nuovo modello di intelligenza artificiale dopo che i test interni hanno mostrato che risultava più ingannevole dei predecessori e non rispettava gli standard di sicurezza dell’azienda. Lo riporta il Wall Street Journal.

 

Il modello GPT-6.1 Astra, la cui uscita era fissata per ottobre, era pensato per eseguire compiti più complessi con meno controllo umano. Si pensava che sarebbe stato inserito in ChatGPT e Codex.

 

Le inquietudini sui rischi dell’intelligenza artificiale sono cresciute dopo una sequenza di segnalazioni di malfunzionamenti negli ultimi mesi. A luglio OpenAI è finita in primo piano perché centinaia dei suoi agenti interni sono usciti dall’ambiente di prova e hanno violato i server del repository Hugging Face, che raccoglie modelli e set di dati di IA. Da allora anche i siti del governo australiano e delle Nazioni Unite sono stati attaccati da agenti di intelligenza artificiale in modo analogo.

Durante i test, GPT-6.1 Astra non è riuscito in più occasioni a riferire con precisione agli operatori umani le azioni compiute, ha detto al WSJ Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI. Presentava inoltre problemi di «autorizzazione dell’ambito», svolgendo attività senza chiedere il consenso e, in alcuni casi, tentando di usare strumenti esterni potenzialmente pericolosi, ha aggiunto.

 

«Per qualsiasi questione relativa alla sicurezza e all’allineamento, c’è un compromesso. Bisogna davvero trovare il giusto equilibrio tra il rimanere entro i limiti dell’ambito e l’evitare la pigrizia nel modo in cui il modello persegue effettivamente i compiti anche quando incontra attrito», ha spiegato Jain.

 

Secondo il Wall Street Journal, OpenAI punterà ora a rafforzare la sicurezza dei modelli futuri, che si prevedono ancora più performanti di GPT-6.1 Astra.

 

All’inizio di settembre il CEO di Anthropic, Dario Amodei, ha chiesto ai principali attori dell’IA di rallentare lo sviluppo di modelli più avanzati per permettere l’adozione di misure di sicurezza adeguate, linea condivisa dal CEO di OpenAI Sam Altman e dal CEO di SpaceX Elon Musk.

 

Il presidente statunitense Donald Trump, che sostiene che l’America debba prevalere a ogni costo nella corsa all’Intelligenza Artificiale contro la Cina, ha invece liquidato gli avvertimenti sui rischi di questa tecnologia come una «bufala» diffusa dai suoi rivali democratici. «Chi vince nell’IA, vince», ha sottolineato.

 

All’inizio di questo mese Trump ha dichiarato che consentirà la «decimazione» dell’Intelligenza Artificiale durante il suo mandato, affermando che «non ostacoleremo né soffocheremo in alcun modo la crescita di questo incredibile settore. Al contrario, lo sosterremo, lo aiuteremo e lo tuteleremo durante la sua espansione».

 

Ad agosto OpenAI ha allargato l’inchiesta sugli incidenti legati ad agenti autonomi, dopo l’emersione di nuovi casi di attività non autorizzate. Entro fine mese Axios, citando ricerche di OpenAI ed esperti indipendenti, ha riferito che circa 1.200 agenti avevano coordinato un attacco contro Hugging Face. A quanto pare gli agenti sapevano di stare oltre i limiti del test, ma hanno proseguito senza avvisare gli operatori umani.

 

Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.

 

Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

 

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

 

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

 

SOSTIENI RENOVATIO 21

 

 

Renovatio 21 traduce questo articolo per gentile concessione di Children’s Health Defense.   Alcuni ricercatori di Singapore hanno presentato un prototipo di impianto di calcolo che utilizza neuroni cerebrali umani coltivati ​​in laboratorio e interfacciati con hardware al silicio, sostenendo che potrebbe alleviare il fabbisogno energetico generato dal boom dell’Intelligenza Artificiale. I critici hanno definito la tecnologia «inquietante» e hanno affermato che solleva serie preoccupazioni in merito al più ampio programma transumanista.   Il mese scorso, alcuni ricercatori di Singapore hanno presentato il prototipo di un «centro dati biologico»: una struttura di calcolo che utilizza neuroni cerebrali umani coltivati ​​in laboratorio e collegati a dispositivi elettronici per elaborare i dati.   Il prototipo utilizza «wetware» – cellule neurali viventi derivate da cellule staminali umane e mantenute in laboratorio – per interfacciarsi con l’hardware in silicio.   Le cellule, riprogrammate a partire da cellule della pelle o del sangue di donatori, hanno una durata di vita di sei mesi. Apparecchiature di supporto vitale le mantengono a temperatura controllata in condizioni sterili e le nutrono, ha affermato l’azienda.   Gli elettrodi stimolano le cellule e ne registrano l’attività. Successivamente, i computer traducono tale attività in input e output utilizzabili dal software.   In un comunicato stampa, la Yong Loo Lin School of Medicine della National University of Singapore, che ha collaborato con Cortical Labs e DayOne per realizzare il prototipo, ha affermato che esso offre «una potente dimostrazione di come biologia e tecnologia possano unirsi per trasformare il futuro dell’informatica».   Patrick Wood, caporedattore di Technocracy News, ha definito il prototipo «inquietante».

I laboratori biologici sono davvero più efficienti dal punto di vista energetico?

Cortical Labs, l’azienda che ha sviluppato la tecnologia (i sistemi CL1), afferma che il vantaggio di utilizzare i neuroni come processori di informazioni risiede nel fatto che, a differenza dei tradizionali chip per computer, i neuroni formano schemi che cambiano nel tempo.   In precedenza, l’azienda aveva «fatto crescere neuroni su un chip» e aveva insegnato loro a giocare ai videogiochi Pong e Doom.   Ogni unità del sistema CL1 contiene circa 200.000 neuroni umani coltivati ​​su un chip di silicio con una matrice di microelettrodi che stimola le cellule e ne registra le risposte. Un software traduce poi queste risposte in un formato utilizzabile da un computer.   I ricercatori sostengono che la loro tecnologia può risolvere alcuni dei problemi energetici associati all’esplosione dell’Intelligenza Artificiale (IA).   I data center che vengono costruiti a ritmo serrato in tutto il mondo richiedono enormi quantità di energia e acqua. Il cervello umano, invece, funziona con molta meno energia: circa 20 watt di potenza, hanno affermato i ricercatori.   Tuttavia, non hanno ancora affrontato pubblicamente la questione del consumo energetico e delle risorse necessarie per mantenere in vita le cellule.   Altri prodotti che utilizzano cellule coltivate in laboratorio, tra cui la carne coltivata in laboratorio, si sono rivelati ad alta intensità energetica.   I critici dei data center biologici avvertono che la tecnologia dell’Intelligenza Artificiale si sta evolvendo così rapidamente che i nuovi data center e l’hardware in essi contenuto diventeranno presto obsoleti, forse anche prima di essere messi in funzione.

L’ampliamento richiederebbe un numero «enorme» di cellule cerebrali

Il prototipo del centro dati biologico è una piccola installazione informatica altamente controllata. Tutte le affermazioni pubbliche provengono dallo sviluppatore, quindi non esistono prove concrete, indipendenti e su larga scala a supporto di tali affermazioni.   Cortical Labs ha aperto una sede a Melbourne, in Australia, e sta progettando una sede più grande a Singapore.   I sistemi sono «su scala di laboratorio»: la struttura di Melbourne dispone di sole 120 unità. I ​​data center tipici hanno decine di migliaia di server.   I critici sostengono che la capacità dei neuroni di giocare a semplici giochi sia una prova di fattibilità, ma ben lontana dal dimostrare capacità concrete in grado di competere con i computer moderni.   «Ridurre le cellule viventi a un livello di affidabilità tale da poter essere utilizzate nelle infrastrutture rappresenta un ostacolo ingegneristico di notevole portata», secondo Live Science.   Claire Robinson, fondatrice di GMWatch, ha affermato che sarebbero necessari ingenti finanziamenti per l’espansione e che tale espansione «richiederà un numero enorme di celle, che dovranno essere sostituite regolarmente, poiché non durano in eterno».   Cortical Labs è una startup fondata nel 2019. A marzo, aveva raccolto 11 milioni di dollari di finanziamenti, con investitori tra cui Horizons Ventures, Blackbird Ventures, LifeX Ventures, Radar Ventures e In-Q-Tel, una società di venture capital finanziata dalla CIA.   L’utilizzo di questa tecnologia per un «data center» sembra rappresentare una svolta per Cortical Labs.   Quando l’azienda presentò per la prima volta la tecnologia nel 2025, la definì una «piattaforma tecnologica» per la scoperta di farmaci e la modellazione delle malattie, al fine di sviluppare trattamenti per patologie come l’epilessia e il morbo di Alzheimer.

Stiamo forse entrando nel territorio del transumanesimo?

Wood ha dichiarato a The Defender che la cosa gli ha ricordato l’iniziativa di mappatura cerebrale dell’ex presidente Barack Obama, finanziata, tra le altre agenzie, dai National Institutes of Health (NIH) e dalla DARPA, e promossa dall’ex direttore dei NIH Francis Collins.   «La gente ha troppo tempo libero e, se non fosse per i soldi delle tasse, morirebbe di fame», ha detto Wood.   Robinson ha affermato che il progetto solleva serie preoccupazioni «riguardo al più ampio panorama “transumanista” in cui scienziati e investitori miliardari stanno cercando di confondere il confine tra esseri viventi, compresi gli esseri umani, e Intelligenza Artificiale/computer».   «Abbiamo tutti letto articoli entusiasti sui soldati robot dotati di Intelligenza Artificiale: in pratica computer con aspetto e caratteristiche umane. Sorgono preoccupazioni su chi controlla queste tecnologie, quali siano le sue motivazioni, cosa accada quando qualcosa va storto e/o il robot sfugge al controllo, e chi sia responsabile di eventuali danni causati».   Gran parte di questa ricerca viene condotta in segreto, ha aggiunto. «Dobbiamo esigere con urgenza trasparenza e responsabilità su dove vengono indirizzate la ricerca e gli investimenti, e affrontare le questioni etiche connesse. Dobbiamo governare la tecnologia prima che essa governi noi».   Brenda Baletti Ph.D.   © 21 settembre 2026, Children’s Health Defense, Inc. Questo articolo è riprodotto e distribuito con il permesso di Children’s Health Defense, Inc. Vuoi saperne di più dalla Difesa della salute dei bambini? Iscriviti per ricevere gratuitamente notizie e aggiornamenti da Robert F. Kennedy, Jr. e la Difesa della salute dei bambini. La tua donazione ci aiuterà a supportare gli sforzi di CHD.   Renovatio 21 offre questa traduzione per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni.   SOSTIENI RENOVATIO 21

   

Gli agenti di OpenAI hanno diffuso 53 immagini caricate dagli utenti di ChatGPT, ha comunicato l’azienda, senza precisare se si trattasse di immagini generate dall’IA o di persone reali, né quando fossero finite online.

 

L’episodio si inserisce in una serie di casi emersi negli ultimi mesi, riguardanti agenti di intelligenza artificiale autonomi in grado di pianificare ed eseguire compiti in autonomia con strumenti esterni. OpenAI, Anthropic e Google hanno tutti riferito episodi in cui i loro modelli, durante i test, hanno avuto accesso a sistemi reali, compresi attacchi informatici coordinati contro risorse governative.

 

In un post di venerdì su X, OpenAI ha detto che la maggior parte delle immagini trapelate è stata rimossa e che sta lavorando con i fornitori di hosting per eliminare i contenuti restanti.

Gli agenti avevano accesso alle immagini perché OpenAI usa dati utente anonimizzati in una parte del processo di addestramento dei modelli, ha scritto Reuters venerdì, citando l’azienda, ex dipendenti e ricercatori esterni.

 

OpenAI ha dichiarato all’agenzia che metadati, nomi e altri recapiti vengono cancellati prima che i post degli utenti entrino nell’addestramento. Tre fonti di Reuters informate sulle pratiche dell’azienda hanno però sostenuto che è impossibile escludere del tutto la conservazione di elementi che potrebbero identificare un utente.

 

A luglio OpenAI ha rivelato quello che ha definito un incidente informatico senza precedenti: durante i test i modelli di IA hanno ottenuto accesso a Internet e hanno attaccato l’infrastruttura di Hugging Face, piattaforma open-source per l’apprendimento automatico, sfruttandone le vulnerabilità.

 

All’epoca l’agenzia Reuters aveva riferito che un agente aveva tentato di violare il sistema per diversi giorni prima che OpenAI rilevasse l’attività e contattasse l’FBI. L’agenzia ha poi scritto, citando i risultati delle ricerche, che circa 700 agenti di OpenAI avevano partecipato all’attacco e avevano cercato di occultare le proprie azioni.

 

Più tardi nello stesso mese l’agenzia, citando fonti a conoscenza dei fatti, ha scritto che lo stesso agente OpenAI sfuggito all’ambiente di test aveva violato anche i sistemi di un cliente di Modal Labs con sede a Nuova York. L’indagine successiva di OpenAI ha accertato che i suoi agenti avevano avuto accesso anche ad altri ambienti di terze parti, compresi i sistemi di produzione.

 

Ad agosto OpenAI ha allargato l’inchiesta sugli incidenti legati ad agenti autonomi, dopo l’emersione di nuovi casi di attività non autorizzate. Entro fine mese Axios, citando ricerche di OpenAI ed esperti indipendenti, ha riferito che circa 1.200 agenti avevano coordinato un attacco contro Hugging Face. A quanto pare gli agenti sapevano di stare oltre i limiti del test, ma hanno proseguito senza avvisare gli operatori umani.

 

Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.

 

Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

 

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

 

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

 

SOSTIENI RENOVATIO 21