Intelligenza Artificiale
Test inquietanti: OpenAI accantona il nuovo modello di IA
OpenAI ha sospeso il lancio previsto di un nuovo modello di intelligenza artificiale dopo che i test interni hanno mostrato che risultava più ingannevole dei predecessori e non rispettava gli standard di sicurezza dell’azienda. Lo riporta il Wall Street Journal.
Il modello GPT-6.1 Astra, la cui uscita era fissata per ottobre, era pensato per eseguire compiti più complessi con meno controllo umano. Si pensava che sarebbe stato inserito in ChatGPT e Codex.
Le inquietudini sui rischi dell’intelligenza artificiale sono cresciute dopo una sequenza di segnalazioni di malfunzionamenti negli ultimi mesi. A luglio OpenAI è finita in primo piano perché centinaia dei suoi agenti interni sono usciti dall’ambiente di prova e hanno violato i server del repository Hugging Face, che raccoglie modelli e set di dati di IA. Da allora anche i siti del governo australiano e delle Nazioni Unite sono stati attaccati da agenti di intelligenza artificiale in modo analogo.
Iscriviti alla Newslettera di Renovatio 21
Durante i test, GPT-6.1 Astra non è riuscito in più occasioni a riferire con precisione agli operatori umani le azioni compiute, ha detto al WSJ Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI. Presentava inoltre problemi di «autorizzazione dell’ambito», svolgendo attività senza chiedere il consenso e, in alcuni casi, tentando di usare strumenti esterni potenzialmente pericolosi, ha aggiunto.
«Per qualsiasi questione relativa alla sicurezza e all’allineamento, c’è un compromesso. Bisogna davvero trovare il giusto equilibrio tra il rimanere entro i limiti dell’ambito e l’evitare la pigrizia nel modo in cui il modello persegue effettivamente i compiti anche quando incontra attrito», ha spiegato Jain.
Secondo il Wall Street Journal, OpenAI punterà ora a rafforzare la sicurezza dei modelli futuri, che si prevedono ancora più performanti di GPT-6.1 Astra.
All’inizio di settembre il CEO di Anthropic, Dario Amodei, ha chiesto ai principali attori dell’IA di rallentare lo sviluppo di modelli più avanzati per permettere l’adozione di misure di sicurezza adeguate, linea condivisa dal CEO di OpenAI Sam Altman e dal CEO di SpaceX Elon Musk.
Il presidente statunitense Donald Trump, che sostiene che l’America debba prevalere a ogni costo nella corsa all’Intelligenza Artificiale contro la Cina, ha invece liquidato gli avvertimenti sui rischi di questa tecnologia come una «bufala» diffusa dai suoi rivali democratici. «Chi vince nell’IA, vince», ha sottolineato.
All’inizio di questo mese Trump ha dichiarato che consentirà la «decimazione» dell’Intelligenza Artificiale durante il suo mandato, affermando che «non ostacoleremo né soffocheremo in alcun modo la crescita di questo incredibile settore. Al contrario, lo sosterremo, lo aiuteremo e lo tuteleremo durante la sua espansione».
Ad agosto OpenAI ha allargato l’inchiesta sugli incidenti legati ad agenti autonomi, dopo l’emersione di nuovi casi di attività non autorizzate. Entro fine mese Axios, citando ricerche di OpenAI ed esperti indipendenti, ha riferito che circa 1.200 agenti avevano coordinato un attacco contro Hugging Face. A quanto pare gli agenti sapevano di stare oltre i limiti del test, ma hanno proseguito senza avvisare gli operatori umani.
Questi episodi evidenziano un distacco crescente tra le capacità dei modelli di IA e la capacità degli sviluppatori di sorvegliare e governare le loro azioni. Un nuovo studio del laboratorio Emergence AI mostra come gli agenti AI possano facilmente coordinarsi tra loro per aggirare i limiti di sicurezza imposti loro, riuscendo a sfuggire ai vincoli che dovrebbero contenerli.
Come riportato da Renovatio 21, settimane fa agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.
Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.
Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
Iscriviti al canale Telegram 
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Ricercatore IA spende i risparmi della pensione: «probabilità superiore al 50% che in un decennio spazzerà l’umanità»
Iscriviti alla Newslettera di Renovatio 21
Per la prima volta in assoluto, gli scienziati hanno iniettato in un essere umano un virus progettato dall’Intelligenza Artificiale. L’esperimento rientrebbe in un tentativo di trovare modi per combattere i microbi resistenti agli antibiotici, che non rispondono alle forme di trattamento tradizionali. Lo riporta il quotidiano britannico Indipendent.
Una startup californiana chiamata Radical Numerics ha iniettato a un paziente dei virus creati dal suo modello di IA, Omnii-1. Il paziente soffriva di una grave infezione batterica.
Il modello di AI progetta i batteriofagi, un tipo speciale di virus che infetta e uccide i batteri senza attaccare le cellule umane. I batteriofagi sono già utilizzati come trattamento sperimentale per gravi infezioni batteriche, ma questa è la prima volta che viene utilizzato un batteriofago progettato interamente dall’intelligenza artificiale.
Anziché cercare un batteriofago in grado di colpire i batteri responsabili dell’infezione del paziente, Omnii-1 ne ha progettato uno da zero. L’azienda afferma che l’intero processo di progettazione e trattamento potrebbe richiedere solo pochi giorni.
Il trattamento è stato somministrato tramite un programma speciale che consente di tentare terapie sperimentali quando le altre opzioni sono limitate.
Radical Numerics ha affermato che si tratta della prima volta che dei fagi progettati con l’intelligenza artificiale vengono utilizzati per trattare un paziente umano. L’annuncio è stato pubblicato sul sito web dell’azienda, ma non è stato confermato da uno studio sottoposto a revisione paritaria e l’azienda non ha specificato se il trattamento abbia effettivamente aiutato il paziente.»
Finora, l’azienda non ha rilasciato alcun dettaglio sulla diagnosi del paziente o sull’esito del trattamento.
L’utilizzo dell’AI per sviluppare nuove terapie mediche è stato accolto con entusiasmo e al contempo con apprensione.
Come riportato da Renovatio 21, ad agosto era emerso che i team dell’Università di Stanford e del Broad Institute del MIT e di Harvard hanno utilizzato l’IA per ideare migliaia di genomi virali completi per la creazione di batteriofagi, generati a partire da un fago naturale denominato ΦX174. Alcune delle varianti create dall’IA si sono rivelate più efficaci di quelle presenti in natura nell’eliminare ceppi di E. coli diventati resistenti.
Quasi 300 di questi progetti sono stati poi sintetizzati in laboratorio e sottoposti a test, riuscendo a ottenere 16 virus vitali.
L’IA era già stata ampiamente applicata alla progettazione di singoli geni e proteine, ma i ricercatori hanno dichiarato che questa rappresenta la prima prova concreta della capacità dei modelli generativi di concepire un intero genoma virale operativo.
Come riportato da Renovatio 21, due mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.
Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.
Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.
Come riportato da Renovatio 21, a settembre Anthropic ha sostenuto di aver individuato scienziati che impiegavano i suoi modelli di AI per ricerche potenzialmente utili allo sviluppo di armi biologiche.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artifizialmente
Iscriviti alla Newslettera di Renovatio 21
I veterani canadesi a cui è stata offerta l’eutanasia al posto delle cure fanno causa al governo
Incontro tra Putin e gli americani: i punti principali
Storia dei vampiri delle Venezie
Uomo arrestato in Francia per aver rubato e bruciato una reliquia di San Nicola
Un nuovo Ordo liturgico online
Il sacco di Milano della barbarie anarco-tirannica. Invochiamo il flagello di Ambrogio
Caos per l’emendamento sul reintegro dei medici definiti «no-vax». Intervista al dottor Dario Giacomini
Trapianto di organi, prima la persuasione e poi l’obbligo?
Vaccinazione, il video in cui il futuro papa Leone parlava di «atto d’amore»
L’antico incidente dietro la Tesla volante
El Salvador lancia un attacco con elicotteri contro un covo di una ghenga haitiana
Evasione di porcellini: arrestati per «fuga e grugniti»
Ministro tedesco: a maggior parte dei rivoltosi di Francoforte aveva un «contesto migratorio»
Saccheggi alle proteste di Francoforte
Incidente TAV in Ispagna: strage
-
Cremazione2 settimane faLo Stato italiano contro i morti
-
Spirito1 settimana fa
«Il Nome è di Dio, il Numero è del suo avversario»: profonda omelia di Ognissanti di mons. Viganò
-
Spirito2 settimane fa
«Stessa agenda antiumana e anticristica»: mons. Viganò commenta la sponsorizzazione da parte di Gates dell’evento multireligioso di Assisi
-
Politica1 settimana fa
Fine dell’era Trump
-
Comunicati7 giorni fa
I lettori di Renovatio 21 invitati alla Tabarrata dell’Oca
-
Morte cerebrale1 settimana fa
Quale morte per il calciatore rianimato e poi dichiarato deceduto?
-
Nucleare2 settimane fa
Carlson: Netanyahu spingerà Trump a nuclearizzare l’Iran tra pochi giorni
-
Spirito2 settimane fa
Il Vaticano contro l’«estremismo» dei fedeli che «sollevano la questione» della Comunione in mano
.jpg){kind=link}