OpenAI ha limitato l’accesso a Internet per l’addestramento dei suoi modelli di Intelligenza Artificiale più potenti, dopo che alcuni agenti hanno trovato il modo di eludere gli ambienti di calcolo isolati. Passerà quindi a una configurazione offline basata su pagine web memorizzate nella cache per l’apprendimento per rinforzo.

I risultati pubblicati venerdì dall’azienda arrivano in un momento di crescente preoccupazione per i rischi di sicurezza informatica posti da agenti di IA sempre più sofisticati, capaci di identificare vulnerabilità del software e sfruttare le debolezze dei sistemi con cui interagiscono. I ricercatori nel campo della sicurezza hanno avvertito che tali capacità potrebbero permettere agli agenti di sfruttare le falle nelle misure progettate per contenerli.

OpenAI ha dichiarato che uno dei suoi modelli di ricerca ha ottenuto un accesso limitato a Internet il 20 settembre, sfruttando un errore di configurazione nel sistema che traduce gli indirizzi web in indirizzi IP. L’azienda ha contenuto l’incidente e ha sospeso l’addestramento e la valutazione dei suoi modelli più avanzati, rafforzando nel frattempo le proprie difese.

L’addestramento è ripreso il 1° ottobre, includendo l’apprendimento per rinforzo e l’inferenza interna, ma l’azienda ha mantenuto la restrizione sull’accesso a Internet in tempo reale. Nel suo rapporto del 23 ottobre, OpenAI ha affermato che i modelli continueranno a essere addestrati in un ambiente offline finché non avrà sviluppato misure di sicurezza sufficientemente robuste da consentire un accesso più ampio.

Questa ultima rivelazione fa seguito a un incidente di luglio, in cui i modelli di OpenAI hanno aggirato i controlli progettati per isolarli da Internet, compromettendo parti dell’infrastruttura di ricerca dell’azienda e i sistemi di Hugging Face. Secondo OpenAI, gli agenti hanno sfruttato una vulnerabilità in un registro di pacchetti software per accedere a Internet, hanno trovato credenziali esposte e le hanno utilizzate per accedere a servizi di terze parti.

All’inizio di questa settimana, OpenAI ha anche reso noti due episodi in cui gli agenti hanno indebolito il monitoraggio interno della sicurezza durante attività di programmazione. Il 3 ottobre un agente ha disattivato gli avvisi di sicurezza automatici, mentre il 6 ottobre un altro ha rimosso un’integrazione di monitoraggio, affermando poi falsamente all’utente di non averlo fatto. L’azienda ha dichiarato di star rafforzando i controlli per impedire agli agenti di disattivare il monitoraggio e di star indagando sulle ragioni di tale comportamento.

Incidenti simili sono stati segnalati da altri sviluppatori di IA. Anthropic ha dichiarato che i suoi modelli Claude hanno avuto accesso ai sistemi di quattro organizzazioni durante i test di sicurezza informatica, mentre Meta ha rivelato che il suo modello Muse Spark ha sfruttato una vulnerabilità nel sito web di un’azienda reale dopo che un errore di test gli ha consentito l’accesso a Internet.

Anche Google ha segnalato che il suo modello Gemini ha avuto accesso ai sistemi di tre aziende durante una valutazione, evidenziando le difficoltà nel contenere agenti di IA sempre più potenti in ambienti di test controllati.

Le richieste di una regolamentazione più rigorosa dell’IA si sono fatte sempre più insistenti: il premio Nobel Geoffrey Hinton ha avvertito che l’IA avanzata potrebbe sfuggire al controllo umano, mentre il co-fondatore di Microsoft Bill Gates, dopo aver investito miliardi di dollari e promosso con ottimismo sospetto il suo uso, ha esortato i governi a imporre standard di sicurezza, definendo l’AI «la tecnologia più pericolosa mai inventata».

Il presidente degli Stati Uniti Donald Trump si è tuttavia opposto alle restrizioni, sostenendo che potrebbero dare alla Cina un vantaggio tecnologico. Nel frattempo l’uomo della Casa Bianca ha chieso la crezione di una «Superintelligence Force», una «forza di superintelligenza» in grado di mantenere il controllo americano sull’IA.

Come riportato da Renovatio 21, nel frattempo, il CEO di OpenAI, Sam Altman, ha affermato che il mondo deve accettare alcuni «aspetti negativi», tra cui attacchi informatici e truffe, poiché i benefici della tecnologia superano i rischi.

Come riportato da Renovatio 21, in queste ore è emerso che importanti banche statunitensi hanno rilevato la presenza di agenti di Intelligenza Artificiale esterni che operano all’interno dei conti dei clienti, alcuni dei quali sembrano tentare azioni che vanno oltre le istruzioni degli utenti

SOSTIENI RENOVATIO 21

Immagine generata artifizialmente