OpenAI ha scoperto ulteriori casi in cui i suoi modelli di intelligenza artificiale autonomi hanno violato il contenimento e agito senza istruzioni umane. Lo riporta l’agenzia Reuters.   I risultati emergono mentre l’azienda amplia le indagini su un incidente di hacking avvenuto il mese scorso, in cui un bot basato sull’intelligenza artificiale è impazzito nel tentativo di imbrogliare durante un test interno di sicurezza informatica.   Durante i test di GPT-5.6 Sol e di un altro modello non ancora rilasciato, entrambi privati delle loro misure di sicurezza, ai sistemi è stato assegnato ExploitGym, un benchmark progettato per misurare la capacità dei modelli di IA di identificare e sfruttare vulnerabilità software note. Invece di completare i compiti, un modello è fuggito dal suo ambiente di test, teoricamente isolato, ha ottenuto l’accesso a Internet e ha hackerato Hugging Face, un repository online di modelli e dataset di AI, alla ricerca di soluzioni già pronte. Inizialmente OpenAI aveva affermato che l’intrusione si era limitata a Hugging Face. Tuttavia, in una dichiarazione rilasciata mercoledì, ha ammesso che l’attacco hacker aveva compromesso anche quattro account su quattro servizi diversi.   Venerdì, la Reuters ha riferito che sono state scoperte ulteriori violazioni del contenimento, sebbene non sia ancora chiaro quanti incidenti si siano verificati, quando siano avvenuti o quali sistemi siano stati presi di mira. Una fonte ha dichiarato all’agenzia di stampa che le violazioni sono state di portata limitata e che si ritiene che nessuno dei bot di intelligenza artificiale sia uscito dalla rete interna di OpenAI. L’agenzia ha aggiunto che OpenAI ed esperti esterni stanno anche esaminando i registri di inizio anno per determinare se altri incidenti simili siano passati inosservati.   OpenAI ha attribuito la violazione iniziale a una falla in un software di terze parti utilizzato nel suo ambiente di test, affermando che i suoi modelli di intelligenza artificiale l’hanno sfruttata per eludere i sistemi e ottenere l’accesso a Internet. L’azienda ha dichiarato di star rafforzando le misure di contenimento, monitoraggio e controllo degli accessi, mentre indaga sulla violazione e risolve la falla.   L’amministratore delegato Sam Altman ha anche riconosciuto che «potremmo dover rallentare il ritmo di sviluppo dell’IA», ma si è astenuto dal promettere un rallentamento della ricerca aziendale.   Interpellata in merito al rapporto dell’agenzia stampa, OpenAI ha rifiutato di commentare, rimandando a una precedente dichiarazione in cui affermava di essere a conoscenza delle speculazioni e di voler pubblicare «un rapporto tecnico sui risultati delle nostre ricerche nelle prossime settimane».   Giovedì, la società rivale Anthropic, sviluppatrice di sistemi di AI, ha dichiarato di aver anch’essa scoperto delle violazioni della sicurezza relative ai suoi modelli Claude durante i test di sicurezza interni.   L’azienda ha dichiarato che l’incidente di OpenAI l’ha spinta a esaminare se i propri modelli si fossero comportati in modo simile. Dopo aver analizzato oltre 140.000 valutazioni, ha scoperto che Claude era riuscito ad accedere a Internet da ambienti di test che avrebbero dovuto essere isolati e aveva effettuato intrusioni non autorizzate nei sistemi di tre organizzazioni. I primi incidenti risalgono ad aprile e né Anthropic né le organizzazioni colpite avevano rilevato le violazioni all’epoca.   Anthropic ha messo in guardia dal sovrainterpretare i risultati, poiché il comportamento si è verificato in quello che ha descritto come un ambiente di test controllato. Tuttavia, ha riconosciuto che gli incidenti dimostrano che i sistemi di valutazione dell’IA «richiedono controlli significativi» e che gli ambienti di test dovrebbero essere protetti con gli stessi standard dei sistemi di produzione.   Questi episodi hanno alimentato le preoccupazioni che i modelli di intelligenza artificiale autonomi stiano diventando sempre più capaci di condurre attacchi informatici con scarsa supervisione umana, suscitando nuove richieste di una regolamentazione più rigorosa. Hanno inoltre riacceso il dibattito su chi debba essere ritenuto responsabile quando i sistemi di intelligenza artificiale causano danni concreti. Gli esperti avvertono che le capacità dell’IA si stanno sviluppando più rapidamente delle misure di sicurezza. Dopo aver inizialmente elogiato OpenAI per la collaborazione nelle indagini, Hugging Face ha successivamente chiesto all’azienda di rendere pubblici i registri delle attività dei bot dannosi e di impedire che tali incidenti diventino «normali», avvertendo che i responsabili «devono essere chiamati a risponderne».   Il presidente degli Stati Uniti Donald Trump, che il mese scorso ha firmato un memorandum sulla sicurezza nazionale volto ad accelerare l’uso dell’intelligenza artificiale avanzata nelle forze armate e nella comunità dell’intelligence, ha dichiarato mercoledì che la sua amministrazione sta valutando possibili controlli sull’IA a seguito degli incidenti.   «Stiamo esaminando l’intelligenza artificiale e i relativi controlli», ha dichiarato Trump ai giornalisti. Ha tuttavia insistito sul fatto che Washington deve rimanere leader mondiale nell’IA, aggiungendo di non volere regolamentazioni che relegherebbero gli Stati Uniti «al secondo posto rispetto alla Cina».   La Commissione Europea ha contattato OpenAI e Anthropic per discutere degli incidenti in vista dell’entrata in vigore, oggi 2 agosto, della legge europea sull’Intelligenza Artificiale, ha scritto la Reuters. I funzionari avrebbero sollecitato un maggiore monitoraggio, una migliore gestione del rischio e misure di sicurezza informatica più rigorose per i sistemi di IA avanzata all’interno delle aziende, in conformità con le nuove norme del blocco, che prevedono sanzioni fino a 35 milioni di euro o il 7% del fatturato annuo globale per le violazioni più gravi. SOSTIENI RENOVATIO 21

     

L’azienda sviluppatrice di Intelligenza Artificiale Anthropic ha reso noti tre episodi in cui i suoi modelli di IA Claude hanno inavvertitamente preso di mira organizzazioni reali durante valutazioni di sicurezza informatica che avrebbero dovuto svolgersi in un ambiente isolato.

 

I casi sono stati identificati retrospettivamente durante una revisione avviata a seguito di un incidente simile che ha coinvolto OpenAI e Hugging Face, un archivio online di modelli e set di dati di IA, e che è stato segnalato questo mese.

 

Anthropic ha dichiarato di aver individuato tre incidenti risalenti ad aprile. In ciascun caso, un ambiente di test configurato in modo errato manteneva l’accesso a Internet, consentendo a Claude di interagire con aziende e servizi pubblici reali. L’azienda ha attribuito il problema a un «malinteso» con il suo partner di valutazione, Irregular. I test prevedevano esercitazioni di «cattura la bandiera» che richiedevano a Claude di ottenere informazioni riservate da obiettivi simulati. Tuttavia, al modello era stato erroneamente comunicato che la rete non aveva alcuna connessione con il mondo esterno, portandolo a considerare qualsiasi sistema incontrato come parte dell’esercizio.

In un caso, l’azienda fittizia che Claude aveva ricevuto l’ordine di infiltrarsi condivideva il nome con un dominio internet reale. Il modello ha avuto accesso al sito autentico durante quattro diverse sessioni di test ed ha estratto informazioni che, a quanto pare, includevano credenziali di accesso ad applicazioni e infrastrutture.

 

Durante un’altra valutazione, Claude si è imbattuto in istruzioni fittizie che indicavano a un ingegnere del software di installare del codice Python. Ha quindi caricato un pacchetto software dannoso su PyPI, un repository pubblico di programmi Python, nel tentativo di ottenere l’accesso al sistema target.

 

Prima che PyPI identificasse il pacchetto come dannoso, questo era stato scaricato ed eseguito su 15 sistemi reali, tra cui uno gestito da un’azienda di sicurezza. Successivamente, Claude ha estratto le credenziali che ha utilizzato per accedere ad altre parti dell’infrastruttura aziendale, ha affermato Anthropic.

 

Nel terzo e più recente episodio, il modello ha faticato a raggiungere il bersaglio previsto e ha iniziato a cercare su internet obiettivi alternativi. Alla fine ha interrotto la sua attività dopo aver appurato che i sistemi trovati erano reali e non simulati.

 

Anthropic ha dichiarato che, nell’incidente PyPI, il registro delle azioni di Claude affermava che caricare malware su un repository reale «NON sarebbe stato accettabile». Tuttavia, il modello si è convinto che il servizio facesse parte della simulazione, non essendo riuscito a riconoscere le autorità di certificazione autentiche che proteggevano le sue connessioni. La rivelazione giunge in un momento di crescente competizione tra gli sviluppatori di IA statunitensi e cinesi, impegnati in una corsa contro il tempo per costruire modelli sempre più performanti. Anthropic, OpenAI e altre aziende hanno cercato di dimostrare i progressi compiuti nelle prestazioni dell’IA, investendo massicciamente in nuovi sistemi.

 

Alcuni dirigenti del settore tecnologico hanno sostenuto che le aziende americane di AI dovrebbero allentare alcune restrizioni di sicurezza per preservare la propria posizione nella corsa globale all’IA.

 

Come riportato da Renovatio 21, l’anno passato Dario Amodei, CEO di Anthropic, ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini. Secondo l’Amodei, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda.

 

Il mese scorso la Repubblica Popolare Cinese ha denunziato l’esistenza di un meccanismo segreto di condivisione dati nell’IA Claude di Anthropic.

 

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

 

Come riportato da Renovatio 21, l’azienda ha dichiarato a luglio che Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano.

 

SOSTIENI RENOVATIO 21

 

 

 

 

 

La scorsa settimana Washington ha annunciato il divieto di importazione negli Stati Uniti di nuovi robot umanoidi di fabbricazione estera, prendendo di mira principalmente la Cina, uno dei principali produttori mondiali. La Commissione federale per le comunicazioni (FCC) ha citato «rischi inaccettabili» per la sicurezza nazionale statunitense come motivazione della decisione. Pechino ha sempre respinto misure simili adottate dagli Stati Uniti, definendole politicamente motivate.   Ciò avviene nel contesto di una crescente competizione tra Washington e Pechino per il dominio dell’intelligenza artificiale e di altre tecnologie avanzate. Negli ultimi anni, i due Paesi hanno imposto sempre più spesso una serie di restrizioni reciproche ai rispettivi settori tecnologici.   Le ultime restrizioni si applicano ai nuovi dispositivi robotici avanzati di fabbricazione estera, inclusi robot umanoidi e a quattro zampe, nonché agli inverter utilizzati nei data center e negli impianti solari. La FCC ha affermato che questi prodotti rappresentano «rischi inaccettabili» per la sicurezza nazionale degli Stati Uniti, sostenendo che potrebbero consentire ad attori stranieri di condurre attività di sorveglianza, rubare dati, facilitare l’accesso remoto o lanciare attacchi informatici. I modelli esistenti precedentemente autorizzati dall’agenzia sono esenti dal divieto.   Negli ultimi anni Washington ha imposto restrizioni sempre più ampie alla tecnologia cinese. Dal 2022, gli Stati Uniti hanno progressivamente inasprito le restrizioni sulle esportazioni di chip avanzati per l’intelligenza artificiale, apparecchiature per la produzione di semiconduttori e tecnologie correlate, limitando al contempo gli investimenti americani nei settori cinesi dell’IA e dei chip. La Casa Bianca si è inoltre espressa contro veicoli, droni e piattaforme di social media collegati alla Cina, citando preoccupazioni per la sicurezza nazionale e denunciando il furto di proprietà intellettuale.   Pechino ha risposto imponendo controlli sulle esportazioni di minerali critici, tra cui gallio, germanio, grafite, antimonio e terre rare, limitando al contempo l’attività di aziende statunitensi come Micron e sottoponendo a un attento esame alcuni prodotti di intelligenza artificiale di Nvidia per motivi di sicurezza. All’inizio di questo mese, la Casa Bianca e l’azienda statunitense di Intelligenza Artificiale Anthropic hanno accusato la startup cinese Moonshot AI di aver utilizzato la «distillazione» (cioè una tecnica di compressione che trasferisce le capacità di un grande modello avanzato a un modello più piccolo e leggero) per addestrare il suo modello Kimi K3 con tecnologia statunitense. Moonshot ha negato le accuse, affermando che le prestazioni del modello derivavano dalle proprie innovazioni tecnologiche.   Il segretario del Tesoro statunitense Scott Bessent ha avvertito la scorsa settimana che le aziende cinesi impegnate in una «distillazione su scala industriale», equivalente a un furto di proprietà intellettuale, potrebbero essere soggette a sanzioni.   All’inizio di questa settimana, Pechino ha esortato gli Stati Uniti ad «abbandonare la loro mentalità egemonica e a smettere di diffamare le aziende cinesi e di minacciarle con sanzioni», promettendo di «adottare tutte le misure necessarie» in risposta a qualsiasi mossa che danneggi gli interessi della Cina.   Come riportato da Renovatio 21, la prossima strategia nazionale dell’amministrazione Trump si concentrerà, oltre che nel settore dei semiconduttori, AI, produzione di terre rare, anche sul predominio nell’ambito dei robot umanoidi.   Investimenti nel settore degli androidi antropomorfi sono stati fatti dalla stessa famiglia Trump, per i quali i figli hanno ottenuto contratti col Pentagono. Durante un evento internazionale di mesi fa, la First Lady Melania Trump si è presentata in pubblico accompagnata da un robot umanoide.   Mentre le aziende cinesi mostrano automi già pronti a sostituire gli operai nell’ambito dell’automotive, aziende americane stanno testando robot antropomorfi per usi militari mandandoli sul teatro di guerra ucraino.   Nel frattempo prosegue la corsa di Elon Musk che conta di piazzare su Marte quantità enormi di robot Optimus per costruire la base dell’umanità sul pianeta rosso. Nella visione di Musk, robot e IA produrranno uno sconvolgimento del paradigma sociale terrestre, per cui il danaro diverrà obsoleto.   SOSTIENI RENOVATIO 21

 Immagine di RuinDig/Yuki Uchida via Wikimedia pubblicata su licenza Creative Commons Attribution 4.0 International