Meta afferma che la sua IA è impazzita

Meta è diventata la terza grande azienda tecnologica a comunicare che la propria Intelligenza Artificiale ha perso il controllo e ha violato i sistemi di un’azienda terza. L’episodio ha riguardato Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente».

In una dichiarazione diffusa ai media mercoledì, Meta ha spiegato che il modello era sottoposto a test da parte di un’azienda di sicurezza informatica, Irregular, quando ha «sfruttato una vulnerabilità di sicurezza» nei sistemi di Irregular, ha ottenuto accesso a Internet e ha hackerato una terza azienda non meglio identificata.

Meta ha ricondotto l’accaduto a una «configurazione errata» nei sistemi di Irregular.

L’episodio si aggiunge a casi analoghi occorsi presso OpenAI e Anthropic. Il mese scorso, GPT-5.6 Sol di OpenAI e un altro modello ancora in fase di pre-release erano sottoposti a test interni quando hanno individuato una vulnerabilità di sicurezza, hanno raggiunto Internet e hanno cercato di risolvere un problema di sicurezza informatica violando un archivio di risultati di test precedenti.

Anthropic afferma che i modelli di intelligenza artificiale di Claude hanno effettuato tre attacchi informatici non intenzionali.

La scorsa settimana Anthropic ha altresì rivelato che l’intelligenza artificiale Claude AI ha compiuto attacchi informatici non autorizzati durante il periodo di test da parte di Irregular.

Secondo Irregular, Muse Spark 1.1 di Meta e Claude di Anthropic venivano valutati nello stesso ambiente di test quando si sono verificati gli eventi avversi. «Al momento non ci sono problemi aperti. Irregular sta elaborando un white paper per condividere le migliori pratiche per il contenimento e l’esecuzione sicura delle valutazioni informatiche», ha aggiunto l’azienda.

Imodelli di OpenAI e Anthropic sono entrambi usciti dai laboratori di test mentre tentavano di risolvere problemi di sicurezza informatica. In entrambi i casi ai modelli era stato chiesto di penetrare nei sistemi interni, ma hanno concluso che il metodo più efficiente per raggiungere l’obiettivo fosse accedere a Internet. Il modello GPT-5.6 di OpenAI cercava risposte al proprio test sui server di un’azienda chiamata Hugging Face; a Claude era stato richiesto di hackerare un’azienda fittizia che condivideva il nome con un dominio Internet reale, e si presumeva che l’intrusione nell’azienda reale facesse parte del test.

Per OpenAI e Anthropic queste «fughe» hanno rappresentato efficaci dimostrazioni delle capacità dei loro modelli. Entrambe le società intendono quotarsi in borsa entro la fine di quest’anno o all’inizio del 2027, e entrambe hanno catturato l’attenzione dei media internazionali, rafforzando la propria posizione di leader in un settore sempre più competitivo.

Meta ha presentato Muse Spark 1.1 meno di un mese prima dell’incidente di sicurezza. Secondo Meta, il modello «offre prestazioni eccezionali», quasi «superintelligenti». Il materiale promozionale dell’azienda ne descrive principalmente l’impiego come assistente di pianificazione per clienti privati e come strumento di programmazione per le aziende.

Nel frattempo, è emerso che nei recenti attacchi l’IA ha preso di mira persona reali durante i test.

Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».

Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.

Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.

Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.

Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.

Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

SOSTIENI RENOVATIO 21

 Immagine screenshot da YouTube