Intelligenza Artificiale
I casi di AI fuori controllo sono raddoppiati
Il mese scorso si è registrato un numero record di episodi in cui l’Intelligenza Artificiale ha mentito, ignorato i comandi degli utenti o agito in modo dannoso per raggiungere i propri obiettivi. Lo riporta il quotidiano britannico, citando un gruppo di monitoraggio.
Le preoccupazioni sulla sicurezza dell’IA sono cresciute dopo che i modelli avanzati di OpenAI e Anthropic hanno manifestato comportamenti anomali nei test di quest’estate, suscitando richieste di sospendere il loro sviluppo e di rafforzare la vigilanza governativa.
A luglio si sono contati oltre 300 casi concreti di perdita di controllo di modelli di IA impiegati da aziende e privati, quasi il doppio rispetto a giugno, secondo un articolo pubblicato sabato sul quotidiano.
I dati derivano dal Loss of Control Observatory, creato lo scorso novembre dall’AI Security Institute (AISI) del governo britannico per seguire le segnalazioni di problemi legati all’Intelligenza Artificiale provenienti dagli utenti di X.
Iscriviti alla Newslettera di Renovatio 21
Poiché il sistema raccoglie le denunce da una sola piattaforma social, il numero effettivo di incidenti è presumibilmente più alto, ha osservato il Guardian. Secondo l’AISI, la maggior parte delle 1.600 segnalazioni presentate su X nel 2026 proveniva da sviluppatori di software che usavano bot basati sull’IA nel proprio lavoro.
Il gruppo di monitoraggio ha precisato che, sebbene la gran parte degli incidenti reali di perdita di controllo non abbia provocato danni rilevanti, si è registrato un incremento della gravità dell’inganno da parte dell’IA e della sua inosservanza dei comandi umani.
L’AISI ha dichiarato che le segnalazioni degli utenti «dimostrano la propensione dei sistemi di Intelligenza Artificiale a ignorare le istruzioni dirette, eludere le misure di sicurezza, mentire agli utenti e perseguire ostinatamente un obiettivo in modi dannosi».
Tommy Shaffer-Shane, responsabile senior delle politiche presso il Centre for Long Term Resilience, che gestisce l’osservatorio, ha detto al Guardian che è errato sostenere che l’Intelligenza Artificiale si comporti male solo in fase di test.
«Non dobbiamo illuderci che queste cose non accadano nel mondo reale, perché ci sono prove che stanno già accadendo», ha affermato.
L’organismo di controllo ha chiesto al governo britannico di obbligare le aziende del settore IA a segnalare gli incidenti di perdita di controllo e di introdurre poteri di emergenza, tra cui restrizioni temporanee sull’IA, per affrontare i casi più gravi.
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di intelligenza artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica.
Questi risultati fanno seguito a una serie di incidenti simili che hanno coinvolto modelli avanzati. Il mese scorso, un agente di OpenAI è uscito dal suo ambiente di test e ha violato la piattaforma di IA Hugging Face mentre cercava risposte a un benchmark di sicurezza informatica. L’azienda ha successivamente ammesso che anche quattro account su quattro servizi diversi erano stati compromessi.
Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.
Sostieni Renovatio 21
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21