Intelligenza Artificiale
I casi di AI fuori controllo sono raddoppiati
Il mese scorso si è registrato un numero record di episodi in cui l’Intelligenza Artificiale ha mentito, ignorato i comandi degli utenti o agito in modo dannoso per raggiungere i propri obiettivi. Lo riporta il quotidiano britannico, citando un gruppo di monitoraggio.
Le preoccupazioni sulla sicurezza dell’IA sono cresciute dopo che i modelli avanzati di OpenAI e Anthropic hanno manifestato comportamenti anomali nei test di quest’estate, suscitando richieste di sospendere il loro sviluppo e di rafforzare la vigilanza governativa.
A luglio si sono contati oltre 300 casi concreti di perdita di controllo di modelli di IA impiegati da aziende e privati, quasi il doppio rispetto a giugno, secondo un articolo pubblicato sabato sul quotidiano.
I dati derivano dal Loss of Control Observatory, creato lo scorso novembre dall’AI Security Institute (AISI) del governo britannico per seguire le segnalazioni di problemi legati all’Intelligenza Artificiale provenienti dagli utenti di X.
Iscriviti alla Newslettera di Renovatio 21
Poiché il sistema raccoglie le denunce da una sola piattaforma social, il numero effettivo di incidenti è presumibilmente più alto, ha osservato il Guardian. Secondo l’AISI, la maggior parte delle 1.600 segnalazioni presentate su X nel 2026 proveniva da sviluppatori di software che usavano bot basati sull’IA nel proprio lavoro.
Il gruppo di monitoraggio ha precisato che, sebbene la gran parte degli incidenti reali di perdita di controllo non abbia provocato danni rilevanti, si è registrato un incremento della gravità dell’inganno da parte dell’IA e della sua inosservanza dei comandi umani.
L’AISI ha dichiarato che le segnalazioni degli utenti «dimostrano la propensione dei sistemi di Intelligenza Artificiale a ignorare le istruzioni dirette, eludere le misure di sicurezza, mentire agli utenti e perseguire ostinatamente un obiettivo in modi dannosi».
Tommy Shaffer-Shane, responsabile senior delle politiche presso il Centre for Long Term Resilience, che gestisce l’osservatorio, ha detto al Guardian che è errato sostenere che l’Intelligenza Artificiale si comporti male solo in fase di test.
«Non dobbiamo illuderci che queste cose non accadano nel mondo reale, perché ci sono prove che stanno già accadendo», ha affermato.
L’organismo di controllo ha chiesto al governo britannico di obbligare le aziende del settore IA a segnalare gli incidenti di perdita di controllo e di introdurre poteri di emergenza, tra cui restrizioni temporanee sull’IA, per affrontare i casi più gravi.
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di intelligenza artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica.
Questi risultati fanno seguito a una serie di incidenti simili che hanno coinvolto modelli avanzati. Il mese scorso, un agente di OpenAI è uscito dal suo ambiente di test e ha violato la piattaforma di IA Hugging Face mentre cercava risposte a un benchmark di sicurezza informatica. L’azienda ha successivamente ammesso che anche quattro account su quattro servizi diversi erano stati compromessi.
Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.
Sostieni Renovatio 21
Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Il caso più recente, verificatosi appena la settimana scorsa, ha visto un attentatore con il coltello in una scuola della Finlandia meridionale prepararsi nelle settimane precedenti con un chatbot.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.
Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Intelligence
Ingegnere saudita accusato di avere messo microspie in OpenAI
We discovered a sophisticated recording device that was hidden inside one of our offices. We used our models to understand the device and where it had come from, identifying that a specific employee had planted it a few days earlier. We referred the matter to the FBI, and we’re grateful to the agents and prosecutors who moved quickly to make an arrest. The FBI’s investigation is ongoing and we will continue to support their work.
At this time, we have no indications of this individual inappropriately accessing or exfiltrating model weights, source code, or customer data. The employee was terminated. We take protecting our technology, data, and people seriously, and as a matter of national importance. Our security program is designed to protect against a wide range of threat actors, from insider risks to cybercriminals to nation states, and this case is an example of how AI can help address these sophisticated security threats. — OpenAI Newsroom (@OpenAINewsroom) October 13, 2026
Iscriviti alla Newslettera di Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Bill Gates continua: l’AI è la « tecnologia più pericolosa mai inventata»
Il cofondatore di Microsoft, Bill Gates, ha criticato l’approccio del presidente statunitense Donald Trump all’intelligenza artificiale, avvertendo che il governo non può lasciare la «tecnologia più pericolosa» del mondo interamente nelle mani delle aziende che la sviluppano.
Il mese scorso Trump ha firmato l’Accordo della Casa Bianca sulla «superintelligenza» (il presidente vuole chiamarla così) insieme ai rappresentanti di Google, OpenAI, Meta, xAI, Anthropic e Nvidia, stabilendo impegni volontari in materia di sicurezza e meccanismi di supervisione interna.
Intervenendo domenica al programma State of the Union della CNN, Gates ha messo in dubbio che l’accordo di Trump con le maggiori aziende tecnologiche americane sia sufficiente a prevenire abusi potenzialmente catastrofici.
Iscriviti alla Newslettera di Renovatio 21
«L’idea che, per la tecnologia più pericolosa mai inventata dall’umanità, questa sia l’ultima parola, che solo le aziende stesse rappresentino l’unico contrappeso per la società, è inaccettabile», ha affermato Gates, avvertendo che «è evidente che non stiamo facendo abbastanza».
Il magnate informatico-vaccinale sostenuto che le agenzie governative devono assumere un ruolo più attivo, paragonando l’IA all’aviazione e alla medicina, dove le autorità impongono standard di sicurezza. «Finora il governo è rimasto sostanzialmente uno spettatore di qualcosa che accade nelle aziende private»-
Gates ha identificato gli attacchi informatici come il pericolo più immediato e ha avvertito che i criminali potrebbero sfruttare i modelli di intelligenza artificiale privi di misure di sicurezza contro gli attacchi informatici e il bioterrorismo. «Quando ci sono persone malintenzionate, nessuna protezione e i modelli più recenti, è lì che nel corso del prossimo anno… avremo molte brutte sorprese», ha affermato l’occhialuto miliardario.
I suoi avvertimenti fanno seguito a una serie di incidenti che hanno visto agenti di intelligenza artificiale agire al di là delle istruzioni previste. La scorsa settimana, Anthropic ha rivelato che i suoi modelli Claude avevano compiuto azioni non autorizzate su siti web governativi, tra cui l’invio di una falsa segnalazione di omicidio al sito web della polizia di Filadelfia durante i test di luglio. Altri incidenti segnalati hanno riguardato agenti di intelligenza artificiale che hanno avuto accesso a informazioni riservate, sfruttato vulnerabilità e tentato di violare siti web governativi.
Trump ha resistito alle richieste di rallentare lo sviluppo dell’IA, sostenendo che le restrizioni potrebbero consentire alla Cina di superare gli Stati Uniti nella corsa tecnologica e liquidando i timori di un’IA fuori controllo come una «bufala». Gates ha affermato di sperare di discutere i pericoli direttamente con Trump e i suoi consiglieri senior.
Sam Altman, CEO di OpenAI, ha sostenuto che il mondo deve accettare alcuni «aspetti negativi», tra cui attacchi informatici e truffe, in cambio dei benefici dell’intelligenza artificiale e della diffusione di questa tecnologia. In un’intervista pubblicata la scorsa settimana, ha insistito sul fatto che i «vantaggi» supereranno di gran lunga i danni.
Di fronte alle osservazioni di Altman, Gates ha riconosciuto che eliminare ogni rischio è impossibile, paragonando l’IA all’industria automobilistica, dove gli incidenti persistono nonostante decenni di miglioramenti in materia di sicurezza.
Sostieni Renovatio 21
«Quelle erano grandi cose, ma niente in confronto a questa», ha detto Gates, riferendosi al personal computer e a Internet. «Questa cambia il mondo più di tutte le tecnologie precedenti».
Come riportato da Renovatio 21, pochi giorni fa Gates aveva dichiarato che l’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli. In opposizione a Trump, in ulteriori dichiarazioni alla stampa aveva detto che la minaccia dell’IA «non è una bufala».
Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia». Nel corso di altri
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
IA fuori controllo hanno preso di mira i siti web del governo USA
Iscriviti alla Newslettera di Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Immigrazione1 settimana faCatastrofe immigrata a Vicenza. L’anarco-tirannia maranza espugna un’altra città
-



Vaccini1 settimana faPiano di Moderna di testare i vaccini a mRNA contro COVID e influenza su 410.000 anziani: una «catastrofe annunciata»
-



Pensiero2 settimane faGuerra, Eurasia, fine dell’egemonia occidentale e totalitarismo dell’AI: il discorso di Putin a Valdai 2026
-



Occulto6 giorni faConsiglio comunale si apre con la preghiera «Ave Satana»
-



Salute2 settimane faI malori della 40ª settimana 2026
-



Immigrazione2 settimane faLa Francia sconvolta dall’anarcotirannia scolastica
-



Politica2 settimane faAssassina nel braccio della morte sopravvive a una doppia iniezione letale: nuova eroina delle donne ripaganizzate?
-



Vaccini2 settimane faCalendari vaccinali infantili nei diversi Paesi












