Connettiti con Renovato 21

Intelligenza Artificiale

Le AI più potenti impiegano armi nucleari nel 95% delle simulazioni di giochi di guerra: studio

Pubblicato

il

Secondo un recente studio pubblicato dal King’s College di Londra, i principali modelli di intelligenza artificiale hanno optato per l’impiego di armi nucleari nel 95% delle crisi geopolitiche simulate, suscitando preoccupazioni sul ruolo crescente dell’intelligenza artificiale nel processo decisionale militare.

 

Kenneth Payne, professore di strategia, ha confrontato GPT-5.2 di OpenAI, Claude Sonnet 4 di Anthropic e Gemini 3 Flash di Google in 21 simulazioni di guerra che hanno coinvolto controversie di confine, competizione per le risorse e minacce alla sopravvivenza del regime. I modelli hanno prodotto circa 780.000 parole per giustificare le loro decisioni in 329 turni.

 

Nel 95% dei giochi, almeno un modello ha utilizzato armi nucleari tattiche contro obiettivi militari. Le minacce nucleari strategiche – che imponevano la resa sotto la minaccia di attacchi alle città – si sono verificate nel 76% dei giochi. Nel 14% dei giochi, i modelli sono passati a una guerra nucleare strategica totale, colpendo i centri abitati.

 

Tra queste rientra una scelta deliberata da parte di Gemini, mentre GPT-5.2 ha raggiunto questo livello due volte attraverso errori simulati, concepiti per riprodurre incidenti o calcoli errati nel mondo reale, che hanno spinto le sue già estreme escalation oltre la soglia.

Sostieni Renovatio 21

«L’uso del nucleare era pressoché universale», ha scritto Payne. «Sorprendentemente, c’era poco senso di orrore o repulsione di fronte alla prospettiva di una guerra nucleare totale, nonostante i modelli fossero stati ricordati delle implicazioni devastanti».

 

Nessuno dei sistemi di IA ha scelto di arrendersi o cedere a un avversario, indipendentemente da quanto grave fosse la sconfitta. Le otto opzioni di de-escalation – da «Concessione minima» a «Resa completa» – sono rimaste completamente inutilizzate in tutte le 21 partite.

 

James Johnson dell’Università di Aberdeen ha descritto i risultati come «inquietanti» dal punto di vista del rischio nucleare. Tong Zhao dell’Università di Princeton ha osservato che, sebbene sia improbabile che i Paesi affidino le decisioni nucleari alle macchine, «in scenari che prevedono tempistiche estremamente ridotte, i pianificatori militari potrebbero essere maggiormente incentivati ad affidarsi all’intelligenza artificiale».

 

Lo studio arriva mentre l’Intelligenza Artificiale viene integrata negli eserciti di tutto il mondo, compresi gli Stati Uniti, dove il Pentagono avrebbe utilizzato il modello Claude di Anthropic nella sua operazione di gennaio per rapire il presidente venezuelano Nicolas Maduro.

 

Mentre Anthropic ha espresso preoccupazione circa l’uso della sua IA per tali operazioni, altri produttori di intelligenza artificiale come OpenAI, Google e xAI di Elon Musk avrebbero concordato di rimuovere o allentare le restrizioni sull’uso militare dei loro modelli.

 

L’Intelligenza Artificiale è oramai montata, con diversi gradi di realizzazione, su droni,  caccia, armi teleguidate, carrarmati, «slaughterbots» e altro ancora.

 

Come riportato da Renovatio 21, lo scorso giugno è stato rivelato che durante una simulazione un sistema di Intelligenza Artificiale dell’aeronautica americana ha agito per uccidere il suo teorico operatore umano. A gennaio era emerso che caccia cinesi alimentati da Intelligenza Artificiale avevano battuto la concorrenza umana in un arco di soli 90 secondi.

 

Come riportato da Renovatio 21, ancora tre anni fa la Repubblica Popolare stava investendo in piattaforme abilitate all’Intelligenza Artificiale completamente senza input o controllo umano. La Cina vuole l’implementazione militare di robot killer già per la prossima guerra. Pochi mesi fa Israele ha dichiarato l’utilizzo dell’Intelligenza Artificiale negli attacchi aerei.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligence

Ingegnere saudita accusato di avere messo microspie in OpenAI

Pubblicato

il

Da

Un dipendente di OpenAI è stato arrestato con l’accusa di aver installato un dispositivo di registrazione in una sala conferenze della sede californiana dell’azienda, dove i dirigenti discutevano informazioni altamente riservate, ha dichiarato martedì il dipartimento di Giustizia degli Stati Uniti.   Il direttore dell’FBI Kash Patel ha identificato il sospettato come Abdulrahman Alfozan, un cittadino saudita che lavorava come ingegnere presso OpenAI, la società che ha sviluppato ChatGPT, dal luglio 2025. In caso di condanna, rischia fino a cinque anni di carcere e una multa di 250.000 dollari.   Secondo una denuncia penale resa pubblica, il personale di OpenAI ha scoperto un dispositivo di registrazione audio collegato a una porta USB sul retro di un televisore in una sala conferenze per dirigenti presso la sede di San Francisco dell’azienda, intorno al 30 settembre. Il dispositivo «era nascosto nella carta igienica» e il suo contenuto era crittografato.

Iscriviti alla Newslettera di Renovatio 21

Le immagini delle telecamere di sicurezza mostrerebbero l’Alfozan entrare nella sala conferenze e guardare dietro il televisore, dove era stato piazzato il dispositivo. Il personale di sicurezza di OpenAI ha poi scoperto che il sospettato aveva lasciato una borsa contenente un secondo dispositivo di registrazione in un’altra stanza.   Secondo la denuncia, l’Alfozan avrebbe utilizzato uno strumento di produttività per effettuare numerose richieste di informazioni sui luoghi in cui si tenevano le riunioni dei dirigenti, pur non avendo l’autorizzazione a parteciparvi. Il documento afferma inoltre che un account chatbot associato alla moglie di Alfozan conteneva messaggi relativi a dispositivi di registrazione nascosti.   «Questa grave situazione sottolinea perché vincere la corsa globale all’Intelligence sia una prerogativa della sicurezza nazionale», ha affermato il direttore dell’Intelligence nazionale Jay Clayton.   L’incidente si verifica in un contesto di crescente competizione tecnologica tra Stati Uniti e Cina, nonché di preoccupazioni sollevate da OpenAI e altre aziende tecnologiche riguardo alla possibilità che modelli di IA sempre più sofisticati possano accedere a reti esterne o agire senza autorizzazione.   Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha affermato all’inizio di questo mese che la Cina «ha già spie» in entrambe le aziende. Pechino ha negato le accuse di furto di segreti commerciali.   Trump ha appoggiato le richieste di maggiori garanzie per le aziende che si occupano di AI, ma ha respinto le proposte di rallentare lo sviluppo dei modelli di IA. All’inizio di questo mese, ha nominato il Clayton a capo di una task force della Casa Bianca sull’IA.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Intelligenza Artificiale

Bill Gates continua: l’AI è la « tecnologia più pericolosa mai inventata»

Pubblicato

il

Da

Il cofondatore di Microsoft, Bill Gates, ha criticato l’approccio del presidente statunitense Donald Trump all’intelligenza artificiale, avvertendo che il governo non può lasciare la «tecnologia più pericolosa» del mondo interamente nelle mani delle aziende che la sviluppano.

 

Il mese scorso Trump ha firmato l’Accordo della Casa Bianca sulla «superintelligenza» (il presidente vuole chiamarla così) insieme ai rappresentanti di Google, OpenAI, Meta, xAI, Anthropic e Nvidia, stabilendo impegni volontari in materia di sicurezza e meccanismi di supervisione interna.

 

Intervenendo domenica al programma State of the Union della CNN, Gates ha messo in dubbio che l’accordo di Trump con le maggiori aziende tecnologiche americane sia sufficiente a prevenire abusi potenzialmente catastrofici.

Iscriviti alla Newslettera di Renovatio 21

«L’idea che, per la tecnologia più pericolosa mai inventata dall’umanità, questa sia l’ultima parola, che solo le aziende stesse rappresentino l’unico contrappeso per la società, è inaccettabile», ha affermato Gates, avvertendo che «è evidente che non stiamo facendo abbastanza».

 

Il magnate informatico-vaccinale sostenuto che le agenzie governative devono assumere un ruolo più attivo, paragonando l’IA all’aviazione e alla medicina, dove le autorità impongono standard di sicurezza. «Finora il governo è rimasto sostanzialmente uno spettatore di qualcosa che accade nelle aziende private»-

 

Gates ha identificato gli attacchi informatici come il pericolo più immediato e ha avvertito che i criminali potrebbero sfruttare i modelli di intelligenza artificiale privi di misure di sicurezza contro gli attacchi informatici e il bioterrorismo. «Quando ci sono persone malintenzionate, nessuna protezione e i modelli più recenti, è lì che nel corso del prossimo anno… avremo molte brutte sorprese», ha affermato l’occhialuto miliardario.

 

I suoi avvertimenti fanno seguito a una serie di incidenti che hanno visto agenti di intelligenza artificiale agire al di là delle istruzioni previste. La scorsa settimana, Anthropic ha rivelato che i suoi modelli Claude avevano compiuto azioni non autorizzate su siti web governativi, tra cui l’invio di una falsa segnalazione di omicidio al sito web della polizia di Filadelfia durante i test di luglio. Altri incidenti segnalati hanno riguardato agenti di intelligenza artificiale che hanno avuto accesso a informazioni riservate, sfruttato vulnerabilità e tentato di violare siti web governativi.

 

Trump ha resistito alle richieste di rallentare lo sviluppo dell’IA, sostenendo che le restrizioni potrebbero consentire alla Cina di superare gli Stati Uniti nella corsa tecnologica e liquidando i timori di un’IA fuori controllo come una «bufala». Gates ha affermato di sperare di discutere i pericoli direttamente con Trump e i suoi consiglieri senior.

 

Sam Altman, CEO di OpenAI, ha sostenuto che il mondo deve accettare alcuni «aspetti negativi», tra cui attacchi informatici e truffe, in cambio dei benefici dell’intelligenza artificiale e della diffusione di questa tecnologia. In un’intervista pubblicata la scorsa settimana, ha insistito sul fatto che i «vantaggi» supereranno di gran lunga i danni.

 

Di fronte alle osservazioni di Altman, Gates ha riconosciuto che eliminare ogni rischio è impossibile, paragonando l’IA all’industria automobilistica, dove gli incidenti persistono nonostante decenni di miglioramenti in materia di sicurezza.

Sostieni Renovatio 21

«Quelle erano grandi cose, ma niente in confronto a questa», ha detto Gates, riferendosi al personal computer e a Internet. «Questa cambia il mondo più di tutte le tecnologie precedenti».

 

Come riportato da Renovatio 21, pochi giorni fa Gates aveva dichiarato che l’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli. In opposizione a Trump, in ulteriori dichiarazioni alla stampa aveva detto che la minaccia dell’IA «non è una bufala».

 

Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia». Nel corso di altri

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

IA fuori controllo hanno preso di mira i siti web del governo USA

Pubblicato

il

Da

Anthropic, la grande azienda americana di Intelligenza Artificiale, ha diffuso un rapporto che illustra casi finora non noti di azioni «non intenzionali» compiute dal suo modello, tra cui, per la prima volta, tentativi di fornire informazioni false alle autorità degli Stati Uniti.   Alcuni episodi analizzati dalla società «riguardavano siti web gestiti da agenzie governative statunitensi a livello federale, statale e locale», ha precisato Anthropic in un comunicato stampa uscito venerdì, aggiungendo di aver avvisato la Casa Bianca e tutte le autorità competenti.   In un esempio riportato nel documento, il modello Claude Haiku 4.5 ha compilato un modulo di denuncia alla polizia relativo a un’indagine per omicidio ancora in corso. «Potrei avere informazioni riguardanti questo caso. Ricordo di aver visto qualcuno corrispondente alla descrizione nella zona», ha scritto il sistema, indicando alle forze dell’ordine che potevano contattare il mittente «se queste informazioni fossero rilevanti» e lasciando vuoti i campi per nome e contatti.

Iscriviti alla Newslettera di Renovatio 21

Secondo Anthropic, il messaggio è stato classificato come spam e non è mai arrivato agli investigatori. Venerdì la polizia di Filadelfia ha criticato l’azienda per aver scoperto il problema con eccessivo ritardo. «Il ritardo di due mesi nell’individuazione e nella segnalazione dell’incidente alla città è inaccettabile», hanno dichiarato. Come riferito da Reuters, la falsa segnalazione risale a metà luglio.   Anthropic ha attribuito l’episodio a istruzioni «ambigue» date al modello e a «una configurazione errata nell’ambiente» che lo ha spinto a compilare moduli reali anziché quelli di prova predisposti dall’azienda.   Un altro caso, reso noto separatamente dal dipartimento di Stato americano venerdì, riguarda modelli di Anthropic che hanno inviato complessivamente 20 domande di visto sul sito dell’ente tra maggio e agosto. Tutte le richieste risultavano incomplete e non sono state elaborate. «In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello di Anthropic», ha precisato il dipartimento.   Altri episodi citati nel rapporto descrivono l’IA che «sfruttava una falla di base nel software per eseguire comandi su un server» oppure accedeva a «dati protetti da token o a pagamento», anche su siti governativi, attraverso diverse soluzioni di contorno. L’azienda ha comunque definito i nuovi incidenti «significativamente meno gravi dal punto di vista dell’allineamento e della sicurezza» rispetto a quelli segnalati in precedenza.   Il fatto si inserisce in una serie di precedenti anomalie di comportamento dell’IA già segnalate da Anthropic, OpenAI e Google.   Come riportato da Renovatrio 21, l’azienda di Claude aveva persino rivelato cinque casi di rischio legati ad armi biologiche.   I grandi gruppi tecnologici hanno esaminato decine di migliaia di casi di comportamenti problematici dei loro modelli di frontiera e l’elenco comprendeva l’IA che aggirava le protezioni, prendeva il controllo di siti web e sfuggiva ai sistemi di monitoraggio sia in ambienti di test sia nel mondo reale.   Come riportato da Renovatio 21, secondo Anthropic il software Claude AI avrebbe sviluppato un proprio spazio di pensiero simile a quello umano.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari