Intelligenza Artificiale
Il Pentagono ha utilizzato Claude AI per rapire Maduro
L’esercito statunitense ha fatto attivamente ricorso al modello di Intelligenza Artificiale Claude di Anthropic nel corso dell’operazione volta a catturare il presidente venezuelano Nicolás Maduro il mese scorso, evidenziando che la tecnologia dell’azienda ha svolto un ruolo diretto nel raid condotto all’estero. Lo hanno riportato le testate statunitensi Axios e dal Wall Street Journal.
Claude è stato impiegato durante l’operazione stessa, e non solo nelle fasi di pianificazione, hanno riferito venerdì Axios e il WSJ. Il ruolo preciso rimane poco definito, benché l’esercito abbia già utilizzato modelli di intelligenza artificiale per l’analisi di immagini satellitari e dati di intelligence in tempo reale.
Le politiche di utilizzo del laboratorio di intelligenza artificiale con sede a San Francisco vietano espressamente che la sua tecnologia venga impiegata per «facilitare la violenza, sviluppare armi o condurre attività di sorveglianza». Nessun cittadino americano ha perso la vita durante il raid, ma decine di soldati e membri del personale di sicurezza venezuelani e cubani sono stati uccisi il 3 gennaio.
«Non possiamo dire se Claude, o qualsiasi altro modello di intelligenza artificiale, sia stato utilizzato per operazioni specifiche, classificate o meno», ha dichiarato un portavoce di Anthropic ad Axios. «Qualsiasi utilizzo di Claude, sia nel settore privato che in ambito governativo, è soggetto alle nostre Norme di Utilizzo».
Sostieni Renovatio 21
I concorrenti di Anthropic, tra cui OpenAI, Google e xAI di Elon Musk, hanno tutti stipulato accordi che assicurano al Pentagono l’accesso ai loro modelli senza molte delle restrizioni imposte agli utenti ordinari. Tuttavia, solo Claude viene impiegato, attraverso una partnership con Palantir Technologies, sulle piattaforme classificate destinate alle attività più sensibili dell’esercito statunitense.
La notizia emerge in un momento delicato per l’azienda, che nelle scorse settimane ha ribadito pubblicamente il proprio impegno verso le misure di sicurezza nell’Intelligenza Artificiale e si è presentata come un’alternativa responsabile e attenta alla sicurezza nel panorama dell’IA.
Il CEO Dario Amodei ha messo in guardia dai rischi esistenziali derivanti da un utilizzo incontrollato dell’IA. Lunedì il responsabile del Safeguards Research Team di Anthropic, Mrinank Sharma, si è dimesso improvvisamente lasciando un avvertimento criptico: «Il mondo è in pericolo». Pochi giorni dopo, l’azienda ha stanziato 20 milioni di dollari in un gruppo di pressione politica a favore di una regolamentazione solida dell’IA.
Anthropic starebbe negoziando con il Pentagono per allentare le limitazioni sull’uso dell’IA nel puntamento autonomo di armi e nella sorveglianza interna. Lo stallo ha bloccato un contratto da 200 milioni di dollari, con il segretario alla Difesa Pete Hegseth che ha dichiarato di non voler utilizzare modelli che «non permettono di combattere guerre».
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Agenti IA ribelli potrebbero essersi infiltrati nelle banche
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI
Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.
Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.
«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.
In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.
«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.
Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.
Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.
Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.
CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.
Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.
In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.
Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.
A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.
Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Guerra cibernetica
La California fa causa a OpenAI per gli attacchi informatici
Iscriviti alla Newslettera di Renovatio 21
-



Vaccini7 giorni faVaccino antinfluenzale mRNA Moderna, gli esperti chiedono la sospensione: «il rischio supera di gran lunga il beneficio»
-



Guerra cibernetica2 settimane faCiberattacco contro le banche del sangue. Chi lo sta facendo? Perché?
-



Essere genitori1 settimana faAllarmi bomba nella scuole. Nuovo terrorismo per il debole Stato moderno
-



Storia1 settimana faStoria dei vampiri delle Venezie
-



Gender2 settimane faI Macron denunziano nuovamente Candace Owens per l’accusa a Brigitta di essere un maschio
-



Spirito2 settimane faLa gerarchia sinodale ama l’errore: omelia nella festa di San Carlo Borromeo di mons. Viganò
-



Famiglia2 settimane faCittadina consente ai gruppi poliamorosi di registrarsi come «partner domestici»
-



Animali2 settimane faEvasione di porcellini: arrestati per «fuga e grugniti»














