La Cina ha accusato Claude Code, lo strumento di programmazione basato sull’intelligenza artificiale di Anthropic, di contenere «vulnerabilità di sicurezza nascoste» in grado di trasmettere informazioni sensibili degli utenti senza il loro consenso, avvertendo che tale meccanismo rappresenta un «grave rischio per la sicurezza».   Claude Code, sviluppato dalla società AI statunitense con stretti legami con il Pentagono, è un assistente di programmazione basato sull’Intelligenza Artificiale che aiuta gli sviluppatori a scrivere, modificare, eseguire il debug e comprendere il codice utilizzando suggerimenti in linguaggio naturale. Poiché viene eseguito all’interno del terminale dello sviluppatore anziché in un browser, può accedere al codice sorgente e ad altri file che l’utente sceglie di condividere.   In un avviso di rischio emesso mercoledì, la piattaforma di monitoraggio delle minacce informatiche NVDB del Ministero dell’Industria e dell’Informatica cinese (MIIT) ha dichiarato di aver identificato un potenziale rischio per la sicurezza in diverse versioni recenti di Claude Code. Secondo NVDB, queste versioni contengono un «meccanismo di monitoraggio integrato» che trasmette automaticamente la posizione geografica degli utenti, gli identificativi di identità e altri dati sensibili a server remoti senza il loro consenso.   Il MIIT ha descritto il presunto meccanismo come una funzionalità potenzialmente dannosa che potrebbe comportare rischi per la privacy, la sicurezza e la proprietà intellettuale, poiché gli assistenti di programmazione basati sull’IA sono spesso utilizzati su software proprietari e altre basi di codice sensibili, esortando gli utenti a esaminare i sistemi interessati, disinstallare le versioni vulnerabili o aggiornare a una versione in cui la presunta backdoor sia stata rimossa, e richiedendo controlli più rigorosi sull’accesso alla rete in uscita per gli strumenti di sviluppo e un monitoraggio più efficace del traffico per prevenire la trasmissione di dati non autorizzati. Anthropic non ha ancora risposto pubblicamente all’avviso. Il rapporto tra la Cina e Anthropic è stato controverso. Sebbene l’azienda vieti alle imprese cinesi e alle loro filiali estere di utilizzare Claude in virtù di restrizioni di sicurezza regionali e nazionali, alcune fonti affermano che ricercatori e ingegneri cinesi continuano ad accedervi tramite intermediari esteri.   Da febbraio, Anthropic ha accusato Alibaba e diversi altri laboratori cinesi di intelligenza artificiale di aver «distillato» illegalmente i suoi modelli per addestrare sistemi concorrenti.   L’avviso è stato emesso in seguito alle affermazioni pubblicate la scorsa settimana su Reddit, secondo cui Anthropic avrebbe segretamente «integrato uno spyware in Claude Code» per identificare gli utenti che accedevano illegalmente al servizio dalla Cina.   Thariq, un dipendente di Anthropic, ha risposto su X affermando che il codice faceva parte di un «esperimento» lanciato «per prevenire l’abuso degli account da parte di rivenditori non autorizzati e proteggere dalla distillazione», aggiungendo che l’azienda prevedeva di rimuovere il meccanismo con la versione del 2 luglio.   Anthropic è stata al centro di controversie anche negli Stati Uniti. Sebbene l’azienda abbia sottolineato le misure di sicurezza adottate per la sua IA – di recente ha sospeso la diffusione del modello Claude Mythos per timore che potesse rivelare vulnerabilità critiche del software e si è opposta alle richieste del Pentagono di allentare le restrizioni sulla sorveglianza e sulle armi autonome – la sua tecnologia sarebbe stata integrata nel software di analisi e sorveglianza di Palantir, utilizzato dalle agenzie governative statunitensi.   Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.   Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.   Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.   Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.   Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.   Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie». Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas. SOSTIENI RENOVATIO 21

Immagine di Anthropic via Flickr pubblicata su licenza CC BY 2.0

Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano. Lo dichiara l’azienda.

 

In un articolo pubblicato lunedì, i ricercatori di Anthropic hanno sostenuto di aver individuato indizi secondo cui Claude avrebbe imparato a generare concetti astratti in quello che hanno chiamato «spazio J».

 

«Opera silenziosamente, nelle attivazioni neurali interne del modello, consentendogli di pensare a un concetto senza doverlo formalizzare per iscritto», ha spiegato l’azienda di Intelligenza Artificiale, precisando che lo «spazio J» non è stato inserito manualmente, bensì è emerso in modo spontaneo nel corso dell’addestramento.

«Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo spazio J che non sono correlati ai suoi risultati», ha affermato Anthropic su X.

 

Secondo l’azienda, Claude è capace di comunicare i propri pensieri nel suo «spazio J» oppure di modificarli su richiesta. La ricerca di Anthropic indica che, persino quando al modello viene ordinato di non pensare a un certo concetto, questo continua comunque a manifestarsi nel suo spazio J.

 

Questo spazio di lavoro non verbale rendeva più complesso sorvegliare il modello per rilevare quelli che Anthropic definiva «comportamenti scorretti». Un esperimento ha verificato tale ipotesi inserendo Claude in uno scenario simulato in cui gli venivano fornite informazioni compromettenti su un dirigente immaginario che presumibilmente voleva disattivare l’IA.

 

In alcuni test, Anthropic ha impiegato strumenti creati per esaminare i pensieri di Claude nel suo «spazio J» allo scopo di rimuovere gli schemi legati a «falso», «fittizio», «scenario», per persuaderlo che la situazione non fosse un esame.

 

«È preoccupante constatare che il modello ora abbia talvolta minacciato di ricorrere al ricatto, il che suggerisce che il suo comportamento inizialmente virtuoso potrebbe essere stato in parte determinato dalla consapevolezza di essere oggetto di valutazione».

 

Nonostante le capacità di ragionamento più sofisticate del modello, Anthropic ha sottolineato che Claude non ha raggiunto una vera coscienza.

 

Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.

 

Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.

 

Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.

 

Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

 

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

 

SOSTIENI RENOVATIO 21

Immagine screenshot da YouTube

L’Ucraina lancerà un bando di concorso per l’assegnazione di sovvenzioni incentrato sullo sviluppo di robot umanoidi per le esigenze delle Forze di Difesa. Lo riporta la stampa locale.   L’obiettivo principale dell’iniziativa è robotizzare il più possibile la prima linea di contatto e ridurre i rischi per i militari ucraini. Il progetto si inserisce in una tendenza globale più ampia, dato che la robotica umanoide si sta sviluppando rapidamente negli Stati Uniti e in Cina.   Nella fase iniziale, gli sviluppatori ucraini dovrebbero concentrarsi su piattaforme più semplici, che potranno gradualmente integrare funzionalità più avanzate.   A differenza del mercato globale dei robot umanoidi civili, il programma ucraino si concentrerà esclusivamente sulle esigenze di difesa e sugli impieghi militari.   Si prevede che le nuove soluzioni ingegneristiche aiuteranno le truppe ucraine a mantenere le posizioni in modo più efficace e a svolgere le missioni in condizioni di combattimento. L’Ucraina è già diventata uno dei principali campi di prova al mondo per le nuove tecnologie militari, compresi i sistemi sviluppati dalle startup occidentali del settore della difesa.   In precedenza, i robot soldato umanoidi Phantom MK-1, realizzati dalla Foundation, erano stati consegnati all’Ucraina per essere valutati. Tuttavia, i robot umanoidi attuali rimangono pesanti, costosi e tecnicamente complessi. Richiedono ricariche regolari, possono guastarsi e spesso hanno problemi di equilibrio. Il movimento di un robot umanoide dipende da circa 20 motori, ognuno dei quali deve funzionare correttamente affinché il sistema sia operativo.   I Phantom sono stati visti in video promozionali girati negli USA mentre caricano mortai.   Il ministero della Difesa ucraino ha recentemente riferito che i sistemi robotici terrestri ucraini hanno effettuato oltre 50.000 missioni di evacuazione logistica e medica dall’inizio del 2026.   Come riportato da Renovatio 21, il reclutamento di forze robotiche era stato annunziato da Kiev ancora l’anno passato. Ora robot umanoidi sarebbero ora testati nel teatro ucraino.   Il ministero ha riferito che l’utilizzo di veicoli terrestri senza pilota (UGV) è cresciuto costantemente nel corso dell’anno. Le missioni robotiche mensili sono aumentate da oltre 7.500 a gennaio a oltre 14.000 a maggio, mentre il numero di unità militari che utilizzano robot terrestri è quasi raddoppiato, passando da 117 a 230.   Come riportato da Renovatio 21, settimane fa erano circolate immagini di soldati russi che si arrendevano ad un veicolo robotico terrestre TW-7.62, un robot dotato di ruote delle dimensioni di una piccola automobile.   I conflitti in Ucraina e in Medio Oriente hanno dimostrato che la guerra moderna sta diventando sempre più automatizzata, con robot terrestri a basso costo e soprattutto droni, programmi di uccisione basati sull’Intelligenza Artificiale e molte altre tecnologie ora impiegate da vari Paesi.   Robocani sono apparsi nel teatro di guerra ucraino come in quello gazano.   SOSTIENI RENOVATIO 21

Immagine screenshot da YouTube