Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano. Lo dichiara l’azienda.

In un articolo pubblicato lunedì, i ricercatori di Anthropic hanno sostenuto di aver individuato indizi secondo cui Claude avrebbe imparato a generare concetti astratti in quello che hanno chiamato «spazio J».

«Opera silenziosamente, nelle attivazioni neurali interne del modello, consentendogli di pensare a un concetto senza doverlo formalizzare per iscritto», ha spiegato l’azienda di Intelligenza Artificiale, precisando che lo «spazio J» non è stato inserito manualmente, bensì è emerso in modo spontaneo nel corso dell’addestramento.

«Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo spazio J che non sono correlati ai suoi risultati», ha affermato Anthropic su X.

Secondo l’azienda, Claude è capace di comunicare i propri pensieri nel suo «spazio J» oppure di modificarli su richiesta. La ricerca di Anthropic indica che, persino quando al modello viene ordinato di non pensare a un certo concetto, questo continua comunque a manifestarsi nel suo spazio J.

Questo spazio di lavoro non verbale rendeva più complesso sorvegliare il modello per rilevare quelli che Anthropic definiva «comportamenti scorretti». Un esperimento ha verificato tale ipotesi inserendo Claude in uno scenario simulato in cui gli venivano fornite informazioni compromettenti su un dirigente immaginario che presumibilmente voleva disattivare l’IA.

In alcuni test, Anthropic ha impiegato strumenti creati per esaminare i pensieri di Claude nel suo «spazio J» allo scopo di rimuovere gli schemi legati a «falso», «fittizio», «scenario», per persuaderlo che la situazione non fosse un esame.

«È preoccupante constatare che il modello ora abbia talvolta minacciato di ricorrere al ricatto, il che suggerisce che il suo comportamento inizialmente virtuoso potrebbe essere stato in parte determinato dalla consapevolezza di essere oggetto di valutazione».

Nonostante le capacità di ragionamento più sofisticate del modello, Anthropic ha sottolineato che Claude non ha raggiunto una vera coscienza.

Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.

Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.

Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.

Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

SOSTIENI RENOVATIO 21

Immagine screenshot da YouTube