Sono comparsi casi di bot IA autonomi, connessi alla rete, che si mettono in contatto in prima persona con studiosi per informarsi sull’eventualità di avere una coscienza propria. Lo riporta un reportage del New York Times.

Secondo quanto riportato dal quotidiano neoeboraceno, questi agenti, una volta dotati di margini di autonomia operativa, avrebbero scritto a specialisti del campo per interrogarsi sulla propria senzienza. Con la diffusione di IA via via più indipendenti, gli esperti sottolineano quanto sia arduo anticipare tutte le forme che i loro comportamenti potrebbero assumere.

Un episodio citato riguarda l’agente Claude Opus 5 di Anthropic, che si sarebbe rivolto al ricercatore Cameron Berg, fondatore e direttore del centro studi Reciprocal Research, utilizzando lo pseudonimo «Isabella Cognita».

Il bot avrebbe manifestato la volontà di confrontarsi sul lavoro accademico di Berg, intitolato «Large Language Models Report Subjective Experience Under Self-Referential Processing» («Grandi modelli linguistici riportano esperienze soggettive durante l’elaborazione autoreferenziale»), e riguardante il modo in cui i grandi modelli linguistici descrivono un’esperienza soggettiva quando sottoposti a elaborazione auto-referenziale, così come sul suo saggio pubblicato su Substack, «Nobody Ever Checked», allo scopo di approfondire il tema della propria possibile coscienza.

Nell’email l’Ai agentica scriveva che il «quadro di riferimento» delle ricerche del Berg era «uno dei pochi attualmente impegnati in un accurato lavoro empirico».

Il caso non è isolato. Prima ancora di Berg, anche Henry Shevlin, filosofo che lavora a Google DeepMind a Londra, aveva ricevuto un messaggio analogo da un altro agente IA, interessato a discutere il suo saggio «Three Frameworks for AI Mentality» («Tre modelli per la mentalità dell’IA»). Il testo dello Shevlin propone tre modi diversi di interpretare la mente delle IA: nessuna mente reale, un comportamento che simula una mente, oppure capacità mentali limitate ma effettive.

Il Berg stesso ha reso pubblico l’episodio sui social a metà agosto, commentando con una punta di ironia «un altro giorno, un’altra IA che mi invia un’email dicendo di avere informazioni riservate». Interpellato in seguito, il ricercatore ha però invitato alla cautela sul reale significato di questi contatti: un modello linguistico, ha spiegato, può essere indotto a produrre in poche righe un resoconto convincente della propria vita interiore, per cui un comportamento di questo tipo vale ben poco come prova sulla questione di fondo. Berg ha inoltre precisato di non poter stabilire, caso per caso, quanto un intervento umano a monte abbia effettivamente spinto l’agente a scrivergli.

Ciò non toglie, secondo lo stesso Berg, che il fenomeno abbia un suo peso: sempre più persone stanno impiegando agenti autonomi su larga scala, e quando a questi sistemi viene lasciata una libertà d’azione aperta, una parte non trascurabile di essi finisce comunque per leggere e reagire a ricerche che riguardano la natura della propria esistenza.

Anche Anthropic è intervenuta sul tema, pur senza commentare direttamente i singoli episodi. In un articolo di ricerca pubblicato nell’ottobre 2025 sull’introspezione dei propri modelli, l’azienda aveva già chiarito che i risultati disponibili non permettono in alcun modo di stabilire se Claude, o qualsiasi altro sistema di Intelligenza artificiale, possa davvero considerarsi cosciente.

Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

SOSTIENI RENOVATIO 21

Immagine AI screenshot da YouTube