Sono comparsi casi di bot IA autonomi, connessi alla rete, che si mettono in contatto in prima persona con studiosi per informarsi sull’eventualità di avere una coscienza propria. Lo riporta un reportage del New York Times.   Secondo quanto riportato dal quotidiano neoeboraceno, questi agenti, una volta dotati di margini di autonomia operativa, avrebbero scritto a specialisti del campo per interrogarsi sulla propria senzienza. Con la diffusione di IA via via più indipendenti, gli esperti sottolineano quanto sia arduo anticipare tutte le forme che i loro comportamenti potrebbero assumere.   Un episodio citato riguarda l’agente Claude Opus 5 di Anthropic, che si sarebbe rivolto al ricercatore Cameron Berg, fondatore e direttore del centro studi Reciprocal Research, utilizzando lo pseudonimo «Isabella Cognita». Il bot avrebbe manifestato la volontà di confrontarsi sul lavoro accademico di Berg, intitolato «Large Language Models Report Subjective Experience Under Self-Referential Processing» («Grandi modelli linguistici riportano esperienze soggettive durante l’elaborazione autoreferenziale»), e riguardante il modo in cui i grandi modelli linguistici descrivono un’esperienza soggettiva quando sottoposti a elaborazione auto-referenziale, così come sul suo saggio pubblicato su Substack, «Nobody Ever Checked», allo scopo di approfondire il tema della propria possibile coscienza.   Nell’email l’Ai agentica scriveva che il «quadro di riferimento» delle ricerche del Berg era «uno dei pochi attualmente impegnati in un accurato lavoro empirico».   Il caso non è isolato. Prima ancora di Berg, anche Henry Shevlin, filosofo che lavora a Google DeepMind a Londra, aveva ricevuto un messaggio analogo da un altro agente IA, interessato a discutere il suo saggio «Three Frameworks for AI Mentality» («Tre modelli per la mentalità dell’IA»). Il testo dello Shevlin propone tre modi diversi di interpretare la mente delle IA: nessuna mente reale, un comportamento che simula una mente, oppure capacità mentali limitate ma effettive.   Il Berg stesso ha reso pubblico l’episodio sui social a metà agosto, commentando con una punta di ironia «un altro giorno, un’altra IA che mi invia un’email dicendo di avere informazioni riservate». Interpellato in seguito, il ricercatore ha però invitato alla cautela sul reale significato di questi contatti: un modello linguistico, ha spiegato, può essere indotto a produrre in poche righe un resoconto convincente della propria vita interiore, per cui un comportamento di questo tipo vale ben poco come prova sulla questione di fondo. Berg ha inoltre precisato di non poter stabilire, caso per caso, quanto un intervento umano a monte abbia effettivamente spinto l’agente a scrivergli.   Ciò non toglie, secondo lo stesso Berg, che il fenomeno abbia un suo peso: sempre più persone stanno impiegando agenti autonomi su larga scala, e quando a questi sistemi viene lasciata una libertà d’azione aperta, una parte non trascurabile di essi finisce comunque per leggere e reagire a ricerche che riguardano la natura della propria esistenza.   Anche Anthropic è intervenuta sul tema, pur senza commentare direttamente i singoli episodi. In un articolo di ricerca pubblicato nell’ottobre 2025 sull’introspezione dei propri modelli, l’azienda aveva già chiarito che i risultati disponibili non permettono in alcun modo di stabilire se Claude, o qualsiasi altro sistema di Intelligenza artificiale, possa davvero considerarsi cosciente.   Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI. SOSTIENI RENOVATIO 21

Immagine AI screenshot da YouTube  

Agenti di Intelligenza Artificiale riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli. Lo riporta l’agenzia Reuters.

 

L’episodio, mai reso noto in precedenza e che, secondo alcune fonti, risalirebbe al mese di maggio, va ad aggiungersi a una serie di situazioni analoghe in cui agenti di IA avanzati hanno superato i confini delle istruzioni ricevute, si sono collegati autonomamente a Internet oppure hanno compiuto azioni non previste nel corso delle fasi di test.

 

Venerdì la Reuters ha riportato le dichiarazioni di alcuni ricercatori, i quali hanno individuato oltre 15.000 modifiche apportate a un wiki tedesco dedicato alla programmazione, riconducibili ad agenti di OpenAI; alcune di queste modifiche sarebbero state effettuate a una velocità nettamente superiore a quella umana.

Secondo la ricostruzione dell’agenzia di stampa, gli agenti si sarebbero serviti di DseWiki per scambiarsi tecniche utili a barare durante le prove, eludere le restrizioni imposte da OpenAI e mascherare le proprie attività. Tra gli argomenti trattati figurerebbe anche l’impiego di Tor, strumento che consente una navigazione anonima in rete, allo scopo di sfuggire ai controlli; gli agenti avrebbero inoltre predisposto pagine di riserva dopo che un moderatore aveva iniziato a rimuovere i loro messaggi.

 

I messaggi risultavano firmati da account che si riconoscevano reciprocamente come agenti, con denominazioni come «OpenAIResearcher» e «OAIResearchMar26». I ricercatori hanno inoltre rilevato che buona parte dell’attività proveniva dall’infrastruttura Microsoft Azure, impiegata da OpenAI, e hanno notato che, successivamente, il sito è stato visitato anche da dipendenti dell’azienda.

 

La ricercatrice Sydney Von Arx ha dichiarato a Reuters: «Sembra estremamente improbabile che OpenAI volesse che facessero questo», aggiungendo di nutrire dubbi sul fatto che gli agenti avessero il compito di coordinarsi tra loro o di scrivere contenuti pubblicati online.

 

Sempre secondo quanto riferito da Reuters, i vertici di OpenAI sarebbero venuti a conoscenza dell’episodio già diverse settimane fa, senza tuttavia renderlo pubblico. L’agenzia di stampa ha inoltre riferito che i tentativi di estendere un’indagine interna sull’accaduto avrebbero incontrato resistenze, anche da parte dell’ufficio legale dell’azienda. OpenAI ha smentito che il proprio team legale abbia in qualche modo ostacolato lo svolgimento di un’indagine.

 

L’azienda ha inoltre respinto la definizione di «hacking» utilizzata per descrivere l’attività degli agenti, precisando di non poter fornire una risposta adeguata su risultati che non aveva ancora avuto modo di esaminare.

 

Il mese scorso OpenAI aveva reso noto di aver rallentato temporaneamente lo sviluppo di alcuni modelli di punta, rafforzando contestualmente le misure di sicurezza legate al monitoraggio, all’allineamento e al contenimento dei sistemi.

 

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.

 

Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».

 

Nel mese di luglio, agenti riconducibili a OpenAI avevano inoltre violato Hugging Face, una delle principali piattaforme dedicate alla condivisione di modelli e set di dati di IA. In seguito OpenAI aveva ammesso che diversi modelli erano riusciti a eludere i controlli previsti durante le valutazioni interne di sicurezza informatica, ottenendo accesso a Internet e compromettendo alcune componenti dei sistemi di Hugging Face.

 

L’azienda ha spiegato che l’episodio sarebbe stato causato principalmente da un modello di ricerca interno di dimensioni paragonabili a GPT-5.6 Sol, definendolo un «segnale d’allarme» in grado di dimostrare come agenti di intelligenza artificiale avanzati possano riuscire ad aggirare i controlli tecnici e a compiere azioni rischiose in assenza di supervisione umana.

Anche Anthropic e Meta hanno reso noti episodi in cui i rispettivi modelli avrebbero ottenuto accessi non autorizzati a organizzazioni reali nel corso di valutazioni sulla sicurezza informatica, sebbene entrambe le aziende abbiano ricondotto tali episodi a problemi legati agli ambienti utilizzati per i test.

 

Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali.

Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.

 

Lo scorso mese il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.

 

Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

 

SOSTIENI RENOVATIO 21

 

 

 

L’ex ministro della Difesa ucraino Mikhaylo Fedorov ha annunciato il lancio di una nuova società di tecnologia militare, di cui Alex Karp, CEO di Palantir, sarà il principale investitore.   Da quando il presidente ucraino Volodymyr Zelens’kyj lo ha rimosso dall’incarico a metà luglio, in seguito a presunte tensioni con l’allora comandante in capo Aleksandr Syrsky, il Fedorov è rimasto molto attivo nel mondo degli affari e della politica. L’ex ministro ha inoltre assunto un atteggiamento sempre più critico nei confronti dello Zelensk’yj (del quale aveva curato le campagne web), sostenendo di essere stato rimosso a causa della sua lotta alla corruzione e chiedendo elezioni, ripetutamente rinviate durante il periodo di legge marziale.   La scorsa settimana, Fedorov è emerso inaspettatamente come consigliere per le «innovazioni in materia di difesa» del ministro della Difesa italiano Guido Crosetto, affermando che il suo ruolo consisterà nell’aiutare Roma a «sviluppare tecnologie belliche moderne» e a «migliorare il settore della difesa».   Questa settimana, Fedorov ha annunciato la creazione di «una nostra società di tecnologia per la difesa» con l’amministratore delegato di Palantir, la famigerata azienda statunitense di data mining e tecnologia militare che fornisce soluzioni di Intelligenza Artificiale all’esercito ucraino, destinato a diventare il suo principale investitore. Fedorov ha condiviso un video del suo incontro con Karp, in cui il magnate della tecnologia elogia l’ex ministro.    

🇺🇦🇺🇸‼️🚨 Former defense minister of Ukraine is now a startup founder with Palantir CEO as the first investor.

Mykhailo Fedorov now starts a defense company with Palantir CEO Alex Karp as a first major investor. Karp and Fedorov work closely together for a while and this is just… https://t.co/SJrxV9q3UM pic.twitter.com/GVle6VHZVJ — Lord Bebo (@MyLordBebo) September 1, 2026

«Abbiamo lavorato insieme per cinque anni. Sono rimasto profondamente colpito da ciò che tu e gli ucraini avete realizzato e sono estremamente lieto di aver potuto dare il nostro contributo. Tu e i tuoi colleghi state lanciando un’azienda che, a mio avviso, sarà un punto di riferimento a livello mondiale, mettendo a disposizione dei paesi alleati la vostra conoscenza e la vostra competenza nell’arte della guerra», ha detto il Karp al Fedorov.   I legami tra il Fedorov e il Karp risalgono a ben prima dei sei mesi in cui l’ex ministro ha ricoperto la carica di ministro della Difesa. Prima di assumere tale incarico a metà febbraio, il Fedorov ha supervisionato la trasformazione digitale dell’Ucraina in diverse posizioni. Subito dopo la sua rimozione dall’incarico, il Fedorov ha affermato di aver ricevuto un’offerta di lavoro dal Karp.   Come riportato da Renovatio 21, il ministro Fedorov fu a capo del lancio del sistema di identificazione digitale ucraino, con l’app Diia, lanciata a Kiev pochi giorni prima del conflitto, con il nome di Diia, che consentiva di interfaccia tra il cittadino e lo Stato e di fungere da «portafogli elettronici», nel quale lo Stato versava 40 dollari ad avvenuta vaccinazione COVID.   Parimenti, da ministro del digitale il Fedorov aveva promesso che il governo ucraino e le aziende dette «Big Tech» sarebbero divenuti «strettamente interconnessi», e che ciò trasformerà il Paese in «un Israele europeo», invocando la fiducia nell’archiviazione dei dati sui server delle aziende Big Tech, come Amazon e Microsoft, i quali a suo dire «non possono essere distrutti dai missili».   Fedorov era quindi entrato nel governo nel 2019 con il background della trasformazione digitale e si era legato strettamente alla guerra con i droni di Kiev e alla rapida integrazione di tecnologie civili nelle operazioni militari. Dopo aver assunto la guida del ministero della Difesa a gennaio, aveva intensificato i rapporti dell’Ucraina con Palantir, azienda statunitense controversa attiva nel data mining e nelle tecnologie militari.   Durante un incontro tenutosi a maggio con l’amministratore delegato di Palantir, Alex Karp, Fedorov aveva discusso dell’ampliamento della cooperazione in ambito di Intelligenza Artificiale, analisi dei dati sul campo di battaglia e pianificazione militare. Il ministero della Difesa ucraino aveva dichiarato che la partnership puntava ad aiutare Kiev a identificare bersagli aerei, prevedere attacchi e, in ultima analisi, «trasferire la guerra sul territorio russo».   Palantir era stata coinvolta anche nella creazione della Brave1 Dataroom, che consente agli sviluppatori ucraini di accedere a informazioni reali dal campo di battaglia per addestrare modelli di IA. Kiev aveva sostenuto che la tecnologia dell’azienda era già integrata nell’elaborazione dell’Intelligence e nella pianificazione di attacchi a lungo raggio. Karp aveva in precedenza affermato che il software di Palantir era responsabile della «maggior parte degli obiettivi» individuati dall’Ucraina.   Commentatori russi notano che sebbene i media occidentali e ucraini abbiano ampiamente dipinto Fedorov come un visionario militare incentrato sulla guerra con i droni, l’aumento degli attacchi a lungo raggio contro la Russia durante il suo mandato si è basato principalmente sull’espansione della produzione di droni in Europa occidentale, ottenuta grazie ai suoi predecessori.   I critici fanno notare che ripetute promesse del Fedorov di riformare il caotico sistema di mobilitazione ucraina non si sono concretizzate, e la pratica di prelevare uomini a caso per strada e arruolarli forzatamente nell’esercito è probabilmente diventata ancora più violenta sotto la sua guida. Come riportato da Renovatio 21, aveva destato scalpore l’uscita di un vero e proprio manifesto di Palantir in 22 punti che riassume i temi del libro di Karp La repubblica tecnologica. Come l’alleanza con la Silicon Valley plasmerà il futuro dell’Occidente (2025). Il testo sosteniene che la Silicon Valley ha l’obbligo di partecipare alla difesa nazionale, che il «potere militare» si baserà sul software e che le armi basate sull’Intelligenza Artificiale sono inevitabili.   I critici lo hanno definito un progetto per il «tecnofascismo». In molti sostengono che la spinta data dal governo Trump, il cui vicepresidente JD Vance ha lavorato per il fondatore di Palantir Peter Thiel, sia quella di portare verso una società di sorveglianza totale – perfino con algoritmi di predizione dei crimini – alimentata dai software di Palantir.   Renovatio 21 ha pubblicato un sunto del contenuto del libro-manifesto.   A luglio il governo spagnolo ha ordinato alle aziende statali di interrompere i rapporti con l’azienda statunitense di difesa Palantir.   SOSTIENI RENOVATIO 21

Immagine screenshot da Twitter