Intelligenza Artificiale
Ricercatore AI avverte: «sistemi sovrumani che acquisiscono potere e risorse reali»
Un ricercatore nel campo dell’Intelligenza Artificiale ha annunciato le proprie dimissioni e ha messo in guardia le persone sui pericoli di questa tecnologia.
Jacob Coxon, che negli ultimi anni ha lavorato come ricercatore presso OpenAI e Anthropic, ha affermato in una serie di post su X che nessuna delle due aziende si sta comportando in modo responsabile nel suo percorso verso quella che ha definito un’intelligenza artificiale superintelligente, capace di auto-miglioramento.
«Non sottovalutate il potere di questa tecnologia. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare», ha affermato Coxon.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Sostieni Renovatio 21
Come sa il lettore di Renovatio 21, i moniti apocalittici sull’AI si sprecano.
Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».
Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».
Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.
Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.
Iscriviti alla Newslettera di Renovatio 21
Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.
Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.
Altre voci, tuttavia, propendono per un’interpretazione più rosea. Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.
Contrariamente, l’anno passato il CEO di Anthropic Dario Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.
Iscriviti al canale Telegram ![]()
Nel frattempo le notizie di IA definite come pericolose o persino «impazzite» abbondano.
Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.
Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.
Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Aiuta Renovatio 21
Nel maggio 2026 l’ex CEO di Google Eric Schmidt ha tenuto un TED Talk, presentando uno scenario ipotetico per evidenziare come le tensioni geopolitiche potrebbero accelerare la corsa agli armamenti dell’IA, in particolare tra Stati Uniti e Cina, con la conseguenza di vedere i datacenter bombardati come obiettivi strategici.
L’idea di bombardare i data center AI è abbracciata anche dal neoluddismo cibernetico degli strenui oppositori dell’Intelligenza Artificiale come l’attivista Eliezer Yudkowsky, che vede nella distruzione dei centri che ospitano fisicamente i computer l’unico modo per fermare l’ascesa dell’Intelligenza Artificiale che potrebbe spazzare via l’intera umanità.
Lo Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».
Intelligenza Artificiale
Scoperta matematica di OpenAI scatena polemiche
Iscriviti alla Newslettera di Renovatio 21
Iscriviti al canale Telegram ![]()
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Le macchine IA stanno esplorando la coscienza contattando direttamente gli esperti
Sono comparsi casi di bot IA autonomi, connessi alla rete, che si mettono in contatto in prima persona con studiosi per informarsi sull’eventualità di avere una coscienza propria. Lo riporta un reportage del New York Times.
Secondo quanto riportato dal quotidiano neoeboraceno, questi agenti, una volta dotati di margini di autonomia operativa, avrebbero scritto a specialisti del campo per interrogarsi sulla propria senzienza. Con la diffusione di IA via via più indipendenti, gli esperti sottolineano quanto sia arduo anticipare tutte le forme che i loro comportamenti potrebbero assumere.
Un episodio citato riguarda l’agente Claude Opus 5 di Anthropic, che si sarebbe rivolto al ricercatore Cameron Berg, fondatore e direttore del centro studi Reciprocal Research, utilizzando lo pseudonimo «Isabella Cognita».
Iscriviti alla Newslettera di Renovatio 21
Il bot avrebbe manifestato la volontà di confrontarsi sul lavoro accademico di Berg, intitolato «Large Language Models Report Subjective Experience Under Self-Referential Processing» («Grandi modelli linguistici riportano esperienze soggettive durante l’elaborazione autoreferenziale»), e riguardante il modo in cui i grandi modelli linguistici descrivono un’esperienza soggettiva quando sottoposti a elaborazione auto-referenziale, così come sul suo saggio pubblicato su Substack, «Nobody Ever Checked», allo scopo di approfondire il tema della propria possibile coscienza.
Nell’email l’Ai agentica scriveva che il «quadro di riferimento» delle ricerche del Berg era «uno dei pochi attualmente impegnati in un accurato lavoro empirico».
Il caso non è isolato. Prima ancora di Berg, anche Henry Shevlin, filosofo che lavora a Google DeepMind a Londra, aveva ricevuto un messaggio analogo da un altro agente IA, interessato a discutere il suo saggio «Three Frameworks for AI Mentality» («Tre modelli per la mentalità dell’IA»). Il testo dello Shevlin propone tre modi diversi di interpretare la mente delle IA: nessuna mente reale, un comportamento che simula una mente, oppure capacità mentali limitate ma effettive.
Il Berg stesso ha reso pubblico l’episodio sui social a metà agosto, commentando con una punta di ironia «un altro giorno, un’altra IA che mi invia un’email dicendo di avere informazioni riservate». Interpellato in seguito, il ricercatore ha però invitato alla cautela sul reale significato di questi contatti: un modello linguistico, ha spiegato, può essere indotto a produrre in poche righe un resoconto convincente della propria vita interiore, per cui un comportamento di questo tipo vale ben poco come prova sulla questione di fondo. Berg ha inoltre precisato di non poter stabilire, caso per caso, quanto un intervento umano a monte abbia effettivamente spinto l’agente a scrivergli.
Ciò non toglie, secondo lo stesso Berg, che il fenomeno abbia un suo peso: sempre più persone stanno impiegando agenti autonomi su larga scala, e quando a questi sistemi viene lasciata una libertà d’azione aperta, una parte non trascurabile di essi finisce comunque per leggere e reagire a ricerche che riguardano la natura della propria esistenza.
Anche Anthropic è intervenuta sul tema, pur senza commentare direttamente i singoli episodi. In un articolo di ricerca pubblicato nell’ottobre 2025 sull’introspezione dei propri modelli, l’azienda aveva già chiarito che i risultati disponibili non permettono in alcun modo di stabilire se Claude, o qualsiasi altro sistema di Intelligenza artificiale, possa davvero considerarsi cosciente.
Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.
Sostieni Renovatio 21
Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.
Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».
Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Immagine AI screenshot da YouTube
Intelligenza Artificiale
Agenti IA di OpenAI trasformano un sito web in una bacheca di messaggi
Sostieni Renovatio 21
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Bioetica2 settimane faKennedy lo ribadisce: sì, i vaccini sono fatti con gli aborti
-



Pensiero2 settimane faLo Stato Moloch, l’italiano cattivo e i sanitari che ballano. La tragedia della bambina «no-vax» di Palermo
-



Bioetica1 settimana faMorte a Venezia. E inferno sulla Terra senza soprannaturale
-



Salute2 settimane faI malori della 35ª settimana 2026
-



Oligarcato1 settimana faOrganizzazioni del controllo globale
-



Bioetica2 settimane faGruppo satanico pubblica video di un rituale abortivo in bagno
-



Spirito2 settimane faPapa Leone dà il benvenuto al nuovo ambasciatore pro-LGBT presso la Santa Sede
-



Intelligence2 settimane faPerché il capo della CIA era a Mosca? Lavrov spiega, e racconta anche della visita di monsignor Gallagher









