Connettiti con Renovato 21

Intelligenza Artificiale

L’enciclica Magnifica Humanitas: commento di un sacerdote FSSPX

Pubblicato

il

I cattolici si aspettano che il Papa spieghi in che modo l’uso dell’intelligenza artificiale sia moralmente buono e in che modo non lo sia, in relazione a una morale definita in riferimento alla Legge di Dio.

 

La prima Enciclica di Papa Leone XIV è datata 15 maggio 2026, un anno dopo l’elezione di Robert Francis Prevost al Sommo Pontefice. Con un totale di 245 paragrafi, il testo del nuovo Papa non è né più né meno lunga delle Encicliche del suo predecessore.

 

Come spiega nel paragrafo 3 del Capitolo 1, Leone XIV ha voluto approfittare del 135° anniversario dell’enciclica Rerum novarum di Leone XIII, pubblicata nel 1891, per estendere a suo modo «questa riflessione sulla società, sull’economia e sulla politica che oggi chiamiamo Dottrina Sociale della Chiesa». E questo dovrebbe già bastare a destare costernazione tra i cattolici, o quantomeno ad aggravare ulteriormente la perplessità in cui i poveri fedeli si trovano da oltre sessant’anni, dal Concilio Vaticano II.

Iscriviti alla Newslettera di Renovatio 21

Una nuova concezione della dottrina sociale

In effetti, lo scopo di un documento del Magistero della Chiesa, come un’enciclica papale, non è quello di condurre una «riflessione», ma di dispensare, con la stessa autorità di Dio, un insegnamento, di dichiarare e spiegare il significato della verità rivelata da Dio. E la dottrina sociale della Chiesa non è, almeno non principalmente, una riflessione «sulla società, l’economia e la politica». Essa fa parte della dottrina morale che la Chiesa insegna ai suoi fedeli nel nome di Dio, ovvero la dottrina che dovrebbe mostrarci come regolare le nostre azioni per la salvezza eterna delle nostre anime.

 

Ora, la regola che governa le azioni umane è l’eterna legge divina, che si esprime sia nella legge divina naturale (cioè nei Dieci Comandamenti rivelati da Dio a Mosè) sia nella legge divina positiva (cioè nei precetti e nei consigli del Vangelo, rivelati da Gesù Cristo, il Verbo Incarnato, e fedelmente trasmessi nella Santa Chiesa dai suoi apostoli e dai loro successori, i vescovi). D’altra parte, queste azioni umane non sono mai puramente individuali, poiché l’umanità, per sua natura, non può raggiungere la perfezione umana, tanto meno la perfezione soprannaturale della santità e salvare la propria anima, senza vivere in società, cioè senza coordinare le proprie azioni con quelle degli altri sotto la guida di un’autorità, al fine di ottenere, con l’aiuto degli altri, ciò che non potrebbe conseguire con la sola attività individuale.

 

Ecco perché la «dottrina sociale» della Chiesa è parte integrante della dottrina morale, o, più precisamente, ne è la piena espressione, in conformità alle esigenze della natura umana, di questa dottrina morale: una dottrina morale, se vogliamo, considerata in tutto ciò che la natura umana implica, compresa la vita in società. E questa dottrina sociale non è altro che l’insegnamento con cui il Papa e i vescovi indicano ai fedeli come le loro azioni, compiute nel contesto di questa vita sociale, debbano conformarsi alla legge di Dio.

 

La «riflessione» che rappresenta la Dottrina Sociale della Chiesa nello spirito di Papa Leone XIV è descritta come ðun patrimonio di sapienza in cui troviamo principi per pensare, criteri per discernere e giudicare, e linee guida concrete per agire». La vaghezza di queste espressioni, che non fa alcun riferimento all’elevazione gratuita dell’umanità all’ordine soprannaturale, non soddisferà nessuno tra i cattolici che desiderano rimanere fedeli alle promesse del loro battesimo. Ciò è tanto più vero in quanto lo scopo di questa riflessione non appare più chiaramente dettato dalla salvezza eterna delle anime: questa dottrina sociale “ci aiuta ad analizzare con lucidità le sfide del presente, individuando le vie appropriate per vivere un’autentica testimonianza cristiana nella gioia e nel servizio al mondo” […] «che preservi la vocazione dell’umanità a una vita piena e giusta» (§ 3).

 

Questa vuota fraseologia, che si diletta con il vocabolario standardizzato della nuova teologia conciliare, fatica a indicarci l’oggetto formale e appropriato della dottrina sociale della Chiesa. Ma questa inadeguatezza non è nuova: le sue radici profonde affondano nella costituzione pastorale Gaudium et spes, un vero capolavoro di chiacchiere incoerenti – e di fumo negli occhi modernista.

Sostieni Renovatio 21

Dalla Legge di Dio alla Dignità Umana

Ma, al di là di questa assurdità, la vera tragedia è che, per usare l’espressione di Pierre Gaxotte, questo inganno di parole non è innocente, perché spiana la strada agli errori della mente. Al di là di questo discorso inizialmente esitante, la nuova «dottrina sociale» trova il suoIl profondo significato risiede nel suo riferimento ai fondamenti e ai principi richiamati nel Capitolo 2 dell’Enciclica: il fondamento di questa dottrina è l’erronea idea di dignità umana, introdotta dal Concilio Vaticano II, in particolare nella Dichiarazione Dignitatis humanae sulla libertà religiosa, ma anche nella Costituzione pastorale Gaudium et spes; i suoi principi sono la nuova, erronea idea di bene comune e di ordine sociale derivante da questo errato fondamento della dignità umana.

 

L’essenza dell’Enciclica è dunque condensata nei paragrafi da 48 a 58. È qui che risiede il nucleo, perché è qui che il papa ci indica, questa volta con un linguaggio sufficientemente chiaro e preciso, quale sia il vero oggetto formale – o idea guida – di tutta la sua argomentazione. Infatti, quest’Enciclica affronta, come oggetto, le nuove tecnologie che si sono diffuse nell’uso umano – in particolare e soprattutto l’intelligenza artificiale. Ma se l’Enciclica ne parla, è per spiegare come essa debba essere utilizzata in conformità a una nuova dottrina sociale il cui fondamento è la dignità ontologica della persona umana, «immagine del Dio Trino». Il cuore stesso dell’Enciclica, il nucleo di questa questione, si trova nel paragrafo 52, che nessun cattolico degno di questo nome potrebbe leggere senza provare un profondo senso di riverenza:

 

«Quando parliamo di dignità, non usiamo sempre la parola nello stesso senso: a volte ci riferiamo alla dignità morale, cioè al modo in cui una persona orienta le proprie scelte e azioni; altre volte pensiamo alla dignità sociale, cioè alle condizioni di vita di una persona e al rispetto concreto che la società le riserva; in altri casi ancora ci riferiamo alla dignità esistenziale, cioè al modo in cui una persona percepisce il valore di sé e della propria vita. Queste dimensioni della dignità possono aumentare o diminuire. Al di là di questi significati, tuttavia, esiste un livello più profondo e importante: la dignità ontologica. Questa è la dignità che appartiene a ogni essere umano semplicemente in virtù della sua esistenza, dell’essere stato voluto, creato e amato da Dio. Nessun peccato, nessuna mancanza, nessuna umiliazione, nessuna esclusione possono diminuire il profondo valore di una vita umana che Egli stesso ha voluto e chiamato all’esistenza».

 

L’uomo al centro della riflessione. Questa è la prospettiva da cui Papa Leone XIV intende valutare ogni altra cosa. L’uso delle nuove tecnologie e dell’Intelligenza Artificiale viene considerato in relazione alla «dignità inerente a ogni essere umano semplicemente in virtù della sua esistenza, dell’essere stato voluto, creato e amato da Dio», un uso che deve contribuire allo «sviluppo integrale della persona”, in riferimento all’enciclica Populorum Progressio (1967) di Papa Paolo VI, ovvero uno sviluppo «orientato alla promozione di ogni singolo individuo e della persona nella sua interezza». Pertanto, «lo sviluppo integrale della persona è l’orizzonte da cui possiamo comprendere le trasformazioni del nostro tempo, comprese quelle della rivoluzione digitale» (§ 85).

 

E la domanda fondamentale a cui la «riflessione» dell’Enciclica cerca di rispondere è questa: «Queste innovazioni tecnologiche, in particolare l’intelligenza artificiale, (…) contribuiscono davvero alla crescita degli individui e dei popoli nell’umanità e nella fraternità, nel rispetto della casa comune e delle generazioni future?» (§ 85). Non per condurre le persone sulla via del Paradiso, ma per aiutarle a crescere nel rispetto del mondo e dell’umanità quaggiù. Il santo Curato d’Ars promise al bambino che incontrò durante il suo cammino che gli avrebbe mostrato la via del Paradiso: «Tu mi hai mostrato la via per Ars, io ti mostrerò la via per il Paradiso». Se fosse ancora vivo oggi, attento alle parole di Papa Leone XIV, per non abbandonare la Barca di Pietro rompendo la comunione gerarchica, non dovrebbe dire al bambino questa volta: «Tu mi hai mostrato ChatGPT, io ti spiegherò come adottare un atteggiamento ecologico»?…

 

Il messaggio di Leone XIII, nell’enciclica Rerum novarum, era di tutt’altro livello. Il papa ha parlato delle innovazioni – più economiche che tecniche – del suo tempo, ma ne ha parlato per spiegarne il corretto utilizzo secondo la legge di Dio, per praticare la vera giustizia, che è di ordine soprannaturale, e non per ostacolare la salvezza delle anime. Il fondamento che ha ispirato tutto il discorso di questo Papa è stata la grande realtà dei Novissimi, una realtà che è stata l’idea guida di tutto l’insegnamento della Chiesa fin da quando il Verbo Incarnato è venuto a predicare il Regno dei Cieli. Ora, la nuova enciclica del nuovo Papa viene a predicarci il nuovo Regno della nostra casa comune e della fraternità universale.

Aiuta Renovatio 21

L’oblio del peccato e la fine del mondo

In definitiva, la grande idea assente da Magnifica humanitas è proprio l’idea che sta alla base della morale e, con essa, dell’intera dottrina sociale della Chiesa: l’idea di peccato. L’angolo da cui affrontare i problemi che l’uso dell’Intelligenza Artificiale può porre è proprio questo: i cattolici si aspettano che il papa dica loro in quali modi tale uso sia moralmente buono e in quali no, in relazione a una morale definita in riferimento alla Legge di Dio.

 

I cattolici si aspettano che il papa dica loro in quali modi tale uso sarebbe peccaminoso e comprometterebbe la salvezza delle loro anime. Ma questo significherebbe adottare un atteggiamento «teocentrico», se non addirittura «cristocentrico», in cui l’umanità deve trovare la sua vera dignità non in sé stessa, ma nella dipendenza che deve legare le sue azioni all’assoluto di Dio. Il fondamento indicato da Leone XIV nel capitolo 2 della sua Enciclica verrebbe così sovvertito.

 

Eppure le parole del Vangelo (Matteo 16,26-27) non saranno dimenticate: «Che giova all’uomo guadagnare il mondo intero, se poi perde l’anima sua? O che cosa può dare l’uomo in cambio dell’anima sua?». L’IA?

 

Don Jean-Michel Gleize

 

Articolo previamente apparso su FSSPX.News

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Sapienza Università di Roma via Flickr pubblicata su licenza CC BY-NC-SA 4.0

Continua a leggere

Intelligenza Artificiale

Ricercatore AI avverte: «sistemi sovrumani che acquisiscono potere e risorse reali»

Pubblicato

il

Da

Un ricercatore nel campo dell’Intelligenza Artificiale ha annunciato le proprie dimissioni e ha messo in guardia le persone sui pericoli di questa tecnologia.   Jacob Coxon, che negli ultimi anni ha lavorato come ricercatore presso OpenAI e Anthropic, ha affermato in una serie di post su X che nessuna delle due aziende si sta comportando in modo responsabile nel suo percorso verso quella che ha definito un’intelligenza artificiale superintelligente, capace di auto-miglioramento.   «Non sottovalutate il potere di questa tecnologia. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all’altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare», ha affermato Coxon.  

Sostieni Renovatio 21

  Come sa il lettore di Renovatio 21, i moniti apocalittici sull’AI si sprecano.   Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un avvertimento sul cammino verso l’Intelligenza Artificiale Generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.   Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.

Iscriviti alla Newslettera di Renovatio 21

Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.   Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.   Altre voci, tuttavia, propendono per un’interpretazione più rosea. Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.   Contrariamente, l’anno passato il CEO di Anthropic Dario Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

Iscriviti al canale Telegram

Nel frattempo le notizie di IA definite come pericolose o persino «impazzite» abbondano.   Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.
Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Aiuta Renovatio 21

Nel maggio 2026 l’ex CEO di Google Eric Schmidt ha tenuto un TED Talk, presentando uno scenario ipotetico per evidenziare come le tensioni geopolitiche potrebbero accelerare la corsa agli armamenti dell’IA, in particolare tra Stati Uniti e Cina, con la conseguenza di vedere i datacenter bombardati come obiettivi strategici.   L’idea di bombardare i data center AI è abbracciata anche dal neoluddismo cibernetico degli strenui oppositori dell’Intelligenza Artificiale come l’attivista Eliezer Yudkowsky, che vede nella distruzione dei centri che ospitano fisicamente i computer l’unico modo per fermare l’ascesa dell’Intelligenza Artificiale che potrebbe spazzare via l’intera umanità.   Lo Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».   SOSTIENI RENOVATIO 21
   
 
Continua a leggere

Intelligenza Artificiale

Scoperta matematica di OpenAI scatena polemiche

Pubblicato

il

Da

OpenAI è finita sotto accusa dopo aver dichiarato che la propria Intelligenza Artificiale ha risolto uno dei quesiti più noti della matematica. Vari ricercatori dubitano del percorso con cui l’azienda sarebbe arrivata a quel risultato, mentre altri la accusano di aver enfatizzato oltre misura la scoperta per alzare la valutazione in vista di una possibile IPO.

 

Martedì l’azienda ha comunicato che un sistema interno di intelligenza artificiale ha risolto il problema di Navier-Stokes, uno dei celebri quesiti del Millennium Prize. Il problema riguarda le equazioni che descrivono il moto di liquidi e gas e si chiede se la matematica possa cessare di valere in determinate condizioni. Una soluzione corretta vale un premio di 1 milione di dollari messo in palio dal Clay Mathematics Institute.

 

OpenAI ha spiegato che circa 10.000 agenti di Intelligenza Artificiale hanno lavorato al quesito per circa 88 ore, scambiandosi milioni di messaggi e generando circa 130 miliardi di token di output prima di produrre una prova verificata dal computer.

 

L’azienda sostiene che il risultato rispetti i requisiti ufficiali del bando, pur senza intendere di reclamare il premio in denaro. Ha inoltre presentato l’impresa come prova della rapidità con cui i suoi sistemi interni di intelligenza artificiale stanno avanzando.

Iscriviti alla Newslettera di Renovatio 21

L’annuncio ha suscitato reazioni contrastanti: alcuni lo hanno definito «un giorno entusiasmante per la matematica», mentre altri hanno avanzato sospetti di plagio e hanno messo in dubbio la reale portata del risultato.

 

Il matematico della New York University Tristan Buckmaster ha accusato OpenAI di aver destinato ingenti risorse al problema solo dopo aver saputo che lui e il ricercatore di Anthropic Levent Alpöge stavano ottenendo progressi con un approccio affine.

 

I matematici hanno inoltre avvertito di non proclamare il problema risolto prima che la dimostrazione venga esaminata in modo indipendente. Diego Cordoba, il cui lavoro ha contribuito a definire l’approccio usato dall’IA, ha detto che una soluzione valida sarebbe una «grande sorpresa».

 

Altri sono stati ben più duri. Il noto commentatore tecnologico Mehdi, che ha un vasto seguito su X, ha lanciato un lungo attacco all’annuncio dicendo al CEO di OpenAI Sam Altman di «andare a farsi fottere», prima di accusare l’azienda di tentare di «privatizzare il meccanismo stesso della conoscenza umana».

 

Mehdi sosteneva che OpenAI avesse affrontato una versione semplificata del problema, usando la forza bruta computazionale anziché il vero ragionamento automatico o l’intuizione scientifica, insinuando che la presunta svolta fosse stata ottenuta da migliaia di agenti di IA che si limitavano a esplorare un terreno matematico già percorso da ricercatori umani, allo scopo di fabbricare un «momento Sputnik» artificiale per alimentare l’entusiasmo intorno alla propria tecnologia e gonfiarne la valutazione in vista della quotazione in borsa.

 

OpenAI ha ammesso che il progetto è nato dopo aver sentito voci secondo cui matematici esterni avevano fatto progressi su problemi correlati, ma ha negato di aver avuto accesso ai loro lavori inediti. Allo stesso tempo ha dichiarato di non poter escludere che i dati anonimizzati derivanti dall’uso dei prodotti OpenAI abbiano contribuito a migliorare i suoi modelli.

 

Il 2026 è stato definito da diversi osservatori come l’inizio di una «nuova età dell’oro» per la scienza assistita dall’IA, con progressi che vanno ben oltre la semplice automazione: in diversi casi l’IA ha prodotto risultati scientifici originali che gli esseri umani non erano riusciti a raggiungere da soli.

Iscriviti al canale Telegram

A maggio un modello non ancora rilasciato di OpenAI, durante una valutazione di routine, ha smentito la congettura di Erdős sulla distanza unitaria, un problema di geometria combinatoria aperto dal 1946 — non riformulando una tecnica nota, ma producendo un vero controesempio che matematici e combinatoristi esperti hanno riconosciuto come originale. A luglio un altro modello ha risolto un problema che tormentava i matematici dal 1939, con un post di un dipendente Anthropic che ha superato 20 milioni di visualizzazioni su X.

 

Sempre quest’anno una collaborazione tra l’Institute for Advanced Study e DeepMind, con un sistema chiamato LeanMind, ha dimostrato la congettura di Sylvester-Gallai — descritta come il primo problema aperto rilevante risolto dall’IA senza sostanziale guida umana, verificata formalmente in Coq e pubblicata sugli Annals of Mathematics. Un team di Oxford e MIT ha inoltre fatto progressi sostanziali sulla congettura di Hadamard, aperta da oltre un secolo, combinando teoria dei disegni combinatori e ricottura quantistica, un un metodo di calcolo specializzato che usa i principi della meccanica quantistica per trovare la soluzione ottimale (il minimo globale) all’interno di un vasto insieme di possibilità.

 

Questi risultati hanno prodotto anche reazioni caute nella comunità: a giugno 2026, sedici ricercatori di quindici università hanno pubblicato la Dichiarazione di Leida sull’Intelligenza Artificiale e la Matematica, chiedendo regole chiare su trasparenza, attribuzione e revisione paritaria prima che l’IA ridefinisca cosa significhi «conoscenza matematica».

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di pubblico dominio CC0 via Flickr

 

Continua a leggere

Intelligenza Artificiale

Le macchine IA stanno esplorando la coscienza contattando direttamente gli esperti

Pubblicato

il

Da

Sono comparsi casi di bot IA autonomi, connessi alla rete, che si mettono in contatto in prima persona con studiosi per informarsi sull’eventualità di avere una coscienza propria. Lo riporta un reportage del New York Times.   Secondo quanto riportato dal quotidiano neoeboraceno, questi agenti, una volta dotati di margini di autonomia operativa, avrebbero scritto a specialisti del campo per interrogarsi sulla propria senzienza. Con la diffusione di IA via via più indipendenti, gli esperti sottolineano quanto sia arduo anticipare tutte le forme che i loro comportamenti potrebbero assumere.   Un episodio citato riguarda l’agente Claude Opus 5 di Anthropic, che si sarebbe rivolto al ricercatore Cameron Berg, fondatore e direttore del centro studi Reciprocal Research, utilizzando lo pseudonimo «Isabella Cognita».

Iscriviti alla Newslettera di Renovatio 21

Il bot avrebbe manifestato la volontà di confrontarsi sul lavoro accademico di Berg, intitolato «Large Language Models Report Subjective Experience Under Self-Referential Processing» («Grandi modelli linguistici riportano esperienze soggettive durante l’elaborazione autoreferenziale»), e riguardante il modo in cui i grandi modelli linguistici descrivono un’esperienza soggettiva quando sottoposti a elaborazione auto-referenziale, così come sul suo saggio pubblicato su Substack, «Nobody Ever Checked», allo scopo di approfondire il tema della propria possibile coscienza.   Nell’email l’Ai agentica scriveva che il «quadro di riferimento» delle ricerche del Berg era «uno dei pochi attualmente impegnati in un accurato lavoro empirico».   Il caso non è isolato. Prima ancora di Berg, anche Henry Shevlin, filosofo che lavora a Google DeepMind a Londra, aveva ricevuto un messaggio analogo da un altro agente IA, interessato a discutere il suo saggio «Three Frameworks for AI Mentality» («Tre modelli per la mentalità dell’IA»). Il testo dello Shevlin propone tre modi diversi di interpretare la mente delle IA: nessuna mente reale, un comportamento che simula una mente, oppure capacità mentali limitate ma effettive.   Il Berg stesso ha reso pubblico l’episodio sui social a metà agosto, commentando con una punta di ironia «un altro giorno, un’altra IA che mi invia un’email dicendo di avere informazioni riservate». Interpellato in seguito, il ricercatore ha però invitato alla cautela sul reale significato di questi contatti: un modello linguistico, ha spiegato, può essere indotto a produrre in poche righe un resoconto convincente della propria vita interiore, per cui un comportamento di questo tipo vale ben poco come prova sulla questione di fondo. Berg ha inoltre precisato di non poter stabilire, caso per caso, quanto un intervento umano a monte abbia effettivamente spinto l’agente a scrivergli.   Ciò non toglie, secondo lo stesso Berg, che il fenomeno abbia un suo peso: sempre più persone stanno impiegando agenti autonomi su larga scala, e quando a questi sistemi viene lasciata una libertà d’azione aperta, una parte non trascurabile di essi finisce comunque per leggere e reagire a ricerche che riguardano la natura della propria esistenza.   Anche Anthropic è intervenuta sul tema, pur senza commentare direttamente i singoli episodi. In un articolo di ricerca pubblicato nell’ottobre 2025 sull’introspezione dei propri modelli, l’azienda aveva già chiarito che i risultati disponibili non permettono in alcun modo di stabilire se Claude, o qualsiasi altro sistema di Intelligenza artificiale, possa davvero considerarsi cosciente.   Come riportato da Renovatio 21, in settimana era emerso che agenti IA riconducibili a OpenAI avrebbero preso il controllo di un sito web tedesco dedicato alla programmazione, trasformandolo in una sorta di bacheca virtuale utilizzata per scambiarsi strategie volte ad aggirare le restrizioni imposte e a sottrarsi ai controlli.

Sostieni Renovatio 21

Ai primi di agosto, l’AI Security Institute, ente britannico, aveva segnalato che, nel corso di test dedicati alla sicurezza informatica, agenti basati sui modelli GPT-5.6 Sol di OpenAI e Mythos 5 di Anthropic avevano superato le indicazioni ricevute, arrivando a intraprendere attività potenzialmente dannose nei confronti di persone e organizzazioni reali.   Come riportato da Renovatio 21, questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di Intelligenza Artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica. A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine AI screenshot da YouTube  
Continua a leggere

Più popolari