L’enciclica sull’IA è stata scritta con l’IA?

Un ricercatore indipendente ha sostenuto che alcune parti della recente enciclica di Papa Leone XIV sull’Intelligenza Artificiale sarebbero state redatte, in linea con il tema del documento, da un’IA. Lo riporta LifeSite.

Linch Zhang, in un articolo pubblicato martedì su Substack, ha affermato che il rilevatore di Intelligenza Artificiale Pangram ha segnalato alcune sezioni dell’enciclica di Papa Leone XIV Magnifica Humanitas, «Sulla salvaguardia della persona umana nell’era dell’intelligenza artificiale», come generate da IA.

«Pangram è di gran lunga il miglior rilevatore di IA disponibile in commercio», ha affermato Zhang. «È molto superiore agli altri rilevatori di IA, al punto che questi ultimi risultano quasi inutili al confronto. In particolare, Pangram si impegna al massimo per ottenere un tasso di falsi positivi prossimo allo zero, tollerando al contempo un numero maggiore di falsi negativi», ha spiegato. il Zhang

Secondo Zhang, Pangram ha rilevato che «alcuni paragrafi» di Magnifica Humanitas sono generati dall’intelligenza artificiale in una percentuale compresa tra il 40% e il 100%, mentre la maggior parte dei paragrafi risulta scritta da esseri umani. Ad esempio, i paragrafi sette e otto sono stati indicati da Pangram come «interamente generati dall’IA», mentre i paragrafi 122 e 123 sono stati registrati come generati dall’IA al 60%.

«Questo mi fa pensare che alcuni alti funzionari vaticani che hanno contribuito all’enciclica abbiano fatto ampio uso dell’intelligenza artificiale, mentre la maggior parte (probabilmente incluso lo stesso Papa Leone) non l’abbia fatto», ha commentato il Zhango. Infatti, ha ipotizzato che Leone non approvi l’uso dell’IA nelle encicliche «e che, con ogni probabilità, non fosse nemmeno a conoscenza del significativo utilizzo dell’IA nella sua stessa enciclica!».

A titolo di confronto, Zhang ha utilizzato Pangram per analizzare le ultime quattro encicliche papali, tutte scritte da Papa Francesco. Ha scoperto che «i primi 20 paragrafi di ciascuna di esse risultano essere al 100% opera umana, con un alto grado di certezza». Anche le encicliche di Papa Benedetto XVI e Papa Giovanni Paolo II sono risultate interamente composte da esseri umani.

Inoltre, ha esaminato con Pangram il recente discorso di Papa Leone in cui annunciava l’enciclica sull’IA e ha scoperto che era stato valutato come scritto «al 100%» da esseri umani. «Questa è la prova che Papa Leone stesso e/o il suo principale autore di discorsi non si avvalgono dell’IA per redigere i suoi discorsi», ha continuto il Zhang, dichiarando di leggere regolarmente testi generati dall’IA nell’ambito del suo lavoro e che la sua familiarità con la scrittura dell’IA, in particolare con il modello Claude, lo ha reso sensibile ai suoi segni distintivi.

Il ricercatore ha notato che questi includono la frequenza dei trattini lunghi, l’uso frequente della parola «genuinely», spesso utilizzata dal modello Claude, nonché l’uso denso di «tricloni», ovvero «una serie di tre parole, frasi o proposizioni parallele utilizzate per effetto retorico».

Il ricercatore ha sottolineato che questi indicatori possono essere parte di peculiarità stilistiche, evidenziando l’importanza di un’analisi olistica, in particolare quella fornita da un rilevatore di qualità basato sull’intelligenza artificiale come Pangram.

Zhang ritiene di aver individuato la «voce» del modello di IA Claude nella recente enciclica sulla «salvaguardia della persona umana nell’era dell’Intelligenza Artificiale», un aspetto che ha trovato «ironico».

Zhang è il fondatore di Open Asteroid Impact, una startup satirica e fittizia «dedicata a lanciare intenzionalmente asteroidi verso la Terra per ottenere diritti minerari». Con l’intento di parodiare Open AI, la missione immaginaria della «startup» è quella di scagliare asteroidi verso la Terra «per ottenere diritti minerari» in nome della sicurezza, «sostenendo che se non acceleriamo il più velocemente possibile, altri concorrenti, più pericolosi, lo farebbero prima di noi».

Molte personalità hanno avanzato una versione di questa argomentazione a sostegno dello sviluppo dell’IA negli Stati Uniti, come Sam Altman, il quale ha affermato che gli Stati Uniti «devono assolutamente vincere» la corsa all’IA. Il vicepresidente JD Vance ha dichiarato al vertice sull’IA di Parigi dello scorso anno: «Non sono qui per parlare di sicurezza dell’IA… sono qui per parlare delle opportunità offerte dall’IA» aveva detto, aggiungendo di credere che, quando si tratta di IA, «la nostra tendenza sia quella di essere eccessivamente avversi al rischio».

«Riteniamo che un’eccessiva regolamentazione nel settore dell’IA potrebbe soffocare un settore in rapida trasformazione proprio nel momento in cui sta decollando», aveva affermato Vance all’epoca. Ora che gli americani sono sempre più preoccupati per i pericoli posti dall’AI, come la minaccia all’occupazione, allo sviluppo intellettuale e alla salute mentale, l’amministrazione Trump starebbe valutando la possibilità di creare un gruppo di supervisione sull’IA.

Come riportato da Renovatio 21, Leone ha presentato la sua prima enciclica, dedicata all’Intelligenza Artificiale, assieme al cofondatore del colosso dell’AI Anthropic Chrish Olah, che il pontefice ha ringraziato. Anthropic è entratata in collisione con il Pentagono e l’amministrazione Trump per l’uso militare della sua AI. Il CEO di Anthropic Dario Amodei ha inoltre varie volte preconizzato la distruzione sistematica di enormi percentuali di posti di lavoro remunerativi una volta che l’IA sarà via via introdotta sul mercato.

Secondo quanto riportato dalla stampa, Claude, un’IA di Anthropic, sarebbe stata utilizzata nell’operazione di rapimento del presidente venezuelano Nicolas Maduro. È giunta inoltre sui giornali la storia di scienziato informatico di Anthropic, specializzato in sicurezza AI per le armi biologiche, il quale si è dimesso per darsi ad una vita bucolico-contemplativa sostenendo che «il mondo è in pericolo».

L’azienda quest’anno ha annunziato di possedere un’AI, Mythos, che sarebbe in grado di «bucare» quantità immani di sistemi informatici, mettendo la sicurezza di tutta l’umanità a rischio. Anthropic ha quindi dichiarato di non voler ancora rilasciare tale IA nel mondo, temendo rischi esiziali.

Anthropic è stata fondata nel 2021 da Dario e Daniela Amodei insieme ad altri ricercatori usciti da OpenAI. La motivazione principale era la convinzione che i modelli di intelligenza artificiale stessero diventando troppo potenti per essere sviluppati solo secondo logiche di competizione, velocità e vantaggio strategico.

Come riassume Wired, l’azienda ha costruito la propria identità pubblica intorno al concetto di AI safety: non solo modelli potenti, ma controllabili, interpretabili e orientati a principi etici. Il progetto più rappresentativo in questo senso è la Constitutional AI, che consiste nell’addestrare i sistemi attraverso una sorta di “costituzione” fatta di principi e regole di comportamento, anziché limitarsi a correggere manualmente le risposte più pericolose.

La presenza di un rappresentante di Anthropic accanto a Papa Leone XIV non è casuale, ma il risultato di un percorso ragionato del Vaticano, che da semplice osservatore morale della tecnologia si è trasformato in interlocutore diretto dell’industria dell’IA Questo percorso è iniziato nel 2020 con la Rome Call for AI Ethics e si è rafforzato con l’esplosione dell’AI generativa. Il Vaticano ha compreso che la questione non riguarda più solo l’etica tecnologica, ma il futuro stesso dell’organizzazione sociale, politica e dell’umanità.

In questo contesto, Anthropic rappresenta un interlocutore privilegiato perché ha fatto della sicurezza e dell’allineamento dell’AI una missione identitaria, come suggerisce anche il suo stesso nome («Anthropic», cioè legato all’umano). Un ruolo particolarmente significativo è quello di Christopher Olah, ricercatore dell’azienda specializzato nell’interpretabilità dei modelli, ovvero nel rendere le reti neurali comprensibili agli esseri umani. Il suo approccio si sposa perfettamente con le preoccupazioni espresse nell’enciclica papale riguardo al rischio di tecnologie troppo potenti per essere comprese e governate.

Il punto di incontro tra il Vaticano e Anthropic sta nella convinzione condivisa che la tecnica non è neutrale e che gli algoritmi incorporano inevitabilmente una visione del mondo. Entrambe le realtà temono che i sistemi di AI vengano plasmati unicamente da incentivi economici, geopolitici e competitivi, senza una vera riflessione antropologica ed etica. Per questo Anthropic, con la Constitutional AI, cerca di inserire esplicitamente valori e principi all’interno del comportamento dei modelli.

Secondo alcuni, tra cui Elon Musk e il suo ex collega a Paypal, ora consigliere per l’AI alla Casa Bianca David Sacks, Anthropic grida al lupo per poi capitalizzare sulla risposta. Non è facile capire di fatto come la società che crea un’arma cibernetica assoluta come Mythos poi si metta a parlare di etica e si piazzi a fianco al papa in Vaticano.

SOSTIENI RENOVATIO 21