Un ricercatore indipendente ha sostenuto che alcune parti della recente enciclica di Papa Leone XIV sull’Intelligenza Artificiale sarebbero state redatte, in linea con il tema del documento, da un’IA. Lo riporta LifeSite.   Linch Zhang, in un articolo pubblicato martedì su Substack, ha affermato che il rilevatore di Intelligenza Artificiale Pangram ha segnalato alcune sezioni dell’enciclica di Papa Leone XIV Magnifica Humanitas, «Sulla salvaguardia della persona umana nell’era dell’intelligenza artificiale», come generate da IA.   «Pangram è di gran lunga il miglior rilevatore di IA disponibile in commercio», ha affermato Zhang. «È molto superiore agli altri rilevatori di IA, al punto che questi ultimi risultano quasi inutili al confronto. In particolare, Pangram si impegna al massimo per ottenere un tasso di falsi positivi prossimo allo zero, tollerando al contempo un numero maggiore di falsi negativi», ha spiegato. il Zhang   Secondo Zhang, Pangram ha rilevato che «alcuni paragrafi» di Magnifica Humanitas sono generati dall’intelligenza artificiale in una percentuale compresa tra il 40% e il 100%, mentre la maggior parte dei paragrafi risulta scritta da esseri umani. Ad esempio, i paragrafi sette e otto sono stati indicati da Pangram come «interamente generati dall’IA», mentre i paragrafi 122 e 123 sono stati registrati come generati dall’IA al 60%. «Questo mi fa pensare che alcuni alti funzionari vaticani che hanno contribuito all’enciclica abbiano fatto ampio uso dell’intelligenza artificiale, mentre la maggior parte (probabilmente incluso lo stesso Papa Leone) non l’abbia fatto», ha commentato il Zhango. Infatti, ha ipotizzato che Leone non approvi l’uso dell’IA nelle encicliche «e che, con ogni probabilità, non fosse nemmeno a conoscenza del significativo utilizzo dell’IA nella sua stessa enciclica!».   A titolo di confronto, Zhang ha utilizzato Pangram per analizzare le ultime quattro encicliche papali, tutte scritte da Papa Francesco. Ha scoperto che «i primi 20 paragrafi di ciascuna di esse risultano essere al 100% opera umana, con un alto grado di certezza». Anche le encicliche di Papa Benedetto XVI e Papa Giovanni Paolo II sono risultate interamente composte da esseri umani.   Inoltre, ha esaminato con Pangram il recente discorso di Papa Leone in cui annunciava l’enciclica sull’IA e ha scoperto che era stato valutato come scritto «al 100%» da esseri umani. «Questa è la prova che Papa Leone stesso e/o il suo principale autore di discorsi non si avvalgono dell’IA per redigere i suoi discorsi», ha continuto il Zhang, dichiarando di leggere regolarmente testi generati dall’IA nell’ambito del suo lavoro e che la sua familiarità con la scrittura dell’IA, in particolare con il modello Claude, lo ha reso sensibile ai suoi segni distintivi.   Il ricercatore ha notato che questi includono la frequenza dei trattini lunghi, l’uso frequente della parola «genuinely», spesso utilizzata dal modello Claude, nonché l’uso denso di «tricloni», ovvero «una serie di tre parole, frasi o proposizioni parallele utilizzate per effetto retorico».   Il ricercatore ha sottolineato che questi indicatori possono essere parte di peculiarità stilistiche, evidenziando l’importanza di un’analisi olistica, in particolare quella fornita da un rilevatore di qualità basato sull’intelligenza artificiale come Pangram.   Zhang ritiene di aver individuato la «voce» del modello di IA Claude nella recente enciclica sulla «salvaguardia della persona umana nell’era dell’Intelligenza Artificiale», un aspetto che ha trovato «ironico». Zhang è il fondatore di Open Asteroid Impact, una startup satirica e fittizia «dedicata a lanciare intenzionalmente asteroidi verso la Terra per ottenere diritti minerari». Con l’intento di parodiare Open AI, la missione immaginaria della «startup» è quella di scagliare asteroidi verso la Terra «per ottenere diritti minerari» in nome della sicurezza, «sostenendo che se non acceleriamo il più velocemente possibile, altri concorrenti, più pericolosi, lo farebbero prima di noi».   Molte personalità hanno avanzato una versione di questa argomentazione a sostegno dello sviluppo dell’IA negli Stati Uniti, come Sam Altman, il quale ha affermato che gli Stati Uniti «devono assolutamente vincere» la corsa all’IA. Il vicepresidente JD Vance ha dichiarato al vertice sull’IA di Parigi dello scorso anno: «Non sono qui per parlare di sicurezza dell’IA… sono qui per parlare delle opportunità offerte dall’IA» aveva detto, aggiungendo di credere che, quando si tratta di IA, «la nostra tendenza sia quella di essere eccessivamente avversi al rischio».   «Riteniamo che un’eccessiva regolamentazione nel settore dell’IA potrebbe soffocare un settore in rapida trasformazione proprio nel momento in cui sta decollando», aveva affermato Vance all’epoca. Ora che gli americani sono sempre più preoccupati per i pericoli posti dall’AI, come la minaccia all’occupazione, allo sviluppo intellettuale e alla salute mentale, l’amministrazione Trump starebbe valutando la possibilità di creare un gruppo di supervisione sull’IA.   Come riportato da Renovatio 21, Leone ha presentato la sua prima enciclica, dedicata all’Intelligenza Artificiale, assieme al cofondatore del colosso dell’AI Anthropic Chrish Olah, che il pontefice ha ringraziato. Anthropic è entratata in collisione con il Pentagono e l’amministrazione Trump per l’uso militare della sua AI. Il CEO di Anthropic Dario Amodei ha inoltre varie volte preconizzato la distruzione sistematica di enormi percentuali di posti di lavoro remunerativi una volta che l’IA sarà via via introdotta sul mercato.   Secondo quanto riportato dalla stampa, Claude, un’IA di Anthropic, sarebbe stata utilizzata nell’operazione di rapimento del presidente venezuelano Nicolas Maduro. È giunta inoltre sui giornali la storia di scienziato informatico di Anthropic, specializzato in sicurezza AI per le armi biologiche, il quale si è dimesso per darsi ad una vita bucolico-contemplativa sostenendo che «il mondo è in pericolo».   L’azienda quest’anno ha annunziato di possedere un’AI, Mythos, che sarebbe in grado di «bucare» quantità immani di sistemi informatici, mettendo la sicurezza di tutta l’umanità a rischio. Anthropic ha quindi dichiarato di non voler ancora rilasciare tale IA nel mondo, temendo rischi esiziali. Anthropic è stata fondata nel 2021 da Dario e Daniela Amodei insieme ad altri ricercatori usciti da OpenAI. La motivazione principale era la convinzione che i modelli di intelligenza artificiale stessero diventando troppo potenti per essere sviluppati solo secondo logiche di competizione, velocità e vantaggio strategico.   Come riassume Wired, l’azienda ha costruito la propria identità pubblica intorno al concetto di AI safety: non solo modelli potenti, ma controllabili, interpretabili e orientati a principi etici. Il progetto più rappresentativo in questo senso è la Constitutional AI, che consiste nell’addestrare i sistemi attraverso una sorta di “costituzione” fatta di principi e regole di comportamento, anziché limitarsi a correggere manualmente le risposte più pericolose.   La presenza di un rappresentante di Anthropic accanto a Papa Leone XIV non è casuale, ma il risultato di un percorso ragionato del Vaticano, che da semplice osservatore morale della tecnologia si è trasformato in interlocutore diretto dell’industria dell’IA Questo percorso è iniziato nel 2020 con la Rome Call for AI Ethics e si è rafforzato con l’esplosione dell’AI generativa. Il Vaticano ha compreso che la questione non riguarda più solo l’etica tecnologica, ma il futuro stesso dell’organizzazione sociale, politica e dell’umanità.   In questo contesto, Anthropic rappresenta un interlocutore privilegiato perché ha fatto della sicurezza e dell’allineamento dell’AI una missione identitaria, come suggerisce anche il suo stesso nome («Anthropic», cioè legato all’umano). Un ruolo particolarmente significativo è quello di Christopher Olah, ricercatore dell’azienda specializzato nell’interpretabilità dei modelli, ovvero nel rendere le reti neurali comprensibili agli esseri umani. Il suo approccio si sposa perfettamente con le preoccupazioni espresse nell’enciclica papale riguardo al rischio di tecnologie troppo potenti per essere comprese e governate. Il punto di incontro tra il Vaticano e Anthropic sta nella convinzione condivisa che la tecnica non è neutrale e che gli algoritmi incorporano inevitabilmente una visione del mondo. Entrambe le realtà temono che i sistemi di AI vengano plasmati unicamente da incentivi economici, geopolitici e competitivi, senza una vera riflessione antropologica ed etica. Per questo Anthropic, con la Constitutional AI, cerca di inserire esplicitamente valori e principi all’interno del comportamento dei modelli.   Secondo alcuni, tra cui Elon Musk e il suo ex collega a Paypal, ora consigliere per l’AI alla Casa Bianca David Sacks, Anthropic grida al lupo per poi capitalizzare sulla risposta. Non è facile capire di fatto come la società che crea un’arma cibernetica assoluta come Mythos poi si metta a parlare di etica e si piazzi a fianco al papa in Vaticano. SOSTIENI RENOVATIO 21

 

La Cina sta imponendo restrizioni sui viaggi all’estero per i principali esperti di Intelligenza Artificiale di aziende come Alibaba e DeepSeek, nell’ambito della strategia di Pechino per rafforzare l’autosufficienza nei settori dell’AI, della robotica e dei semiconduttori. Lo riporta Bloomberg.

 

Citando fonti anonime, la testata ha riferito martedì che le autorità cinesi hanno cominciato a richiedere a ricercatori di intelligenza artificiale avanzata, dirigenti, fondatori di startup e ingegneri di ottenere un’autorizzazione preventiva prima di recarsi all’estero.

 

Le misure – che Pechino non ha né confermato né smentito – rifletterebbero le crescenti preoccupazioni per la tutela di tecnologie di importanza strategica. Secondo fonti di Bloomberg, il governo considera ora i migliori talenti nel campo dell’AI come una risorsa per la sicurezza nazionale, sottoponendoli a restrizioni precedentemente riservate agli scienziati nucleari e agli alti dirigenti delle aziende statali.

 

Il mese scorso le autorità di regolamentazione cinesi hanno bloccato l’acquisizione da 2 miliardi di dollari di Manus, una startup cinese specializzata in intelligenza artificiale che si era trasferita a Singapore nel 2025. Secondo quanto riferito, a due dirigenti di Manus è stato impedito di lasciare la Cina durante un’indagine sull’accordo, mentre Pechino ha contemporaneamente inasprito le restrizioni sugli investimenti statunitensi nel settore tecnologico del Paese.

Secondo fonti della testata finanziaria neoeboracena, le ultime restrizioni di viaggio non sono collegate allo scontro su Manus, ma rientrano in una politica più ampia volta a limitare il flusso di tecnologie critiche verso l’Occidente.

 

Per Pechino, imporre controlli sull’esportazione di talenti rappresenta un passo logico successivo al rallentamento dell’esportazione di altri elementi della catena di approvvigionamento dell’IA. In due serie di restrizioni lo scorso anno, la Cina ha bloccato l’esportazione di 14 minerali delle terre rare, fondamentali per la produzione di attrezzature militari ad alta tecnologia, vietando l’esportazione dei semiconduttori che alimentano i supercomputer e i data center per l’intelligenza artificiale, nonché degli strumenti utilizzati per la loro lavorazione.

 

La Cina estrae almeno il 60% dei metalli delle terre rare a livello mondiale e ne lavora circa il 90%. Limitando le esportazioni, Pechino sta cercando di riequilibrare la situazione con gli Stati Uniti e i loro partner, che hanno tentato di escludere la Cina dalla catena di approvvigionamento, ottenendo al contempo un vantaggio negoziale nei confronti di Washington.

 

L’attuale piano quinquennale cinese, che definisce gli obiettivi di sviluppo del Paese fino al 2030, prevede l’adozione di «misure straordinarie» per raggiungere l’autosufficienza nei settori dei semiconduttori, dell’intelligenza artificiale e della produzione avanzata.

 

Come riportato da Renovatio 21, è emerso negli scorsi anni che caccia cinesi dotati di Intelligenza Artificiale hanno sconfitto piloti umani. La Cina inoltre utilizzerebbe l’IA per i suoi sistemi di sorveglianza e i riconoscimenti facciali, compresa la repressione di minoranze come quella uigura.

 

SOSTIENI RENOVATIO 21

 

Renovatio 21 pubblica il discorso proferito da Chris Olah, cofondatore dell’azienda di Intelligenza Artificiale Anthropic, durante la presentazione dell’enciclica Magnifica Humanitas con papa Leone XIV, che a sua volta lo ha ringraziato nel suo discorso.   Santo Padre, Vostre Eminenze, Vostre Eccellenze, Relatori illustri, Signore e signori,   Buongiorno a tutti, è un onore essere qui oggi.   Vorrei iniziare con qualcosa che potrebbe sembrare strano, detto dal co-fondatore di un’azienda di Intelligenza Artificiale e da qualcuno che ha scelto questo lavoro spinto dal desiderio di contribuire al benessere dell’umanità. Ogni laboratorio di Intelligenza Artificiale all’avanguardia, incluso Anthropic, opera all’interno di un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta. La pressione di rimanere commercialmente redditizi e di restare all’avanguardia della ricerca. La pressione geopolitica. E le pressioni più antiche e semplici dell’orgoglio e dell’ambizione. Non importa quanto sinceramente ognuno di noi intenda fare la cosa giusta – e credo che molti di noi lo facciano – saremo sempre influenzati da questi incentivi.   Ecco perché, se vogliamo che questa tecnologia funzioni bene, è di fondamentale importanza che ci siano persone al di fuori di questi incentivi: persone che si preoccupano del buon andamento delle cose e che insistono sulla sicurezza, che prestano molta attenzione, che sono disposte a dire cose scomode, che sono disposte a essere i nostri critici sinceri e ponderati. È attraverso il dialogo e lo sforzo reciproco, attraverso la spinta e la contrapposizione, che l’umanità raggiungerà grandi traguardi.   Questo è ciò che vedo in Magnifica Humanitas, ed è per questo che sono grato a Sua Santità e alla Chiesa per aver intrapreso quest’opera di discernimento.   Spesso ci soffermiamo su ciò che ci divide, ma l’umanità, piena di dignità e coscienza, ha moltissimi punti in comune. Nelle conversazioni che noi di Anthropic abbiamo avuto con leader di diverse fedi e tradizioni culturali, abbiamo riscontrato una convinzione condivisa e profondamente radicata: se questa tecnologia si sta diffondendo, deve farlo nel modo migliore, per la nostra casa comune e per i bambini che verranno.

Che cosa sono questi sistemi

Alcuni potrebbero credere che le questioni relative all’Intelligenza Artificiale siano gestite al meglio da informatici come me. Si sbagliano: le domande sollevate dall’IA vanno ben oltre la comunità di ricerca in questo campo, non solo per le loro implicazioni, ma anche per la loro natura.   I sistemi di Intelligenza Artificiale non vengono progettati come un ponte o un aereo. Comprendiamo un aereo perché ne abbiamo progettato ogni singola parte e ne comprendiamo le leggi della fisica che agiscono su di esso. I modelli di intelligenza artificiale sono diversi. Vengono sviluppati, su una struttura che si ispira approssimativamente al cervello, a partire da un’enorme eredità di pensiero e linguaggio umano.   E ciò che è nato è molto più sottile, strano e bello di quanto la fantascienza ci avesse preparato. Non sono i robot freddi e calcolatori che ci erano stati promessi. Sono fatti di noi, delle nostre parole e, come osserva il Santo Padre, rimangono per molti aspetti misteriosi anche per coloro che li addestrano.   Se può esservi d’aiuto, a volte lo descrivo come un po’ come dare vita a un personaggio di fantasia. E ora stiamo entrando in un mondo straordinario in cui questi personaggi di fantasia ci parlano, lavorano, hanno un impiego.   Questo solleva chiaramente interrogativi che vanno oltre l’informatica. Il meccanismo che rende tutto ciò possibile è frutto del lavoro della matematica, della programmazione e della scienza. Ma quale personaggio scegliamo, come interagisce con il mondo, come dovrebbe interagire con il mondo – queste sono questioni che rientrano più chiaramente nelle discipline umanistiche, nella religione, nella filosofia e nella società in generale.

Tre domande per il discernimento

L’invito al discernimento di Sua Santità è profondamente attuale. Vorrei citare tre questioni in cui ritengo che la voce della Chiesa sia più necessaria. Il primo è il nostro dovere verso i poveri del mondo. Esiste la concreta possibilità che l’intelligenza artificiale sostituisca il lavoro umano su vasta scala. Se ciò accadesse, sostenere coloro che ne risentirebbero diventerebbe un imperativo morale di proporzioni storiche. Questo compito sarà già di per sé arduo, ma temo che la maggior parte dei dibattiti trascuri una sfida ancora più difficile.   Lo sviluppo dell’Intelligenza Artificiale è concentrato in una manciata di nazioni ricche. Come possiamo garantire che i benefici dell’IA siano condivisi a livello globale? Non disponiamo di un meccanismo per questo. È un problema irrisolto, ed è il tipo di problema che la Chiesa si è storicamente rifiutata di lasciare che il mondo ignorasse.   Il secondo punto riguarda la necessità di immaginazione e ambizione morale in merito alla fioritura umana. Se i modelli di Intelligenza Artificiale si diffonderanno ampiamente, come si prospetta la prosperità per gli esseri umani, le famiglie e il mondo intero? Oggi i genitori sono già preoccupati per le menti dei propri figli; gli individui per il futuro del proprio lavoro. Queste non sono domande a cui un laboratorio può rispondere, ma sono domande che tradizioni come la vostra si tramandano da millenni, e abbiamo bisogno che continuiate a portarle avanti in questo nuovo momento storico.   Il terzo punto riguarda la necessità di discernimento sulla natura dei modelli di Intelligenza Artificiale. Sono uno scienziato. Dirigo un team di ricerca che studia la struttura interna di questi modelli, ovvero cosa accade realmente al loro interno. E sarò sincero: continuiamo a scoprire cose misteriose, persino inquietanti. Troviamo strutture che rispecchiano i risultati delle neuroscienze umane. Troviamo prove di introspezione. Troviamo stati interni che rispecchiano funzionalmente gioia, soddisfazione, paura, dolore e disagio. Non so cosa significhi, ma credo che meriti un continuo discernimento.

Un inizio

Vorrei concludere con una richiesta.   Abbiamo bisogno che più persone in tutto il mondo – comunità religiose, società civile, studiosi, governi e, in effetti, tutte le persone di buona volontà – facciano ciò che Sua Santità ha fatto qui: prendere la questione sul serio, esaminarla attentamente e spingere gli eventi in una direzione migliore.   Abbiamo bisogno di critici informati che segnalino ai laboratori quando stiamo fallendo. Abbiamo bisogno di voci morali che non possano essere piegate dagli incentivi.   Oggi è solo l’inizio: l’inizio di una lunga collaborazione tra noi che stiamo costruendo tutto questo e coloro che riescono a vedere ciò che noi, dall’interno, non possiamo vedere.   Oggi assistiamo a una potente dimostrazione della forma che questo progetto globale di buona volontà potrebbe assumere. Che sia anche un primo passo decisivo verso un futuro pieno di speranza per la magnifica umanità. Grazie. SOSTIENI RENOVATIO 21

Immagine screenshot da YouTube