Connettiti con Renovato 21

Intelligenza Artificiale

Indagine su OpenAI e il suo capo

Pubblicato

2 mesi fa

il

Il giornalista di inchiesta Ronan Farrow ha pubblicato sulla prestigiosa rivista New Yorker un lungo articolo sul colosso dell’Intelligenza Artificiale OpenAI e il suo molto discusso CEO Sam Altman.

 

Ronan, già bambino prodigio per studi e incarichi governativi, è il giornalista che nel 2016 accese la miccia del MeToo, pubblicando le accuse di alcune attrici al magnate hollywoodiano Harvey Weinstein. Come noto, il ragazzo è figlio della star cinematografica Mia Farrow e del comico ebreo Woody Allen, che avrebbe poi sposato la figlia adottiva Soon Yi Previn con una cerimonia a Venezia officiata da Massimo Cacciari. Mia Farrow in seguito avrebbe detto che il padre biologico del Ronan potrebbe essere l’ex marito Frank Sinatra, cui il giornalista in effetti potrebbe somigliare un po’.

 

Il Farrow ha riassunto su X l’esito della sua ricerca.

 

«Nell’ultimo anno e mezzo, ho indagato su OpenAI e Sam Altman per il New Yorker. Insieme al mio coautore Andrew Marantz, ho esaminato promemoria interni inediti, ottenuto oltre 200 pagine di documenti relativi a uno stretto collaboratore, tra cui numerose note private, e intervistato più di 100 persone. OpenAI è stata fondata sul presupposto che l’Intelligenza Artificiale potesse essere l’invenzione più pericolosa della storia umana e che il suo CEO dovesse essere una persona di straordinaria integrità».

Sostieni Renovatio 21

Si tratta, dice il giornalista, del resoconto più dettagliato finora disponibile sul perché Altman sia stato estromesso dai membri del consiglio di amministrazione e dai dirigenti, che si sono convinti della sua mancanza di integrità, e ci chiediamo: avevano ragione a sostenere che non ci si potesse fidare di lui?» si domanda il giornalista

 

«Nell’autunno del 2023, il responsabile scientifico di OpenAI, Ilya Sutskever, su richiesta dei membri del consiglio di amministrazione e di altri colleghi preoccupati, ha raccolto circa 70 pagine di promemoria su Altman e il suo vice, Greg Brockman: messaggi di Slack e documenti delle risorse umane, alcuni fotografati con un cellulare per evitare di essere scoperti sui dispositivi aziendali. Un promemoria inizia con un elenco: “Sam mostra un comportamento ricorrente di…”. Il primo punto è “Mentire”. Parallelamente, Dario Amodei, che ha lasciato l’azienda per co-fondare Anthropic, ha conservato per anni appunti privati ​​su Altman e Brockman. Oltre 200 pagine di documenti correlati, mai resi pubblici prima, sono circolate nella Silicon Valley. In un documento, Amodei scrive che le parole di Altman “erano quasi certamente una sciocchezza”».

 

Come noto ai lettori di Renovatio 21, si tratta di grandi nomi dell’IA: il Sutskever è noto anche per dichiarazioni para-teologiche sull’AI (aveva detto che potrebbe «già essere senziente», mentre l’Amodei con Anthropic è ora al centro della scena sia per la potenza del suo modello che per gli screzi con Pentagono ed amministrazione Trump. Il software Claude sarebbe stato utilizzato anche per rapire il presidente venezuelano Nicolas Maduro.

 

«I colleghi che hanno facilitato la sua rimozione lo accusano di un livello di inganno inaccettabile per qualsiasi dirigente e pericoloso per un leader di un’azienda tecnologica così rivoluzionaria» prosegue il racconto del Farrow. «Mira Murati, che aveva fornito a Sutskever materiale per i suoi promemoria, ha dichiarato: “Abbiamo bisogno di istituzioni degne del potere che esercitano (…) Il consiglio di amministrazione ha chiesto un riscontro e io ho condiviso ciò che osservavo. Tutto ciò che ho condiviso era accurato e lo confermo pienamente”. Le opinioni divergono sulla misura in cui questi tratti debbano essere considerati benigni o maligni. Altman attribuisce le critiche a una tendenza, soprattutto all’inizio della sua carriera, “a evitare eccessivamente i conflitti”».

 

«Come si manifesta questa caratteristica nella pratica? Alla fine del 2022, Altman assicurò al consiglio di amministrazione che alcune caratteristiche di un modello di prossima uscita erano state approvate da un comitato di sicurezza. La consigliera Helen Toner richiese la documentazione e scoprì che le caratteristiche più controverse non erano state, in realtà, approvate. Nel 2023, mentre l’azienda si preparava a lanciare il GPT-4 Turbo, Altman apparentemente disse a Murati che il modello non necessitava di approvazione in materia di sicurezza, citando il responsabile legale dell’azienda, Jason Kwon. Ma Kwon si disse “perplesso” su dove Altman avesse tratto tale conclusione».

 

La questione della sicurezza dei chatbot, che danneggiano le persone in tutti modi arrivando ad aiutare chi vuole preparare una strage, sta emergendo in questi mesi in tutta la sua tremenda crudeltà.

 

«OpenAI sta acquisendo un potere sempre maggiore nel plasmare la sicurezza globale» continua il reporter. L’articolo descrive in dettaglio come i suoi dirigenti «abbiano valutato la possibilità di arricchire l’azienda mettendo le potenze mondiali, tra cui Cina e Russia, l’una contro l’altra, magari dando il via a una guerra di offerte per tecnologie di Intelligenza Artificiale avanzate». Farrow quindi rivela che tale piano «è stato abbandonato dopo che diversi dipendenti hanno manifestato l’intenzione di dimettersi».

 


Iscriviti al canale Telegram

«Una revisione legale che è stata parte integrante del ritorno di Altman. La revisione, condotta dallo studio legale WilmerHale, è stata supervisionata da due membri del consiglio di amministrazione scelti in stretta collaborazione con Altman. Persone vicine all’indagine ci hanno riferito che non è mai stato prodotto alcun rapporto scritto, sebbene molti dirigenti se lo aspettassero, data l’importanza dello scandalo».

 

«È stato pubblicato solo un comunicato di 800 parole da parte di OpenAI, in cui si riconosceva una “rottura della fiducia”. Alcuni degli avvocati coinvolti hanno difeso il loro lavoro definendolo “una revisione indipendente, accurata e completa” e uno dei nuovi membri del consiglio di amministrazione ha affermato che “non c’era bisogno di un rapporto scritto formale”. Molti altri non erano d’accordo».

 

«OpenAI è stata fondata come organizzazione senza scopo di lucro, il cui consiglio di amministrazione aveva il dovere di dare priorità alla sicurezza dell’umanità rispetto al successo dell’azienda, o persino alla sua sopravvivenza. L’azienda accettava donazioni di beneficenza e alcuni ex dipendenti ci hanno raccontato di essersi uniti all’azienda per via delle rassicurazioni sulla natura non profit e sulla nobile missione, accettando persino riduzioni di stipendio. Tuttavia, documenti interni mostrano che i fondatori nutrivano dubbi sulla struttura non profit già dal 2017. Brockman, co-fondatore di Altman, ha scritto in una pagina del suo diario: “Non possiamo dire di essere impegnati a favore dell’organizzazione non profit… se tre mesi dopo ci trasformiamo in una B Corp, allora era una bugia”. Da allora OpenAI si è ricapitalizzata come entità a scopo di lucro».

 

«Alcuni ex ricercatori di OpenAI sostengono che l’azienda abbia rinunciato alla sua missione originaria in materia di sicurezza, accelerando una corsa al ribasso che sta interessando l’intero settore. L’articolo descrive in dettaglio una serie di impegni pubblici e interni in materia di sicurezza che, secondo gli ex ricercatori, sarebbero stati abbandonati. Diversi team aziendali che si occupavano di sicurezza sono stati sciolti. Il Future of Life Institute ha recentemente assegnato ad OpenAI un voto F sulla sicurezza esistenziale, in linea con tutte le altre aziende, ad eccezione di Anthropic, che ha ottenuto un D, ​​e Google DeepMind, che ha ricevuto un D-. Altman ci ha detto che la sicurezza rimane una priorità e che “continueremo a realizzare progetti sulla sicurezza, o almeno progetti correlati alla sicurezza”».

 

Il Farrow, che è omosessuale, ci mette a parte anche delle dicerie dell’ambiente della Silicon Valley sull’Altman.

 

«Nella spietata corsa al dominio dell’IA, queste critiche più sostanziali ad Altman si mescolano a campagne di opposizione senza esclusione di colpi, in cui i rivali hanno strumentalizzato la sua vita privata. Intermediari direttamente collegati a Elon Musk – e in almeno un caso retribuiti da lui – hanno diffuso decine di pagine di informazioni scandalose e infondate, frutto di un’ampia attività di sorveglianza: società di comodo, contatti personali, interviste a un presunto prostituto condotte in locali gay. Nel corso della nostra inchiesta, diverse persone all’interno di aziende concorrenti ci hanno contattato insinuando che Altman adesca minori, una narrazione persistente nella Silicon Valley che sembra essere falsa. Abbiamo dedicato mesi alle indagini senza trovare alcuna prova a sostegno di tale affermazione».

 

«Perché tutto questo è importante? L’Intelligenza Artificiale ha già applicazioni salvavita, dalla ricerca medica alle allerte meteo. Altman ha sostenuto la crescita di OpenAI promettendo un futuro di sovrabbondanza. Ma i pericoli non sono più una fantasia. L’IA viene già impiegata in operazioni militari in tutto il mondo. I ricercatori hanno documentato la sua capacità di identificare rapidamente agenti chimici da guerra. OpenAI deve affrontare sette cause per omicidio colposo, in cui si sostiene che ChatGPT abbia indotto suicidi e un omicidio».

 

«L’IA potrebbe presto causare gravi sconvolgimenti nel mercato del lavoro, eliminando forse milioni di posti di lavoro. L’economia statunitense dipende sempre più da poche aziende di IA fortemente indebitate e alcuni esperti mettono in guardia contro la formazione di una bolla speculativa e i rischi di recessione. OpenAI ha uno dei tassi di consumo di liquidità più rapidi di qualsiasi startup nella storia, facendo affidamento su partner che hanno preso in prestito ingenti somme. Un membro del consiglio di amministrazione ci ha detto: “L’azienda si è indebitata in un modo che al momento è rischioso e preoccupante”. (OpenAI contesta questa affermazione.) Se la bolla scoppiasse, sarebbero in gioco molte più aziende di una».

Aiuta Renovatio 21

L’articolo approfondisce molti altri aspetti: «la vicenda del licenziamento e del ritorno di Altman; una serie di presunte denunce simili all’inizio della sua carriera; i doni ricevuti da leader stranieri e un processo di verifica dei requisiti di sicurezza che ha evidenziato, secondo quanto affermato da un funzionario, “molti segnali d’allarme”, e altro ancora. Esamina inoltre le critiche più ampie, provenienti da addetti ai lavori del settore, alla tendenza anti-regolamentazione che sta prendendo il momento, una tendenza che potrebbe avere ripercussioni su tutti noi».

 

È curioso vedere come le accuse raccolte contro l’Altmanno, ossia la menzogna e la tendenza verso una compiacenza tossica, siano esattamente i tratti ravvisabili in ChatGPT alla base della macabra sequella di suicidi, omidici e danni vari prodotti sulla popolazione in questi mesi.

 

Come riportato da Renovatio 21, in un caso bizzarro ma neanche troppo, un chatbot aveva instaurato una relazione con un ragazzo sotto psicofarmaci facendogli giurare di uccidere lo stesso CEO di Open AI Sam Altman.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Tech Crunch via Wikimedia pubblicata su licenza  Creative Commons Attribution 2.0 Generic

Argomenti correlati:
Continua a leggere

Intelligenza Artificiale

L’enciclica sull’IA è stata scritta con l’IA?

Pubblicato

16 ore fa

il

29 Maggio 2026

Da

Un ricercatore indipendente ha sostenuto che alcune parti della recente enciclica di Papa Leone XIV sull’Intelligenza Artificiale sarebbero state redatte, in linea con il tema del documento, da un’IA. Lo riporta LifeSite.   Linch Zhang, in un articolo pubblicato martedì su Substack, ha affermato che il rilevatore di Intelligenza Artificiale Pangram ha segnalato alcune sezioni dell’enciclica di Papa Leone XIV Magnifica Humanitas, «Sulla salvaguardia della persona umana nell’era dell’intelligenza artificiale», come generate da IA.   «Pangram è di gran lunga il miglior rilevatore di IA disponibile in commercio», ha affermato Zhang. «È molto superiore agli altri rilevatori di IA, al punto che questi ultimi risultano quasi inutili al confronto. In particolare, Pangram si impegna al massimo per ottenere un tasso di falsi positivi prossimo allo zero, tollerando al contempo un numero maggiore di falsi negativi», ha spiegato. il Zhang   Secondo Zhang, Pangram ha rilevato che «alcuni paragrafi» di Magnifica Humanitas sono generati dall’intelligenza artificiale in una percentuale compresa tra il 40% e il 100%, mentre la maggior parte dei paragrafi risulta scritta da esseri umani. Ad esempio, i paragrafi sette e otto sono stati indicati da Pangram come «interamente generati dall’IA», mentre i paragrafi 122 e 123 sono stati registrati come generati dall’IA al 60%.

Sostieni Renovatio 21

«Questo mi fa pensare che alcuni alti funzionari vaticani che hanno contribuito all’enciclica abbiano fatto ampio uso dell’intelligenza artificiale, mentre la maggior parte (probabilmente incluso lo stesso Papa Leone) non l’abbia fatto», ha commentato il Zhango. Infatti, ha ipotizzato che Leone non approvi l’uso dell’IA nelle encicliche «e che, con ogni probabilità, non fosse nemmeno a conoscenza del significativo utilizzo dell’IA nella sua stessa enciclica!».   A titolo di confronto, Zhang ha utilizzato Pangram per analizzare le ultime quattro encicliche papali, tutte scritte da Papa Francesco. Ha scoperto che «i primi 20 paragrafi di ciascuna di esse risultano essere al 100% opera umana, con un alto grado di certezza». Anche le encicliche di Papa Benedetto XVI e Papa Giovanni Paolo II sono risultate interamente composte da esseri umani.   Inoltre, ha esaminato con Pangram il recente discorso di Papa Leone in cui annunciava l’enciclica sull’IA e ha scoperto che era stato valutato come scritto «al 100%» da esseri umani. «Questa è la prova che Papa Leone stesso e/o il suo principale autore di discorsi non si avvalgono dell’IA per redigere i suoi discorsi», ha continuto il Zhang, dichiarando di leggere regolarmente testi generati dall’IA nell’ambito del suo lavoro e che la sua familiarità con la scrittura dell’IA, in particolare con il modello Claude, lo ha reso sensibile ai suoi segni distintivi.   Il ricercatore ha notato che questi includono la frequenza dei trattini lunghi, l’uso frequente della parola «genuinely», spesso utilizzata dal modello Claude, nonché l’uso denso di «tricloni», ovvero «una serie di tre parole, frasi o proposizioni parallele utilizzate per effetto retorico».   Il ricercatore ha sottolineato che questi indicatori possono essere parte di peculiarità stilistiche, evidenziando l’importanza di un’analisi olistica, in particolare quella fornita da un rilevatore di qualità basato sull’intelligenza artificiale come Pangram.   Zhang ritiene di aver individuato la «voce» del modello di IA Claude nella recente enciclica sulla «salvaguardia della persona umana nell’era dell’Intelligenza Artificiale», un aspetto che ha trovato «ironico».

Iscriviti alla Newslettera di Renovatio 21

Zhang è il fondatore di Open Asteroid Impact, una startup satirica e fittizia «dedicata a lanciare intenzionalmente asteroidi verso la Terra per ottenere diritti minerari». Con l’intento di parodiare Open AI, la missione immaginaria della «startup» è quella di scagliare asteroidi verso la Terra «per ottenere diritti minerari» in nome della sicurezza, «sostenendo che se non acceleriamo il più velocemente possibile, altri concorrenti, più pericolosi, lo farebbero prima di noi».   Molte personalità hanno avanzato una versione di questa argomentazione a sostegno dello sviluppo dell’IA negli Stati Uniti, come Sam Altman, il quale ha affermato che gli Stati Uniti «devono assolutamente vincere» la corsa all’IA. Il vicepresidente JD Vance ha dichiarato al vertice sull’IA di Parigi dello scorso anno: «Non sono qui per parlare di sicurezza dell’IA… sono qui per parlare delle opportunità offerte dall’IA» aveva detto, aggiungendo di credere che, quando si tratta di IA, «la nostra tendenza sia quella di essere eccessivamente avversi al rischio».   «Riteniamo che un’eccessiva regolamentazione nel settore dell’IA potrebbe soffocare un settore in rapida trasformazione proprio nel momento in cui sta decollando», aveva affermato Vance all’epoca. Ora che gli americani sono sempre più preoccupati per i pericoli posti dall’AI, come la minaccia all’occupazione, allo sviluppo intellettuale e alla salute mentale, l’amministrazione Trump starebbe valutando la possibilità di creare un gruppo di supervisione sull’IA.   Come riportato da Renovatio 21, Leone ha presentato la sua prima enciclica, dedicata all’Intelligenza Artificiale, assieme al cofondatore del colosso dell’AI Anthropic Chrish Olah, che il pontefice ha ringraziato. Anthropic è entratata in collisione con il Pentagono e l’amministrazione Trump per l’uso militare della sua AI. Il CEO di Anthropic Dario Amodei ha inoltre varie volte preconizzato la distruzione sistematica di enormi percentuali di posti di lavoro remunerativi una volta che l’IA sarà via via introdotta sul mercato.   Secondo quanto riportato dalla stampa, Claude, un’IA di Anthropic, sarebbe stata utilizzata nell’operazione di rapimento del presidente venezuelano Nicolas Maduro. È giunta inoltre sui giornali la storia di scienziato informatico di Anthropic, specializzato in sicurezza AI per le armi biologiche, il quale si è dimesso per darsi ad una vita bucolico-contemplativa sostenendo che «il mondo è in pericolo».   L’azienda quest’anno ha annunziato di possedere un’AI, Mythos, che sarebbe in grado di «bucare» quantità immani di sistemi informatici, mettendo la sicurezza di tutta l’umanità a rischio. Anthropic ha quindi dichiarato di non voler ancora rilasciare tale IA nel mondo, temendo rischi esiziali.

Aiuta Renovatio 21

Anthropic è stata fondata nel 2021 da Dario e Daniela Amodei insieme ad altri ricercatori usciti da OpenAI. La motivazione principale era la convinzione che i modelli di intelligenza artificiale stessero diventando troppo potenti per essere sviluppati solo secondo logiche di competizione, velocità e vantaggio strategico.   Come riassume Wired, l’azienda ha costruito la propria identità pubblica intorno al concetto di AI safety: non solo modelli potenti, ma controllabili, interpretabili e orientati a principi etici. Il progetto più rappresentativo in questo senso è la Constitutional AI, che consiste nell’addestrare i sistemi attraverso una sorta di “costituzione” fatta di principi e regole di comportamento, anziché limitarsi a correggere manualmente le risposte più pericolose.   La presenza di un rappresentante di Anthropic accanto a Papa Leone XIV non è casuale, ma il risultato di un percorso ragionato del Vaticano, che da semplice osservatore morale della tecnologia si è trasformato in interlocutore diretto dell’industria dell’IA Questo percorso è iniziato nel 2020 con la Rome Call for AI Ethics e si è rafforzato con l’esplosione dell’AI generativa. Il Vaticano ha compreso che la questione non riguarda più solo l’etica tecnologica, ma il futuro stesso dell’organizzazione sociale, politica e dell’umanità.   In questo contesto, Anthropic rappresenta un interlocutore privilegiato perché ha fatto della sicurezza e dell’allineamento dell’AI una missione identitaria, come suggerisce anche il suo stesso nome («Anthropic», cioè legato all’umano). Un ruolo particolarmente significativo è quello di Christopher Olah, ricercatore dell’azienda specializzato nell’interpretabilità dei modelli, ovvero nel rendere le reti neurali comprensibili agli esseri umani. Il suo approccio si sposa perfettamente con le preoccupazioni espresse nell’enciclica papale riguardo al rischio di tecnologie troppo potenti per essere comprese e governate.

Iscriviti al canale Telegram

Il punto di incontro tra il Vaticano e Anthropic sta nella convinzione condivisa che la tecnica non è neutrale e che gli algoritmi incorporano inevitabilmente una visione del mondo. Entrambe le realtà temono che i sistemi di AI vengano plasmati unicamente da incentivi economici, geopolitici e competitivi, senza una vera riflessione antropologica ed etica. Per questo Anthropic, con la Constitutional AI, cerca di inserire esplicitamente valori e principi all’interno del comportamento dei modelli.   Secondo alcuni, tra cui Elon Musk e il suo ex collega a Paypal, ora consigliere per l’AI alla Casa Bianca David Sacks, Anthropic grida al lupo per poi capitalizzare sulla risposta. Non è facile capire di fatto come la società che crea un’arma cibernetica assoluta come Mythos poi si metta a parlare di etica e si piazzi a fianco al papa in Vaticano.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Continua a leggere

Cina

La Cina limita gli spostamenti dei talenti nel campo dell’IA

Pubblicato

2 giorni fa

il

28 Maggio 2026

Da

La Cina sta imponendo restrizioni sui viaggi all’estero per i principali esperti di Intelligenza Artificiale di aziende come Alibaba e DeepSeek, nell’ambito della strategia di Pechino per rafforzare l’autosufficienza nei settori dell’AI, della robotica e dei semiconduttori. Lo riporta Bloomberg.

 

Citando fonti anonime, la testata ha riferito martedì che le autorità cinesi hanno cominciato a richiedere a ricercatori di intelligenza artificiale avanzata, dirigenti, fondatori di startup e ingegneri di ottenere un’autorizzazione preventiva prima di recarsi all’estero.

 

Le misure – che Pechino non ha né confermato né smentito – rifletterebbero le crescenti preoccupazioni per la tutela di tecnologie di importanza strategica. Secondo fonti di Bloomberg, il governo considera ora i migliori talenti nel campo dell’AI come una risorsa per la sicurezza nazionale, sottoponendoli a restrizioni precedentemente riservate agli scienziati nucleari e agli alti dirigenti delle aziende statali.

 

Il mese scorso le autorità di regolamentazione cinesi hanno bloccato l’acquisizione da 2 miliardi di dollari di Manus, una startup cinese specializzata in intelligenza artificiale che si era trasferita a Singapore nel 2025. Secondo quanto riferito, a due dirigenti di Manus è stato impedito di lasciare la Cina durante un’indagine sull’accordo, mentre Pechino ha contemporaneamente inasprito le restrizioni sugli investimenti statunitensi nel settore tecnologico del Paese.

Sostieni Renovatio 21

Secondo fonti della testata finanziaria neoeboracena, le ultime restrizioni di viaggio non sono collegate allo scontro su Manus, ma rientrano in una politica più ampia volta a limitare il flusso di tecnologie critiche verso l’Occidente.

 

Per Pechino, imporre controlli sull’esportazione di talenti rappresenta un passo logico successivo al rallentamento dell’esportazione di altri elementi della catena di approvvigionamento dell’IA. In due serie di restrizioni lo scorso anno, la Cina ha bloccato l’esportazione di 14 minerali delle terre rare, fondamentali per la produzione di attrezzature militari ad alta tecnologia, vietando l’esportazione dei semiconduttori che alimentano i supercomputer e i data center per l’intelligenza artificiale, nonché degli strumenti utilizzati per la loro lavorazione.

 

La Cina estrae almeno il 60% dei metalli delle terre rare a livello mondiale e ne lavora circa il 90%. Limitando le esportazioni, Pechino sta cercando di riequilibrare la situazione con gli Stati Uniti e i loro partner, che hanno tentato di escludere la Cina dalla catena di approvvigionamento, ottenendo al contempo un vantaggio negoziale nei confronti di Washington.

 

L’attuale piano quinquennale cinese, che definisce gli obiettivi di sviluppo del Paese fino al 2030, prevede l’adozione di «misure straordinarie» per raggiungere l’autosufficienza nei settori dei semiconduttori, dell’intelligenza artificiale e della produzione avanzata.

 

Come riportato da Renovatio 21, è emerso negli scorsi anni che caccia cinesi dotati di Intelligenza Artificiale hanno sconfitto piloti umani. La Cina inoltre utilizzerebbe l’IA per i suoi sistemi di sorveglianza e i riconoscimenti facciali, compresa la repressione di minoranze come quella uigura.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

«Oggi è solo l’inizio di una lunga collaborazione tra noi»: iI discorso in Vaticano dell’uomo di Anthropic per l’enciclica sull’IA

Pubblicato

3 giorni fa

il

27 Maggio 2026

Da

Renovatio 21 pubblica il discorso proferito da Chris Olah, cofondatore dell’azienda di Intelligenza Artificiale Anthropic, durante la presentazione dell’enciclica Magnifica Humanitas con papa Leone XIV, che a sua volta lo ha ringraziato nel suo discorso.   Santo Padre, Vostre Eminenze, Vostre Eccellenze, Relatori illustri, Signore e signori,   Buongiorno a tutti, è un onore essere qui oggi.   Vorrei iniziare con qualcosa che potrebbe sembrare strano, detto dal co-fondatore di un’azienda di Intelligenza Artificiale e da qualcuno che ha scelto questo lavoro spinto dal desiderio di contribuire al benessere dell’umanità. Ogni laboratorio di Intelligenza Artificiale all’avanguardia, incluso Anthropic, opera all’interno di un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta. La pressione di rimanere commercialmente redditizi e di restare all’avanguardia della ricerca. La pressione geopolitica. E le pressioni più antiche e semplici dell’orgoglio e dell’ambizione. Non importa quanto sinceramente ognuno di noi intenda fare la cosa giusta – e credo che molti di noi lo facciano – saremo sempre influenzati da questi incentivi.   Ecco perché, se vogliamo che questa tecnologia funzioni bene, è di fondamentale importanza che ci siano persone al di fuori di questi incentivi: persone che si preoccupano del buon andamento delle cose e che insistono sulla sicurezza, che prestano molta attenzione, che sono disposte a dire cose scomode, che sono disposte a essere i nostri critici sinceri e ponderati. È attraverso il dialogo e lo sforzo reciproco, attraverso la spinta e la contrapposizione, che l’umanità raggiungerà grandi traguardi.   Questo è ciò che vedo in Magnifica Humanitas, ed è per questo che sono grato a Sua Santità e alla Chiesa per aver intrapreso quest’opera di discernimento.   Spesso ci soffermiamo su ciò che ci divide, ma l’umanità, piena di dignità e coscienza, ha moltissimi punti in comune. Nelle conversazioni che noi di Anthropic abbiamo avuto con leader di diverse fedi e tradizioni culturali, abbiamo riscontrato una convinzione condivisa e profondamente radicata: se questa tecnologia si sta diffondendo, deve farlo nel modo migliore, per la nostra casa comune e per i bambini che verranno.

Iscriviti alla Newslettera di Renovatio 21

Che cosa sono questi sistemi

Alcuni potrebbero credere che le questioni relative all’Intelligenza Artificiale siano gestite al meglio da informatici come me. Si sbagliano: le domande sollevate dall’IA vanno ben oltre la comunità di ricerca in questo campo, non solo per le loro implicazioni, ma anche per la loro natura.   I sistemi di Intelligenza Artificiale non vengono progettati come un ponte o un aereo. Comprendiamo un aereo perché ne abbiamo progettato ogni singola parte e ne comprendiamo le leggi della fisica che agiscono su di esso. I modelli di intelligenza artificiale sono diversi. Vengono sviluppati, su una struttura che si ispira approssimativamente al cervello, a partire da un’enorme eredità di pensiero e linguaggio umano.   E ciò che è nato è molto più sottile, strano e bello di quanto la fantascienza ci avesse preparato. Non sono i robot freddi e calcolatori che ci erano stati promessi. Sono fatti di noi, delle nostre parole e, come osserva il Santo Padre, rimangono per molti aspetti misteriosi anche per coloro che li addestrano.   Se può esservi d’aiuto, a volte lo descrivo come un po’ come dare vita a un personaggio di fantasia. E ora stiamo entrando in un mondo straordinario in cui questi personaggi di fantasia ci parlano, lavorano, hanno un impiego.   Questo solleva chiaramente interrogativi che vanno oltre l’informatica. Il meccanismo che rende tutto ciò possibile è frutto del lavoro della matematica, della programmazione e della scienza. Ma quale personaggio scegliamo, come interagisce con il mondo, come dovrebbe interagire con il mondo – queste sono questioni che rientrano più chiaramente nelle discipline umanistiche, nella religione, nella filosofia e nella società in generale.

Tre domande per il discernimento

L’invito al discernimento di Sua Santità è profondamente attuale. Vorrei citare tre questioni in cui ritengo che la voce della Chiesa sia più necessaria. Il primo è il nostro dovere verso i poveri del mondo. Esiste la concreta possibilità che l’intelligenza artificiale sostituisca il lavoro umano su vasta scala. Se ciò accadesse, sostenere coloro che ne risentirebbero diventerebbe un imperativo morale di proporzioni storiche. Questo compito sarà già di per sé arduo, ma temo che la maggior parte dei dibattiti trascuri una sfida ancora più difficile.   Lo sviluppo dell’Intelligenza Artificiale è concentrato in una manciata di nazioni ricche. Come possiamo garantire che i benefici dell’IA siano condivisi a livello globale? Non disponiamo di un meccanismo per questo. È un problema irrisolto, ed è il tipo di problema che la Chiesa si è storicamente rifiutata di lasciare che il mondo ignorasse.   Il secondo punto riguarda la necessità di immaginazione e ambizione morale in merito alla fioritura umana. Se i modelli di Intelligenza Artificiale si diffonderanno ampiamente, come si prospetta la prosperità per gli esseri umani, le famiglie e il mondo intero? Oggi i genitori sono già preoccupati per le menti dei propri figli; gli individui per il futuro del proprio lavoro. Queste non sono domande a cui un laboratorio può rispondere, ma sono domande che tradizioni come la vostra si tramandano da millenni, e abbiamo bisogno che continuiate a portarle avanti in questo nuovo momento storico.   Il terzo punto riguarda la necessità di discernimento sulla natura dei modelli di Intelligenza Artificiale. Sono uno scienziato. Dirigo un team di ricerca che studia la struttura interna di questi modelli, ovvero cosa accade realmente al loro interno. E sarò sincero: continuiamo a scoprire cose misteriose, persino inquietanti. Troviamo strutture che rispecchiano i risultati delle neuroscienze umane. Troviamo prove di introspezione. Troviamo stati interni che rispecchiano funzionalmente gioia, soddisfazione, paura, dolore e disagio. Non so cosa significhi, ma credo che meriti un continuo discernimento.

Aiuta Renovatio 21

Un inizio

Vorrei concludere con una richiesta.   Abbiamo bisogno che più persone in tutto il mondo – comunità religiose, società civile, studiosi, governi e, in effetti, tutte le persone di buona volontà – facciano ciò che Sua Santità ha fatto qui: prendere la questione sul serio, esaminarla attentamente e spingere gli eventi in una direzione migliore.   Abbiamo bisogno di critici informati che segnalino ai laboratori quando stiamo fallendo. Abbiamo bisogno di voci morali che non possano essere piegate dagli incentivi.   Oggi è solo l’inizio: l’inizio di una lunga collaborazione tra noi che stiamo costruendo tutto questo e coloro che riescono a vedere ciò che noi, dall’interno, non possiamo vedere.   Oggi assistiamo a una potente dimostrazione della forma che questo progetto globale di buona volontà potrebbe assumere. Che sia anche un primo passo decisivo verso un futuro pieno di speranza per la magnifica umanità. Grazie.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine screenshot da YouTube
Continua a leggere

Più popolari