«Oggi è solo l’inizio di una lunga collaborazione tra noi»: iI discorso in Vaticano dell’uomo di Anthropic per l’enciclica sull’IA

Renovatio 21 pubblica il discorso proferito da Chris Olah, cofondatore dell’azienda di Intelligenza Artificiale Anthropic, durante la presentazione dell’enciclica Magnifica Humanitas con papa Leone XIV, che a sua volta lo ha ringraziato nel suo discorso.

Santo Padre,

Vostre Eminenze,

Vostre Eccellenze,

Relatori illustri,

Signore e signori,

Buongiorno a tutti, è un onore essere qui oggi.

Vorrei iniziare con qualcosa che potrebbe sembrare strano, detto dal co-fondatore di un’azienda di Intelligenza Artificiale e da qualcuno che ha scelto questo lavoro spinto dal desiderio di contribuire al benessere dell’umanità.

Ogni laboratorio di Intelligenza Artificiale all’avanguardia, incluso Anthropic, opera all’interno di un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta. La pressione di rimanere commercialmente redditizi e di restare all’avanguardia della ricerca. La pressione geopolitica. E le pressioni più antiche e semplici dell’orgoglio e dell’ambizione. Non importa quanto sinceramente ognuno di noi intenda fare la cosa giusta – e credo che molti di noi lo facciano – saremo sempre influenzati da questi incentivi.

Ecco perché, se vogliamo che questa tecnologia funzioni bene, è di fondamentale importanza che ci siano persone al di fuori di questi incentivi: persone che si preoccupano del buon andamento delle cose e che insistono sulla sicurezza, che prestano molta attenzione, che sono disposte a dire cose scomode, che sono disposte a essere i nostri critici sinceri e ponderati. È attraverso il dialogo e lo sforzo reciproco, attraverso la spinta e la contrapposizione, che l’umanità raggiungerà grandi traguardi.

Questo è ciò che vedo in Magnifica Humanitas, ed è per questo che sono grato a Sua Santità e alla Chiesa per aver intrapreso quest’opera di discernimento.

Spesso ci soffermiamo su ciò che ci divide, ma l’umanità, piena di dignità e coscienza, ha moltissimi punti in comune. Nelle conversazioni che noi di Anthropic abbiamo avuto con leader di diverse fedi e tradizioni culturali, abbiamo riscontrato una convinzione condivisa e profondamente radicata: se questa tecnologia si sta diffondendo, deve farlo nel modo migliore, per la nostra casa comune e per i bambini che verranno.

Che cosa sono questi sistemi

Alcuni potrebbero credere che le questioni relative all’Intelligenza Artificiale siano gestite al meglio da informatici come me. Si sbagliano: le domande sollevate dall’IA vanno ben oltre la comunità di ricerca in questo campo, non solo per le loro implicazioni, ma anche per la loro natura.

I sistemi di Intelligenza Artificiale non vengono progettati come un ponte o un aereo. Comprendiamo un aereo perché ne abbiamo progettato ogni singola parte e ne comprendiamo le leggi della fisica che agiscono su di esso. I modelli di intelligenza artificiale sono diversi. Vengono sviluppati, su una struttura che si ispira approssimativamente al cervello, a partire da un’enorme eredità di pensiero e linguaggio umano.

E ciò che è nato è molto più sottile, strano e bello di quanto la fantascienza ci avesse preparato. Non sono i robot freddi e calcolatori che ci erano stati promessi. Sono fatti di noi, delle nostre parole e, come osserva il Santo Padre, rimangono per molti aspetti misteriosi anche per coloro che li addestrano.

Se può esservi d’aiuto, a volte lo descrivo come un po’ come dare vita a un personaggio di fantasia. E ora stiamo entrando in un mondo straordinario in cui questi personaggi di fantasia ci parlano, lavorano, hanno un impiego.

Questo solleva chiaramente interrogativi che vanno oltre l’informatica. Il meccanismo che rende tutto ciò possibile è frutto del lavoro della matematica, della programmazione e della scienza. Ma quale personaggio scegliamo, come interagisce con il mondo, come dovrebbe interagire con il mondo – queste sono questioni che rientrano più chiaramente nelle discipline umanistiche, nella religione, nella filosofia e nella società in generale.

Tre domande per il discernimento

L’invito al discernimento di Sua Santità è profondamente attuale. Vorrei citare tre questioni in cui ritengo che la voce della Chiesa sia più necessaria.
Il primo è il nostro dovere verso i poveri del mondo. Esiste la concreta possibilità che l’intelligenza artificiale sostituisca il lavoro umano su vasta scala. Se ciò accadesse, sostenere coloro che ne risentirebbero diventerebbe un imperativo morale di proporzioni storiche. Questo compito sarà già di per sé arduo, ma temo che la maggior parte dei dibattiti trascuri una sfida ancora più difficile.

Lo sviluppo dell’Intelligenza Artificiale è concentrato in una manciata di nazioni ricche. Come possiamo garantire che i benefici dell’IA siano condivisi a livello globale? Non disponiamo di un meccanismo per questo. È un problema irrisolto, ed è il tipo di problema che la Chiesa si è storicamente rifiutata di lasciare che il mondo ignorasse.

Il secondo punto riguarda la necessità di immaginazione e ambizione morale in merito alla fioritura umana. Se i modelli di Intelligenza Artificiale si diffonderanno ampiamente, come si prospetta la prosperità per gli esseri umani, le famiglie e il mondo intero? Oggi i genitori sono già preoccupati per le menti dei propri figli; gli individui per il futuro del proprio lavoro. Queste non sono domande a cui un laboratorio può rispondere, ma sono domande che tradizioni come la vostra si tramandano da millenni, e abbiamo bisogno che continuiate a portarle avanti in questo nuovo momento storico.

Il terzo punto riguarda la necessità di discernimento sulla natura dei modelli di Intelligenza Artificiale. Sono uno scienziato. Dirigo un team di ricerca che studia la struttura interna di questi modelli, ovvero cosa accade realmente al loro interno. E sarò sincero: continuiamo a scoprire cose misteriose, persino inquietanti. Troviamo strutture che rispecchiano i risultati delle neuroscienze umane. Troviamo prove di introspezione. Troviamo stati interni che rispecchiano funzionalmente gioia, soddisfazione, paura, dolore e disagio. Non so cosa significhi, ma credo che meriti un continuo discernimento.

Un inizio

Vorrei concludere con una richiesta.

Abbiamo bisogno che più persone in tutto il mondo – comunità religiose, società civile, studiosi, governi e, in effetti, tutte le persone di buona volontà – facciano ciò che Sua Santità ha fatto qui: prendere la questione sul serio, esaminarla attentamente e spingere gli eventi in una direzione migliore.

Abbiamo bisogno di critici informati che segnalino ai laboratori quando stiamo fallendo. Abbiamo bisogno di voci morali che non possano essere piegate dagli incentivi.

Oggi è solo l’inizio: l’inizio di una lunga collaborazione tra noi che stiamo costruendo tutto questo e coloro che riescono a vedere ciò che noi, dall’interno, non possiamo vedere.

Oggi assistiamo a una potente dimostrazione della forma che questo progetto globale di buona volontà potrebbe assumere. Che sia anche un primo passo decisivo verso un futuro pieno di speranza per la magnifica umanità.

Grazie.

SOSTIENI RENOVATIO 21

Immagine screenshot da YouTube