Renovatio 21 traduce e pubblica questo articolo del Brownstone Institute.

C’era un tempo in cui i dibattiti su determinismo e libero arbitrio appartenevano ai dipartimenti di filosofia e alle conversazioni notturne nei dormitori. Erano piacevoli proprio perché sembravano innocui. Qualunque fosse la risposta, la vita continuava. I tribunali giudicavano, i medici decidevano, gli insegnanti insegnavano e i politici erano ancora – almeno nominalmente – ritenuti responsabili delle loro azioni. Quell’epoca è finita.

L’Intelligenza Artificiale ha trasformato quella che un tempo sembrava una questione filosofica astratta in una questione concreta di governance, potere e responsabilità. Il determinismo non è più solo una teoria sul funzionamento dell’universo. Sta diventando un principio operativo per le istituzioni moderne. E questo cambia tutto.

I sistemi di Intelligenza Artificiale sono deterministici per costruzione. Operano attraverso l’inferenza statistica, l’ottimizzazione e la probabilità. Anche quando i loro risultati ci sorprendono, rimangono vincolati da vincoli matematici. Nulla in questi sistemi assomiglia al giudizio, all’interpretazione o alla comprensione in senso umano.

L’intelligenza artificiale non delibera.

Non riflette.

Non si assume la responsabilità dei risultati.

Eppure, sempre più spesso, i suoi risultati vengono trattati non come strumenti, ma come decisioni. Questa è la rivoluzione silenziosa del nostro tempo.

Il fascino è ovvio. Le istituzioni hanno sempre dovuto fare i conti con la variabilità umana. Le persone sono incoerenti, emotive, lente e a volte disobbedienti. Le burocrazie preferiscono la prevedibilità, e gli algoritmi promettono esattamente questo: decisioni standardizzate su larga scala, immuni alla stanchezza e al dissenso.

In sanità, gli algoritmi promettono un triage più efficiente. In finanza, una migliore valutazione del rischio. Nell’istruzione, una valutazione oggettiva. Nelle politiche pubbliche, una governance “basata sull’evidenza”. Nella moderazione dei contenuti, la neutralità. Chi potrebbe obiettare a sistemi che pretendono di eliminare i pregiudizi e ottimizzare i risultati? Ma dietro questa promessa si cela una confusione di fondo.

La previsione non è un giudizio.

L’ottimizzazione non è saggezza.

La coerenza non è legittimità.

Il processo decisionale umano non è mai stato puramente computazionale. È interpretativo per natura. Le persone valutano il contesto, il significato, le conseguenze e l’intuizione morale. Attingono alla memoria, all’esperienza e a un senso di responsabilità, per quanto imperfetto, per ciò che segue. Questo è esattamente ciò che le istituzioni trovano scomodo.

Il giudizio umano crea attriti. Richiede spiegazioni. Espone i decisori a colpevolizzazioni. I sistemi deterministici, al contrario, offrono qualcosa di molto più attraente: decisioni senza decisori.

Quando un algoritmo nega un prestito, segnala un cittadino, declassa un paziente o sopprime la parola, nessuno sembra responsabile. È stato il sistema a farlo. Sono stati i dati a parlare. È stato il modello a decidere.

Il determinismo diventa un alibi burocratico.

La tecnologia ha sempre plasmato le istituzioni, ma fino a poco tempo fa si limitava ad ampliare l’azione umana. Le calcolatrici aiutavano il ragionamento. I fogli di calcolo chiarivano i compromessi. Persino i primi software lasciavano agli esseri umani un controllo visibile. L’Intelligenza Artificiale cambia questa relazione.

I sistemi progettati per prevedere sono ora in grado di decidere. Le probabilità si consolidano in politiche. I punteggi di rischio diventano verdetti. Le raccomandazioni si trasformano silenziosamente in obblighi. Una volta radicati, questi sistemi sono difficili da contestare. Dopotutto, chi può discutere con «la scienza»?

Ecco perché il vecchio dibattito filosofico è diventato urgente.

Il determinismo classico si basava su un principio di causalità: con informazioni sufficienti, il futuro poteva essere previsto. Oggi, il determinismo si sta trasformando in una filosofia di governance. Se i risultati possono essere previsti con sufficiente precisione, si chiedono le istituzioni, perché consentire discrezionalità?

Il non-determinismo viene spesso caricaturalmente descritto come caos. Ma, correttamente inteso, non è né casualità né irrazionalità. È lo spazio in cui avviene l’interpretazione, in cui i valori vengono soppesati e in cui la responsabilità ricade su una persona piuttosto che su un processo.

Eliminando quello spazio, il processo decisionale non diventa più razionale. Diventa irresponsabile.

Il vero pericolo dell’IA non è l’intelligenza incontrollata o le macchine senzienti. È la lenta erosione della responsabilità umana sotto la bandiera dell’efficienza.

Il conflitto decisivo del XXI secolo non sarà tra esseri umani e macchine. Sarà tra due visioni dell’intelligenza: l’ottimizzazione deterministica e la creazione di significato in condizioni di incertezza.

Uno è scalabile.

L’altro è responsabile.

L’Intelligenza Artificiale ci costringe a decidere quale governa le nostre vite.

Joaquim Couto

SOSTIENI RENOVATIO 21