Renovatio 21 traduce e pubblica questo articolo del Brownstone Institute.

 

La mia esperienza in medicina mi permette di distinguere tra vera innovazione e sottile riclassificazione che altera radicalmente la pratica medica pur rimanendo immutata. L’intelligenza artificiale ha recentemente attirato notevole attenzione, inclusa l’affermazione ampiamente diffusa secondo cui l’IA è stata «legalmente autorizzata a esercitare la professione medica» negli Stati Uniti. Interpretata letteralmente, questa affermazione è imprecisa.

 

Nessun collegio medico ha concesso l’autorizzazione a una macchina. Nessun algoritmo ha prestato giuramento, accettato obblighi fiduciari o assunto la responsabilità personale per i danni ai pazienti. Nessun medico robot apre una clinica, fattura alle compagnie assicurative o si presenta davanti a una giuria per negligenza medica.

 

Tuttavia, fermarsi a questa osservazione significa trascurare la questione più ampia. I concetti giuridici di responsabilità sono attualmente in fase di ridefinizione, spesso senza che l’opinione pubblica ne sia consapevole.

È in atto una trasformazione significativa, che giustifica più di un semplice rifiuto riflessivo o di un acritico entusiasmo tecnologico. L’attuale sviluppo non riguarda l’abilitazione dell’Intelligenza Artificiale come medico, ma piuttosto la graduale erosione del confine fondamentale della medicina: il legame intrinseco tra giudizio clinico e responsabilità umana. Il giudizio clinico implica l’assunzione di decisioni informate, adattate alle esigenze e alle circostanze specifiche di ciascun paziente, e richiede empatia, intuizione e una profonda comprensione dell’etica medica.

 

La responsabilità umana si riferisce alla responsabilità che gli operatori sanitari si assumono per queste decisioni e i loro esiti. Questa erosione non è il risultato di una legislazione drastica o di un dibattito pubblico, ma avviene silenziosamente attraverso programmi pilota, reinterpretazioni normative e un linguaggio che oscura intenzionalmente la responsabilità. Una volta che questo confine si dissolve, la medicina si trasforma in modi difficili da invertire.

 

La preoccupazione principale non è se l’intelligenza artificiale possa rinnovare le prescrizioni o individuare risultati di laboratorio anomali. La medicina utilizza da tempo strumenti e gli operatori sanitari generalmente accolgono con favore un aiuto che riduca le attività amministrative o migliori il riconoscimento di schemi. Il vero problema è se il giudizio medico – la decisione sulle azioni corrette, sui pazienti e sui rischi – possa essere visto come un risultato generato dal computer, separato dalla responsabilità morale. Storicamente, gli sforzi per separare il giudizio dalla responsabilità hanno spesso causato danni senza assumersene la responsabilità.

 

Sviluppi recenti chiariscono le origini dell’attuale confusione. In diversi stati, programmi pilota limitati consentono ora ai sistemi basati sull’Intelligenza Artificiale di assistere nel rinnovo delle prescrizioni per patologie croniche stabili, secondo protocolli rigorosamente definiti. A livello federale, la proposta di legge ha valutato se l’Intelligenza Artificiale possa essere considerata un «professionista» per specifici scopi statutari, a condizione che sia adeguatamente regolamentata.

 

Queste iniziative sono in genere presentate come risposte pragmatiche alla carenza di medici, ai ritardi di accesso e alle inefficienze amministrative. Sebbene nessuna di queste designi esplicitamente l’intelligenza artificiale come medico, nel loro insieme normalizzano la premessa più preoccupante secondo cui le azioni mediche possono essere intraprese senza un decisore umano chiaramente identificabile.

Nella pratica, questa distinzione è fondamentale. La medicina non è definita dall’esecuzione meccanica di compiti, ma dall’assegnazione di responsabilità quando i risultati sono sfavorevoli. Scrivere una prescrizione è semplice; assumersi la responsabilità delle sue conseguenze – in particolare quando si considerano comorbilità, contesto sociale, valori del paziente o informazioni incomplete – è molto più complesso. Nel corso della mia carriera, questa responsabilità è sempre ricaduta su un essere umano che poteva essere interrogato, sfidato, corretto e ritenuto responsabile. Quando il dott. Smith commette un errore, la famiglia sa chi contattare, garantendo un filo diretto con la responsabilità umana. Nessun algoritmo, a prescindere dalla sua complessità, può svolgere questo ruolo.

 

Il rischio principale non è tecnologico, ma normativo e filosofico. Questa transizione rappresenta un passaggio dall’etica della virtù al proceduralismo. Quando legislatori e istituzioni ridefiniscono il processo decisionale medico in funzione dei sistemi piuttosto che degli atti personali, il quadro morale della medicina cambia. La responsabilità diventa diffusa, il danno è più difficile da attribuire e la responsabilità si sposta dai medici ai processi, dal giudizio all’aderenza al protocollo. Quando inevitabilmente si verificano errori, la spiegazione prevalente diventa che «il sistema ha seguito linee guida stabilite». Riconoscere questa transizione chiarisce il passaggio dal processo decisionale etico individualizzato all’aderenza procedurale meccanizzata.

 

Questa preoccupazione non è teorica. L’assistenza sanitaria contemporanea si trova già ad affrontare sfide legate alla scarsa responsabilità. Ho osservato pazienti danneggiati da decisioni basate su algoritmi perdersi tra amministratori, fornitori e modelli opachi, senza una risposta chiara alla domanda fondamentale: chi ha preso questa decisione? L’Intelligenza Artificiale accelera significativamente questo problema. Un algoritmo non può fornire spiegazioni morali, esercitare moderazione basata sulla coscienza, rifiutare azioni per preoccupazioni etiche o ammettere errori a un paziente o a una famiglia.

 

I sostenitori di una maggiore autonomia dell’IA citano spesso l’efficienza come giustificazione. Le cliniche sono sovraccariche di lavoro, i medici sono in preda al burnout e i pazienti spesso aspettano mesi per cure che dovrebbero durare solo pochi minuti. Queste preoccupazioni sono legittime e qualsiasi medico onesto le riconosce. Tuttavia, l’efficienza da sola non giustifica l’alterazione dei fondamenti etici della medicina. I sistemi ottimizzati per velocità e scalabilità spesso sacrificano sfumature, discrezione e dignità individuale. Storicamente, la medicina ha resistito a questa tendenza sottolineando che la cura è fondamentalmente una relazione piuttosto che una transazione.

 

L’Intelligenza Artificiale rischia di invertire questa relazione. Quando sono i sistemi, anziché gli individui, a erogare assistenza, il paziente non è più coinvolto in un patto con un medico, ma diventa parte di un flusso di lavoro. Il medico assume il ruolo di supervisore della macchina o, cosa ancora più preoccupante, funge da cuscinetto legale che assorbe la responsabilità per decisioni non prese personalmente. Col tempo, il giudizio clinico cede il passo all’aderenza al protocollo e l’agire morale diminuisce gradualmente.

 

L’Intelligenza Artificiale introduce anche un problema più sottile e pericoloso: il mascheramento dell’incertezza. La medicina vive nell’ambiguità. Le prove sono probabilistiche. Le linee guida sono provvisorie. I pazienti raramente si presentano come set di dati puliti. I medici sono addestrati non solo ad agire, ma anche a esitare, a riconoscere quando le informazioni sono insufficienti, quando un intervento può causare più danni che benefici o quando la strada giusta è aspettare. Immaginate uno scenario in cui l’Intelligenza Artificiale raccomanda la dimissione, ma il coniuge del paziente appare timoroso, evidenziando la tensione tra il processo decisionale algoritmico e l’intuizione umana. Tale attrito nel mondo reale sottolinea la posta in gioco dell’ambiguità.

 

I sistemi di Intelligenza Artificiale non sperimentano incertezza; generano output. Quando sono errati, spesso lo fanno con una sicurezza ingiustificata. Questa caratteristica non è un difetto di programmazione, ma una caratteristica intrinseca della modellazione statistica. A differenza dei medici esperti che esprimono apertamente dubbi, i modelli linguistici di grandi dimensioni e i sistemi di apprendimento automatico non sono in grado di riconoscere i propri limiti. Producono risposte plausibili anche quando i dati sono insufficienti. In medicina, la plausibilità senza fondamento può essere rischiosa.

 

Man mano che questi sistemi vengono integrati tempestivamente nei flussi di lavoro clinici, i loro risultati influenzano sempre di più le decisioni successive. Col tempo, i medici potrebbero iniziare a fidarsi delle raccomandazioni non per la loro validità, ma perché sono diventate standardizzate. Il giudizio si sposta gradualmente dal ragionamento attivo all’accettazione passiva. In tali circostanze, la presenza umana nel ciclo funge da mero strumento di salvaguardia simbolica.

I sostenitori affermano spesso che l’IA si limiterà a «migliorare» i medici, piuttosto che sostituirli. Tuttavia, questa rassicurazione è labile. Una volta che l’IA dimostra guadagni in termini di efficienza, le pressioni economiche e istituzionali tendono a favorire una maggiore autonomia. Se un sistema può rinnovare le prescrizioni in modo sicuro, potrebbe presto essere autorizzato a iniziarle. Se riesce a diagnosticare accuratamente patologie comuni, la necessità della revisione medica viene messa in discussione. Se supera gli esseri umani in benchmark controllati, la tolleranza alla variabilità umana diminuisce.

 

Alla luce di queste tendenze, è essenziale implementare misure di salvaguardia specifiche. Ad esempio, audit obbligatori sulle discrepanze sul 5% delle decisioni basate sull’Intelligenza Artificiale potrebbero fungere da controllo concreto, garantendo l’allineamento tra le raccomandazioni dell’Intelligenza Artificiale e il giudizio clinico umano, fornendo al contempo alle autorità di regolamentazione e ai consigli di amministrazione ospedalieri metriche concrete per monitorare l’integrazione dell’Intelligenza Artificiale.

 

Queste domande non sono poste con cattive intenzioni; emergono naturalmente all’interno di sistemi focalizzati sul contenimento dei costi e sulla scalabilità. Tuttavia, indicano un futuro in cui il giudizio umano diventerà l’eccezione piuttosto che la norma. In un simile scenario, gli individui con risorse continueranno a ricevere cure umane, mentre altri saranno indirizzati attraverso processi automatizzati. La medicina a due livelli non sarà il risultato di un’ideologia, ma di un’ottimizzazione.

 

Ciò che rende questo momento particolarmente precario è l’assenza di chiare linee di responsabilità. Quando una decisione guidata dall’Intelligenza Artificiale danneggia un paziente, chi è responsabile? È il medico che supervisiona nominalmente il sistema? L’istituzione che lo ha implementato? Il fornitore che ha addestrato il modello? L’ente regolatore che ne ha approvato l’uso? Senza risposte esplicite, la responsabilità svanisce. E quando la responsabilità svanisce, la fiducia segue a ruota.

 

La medicina si basa fondamentalmente sulla fiducia. I pazienti affidano il loro corpo, le loro paure e spesso le loro vite nelle mani dei medici. Questa fiducia non può essere trasferita a un algoritmo, per quanto sofisticato possa essere. Si basa sulla certezza della presenza di un essere umano, qualcuno capace di ascoltare, adattarsi e assumersi la responsabilità delle proprie azioni.

 

Rifiutare del tutto l’Intelligenza Artificiale è superfluo. Se utilizzata con giudizio, l’IA può ridurre gli oneri amministrativi, identificare modelli che potrebbero sfuggire al rilevamento umano e supportare il processo decisionale clinico. Può consentire ai medici di dedicare più tempo all’assistenza ai pazienti piuttosto che alle attività amministrative. Tuttavia, realizzare questo futuro richiede un chiaro impegno a mantenere la responsabilità umana al centro della pratica medica.

 

«Human-in-the-loop» deve significare più di una supervisione simbolica. Dovrebbe richiedere che un individuo specifico sia responsabile di ogni decisione medica, ne comprenda le motivazioni e mantenga sia l’autorità che l’obbligo di ignorare le raccomandazioni algoritmiche. Deve inoltre implicare trasparenza, spiegabilità e consenso informato del paziente, nonché l’impegno a investire nei medici umani anziché sostituirli con l’Intelligenza Artificiale.

Il rischio principale non è l’eccessivo potere dell’Intelligenza Artificiale, ma piuttosto la volontà delle istituzioni di rinunciare alle proprie responsabilità. Nella ricerca di efficienza e innovazione, c’è il rischio che la medicina diventi un campo tecnicamente avanzato e amministrativamente snello, ma privo di sostanza morale.

 

Mentre pensiamo al futuro, è essenziale chiedersi: che tipo di guaritore immaginiamo al capezzale del paziente nel 2035? Questa domanda richiede un’immaginazione morale collettiva, incoraggiandoci a plasmare un futuro in cui la responsabilità umana e l’assistenza compassionevole rimangano al centro della pratica medica. Mobilitare l’azione collettiva sarà fondamentale per garantire che i progressi nell’Intelligenza Artificiale migliorino, anziché indebolire, questi valori fondamentali.

 

L’Intelligenza Artificiale non è autorizzata a esercitare la professione medica. Ma la medicina viene silenziosamente riprogettata attorno a sistemi privi di peso morale. Se questo processo continua senza controllo, un giorno potremmo scoprire che il medico non è stato sostituito da una macchina, ma da un protocollo, e che quando si verifica un danno, non c’è più nessuno che possa risponderne.

 

Questo non sarebbe un progresso. Sarebbe un’abdicazione.

 

Joseph Varon

 

Joseph Varon, MD, è medico di terapia intensiva, professore e presidente dell’Independent Medical Alliance. È autore di oltre 980 pubblicazioni peer-reviewed ed è caporedattore del Journal of Independent Medicine.

SOSTIENI RENOVATIO 21

 

Elon Musk ha chiesto un risarcimento danni compreso tra 79 e 134 miliardi di dollari a OpenAI e Microsoft, secondo quanto emerge da un documento depositato venerdì in tribunale dal suo avvocato.   Il miliardario statunitense sostiene che la società dietro ChatGPT abbia ottenuto «guadagni illeciti» grazie al suo sostegno iniziale, e che sia stato truffato dei circa 38 milioni di dollari investiti nel 2015 come capitale di avvio. Secondo il filing, Musk avrebbe diritto a una quota significativa dell’attuale valutazione di OpenAI, stimata intorno ai 500 miliardi di dollari.   Il documento stima che OpenAI abbia generato tra 65,5 e 109,4 miliardi di dollari di profitti indebiti a partire dai contributi di Musk, mentre Microsoft – che dal 2019 investe pesantemente nell’azienda e detiene circa il 27% delle azioni della sua entità for-profit – avrebbe beneficiato di guadagni compresi tra 13,3 e 25,1 miliardi di dollari. «Senza Elon Musk, non ci sarebbe OpenAI. Ha fornito la maggior parte dei finanziamenti iniziali, ha prestato la sua reputazione e ha insegnato loro tutto ciò che sa su come far crescere un’azienda», ha dichiarato all’agenzia Reuters l’avvocato principale di Musk, Steven Molo, citando le valutazioni di un testimone esperto, l’economista finanziario C. Paul Wazzan, menzionato nel documento.   OpenAI ha respinto le richieste definendole «infondate» e parte di una campagna di «molestie» da parte di Musk. Microsoft non ha rilasciato commenti specifici sulla questione del risarcimento.   Venerdì i due coimputati hanno presentato un atto separato chiedendo al giudice di escludere l’analisi di Wazzan, descritta come «inventata», «non verificabile» e priva di fondamento.   Musk ha contribuito a fondare OpenAI nel 2015, investendo complessivamente circa 45 milioni di dollari (di cui 38 milioni in donazioni seed), ma ha lasciato il board nel 2018 a causa di divergenze strategiche con il CEO Sam Altman. Da allora è diventato uno dei critici più accesi della commercializzazione di OpenAI e della sua stretta alleanza con Microsoft.   Nel febbraio 2025 Altman aveva offerto di acquistare OpenAI per 97,4 miliardi di dollari per contrastare la transizione verso un modello profit; l’offerta fu respinta, e Altman rispose ironicamente suggerendo a Musk di vendere invece la sua piattaforma X per 9,74 miliardi di dollari.   A ottobre OpenAI ha superato SpaceX diventando l’azienda tecnologica privata più valutata al mondo, raggiungendo i 500 miliardi di dollari dopo una vendita di quote da parte di dipendenti attuali ed ex per circa 6,6 miliardi di dollari a un consorzio di investitori. Il processo è previsto per aprile 2026.   Come riportato da Renovatio 21, una precedente querela di Musk contro OpenAI era stata ritirata due anni fa. L’anno scorso l’imprenditore di origini sudafricane si era offerto di acquistare OpenAI.   SOSTIENI RENOVATIO 21

Immagine di pubblico dominio CC0 via Wikimedia

L’Intelligenza Artificiale potrebbe spazzare via la metà di tutti i posti di lavoro impiegatizi di livello base, almeno stando alle previsioni del cofondatore di Anthropic, Dario Amodei.

 

Parlando con Axios, Amodei ha affermato che il tipo di Intelligenza Artificiale che la sua azienda sta sviluppando avrà la capacità di scatenare «possibilità inimmaginabili» nel mondo, sia positive che negative.

 

Amodei prevede che la crisi del lavoro si svilupperà in quattro fasi. In primo luogo, aziende come OpenAI, Google e Anthropic lavoreranno per sviluppare modelli linguistici di grandi dimensioni (LLM) in grado di «raggiungere e superare le prestazioni umane con un numero sempre maggiore di compiti».

 

Mentre ciò accade, il governo non farà nulla per «regolamentare l’IA» o avvertire l’opinione pubblica del suo potenziale. Il lavoratore medio, «ignaro del crescente potere dell’IA e della sua minaccia per il posto di lavoro», non ha idea di cosa stia succedendo.

 

D’improvviso, «quasi da un giorno all’altro», le aziende cambiano idea e sostituiscono in massa gli esseri umani con gli LLM. «Il pubblico se ne accorge solo quando è troppo tardi», ha dichiarato Amodei ad Axios.

 

Per ribadire il suo punto di vista, l’amministratore delegato ha avanzato alcune ipotesi sconcertanti, come un mondo in cui «il cancro è curato, l’economia cresce del 10% all’anno, il bilancio è in pareggio e il 20% delle persone non ha un lavoro».

 

«Noi, in quanto produttori di questa tecnologia, abbiamo il dovere e l’obbligo di essere onesti su ciò che ci aspetta. Non credo che la gente se ne renda conto», ha sbottato Amodei.

 

Vale la pena chiedersi perché – se il magnate della tecnologia crede davvero in ciò che dice – non abbandoni del tutto Anthropic e non dedichi tempo e risorse a combattere quella che definisce una terrificante minaccia per l’economia. Invece di sostenere che i benefici di un LLM rivoluzionario superano i rischi, Amodei afferma che i critici dovrebbero considerare «cosa succederebbe se avesse ragione».

 

Tuttavia andando un po’ più a fondo rispetto all’entusiasmo per l’intelligenza artificiale di Anthropic, è difficile immaginare un mondo in cui la visione del magnate dia i suoi frutti. Appare evidente che secondo i loro stessi parametri di riferimento, le aziende stanno teoricamente sviluppando modelli LLM «migliori» con il passare del tempo. Ma questi modelli più recenti sono anche sempre più inclini ad errori, scrive Futurism.

 

Mentre Amodei, che ha un interesse finanziario e politico nel vendere la narrativa di un futuro di AI onnipotente, potrebbe pensare che gli LLM a livello umano siano dietro l’angolo, la maggior parte dei ricercatori informatici più seri non è d’accordo. Semmai, sono i pezzi grossi dell’industria tecnologica come Amodei – non la Cina o il lavoratore comune – a spingere i regolatori all’inazione, proponendo scenari da incubo come questo. Convinti del pericolo mortale rappresentato dall’intelligenza artificiale, i legislatori statunitensi sono stati fin troppo ansiosi di concedere alle aziende tecnologiche il potere di autoregolamentarsi.

 

E molti lavoratori, contrariamente al proselitismo di costui, sono in parte consapevoli delle minacce che l’industria dell’intelligenza artificiale rappresenta. La percezione del CEO è significativa, poiché l’ansia da automazione è maggiormente avvertita dalle popolazioni vulnerabili che già subiscono discriminazioni nei livelli più bassi del mercato del lavoro. 

 

Come già evidenziato da Renovatio 21, l’inserimento dell’Intelligenza Artificiale in vari aspetti del mondo del lavoro atte a facilitare alcune mansioni, non ha sempre avuto un riscontro positivo. 

 

Già da tempo nel mondo oramai parcellizzato del giornalismo, si pensa a sostituire i giornalisti con modelli di Intelligenza Artificiale.

 

La contrapposizione di idee e di prospettive di visione futura in questo ambito sono alquanto nebulose. Ricordiamo che secondo un bollettino di ricerca pubblicato dalla Banca Centrale Europea, l’adozione diffusa dell’Intelligenza Artificiale e delle tecnologie correlate ha portato ad un aumento dei posti di lavoro umani, ma ad una diminuzione dei salari, come già scritto sul nostro giornale.

 

Un rapporto recentemente pubblicato dal senatore americano socialista Bernie Sanders evidenzia che l’Intelligenza Artificiale e le tecnologie di automazione rappresentano una minaccia per circa 100 milioni di posti di lavoro negli Stati Uniti nei prossimi dieci anni. Questa previsione sottolinea che i disagi colpiranno in modo trasversale sia le professioni impiegatizie sia quelle manuali.

SOSTIENI RENOVATIO 21