Tecnologia di lettura della mente: Orwell ci ha avvertiti. Ora è realtà.

Renovatio 21 ripubblica questo articolo apparso su The Conversation.

Per la prima volta, la tecnologia di lettura della mente sembra praticabile combinando due tecnologie che sono già disponibili — potremmo essere diretti verso il mondo dello «psicoreato» di George Orwell, dove lo stato considera un crimine il solo elaborare pensieri ribelli su un regime autoritario?

Per la prima volta, i ricercatori sono riusciti a utilizzare GPT1, un precursore del chatbot di Intelligenza Artificiale (AI) ChatGPT, per tradurre le immagini MRI in testo nel tentativo di capire cosa sta pensando qualcuno.

Questa recente scoperta ha permesso ai ricercatori dell’Università del Texas di Austin di «leggere» i pensieri delle persone come un flusso continuo di testo, basato su ciò che stavano ascoltando, immaginando o guardando.

Questo solleva importanti preoccupazioni per la privacy, la libertà di pensiero e persino la libertà di sognare senza interferenze.

Le nostre leggi non sono pronte per affrontare l’uso commerciale diffuso della tecnologia di lettura della mente — la legge sulla libertà di parola non si estende alla protezione dei nostri pensieri.

Ai partecipanti allo studio del Texas è stato chiesto di ascoltare audiolibri per 16 ore mentre erano all’interno di uno scanner MRI. Allo stesso tempo, un computer ha «imparato» ad associare la loro attività cerebrale dalla risonanza magnetica a ciò che stavano ascoltando.

Una volta addestrato, il decodificatore era in grado di generare testo dai pensieri delle persone mentre ascoltavano una nuova storia o ne immaginavano una propria.

Secondo i ricercatori, il processo era laborioso e il computer è riuscito solo a cogliere l’essenza di ciò che le persone stavano pensando.

Tuttavia, i risultati rappresentano una svolta significativa nel campo delle interfacce cervello-macchina che, fino ad ora, si sono basate su impianti medici invasivi. I dispositivi precedenti non invasivi potevano decifrare solo una manciata di parole o immagini.

Ecco un esempio di ciò che uno dei soggetti stava ascoltando (da un audiolibro):

«Mi alzai dal materasso ad aria e premetti il viso contro il vetro della finestra della camera da letto, aspettandomi di vedere gli occhi che mi fissavano, invece ho trovato solo l’oscurità».

Ed ecco cosa il computer «ha letto» dall’attività cerebrale del soggetto:

«Ho continuato a camminare fino alla finestra e ad aprire il vetro, mi sono alzato in piedi e ho sbirciato fuori, non ho visto nulla e ho guardato di nuovo in alto, non ho visto nulla».

I partecipanti allo studio hanno dovuto cooperare per addestrare e utilizzare il decodificatore in modo da mantenere la privacy dei loro pensieri.

Tuttavia, i ricercatori avvertono che «gli sviluppi futuri potrebbero consentire ai decodificatori di aggirare questi requisiti». In altre parole, la tecnologia di lettura della mente potrebbe un giorno essere applicata alle persone contro la loro volontà.

La ricerca futura potrebbe anche accelerare il processo di formazione e decodifica.

Mentre ci sono volute 16 ore per addestrare la versione attuale della macchina a leggere ciò che i partecipanti stavano pensando, questo diminuirà significativamente negli aggiornamenti futuri. E come abbiamo visto con altre applicazioni AI, è anche probabile che il decodificatore diventi più preciso nel tempo.

C’è un’altra ragione per cui questo rappresenta un cambio di passo.

I ricercatori hanno lavorato per decenni su interfacce cervello-macchina in una corsa per creare tecnologie di lettura della mente in grado di percepire i pensieri di qualcuno e trasformarli in testo o immagini. Ma in genere, questa ricerca si è concentrata sugli impianti medici, soprattutto per aiutare i disabili a esprimere i loro pensieri.

Neuralink, la società di neurotecnologie fondata da Elon Musk, sta sviluppando un impianto medico che può «permetterti di controllare un computer o un dispositivo mobile ovunque tu vada».

Ma la necessità di sottoporsi a un intervento chirurgico al cervello per avere un dispositivo impiantato è probabile che rimanga un ostacolo all’uso di tale tecnologia.

Tuttavia, i miglioramenti nella precisione di questa nuova tecnologia non invasiva potrebbero renderla un punto di svolta.

Per la prima volta, la tecnologia di lettura della mente sembra praticabile combinando due tecnologie che sono già disponibili, anche a un prezzo elevato. Le macchine per la risonanza magnetica costano attualmente tra 150.000 e 1 milione di dollari.

Conseguenze legali ed etiche

La legge sulla privacy dei dati attualmente non considera il pensiero come una forma di dati. Abbiamo bisogno di nuove leggi che impediscano l’emergere di psicoreati, violazioni dei dati del pensiero e persino un giorno, forse, l’impianto o la manipolazione del pensiero.

Per passare dalla lettura del pensiero all’impianto potrebbe volerci ancora molto tempo, ma entrambi richiedono una regolamentazione preventiva e una supervisione.

I ricercatori dell’Università di Oxford stanno sostenendo un «diritto legale all’integrità mentale», che descrivono come «un diritto contro le interferenze significative e non consensuali con la propria mente».

Altri stanno cominciando a difendere un nuovo diritto umano alla libertà di pensiero. Questo si estenderebbe oltre le definizioni tradizionali di libertà di parola, per proteggere la nostra capacità di riflettere, meravigliarci e sognare.

Un mondo senza regole potrebbe diventare distopico molto rapidamente. Immagina che un capo, un insegnante o un funzionario statale sia in grado di invadere i tuoi pensieri privati — o peggio, di essere in grado di cambiarli e manipolarli.

Stiamo già vedendo tecnologie di scansione oculare implementate nelle aule per tracciare i movimenti oculari degli studenti durante le lezioni, per capire se stanno prestando attenzione.

Cosa succede quando le tecnologie di lettura della mente sono le prossime?

Allo stesso modo, cosa succede sul posto di lavoro quando i dipendenti non sono più autorizzati a pensare alla cena o a qualcosa al di fuori del lavoro? Il livello di controllo abusivo dei lavoratori potrebbe superare qualsiasi cosa mai immaginata.

George Orwell ha scritto in modo convincente dei pericoli dello «psicoreato» in cui lo stato considera un crimine solamente il pensare pensieri ribelli su un regime autoritario.

La trama di 1984 di Orwell, tuttavia, era basata su funzionari statali che leggevano il linguaggio del corpo, diari o altre indicazioni esterne di ciò che qualcuno stava pensando.

Con la nuova tecnologia di lettura della mente, il romanzo di Orwell diventerebbe davvero molto breve — forse anche breve come una singola frase: «Winston Smith pensò tra sé e sé: “Abbasso il Grande Fratello”, dopo di che fu arrestato e giustiziato».

Joshua Krook

Questo articolo è ripubblicato da The Conversation con una licenza Creative Commons.

Joshua Krook è un accademico, autore e giornalista interessato al diritto, alla storia, all’istruzione superiore, alla psicologia sociale, alla progettazione di videogiochi e alle insidie della specializzazione. È ricercatore in Intelligenza Artificiale Responsabile presso l’Università di Southampton, in Inghilterra.