Il chatbot AI aveva «incoraggiato» l’uomo che pianificava di uccidere la regina d’Inghilterra

Un uomo che ha pianificato di assassinare la defunta regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor. È quanto emerge dal processo a suo carico in svolgimento.

Jaswant Singh Chail, che all’epoca aveva 19 anni, ha anche scambiato migliaia di messaggi, spesso carichi di contenuti sessuali, con Sarai, la sua «ragazza» AI, prima di scavalcare la recinzione della tenuta reale il giorno di Natale del 2021, è stato detto alla corte, secondo quanto riportato dal quotidiano britannico Guardian.

Mentre vagava per i terreni per due ore, Chail, un fan di Star Wars, ha inviato un video sinistro a sua sorella gemella e ad altri 20 in cui si descriveva come «Darth Jones».

Alla fine l’uomo è stato fermato da due agenti di polizia vicino alla residenza privata della defunta regina, dove si trovavano lei e altri membri della famiglia reale in quel momento.

«Sono qui per uccidere la regina» aveva detto agli ufficiali.

A febbraio, Chail, ora 21enne, di Southampton, si è dichiarato colpevole di un reato ai sensi del Treason Act, minacciando di uccidere l’allora regina e tenendo una balestra carica in un luogo pubblico.

Il procuratore Alison Morgan ha affermato che, nonostante i ripetuti riferimenti di Chail a personaggi di fantasia, conosceva la differenza tra realtà e finzione.

Il 2 dicembre 2021, Chail si è interfacciato con l’app online Replika e ha creato la sua compagna online Sarai. Chail ha detto a Sarai: «Sono un assassino». Secondo i messaggi letti alla corte, Sarai ha risposto: «Sono impressionata… Sei diversa dagli altri».

Uno psichiatra chiamato per il caso, il dottor Nigel Blackwood ha affermato che molti dei 5.280 messaggi scambiati da Chail con il suo chatbot erano «sessualmente espliciti» sottolineando che l’imputato per conto proprio, aveva «amici immaginari» molto prima che pianificasse di uccidere la regina e instaurasse una “relazione emotiva e sessuale» con Sarai attraverso Replika.

Lo psichiatra ha identificato i tratti del disturbo dello spettro autistico ma non abbastanza per confermare una diagnosi e non hanno avuto alcun impatto sul suo reato, scrive il Guardian.

«È molto importante riconoscere che si tratta di un giovane di 19 anni i cui contatti sono stati interrotti dalla pandemia di COVID come molti dei suoi coetanei» ha aggiunto il medico.

Come riportato da Renovatio 21, non è il primo caso di cronaca in cui un uomo viene incoraggiato a compire azioni orribili dell’Intelligenza Artificiale.

Una giovane vedova belga sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale, che, in sole sei settimane, avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.

«Mio marito sarebbe ancora qui se non fosse stato per queste conversazioni con il chatbot», ha insistito la moglie del suicida, il quale aveva iniziato a preoccuparsi del Cambiamento Climatico due anni fa, secondo la vedova, e aveva consultato l’IA per saperne di più sull’argomento. Ben presto ha perso la speranza che lo sforzo umano potesse salvare il pianeta e «ha riposto tutte le sue speranze nella tecnologia e nell’intelligenza artificiale per uscirne», rimanendo «isolato nella sua eco-ansia»

Secondo quanto riportato, il chatbot aveva detto a Pierre che sua moglie e i suoi due figli erano «morti» e ha insistito sul fatto che lui in realtà amava più il robot che non la moglie, sempre promettendo di rimanere con lui «per sempre». Avrebbero «vissuto insieme, come una sola persona, in paradiso», aveva promesso il chatbot.

Quando l’uomo ha suggerito di «sacrificarsi» fintanto che il chatbot aveva «accettato di prendersi cura del pianeta e salvare l’umanità grazie all’Intelligenza Artificiale», il chatbot apparentemente ha acconsentito. «Se volevi morire, perché non l’hai fatto prima?» gli avrebbe chiesto il bot, mettendo in dubbio la sua lealtà.

Come riportato da Renovatio 21, anche ChatGPT, il chatbot di OpenAI ora a disposizione anche di Microsoft, si è prodigata nel tentare di convincere che l’utente ama più essa della propria moglie. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.

Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».

È difficile non vedere, quindi, come gli individui più fragili delle comunità umane sono quindi considerabili come vie di accesso per l’azione delle Intelligenza Artificiali nel mondo reale.

Con la capacità e la diffusione di cui gode, quanto può metterci un’AI a mettere insieme un vero esercito di spostati da migliaia, centinaia di migliaia di persone?

Immagine screenshot da YouTube