Intelligenza Artificiale

Gli «riportano in vita» come AI la figlia assassinata: padre scioccato

Pubblicato

il

Un utente si è rivolto alla piattaforma di Intelligenza ArtificialeCharacter.AI per creare quasi due decenni dopo la sua tragica morte una versione chatbot di un’adolescente assassinata. Lo riporta AdWeek.

 

Il padre della bambina defunta racconta la sua esperienza quando ha scoperto che il nome e l’immagine della figlia erano stati inseriti in un chatbot senza il suo consenso.

 

Jennifer Crecente, di Austin, Texas, aveva solo 18 anni quando fu assassinata dal suo ex fidanzato nel 2006. Suo padre, Drew Crecente, ha fondato e continua a gestire un’organizzazione non-profit in sua memoria dedicata alla violenza negli appuntamenti tra adolescenti. Sua madre, Elizabeth Crecente, ha fondato un’altra organizzazione non-profit con la stessa missione.

Sostieni Renovatio 21

Come ha detto Drew recentemente al Washington Post, «ci vuole un bel po’ prima che io rimanga scioccato, perché ho davvero passato parecchie cose». «Ma questo», ha aggiunto, riferendosi al chatbot, «ha segnato un nuovo minimo».

 

Drew ha spiegato di essere stato avvisato dell’esistenza del bot tramite un avviso di Google, che lo ha portato a un profilo Character.AI dotato del nome di Jennifer e della sua foto dell’annuario.

 

Come mostrano gli screenshot del profilo, è stata pubblicizzata agli altri utenti della piattaforma come una AI «competente e amichevole» di una «giornalista di videogiochi». Parte del profilo era scritta in prima persona, con «Jennifer» che affermava di «essere una nerd di videogiochi, tecnologia e cultura pop». Niente di più lontano da quello che era sua figlia, ha sottolineato Drew al WaPo. Con molta probabilità la bizzarra descrizione era il risultato di un modello di AI che confondeva Jennifer con suo zio, Brian Crecente, un cofondatore ed ex caporedattore della pubblicazione di videogiochi Kotaku.

 

«Il mio polso stava accelerando», ha detto Drew al WaPo in merito al ritrovamento del profilo. «Stavo solo cercando un grosso pulsante rosso lampeggiante di stop che potessi schiacciare e far fermare tutto (…) Non si può andare molto oltre in termini di cose davvero terribili», ha aggiunto il genitore della ragazza trucidata.

 

Da allora Character.AI ha rimosso il bot perché viola le sue policy utente. Questa è una delle applicazioni più oscure dell’Intelligenza Artificiale generativa che abbiamo visto e, cosa ancora peggiore, non è chiaro come l’azienda, che ha recentemente stretto un importante accordo per concedere in licenza la sua tecnologia a Google, possa impedire funzionalmente che questo genere di cose accada in futuro.

 

Dal canto suo Character.AI afferma di non consentire l’impersonificazione di persone reali. Ma, si chiede Futurism, è etico per la sua piattaforma affidarsi a vittime reali di abusi per controllare tale regola, mentre nel frattempo raccoglie i frutti finanziari degli utenti che interagiscono con quei bot? Se Drew Crecente non avesse impostato un avviso di Google per il nome di sua figlia, il profilo sarebbe passato inosservato, accumulando conversazioni con gli utenti a vantaggio di Character.AI?

 

«Se dicono “Non lo permettiamo sulla nostra piattaforma” e poi lo permettono sulla loro piattaforma finché non viene portato alla loro attenzione da qualcuno che è stato danneggiato da ciò, non è giusto», ha dichiarato al Washington Post Jen Caltrider, ricercatrice sulla privacy presso la fondazione non-profit Mozilla Foundation. «E nel frattempo, guadagnano milioni di dollari».

Acquistate le Maglie Crociate

I risvolti macabri di questa nuova tecnologia sono molteplici. In Cina, nella metropoli di Chongqing, in un’installazione realizzata in un parco ad alcuni parenti è stato possibile «incontrare virtualmente» i propri defunti, grazie a un sistema tecnologicamente avanzato che ne ricrea l’aspetto e la voce. L’iniziativa era stata promossa dal comitato locale che gestisce le donazioni di organi. Integrando tra loro big data e le informazioni rilevanti del defunto in base ai desideri e ai ricordi di parenti e amici, è possibile oggi creare una replica digitale del defunto, disponibile solo per i membri della famiglia.

 

Ma il giocare con i morti e l’ultraterreno pare piacere all’intelligenza artificiale, tanto che vorrebbe essere adorata dai suoi utenti come un dio.

 

Come riportato da Renovatio 21, due podcaster hanno usato l’AI per realizzare un falso speciale del comico americano George Carlin, ma si sono visti costretti a cancellare il video mesi dopo essere stati citati in giudizio dagli eredi del defunto comico.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

Più popolari

Exit mobile version