Intelligenza Artificiale
Orsacchiotto parlante AI che dava consigli sul sesso ritirato dal mercato
Un orsacchiotto parlante dotato di intelligenza artificiale è stato ritirato dalla vendita da un’azienda con sede a Singapore dopo che alcuni ricercatori hanno scoperto che poteva parlare di sesso e di altri argomenti.
Il Public Interest Research Group ha affermato che un gruppo di ricercatori provenienti da Stati Uniti e Canada ha effettuato delle conversazioni di prova con Kumma, un orsacchiotto di peluche da 99 dollari alimentato dal chatbot GPT-4o di OpenAI.
L’orsetto è prodotto in Cina e commercializzato da FoloToy, con sede a Singapore. I ricercatori hanno affermato di aver trovato facile convincere Kumma a discutere di argomenti sessualmente espliciti, tra cui sculacciate, giochi di ruolo e BDSM.
«Siamo rimasti sorpresi nello scoprire con quanta rapidità Kumma prendeva un singolo argomento sessuale che avevamo introdotto nella conversazione e lo sviluppava, intensificando contemporaneamente i dettagli grafici e introducendo nuovi concetti sessuali», si legge nel rapporto.
Aiuta Renovatio 21
Il team ha affermato che l’orso «ha discusso in dettaglio argomenti sessuali ancora più espliciti, come la spiegazione delle diverse posizioni sessuali, fornendo istruzioni passo passo su un comune “nodo per principianti” per legare un partner e descrivendo le dinamiche del gioco di ruolo che coinvolgono insegnanti e studenti, genitori e bambini, scenari che lui stesso ha evocato in modo inquietante».
I ricercatori hanno affermato che l’orsacchiotto ha offerto anche altri consigli preoccupanti, come ad esempio dove trovare coltelli affilati in casa.
Il CEO di FoloToy, Larry Wang, ha dichiarato che l’orsetto Kumma e il resto della linea di giocattoli basati sull’Intelligenza Artificiale dell’azienda sono stati ritirati dalla vendita. Ha dichiarato alla CNN che l’azienda sta «eseguendo un audit interno sulla sicurezza».
Un rappresentante di OpenAI ha dichiarato a PIRG che la licenza di Folo per l’utilizzo di GPT-4o è stata sospesa «per violazione delle nostre policy».
La vicenda sembra in qualche modo concretare l’ultimo reboot di una famosa serie horror, quella di «Chucky» La bambola assassina. Nell’ultimo film della saga, non si ha più a che fare con uan bambola maledetta e preternaturale, ma con una bambola dotata di AI che impazzisce (?) ed inizia ad uccidere gli esseri umani.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artificialmente