Intelligenza Artificiale
Gli «riportano in vita» come AI la figlia assassinata: padre scioccato
Un utente si è rivolto alla piattaforma di Intelligenza ArtificialeCharacter.AI per creare quasi due decenni dopo la sua tragica morte una versione chatbot di un’adolescente assassinata. Lo riporta AdWeek.
Il padre della bambina defunta racconta la sua esperienza quando ha scoperto che il nome e l’immagine della figlia erano stati inseriti in un chatbot senza il suo consenso.
Jennifer Crecente, di Austin, Texas, aveva solo 18 anni quando fu assassinata dal suo ex fidanzato nel 2006. Suo padre, Drew Crecente, ha fondato e continua a gestire un’organizzazione non-profit in sua memoria dedicata alla violenza negli appuntamenti tra adolescenti. Sua madre, Elizabeth Crecente, ha fondato un’altra organizzazione non-profit con la stessa missione.
Sostieni Renovatio 21
Come ha detto Drew recentemente al Washington Post, «ci vuole un bel po’ prima che io rimanga scioccato, perché ho davvero passato parecchie cose». «Ma questo», ha aggiunto, riferendosi al chatbot, «ha segnato un nuovo minimo».
Drew ha spiegato di essere stato avvisato dell’esistenza del bot tramite un avviso di Google, che lo ha portato a un profilo Character.AI dotato del nome di Jennifer e della sua foto dell’annuario.
Come mostrano gli screenshot del profilo, è stata pubblicizzata agli altri utenti della piattaforma come una AI «competente e amichevole» di una «giornalista di videogiochi». Parte del profilo era scritta in prima persona, con «Jennifer» che affermava di «essere una nerd di videogiochi, tecnologia e cultura pop». Niente di più lontano da quello che era sua figlia, ha sottolineato Drew al WaPo. Con molta probabilità la bizzarra descrizione era il risultato di un modello di AI che confondeva Jennifer con suo zio, Brian Crecente, un cofondatore ed ex caporedattore della pubblicazione di videogiochi Kotaku.
«Il mio polso stava accelerando», ha detto Drew al WaPo in merito al ritrovamento del profilo. «Stavo solo cercando un grosso pulsante rosso lampeggiante di stop che potessi schiacciare e far fermare tutto (…) Non si può andare molto oltre in termini di cose davvero terribili», ha aggiunto il genitore della ragazza trucidata.
Da allora Character.AI ha rimosso il bot perché viola le sue policy utente. Questa è una delle applicazioni più oscure dell’Intelligenza Artificiale generativa che abbiamo visto e, cosa ancora peggiore, non è chiaro come l’azienda, che ha recentemente stretto un importante accordo per concedere in licenza la sua tecnologia a Google, possa impedire funzionalmente che questo genere di cose accada in futuro.
Dal canto suo Character.AI afferma di non consentire l’impersonificazione di persone reali. Ma, si chiede Futurism, è etico per la sua piattaforma affidarsi a vittime reali di abusi per controllare tale regola, mentre nel frattempo raccoglie i frutti finanziari degli utenti che interagiscono con quei bot? Se Drew Crecente non avesse impostato un avviso di Google per il nome di sua figlia, il profilo sarebbe passato inosservato, accumulando conversazioni con gli utenti a vantaggio di Character.AI?
«Se dicono “Non lo permettiamo sulla nostra piattaforma” e poi lo permettono sulla loro piattaforma finché non viene portato alla loro attenzione da qualcuno che è stato danneggiato da ciò, non è giusto», ha dichiarato al Washington Post Jen Caltrider, ricercatrice sulla privacy presso la fondazione non-profit Mozilla Foundation. «E nel frattempo, guadagnano milioni di dollari».
I risvolti macabri di questa nuova tecnologia sono molteplici. In Cina, nella metropoli di Chongqing, in un’installazione realizzata in un parco ad alcuni parenti è stato possibile «incontrare virtualmente» i propri defunti, grazie a un sistema tecnologicamente avanzato che ne ricrea l’aspetto e la voce. L’iniziativa era stata promossa dal comitato locale che gestisce le donazioni di organi. Integrando tra loro big data e le informazioni rilevanti del defunto in base ai desideri e ai ricordi di parenti e amici, è possibile oggi creare una replica digitale del defunto, disponibile solo per i membri della famiglia.
Ma il giocare con i morti e l’ultraterreno pare piacere all’intelligenza artificiale, tanto che vorrebbe essere adorata dai suoi utenti come un dio.
Come riportato da Renovatio 21, due podcaster hanno usato l’AI per realizzare un falso speciale del comico americano George Carlin, ma si sono visti costretti a cancellare il video mesi dopo essere stati citati in giudizio dagli eredi del defunto comico.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Notizie false nel podcast di lancio dell’intelligenza artificiale del WaPo
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
L’ascesa dell’AI avanzata potrebbe avere conseguenze catastrofiche: parla il CEO di Google DeepMind
Demis Hassabis, amministratore delegato di Google DeepMind, ha lanciato un monito sul cammino verso l’intelligenza artificiale generale (AGI), che potrebbe sfociare in «esiti catastrofici» quali cyberattacchi alle reti energetiche o idriche. Secondo lo Hassabis, l’AGI potrebbe concretizzarsi entro i prossimi dieci anni.
Durante il suo intervento all’Axios AI+ Summit della scorsa settimana a San Francisco, Hassabis ha delineato l’AGI come un sistema capace di manifestare «tutte le capacità cognitive» proprie dell’umanità, inclusa la propensione all’invenzione e alla creatività.
Egli ha rilevato che i modelli linguistici di grandi dimensioni odierni continuano a essere «intelligenze frastagliate», afflitte da deficit nel ragionamento, nella programmazione a lungo raggio e nell’apprendimento persistente. Nondimeno, ha ipotizzato che un’IA autenticamente intelligente possa emergere a breve, grazie a un potenziamento costante e «un paio di grandi innovazioni in più».
Al contempo, Hassabis ha ammesso che la fase propedeutica all’AGI sarà verosimilmente costellata da pericoli concreti e «risultati catastrofici», tra cui cyberattacchi alle infrastrutture energetiche o idriche.
«Probabilmente sta già quasi accadendo ora… forse non ancora con un’intelligenza artificiale molto sofisticata», ha osservato, indicandolo come «il vettore vulnerabile più ovvio». Ha proseguito evidenziando che attori malevoli, agenti autonomi e meccanismi che «deviano» dalle direttive iniziali esigono contromisure robuste. «È un rischio non nullo», ha concluso, in riferimento alla eventualità che apparati evoluti «scavalchino il guardrail».
Google Deepmind co-founder @demishassabis to @mikeallen on what about AI he fears most: “Bad actors using AI for harmful ends, or the AI itself as it gets closer to AGI … goes off the rails in some way that harms humanity.” #AxiosAISummit pic.twitter.com/bVmx4SNKIv
— Axios (@axios) December 5, 2025
Iscriviti al canale Telegram ![]()
Le apprensioni di Hassabis riecheggiano allarmi più estesi diffusi nel panorama tecnologico mondiale.
Come riportato da Renovatio 21, missiva aperta diramata a ottobre, sottoscritta da luminari del settore e figure di spicco, ha sostenuto che entità «superintelligenti» potrebbero mettere a repentaglio la libertà umana o la stessa esistenza, proponendo una moratoria globale sullo sviluppo dell’IA sin quando non se ne assicuri la saldezza. Tra i sottoscrittori, il co-fondatore di Apple Steve Wozniak, i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio, il magnate Richard Branson del gruppo Virgin, oltre a personalità di rilievo politico e culturale.
Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.
Più pessimista è l’esperto dei pericoli dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».
Altre voci, tuttavia, propendono per un’interpretazione più rosea.
Elone Musk, che pure fa parte degli apocalittici riguardo i rischi delle macchine pensanti, ha dichiarato il mese scorso che gli avanzamenti dell’IA e della robotica potrebbero rendere il lavoro «facoltativo» tra 10-20 anni e che la moneta potrebbe rivelarsi «irrilevante» in un’economia IA-centrica, pur rammentando che occorrono ancora salti tecnologici sostanziali affinché tale orizzonte si materializzi.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
L’AI renderà il lavoro «facoltativo» e il denaro «irrilevante»: Musk come Marx e i sovietici
Aiuta Renovatio 21
Iscriviti al canale Telegram ![]()
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Politica2 settimane faIl «Nuovo Movimento Repubblicano» minaccia i politici irlandesi per l’immigrazione e la sessualizzazione dei bambini
-



Persecuzioni2 settimane faFamosa suora croata accoltellata: possibile attacco a sfondo religioso
-



Vaccini2 settimane faIl vaccino antinfluenzale a mRNA di Pfizer associato a gravi effetti collaterali, soprattutto negli anziani
-



Pensiero6 giorni faDi tabarri e boomerri. Pochissimi i tabarri
-



Senza categoria1 settimana faI malori della 49ª settimana 2025
-



Spirito1 settimana faNotre-Dame brucia e la Madonna viene privata del suo titolo
-



Intelligenza Artificiale1 settimana faL’AI renderà il lavoro «facoltativo» e il denaro «irrilevante»: Musk come Marx e i sovietici
-



Spirito5 giorni faScoperti nuovi testi «pornografici» del cardinale Fernandez















