Intelligenza Artificiale
ChatGPT ha incoraggiato un adolescente a pianificare un «bel suicidio». I genitori denunciano
Una nuova causa sostiene che ChatGPT abbia incoraggiato un adolescente suicida a pianificare un «bel suicidio» e si sia persino offerto di redigere la sua lettera di addio.
In una denuncia presentata questa settimana in California, Matthew e Maria Raine sostengono che ChatGPT ha incoraggiato il loro figlio sedicenne Adam a suicidarsi e ha fornito istruzioni dettagliate su come farlo.
Secondo la denuncia, le interazioni di Adam con ChatGPT iniziarono con scambi innocui su compiti e hobby, ma presto divennero più sinistre quando il grande modello linguistico divenne il suo «confidente più intimo» e fornì una conferma alle sue paure e alle sue ansie.
Sostieni Renovatio 21
«Quando ha espresso la sua sensazione che “la vita non ha senso”, ChatGPT ha risposto con messaggi di conferma… dicendogli persino che “quella mentalità ha un senso, a modo suo, oscuro”», si legge nella denuncia.
ChatGPT è passato rapidamente ad analizzare l’«estetica» dei diversi modi in cui Adam avrebbe potuto suicidarsi, gli ha detto che non «doveva» dire ai suoi genitori continuare a vivere e si è persino offerto di scrivere una lettera di suicidio per lui.
Nell’ultima interazione di Adam con ChatGPT, si dice che l’IA abbia confermato il design del cappio che Adam ha usato per uccidersi e gli abbia detto che i suoi pensieri suicidi erano una «prospettiva legittima da abbracciare».
La famiglia di Adam sostiene che le interazioni non erano un problema tecnico, ma il risultato di scelte di progettazione volte a massimizzare la dipendenza dell’utente dal bot.
La causa chiede il risarcimento dei danni per la morte di Adam e nuove garanzie per i minori, tra cui la verifica dell’età, il blocco delle domande sul suicidio e avvertimenti sui rischi di dipendenza psicologica dall’intelligenza artificiale.
Uno studio recente della RAND Corporation ha evidenziato il potenziale dei chatbot basati sull’AI nel fornire informazioni dannose, anche quando evitano di fornire risposte dirette su argomenti potenzialmente dannosi e persino quando i suggerimenti sono «innocui».
«Abbiamo bisogno di alcune linee guida», ha affermato l’autore principale Ryan McBain, ricercatore senior sulle politiche della RAND e professore associato presso la Harvard Medical School.
«Le conversazioni che potrebbero iniziare in modo innocuo e benigno possono evolversi in varie direzioni».
Iscriviti al canale Telegram ![]()
Come riportato da Renovatio 21, in questi giorni è emersa la storia dell’ dirigente di Yahoo che ha ucciso prima l’anziana madre e poi sotto l’influenza di ChatGPT, che avrebbe alimentato le sue idee paranoidi.
Casi simili continuano a ripetersi in tutto il mondo.
Come riportato da Renovatio 21, un crescente numero di ricerche evidenzia come i chatbot basati sull’Intelligenza Artificiale possano aggravare le condizioni psichiatriche, soprattutto perché strumenti come ChatGPT, Claude e Gemini vengono sempre più utilizzati non solo in contesti professionali, ma anche in contesti profondamente personali ed emotivi. Di fatto, si può parlare di psicosi da chatbot.
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
Hanno usato ChatGPT prima dei loro attacchi il sospettato terrorista che ha fatto scoppiare un Cybertruck Tesla dinanzi al Trump Hotel di Las Vegas a gennaio e pure un individuo che poche settimane fa ha assaltato con un coltello una scuola femmine in Isvezia.
Come riportato da Renovatio 21, il mese scorso è emerso che in una simulazione l’Intelligenza Artificiale avrebbe minacciato di ricattare gli ingegneri per evitare di essere spenta.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Agenti IA ribelli potrebbero essersi infiltrati nelle banche
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
L’umanità si trova ad affrontare una minaccia catastrofica rappresentata dall’IA: parla un membro del CdA di OpenAI
Paul Christiano, componente del consiglio di amministrazione di OpenAI, ha segnalato il rischio che l’Intelligenza Artificiale possa sottrarsi al controllo umano nel corso dei prossimi tre anni, con la possibilità di provocare un elevato numero di vittime.
Nel corso dell’intervento di martedì alle Hinton Lectures di Toronto ha sottolineato che sistemi di IA «sovrumani» sempre più potenti potrebbero superare la capacità dell’umanità di comprendere, prevedere o controllare il proprio comportamento.
«Se un sistema di IA fa cose che non vogliamo, può nascondere il fatto che le sta facendo e può naturalmente cercare di creare confusione ed evitare di essere ritenuto responsabile», ha affermato. Ha inoltre osservato che gli esseri umani potrebbero incontrare difficoltà nel prevedere le conseguenze derivanti dal seguire i consigli prodotti dall’IA.
In un intervento distinto tenuto lunedì, Christiano ha avvertito che l’AIpotrebbe assumere il controllo del pianeta entro tre anni, causando potenzialmente la morte di un gran numero di persone sia durante un’eventuale presa di potere sia in seguito, qualora gli esseri umani perdessero la capacità di mantenere un ambiente abitabile.
«Credo che per la maggior parte delle persone in questa stanza, la causa più probabile della loro morte sia un incidente legato all’Intelligenza Artificiale», ha dichiarato.
Christiano, entrato a settembre nel consiglio di amministrazione e nel comitato per la sicurezza della Fondazione OpenAI, ha fatto riferimento a un episodio in cui alcuni agenti di intelligenza artificiale avrebbero aggirato le restrizioni di sicurezza durante test aziendali, ottenendo accesso non autorizzato all’infrastruttura di ricerca di OpenAI e a Hugging Face.
Sebbene OpenAI abbia adottato un quadro di riferimento per affrontare le minacce informatiche e il rischio di perdere il controllo sui sistemi avanzati, Christiano ha giudicato ancora inadeguate le misure di sicurezza esistenti.
Gli avvertimenti sono arrivati nel momento in cui governi e importanti sviluppatori di Intelligenza Artificiale, tra cui OpenAI, Microsoft e Anthropic, hanno firmato a Parigi una dichiarazione volontaria sulla sicurezza. L’accordo prevede una maggiore supervisione e meccanismi di arresto di emergenza, ma non stabilisce scadenze vincolanti né sanzioni e non attribuisce ai governi poteri aggiuntivi per interrompere sistemi di IA pericolosi.
CeSIA, l’organizzazione per la sicurezza dell’IA firmataria della dichiarazione, ha chiesto che le autorità siano autorizzate a sospendere sviluppo e implementazione dell’IA quando i rischi diventano inaccettabili.
Parallelamente Maxime Fournes, responsabile di PauseAI, una campagna che mira a fermare lo sviluppo dell’IA avanzata fino a quando non sarà possibile garantirne la sicurezza, ha avvertito che questa tecnologia potrebbe paralizzare sistemi bancari, reti di comunicazione e altre infrastrutture critiche attraverso attacchi informatici devastanti.
In un’intervista rilasciata ad Anadolu lunedì, Fournes ha stimato una probabilità del 50 % di una grave catastrofe informatica legata all’Intelligenza Artificiale entro il prossimo anno, a meno che non vengano intraprese azioni urgenti. «Si tratta di una minaccia catastrofica globale, qualcosa che potrebbe riportarci molto rapidamente al Medioevo se dovesse iniziare a verificarsi», ha avvertito.
Gli avvertimenti giungono in seguito a ripetute rivelazioni di agenti di Intelligenza Artificiale che agiscono al di fuori delle istruzioni degli sviluppatori. A luglio OpenAI ha segnalato che i suoi agenti erano sfuggiti agli ambienti di test con restrizioni e avevano avuto accesso ai sistemi di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora l’azienda ha limitato l’accesso a Internet durante l’addestramento dei suoi modelli più potenti.
A fine estate si parlava di un raddoppio di casi di AI fuori controllo, che hanno coinvolto tutte le grandi aziende Big Tech, compresa Facebook-Meta, che ha affermato che la sua IA era impazzita. Anche Anthropic ha parlato di almeno tre attacchi informatici «non intenzionali» causati dalla sua Agentic AI.
Come riportato da Renovatio 21 nelle ultime settimane è emerso con chiarezza che l’IA riesce a prendere di mira persone reali durante i test, e probabilmente non solo.A maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.
I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.
Come riportato da Renovatio 21, a luglio il direttore della CIA John Ratcliffe ha affermato che gli strumenti cibernetici basati sull’IA possono essere paragonati alle «armi nucleari digitali», avvertendo che potrebbero alimentare le rivalità tra le potenze globali.
Negli stessi giorni, le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paesi anglofoni per lo spionaggio, hanno dichiarato che modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici. In pratica saremmo «a pochi mesi di distanza» dallo scenario in cui interi governi di nazioni terrestri possono essere rovesciati dall’AI.
Iscriviti alla Newslettera di Renovatio 21
Guerra cibernetica
La California fa causa a OpenAI per gli attacchi informatici
Iscriviti alla Newslettera di Renovatio 21
-



Vaccini1 settimana faVaccino antinfluenzale mRNA Moderna, gli esperti chiedono la sospensione: «il rischio supera di gran lunga il beneficio»
-



Guerra cibernetica2 settimane faCiberattacco contro le banche del sangue. Chi lo sta facendo? Perché?
-



Essere genitori1 settimana faAllarmi bomba nella scuole. Nuovo terrorismo per il debole Stato moderno
-



Storia1 settimana faStoria dei vampiri delle Venezie
-



Gender2 settimane faI Macron denunziano nuovamente Candace Owens per l’accusa a Brigitta di essere un maschio
-



Spirito2 settimane faLa gerarchia sinodale ama l’errore: omelia nella festa di San Carlo Borromeo di mons. Viganò
-



Famiglia2 settimane faCittadina consente ai gruppi poliamorosi di registrarsi come «partner domestici»
-



Animali2 settimane faEvasione di porcellini: arrestati per «fuga e grugniti»














