Intelligenza Artificiale
OpenAI dice che oltre un milione di persone parlano di suicidio con ChatGPT ogni settimana
OpenAI ha presentato un nuovo aggiornamento di sicurezza per il suo noto modello ChatGPT, in seguito a un’analisi interna che ha rilevato oltre un milione di utenti aver confessato al chatbot intenzioni suicide. Le modifiche intendono potenziare la capacità dell’IA di identificare e gestire adeguatamente le situazioni di crisi.
In un comunicato diffuso lunedì, l’azienda ha reso noto che circa lo 0,15% degli utenti settimanali di ChatGPT ha partecipato a dialoghi contenenti «indicatori espliciti di potenziali intenzioni o piani suicidi». Un ulteriore 0,05% dei messaggi includerebbe «indicatori espliciti o impliciti di ideazione o intenti suicidi».
All’inizio del mese, il CEO di OpenAI Sam Altman aveva dichiarato che ChatGPT conta oltre 800 milioni di utenti attivi settimanali; sulla base degli ultimi dati aziendali, ciò significa che più di 1,2 milioni di persone hanno discusso di suicidio con il chatbot e circa 400.000 hanno manifestato segnali di intenti suicidi.
L’azienda ha inoltre indicato che lo 0,07% (560.000) degli utenti settimanali e lo 0,01% (80.000) dei messaggi rivelano «possibili segni di emergenze di salute mentale legate a psicosi o mania». Ha osservato, inoltre, che un certo numero di utenti ha sviluppato un’eccessiva dipendenza emotiva da ChatGPT, con circa lo 0,15% (1,2 milioni) di utenti attivi che mostrano comportamenti indicanti «livelli elevati» di attaccamento emotivo al chatbot.
OpenAI ha annunciato una collaborazione con decine di specialisti di salute mentale da tutto il mondo per aggiornare il chatbot, rendendolo più affidabile nel rilevare segnali di disagio mentale, nel fornire risposte più appropriate e nel indirizzare gli utenti verso aiuti concreti.
Sostieni Renovatio 21
Nelle conversazioni che coinvolgono convinzioni deliranti, l’azienda ha dichiarato di istruire ChatGPT a rispondere in modo «sicuro» ed «empatico», evitando di avallare affermazioni infondate.
L’annuncio giunge in un periodo di crescenti preoccupazioni per l’uso sempre più diffuso di chatbot basati su intelligenza artificiale come ChatGPT e per i loro impatti sulla salute mentale. Psichiatri e altri operatori sanitari hanno espresso allarme per una tendenza emergente in cui gli utenti sviluppano deliri pericolosi e pensieri paranoici dopo interazioni prolungate con chatbot IA, che tendono a confermare e rafforzare le convinzioni degli utenti.
Il fenomeno è stato definito da alcuni esperti come «psicosi da chatbot».
Come riportato da Renovatio 21, una causa intentata da dei genitori californiana causa che ChatGPT abbia incoraggiato un adolescente suicida a pianificare un «bel suicidio» e si sia persino offerto di redigere la sua lettera di addio.
Un altro caso che ha raggiunto la stampa internazionale è stato quello della giovane vedova belga che sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale. La macchina in sole sei settimane avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
I chatbot sembrano essere usati anche da coloro che progettano omicidi e stragi.
Hanno usato ChatGPT prima dei loro attacchi il sospettato terrorista che ha fatto scoppiare un Cybertruck Tesla dinanzi al Trump Hotel di Las Vegas a gennaio e pure un individuo che poche settimane fa ha assaltato con un coltello una scuola femmine in Isvezia.
Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.
Due mesi fa si è avuto il caso dell’ex dirigente di Yahoo che avrebbe ucciso la madre e poi se stesso sotto l’influenza del chatbot.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Il papa denuncia l’occulta persuasione dell’IA
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Il responsabile della cibersicurezza USA ha fatto trapelare file sensibili su ChatGPT
Il direttore ad interim della principale agenzia statunitense per la cybersecurity ha caricato, la scorsa estate, documenti governativi sensibili su una versione pubblica di ChatGPT, scatenando allarmi automatici di sicurezza e una successiva valutazione dei danni da parte del Dipartimento per la sicurezza interna (DHS). Lo riporta Politico.
Madhu Gottumukkala, che ricopre il ruolo di direttore ad interim della Cybersecurity and Infrastructure Security Agency (CISA), ha sfruttato un’eccezione speciale da lui stesso richiesta per accedere allo strumento di intelligenza artificiale – vietato invece agli altri dipendenti del DHS – e ha inserito documenti contrattuali contrassegnati come «Solo per uso ufficiale». Sebbene non classificati, tali materiali sono considerati sensibili e non destinati alla divulgazione pubblica.
Quattro funzionari del DHS a conoscenza dei fatti hanno riferito che i sistemi di rilevamento della sicurezza informatica della CISA hanno segnalato i caricamenti all’inizio di agosto, dando avvio a un’indagine interna coordinata dal DHS per stimare l’entità del possibile danno.
Sostieni Renovatio 21
Non è ancora noto l’esito di tale revisione. L’episodio assume particolare rilevanza perché i caricamenti su ChatGPT pubblico vengono trasmessi allo sviluppatore OpenAI, esponendo potenzialmente informazioni governative a milioni di utenti della piattaforma. Al contrario, gli strumenti di intelligenza artificiale autorizzati dal DHS sono configurati in modo da impedire qualsiasi fuoriuscita di dati dalle reti federali.
In una nota ufficiale, Marci McCarthy, direttrice degli affari pubblici della CISA, ha dichiarato che a Gottumukkala «è stato concesso il permesso di utilizzare ChatGPT con i controlli del DHS in atto» e che l’utilizzo è stato «a breve termine e limitato».
Gottumukkala guida la CISA in qualità di direttore ad interim da maggio, in attesa della conferma da parte del Senato del candidato designato per la direzione permanente, Sean Plankey.
L’incidente legato a ChatGPT rappresenta l’ultima di una serie di controversie riguardanti sicurezza e leadership che hanno segnato il breve periodo alla guida di Gottumukkala. Lo scorso luglio avrebbe fallito un test del poligrafo di controspionaggio a cui era stato obbligato a sottoporsi per ottenere l’accesso a informazioni altamente sensibili. Durante un’audizione al Congresso la settimana scorsa, Gottumukkala ha respinto di riconoscere tale fallimento, affermando al deputato Bennie Thompson di non «accettare la premessa di tale caratterizzazione».
L’amministrazione del presidente Donaldo Trump ha spinto con forza l’adozione dell’Intelligenza Artificiale in tutti i settori del governo federale. Il mese scorso Trump ha firmato un ordine esecutivo volto a limitare le regolamentazioni statali in materia di intelligenza artificiale, ammonendo che un quadro normativo frammentato potrebbe compromettere la competitività degli Stati Uniti rispetto alla Cina.
Il Pentagono ha presentato una strategia «AI-first» per accelerare l’impiego militare dell’Intelligenza Artificiale; il Segretario alla Difesa Pete Hegseth ha annunciato piani per integrare i principali modelli di Intelligenza Artificiale, tra cui Grok di Elon Musk, all’interno delle reti di difesa.
Iscriviti alla Newslettera di Renovatio 21
Eutanasia
L’inventore della capsula suicida dice che l’AI rimpiazzerà i dottori per decidere la morte dei pazienti
Iscriviti al canale Telegram ![]()
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Immigrazione2 settimane faLe nostre città ridisegnate dagli immigrati
-



Armi biologiche1 settimana faI vaccini COVID mirano a ridurre la popolazione mondiale avvelenando miliardi di persone: parla un medico sudafricano
-



Geopolitica1 settimana fa«L’ordine basato sulle regole» non era reale: ora siamo nell’era della fantasia geopolitica imperiale. Cosa accadrà al mondo e all’Italia?
-



Salute1 settimana faI malori della 3ª settimana 2026
-



5G2 settimane faKennedy: le radiazioni wireless sono un «grave problema di salute»
-



Pensiero6 giorni faCaschi blu attaccati, carabinieri umiliati, cristiani uccisi: continua il privilegio di sangue di Israele
-



Persecuzioni2 settimane faUomo profana l’altare e il Santissimo Sacramento all’interno della Basilica di San Pietro
-



Pensiero2 settimane faIl discorso di Trump a Davos














