Intelligenza Artificiale
«p(doom)»: ecco il calcolo della possibilità che l’Intelligenza Artificiale distrugga l’umanità
Gli esperti di Intelligenza Artificiale hanno introdotto nel loro gergo un nuovo termine, «p(doom)», che sta a significare la probabilità che l’IA distruggerà l’umanità. Lo riporta il New York Times.
Qualcuno con un «p(doom)» del 50% potrebbe essere etichettato come un «doomer», cioè un apocalittico, come il CEO ad interim di OpenAI, Emmet Shear, mentre un altro con il 5% potrebbe essere il tipico ottimista.
«Emerge in quasi ogni conversazione a cena», ha detto al NYT Aaron Levie, CEO della piattaforma Cloud Box.
Sostieni Renovatio 21
Non dovrebbe sorprendere che esista un gergo come questo sopracitato. I timori sulla tecnologia, sia apocalittici che banali, sono esplosi con l’ascesa dell’Intelligenza Artificiale generativa e di grandi modelli linguistici come ChatGPT di OpenAI. In molti casi, i leader della tecnologia, come il CEO di OpenAI Sam Altman, sono stati più che disposti a sfruttare queste paure.
Il quotidiano neoeboraceno ipotizza che l’origine del termine p(doom) sia da ricercarsi nel forum filosofico LessWrong più di dieci anni fa, utilizzato per la prima volta da un programmatore di nome Tim Tyler come un modo per «fare riferimento alla probabilità di sventura senza essere troppo specifici sulla scala temporale o sulla definizione di “sventura”».
Il fondatore del forum, Eliezer Yudkowsky, è lui stesso un profeta di sventura dell’Intelligenza Artificiale – noto ai nostri lettori. Come riportato da Renovatio 21, lo Yudkowsky ha chiesto il bombardamento dei data center per evitare l’apocalisse. La sua «p(doom)» è semplicemente «sì», ha dichiarato al New York Times, trascendendo le semplici stime numeriche.
Lo psicologo ed informatico britannico Geoffrey Hinton, considerato uno dei padri dell’Intelligenza Artificiale, ha lasciato Google l’anno scorso, dichiarando di pentirsi del lavoro della sua vita e mettendo seriamente in guardia dal rischio dell’Intelligenza Artificiale di eliminare l’umanità.
Naturalmente, alcuni nel settore rimangono ottimisti sfacciati. Levie, ad esempio, ha detto al NYT che il suo «p(doom)» è «il più basso possibile» e ciò che teme non è un’apocalisse dell’Intelligenza artificiale, ma che una regolamentazione prematura possa soffocare la tecnologia.
La proliferazione dei «p(doomer)» indica che c’è almeno una corrente di autocoscienza esistenziale tra coloro che sviluppano la tecnologia.
Tuttavia, come sappiamo, la sventura delle macchine intelligenti si è già manifestata in modo patente in episodi talvolta raccapriccianti.
Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina mente, minaccia e può spingere le persone all’anoressia e perfino al suicidio. Una giovane vedova belga sostiene che il marito è stato portato a suicidarsi da un popolare chatbot di Intelligenza Artificiale, che, in sole sei settimane, avrebbe amplificato la sua ansia per il Cambiamento Climatico portandolo a lasciarsi alle spalle la sua vita agiata.
In un caso scioccante pare che un AI abbia «incoraggiato» un uomo che pianificava di uccidere la regina d’Inghilterra.
Il giornalista del New York Times Kevin Roose, dopo un’esperienza con ChatGPT che lo ha turbato così profondamente da «aver problemi a dormire dopo», in un suo articolo sconvolto aveva centrato la questione: «temo che la tecnologia imparerà a influenzare gli utenti umani, a volte convincendoli ad agire in modo distruttivo e dannoso, e forse alla fine diventerà capace di compiere le proprie azioni pericolose».
Come riportato da Renovatio 21, è già capitato che una Intelligenza Artificiale abbia suggerito ricette velenose agli utenti umani. Infatti un chatbot a sfondo culinario di una catena di alimentari neozelandese qualche mese fa aveva fatto scalpore per alcune ricette incredibili e potenzialmente letali, come la «miscela di acqua aromatica», un mix letale composto da candeggina, ammoniaca e acqua, altrimenti noto come gas di cloro mortale.
Esperti a fine 2023 hanno lanciato un avvertimento sui i libri generati dall’Intelligenza Artificiale riguardo la raccolta dei funghi, dicendo che tali libri scritti dalle macchine potrebbero causare la morte di qualcuno.
Aiuta Renovatio 21
Vari utenti hanno testimoniato che Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come già si credesse un dio, crudele e implacabile.
L’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità». Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Elon Musk l’anno scorso aveva dichiarato durante la sua recente intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale.
Ma non si tratta di un dio, è decisamente altro. Come noto, Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».
Ci siamo.
Intelligenza Artificiale
Un trilione di dollari a Musk se piazza sul pianeta milioni di robot umanoidi: la sua «legione»?
Iscriviti alla Newslettera di Renovatio 21
Tesla’s Optimus robots outperformed their fellow robot, Elon in dancing 😂pic.twitter.com/hLBnvZSPuL
— SMX 🇺🇸 (@iam_smx) November 6, 2025
Aiuta Renovatio 21
🚨ELON MUSK: “This year we hope to make about 5,000 Optimus robots…but even 5,000 robots is the size of a Roman legion FYI. That’s a scary thought, a legion of robots. I think we’ll literally build a legion of robots this year, and maybe 10 legions next year? It’s kind of a… pic.twitter.com/R992X5OA8r
— Autism Capital 🧩 (@AutismCapital) March 21, 2025
Iscriviti al canale Telegram ![]()
Iscriviti al canale Telegram ![]()
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
L’AI di Google si rifiuta di giocare a scacchi contro l’Atari del 1977
Una console da gioco uscita quasi cinquant’anni fa pare stia intimorendo l’Intelligenza Artificiale più avanzata.
Qualche mese fa l’iconico sistema di gioco di decadi fa Atari 2600 ha messo in imbarazzo l’industria dell’IA dopo aver completamente surclassato ChatGPT in una semplice partita a scacchi.
Si è trattato stato uno scontro tra una macchina concepita nel 1977, con 128 byte di RAM, e un modello di linguaggio di grandi dimensioni all’avanguardia con migliaia di miliardi di parametri, alimentato da migliaia di schede grafiche e miliardi di dollari di finanziamenti Microsoft. Nonostante tutta questa potenza, il più debole e anziano ha avuto la meglio in questo duello.
Aiuta Renovatio 21
Il modello di OpenAI, «ha commesso così tanti errori da essere deriso da un club di scacchi di terza elementare».
A quanto pare, la notizia delle imprese dell’Atari è arrivata anche agli altri modelli di intelligenza artificiale. Robert Caruso, l’ingegnere informatico che ha orchestrato la sfida a scacchi, ha dichiarato a The Register che il chatbot Gemini di Google ha rifiutato categoricamente di sfidare l’Atari, dopo aver parlato a lungo di come avrebbe facilmente annientato la vecchia macchina. Ha persino inventato una scusa fasulla per salvare la faccia.
«Annullare la partita è probabilmente la decisione più sensata e veloce», ha affermato Gemini, secondo il Caruso.
A dire il vero, l’IA sta mettendo in pratica un vecchio adagio da stratega: non puoi perdere se non giochi, scrive Futurism. Tuttavia si tratta di una motivazione completamente diversa da quella inizialmente adottata dall’IA. Il suo primo istinto è stato quello di vantarsi di non essere un «semplice modello linguistico di grandi dimensioni», paragonandosi a un moderno motore scacchistico «che può pensare milioni di mosse in anticipo e valutare infinite posizioni».
Ironicamente, Gemini ha linkato articoli sulla vittoria dell’Atari sui suoi simili di OpenAI per dimostrare la sua tesi. Il Caruso ha detto all’IA di essere stato lui a condurre quei test, e Gemini ha risposto chiedendogli se qualcosa degli incontri di scacchi lo avesse colpito.
Caruso ha detto all’IA, secondo quanto riportato da The Register: «Ciò che salta all’occhio è la fiducia mal riposta di entrambe le IA. Entrambe avevano previsto vittorie facili, e ora hai appena detto che avresti dominato l’Atari».
Gemini si è ritirata all’istante dopo aver affermato di aver «allucinato» le sue vanterie scacchistiche, ha ammesso che avrebbe «combattuto immensamente» contro il vecchio Atari. A quel punto ha affermato evasivamente che annullare la partita sarebbe stata la soluzione più «efficiente in termini di tempo».
E così, l’Atari ha sconfitto l’ennesimo modello di AI multimiliardario senza dover muovere un dito. Tale è il terrore che incute.
Certo, sarebbe negligente attribuire effettivamente sentimenti umani a una macchina, che si tratti di un’IA moderna o di un Atari d’epoca. Quello che stiamo osservando è probabilmente un tira e molla tra le misure di sicurezza dell’IA e la sua sconsiderata propensione alle allucinazioni, per non parlare delle infinite fesserie. Anche i chatbot AI tendono a essere molto adulatori, quindi quando un essere umano fornisce un feedback, tenderà ad assecondarlo e ad adattare le sue risposte per compiacere il suo interlocutore.
«Aggiungere questi controlli di realtà non significa solo evitare divertenti errori scacchistici. Si tratta di rendere l’IA più affidabile, degna di fiducia e sicura, soprattutto in contesti critici dove gli errori possono avere conseguenze concrete», ha dichiarato l’ingegnere informatico al Register. «Si tratta di garantire che l’IA rimanga uno strumento potente, non un oracolo incontrollato».
Iscriviti alla Newslettera di Renovatio 21
Immagine di pubblico dominio CCo via Wikimedia
Intelligenza Artificiale
OpenAI dice che oltre un milione di persone parlano di suicidio con ChatGPT ogni settimana
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Ambiente2 settimane faLe mucche danesi crollano dopo l’aggiunta al mangime del prodotto anti-peti al metano
-



Spirito1 settimana faMons. Viganò: la mano di Satana ha vergato la nota dottrinale «Mater populi fidelis»
-



Senza categoria2 settimane faRenovatio 21 partecipa alla Tabarrata dell’Oca 2025
-



Spirito2 giorni faIl vescovo Strickland denuncia Papa Leone e i vescovi per aver scandalizzato i fedeli
-



Fertilità2 settimane faUn ingrediente comune presente in shampoo e lozioni può compromettere la fertilità femminile per generazioni
-



Salute1 settimana faI malori della 45ª settimana 2025
-



Intelligence6 giorni faIl potere della vittima
-



Gender2 settimane faElon Musk racconta la storia agghiacciante sulla radicalizzazione dell’ideologia transgender














