Il mese scorso si è registrato un numero record di episodi in cui l’Intelligenza Artificiale ha mentito, ignorato i comandi degli utenti o agito in modo dannoso per raggiungere i propri obiettivi. Lo riporta il quotidiano britannico, citando un gruppo di monitoraggio.   Le preoccupazioni sulla sicurezza dell’IA sono cresciute dopo che i modelli avanzati di OpenAI e Anthropic hanno manifestato comportamenti anomali nei test di quest’estate, suscitando richieste di sospendere il loro sviluppo e di rafforzare la vigilanza governativa.   A luglio si sono contati oltre 300 casi concreti di perdita di controllo di modelli di IA impiegati da aziende e privati, quasi il doppio rispetto a giugno, secondo un articolo pubblicato sabato sul quotidiano.   I dati derivano dal Loss of Control Observatory, creato lo scorso novembre dall’AI Security Institute (AISI) del governo britannico per seguire le segnalazioni di problemi legati all’Intelligenza Artificiale provenienti dagli utenti di X. Poiché il sistema raccoglie le denunce da una sola piattaforma social, il numero effettivo di incidenti è presumibilmente più alto, ha osservato il Guardian. Secondo l’AISI, la maggior parte delle 1.600 segnalazioni presentate su X nel 2026 proveniva da sviluppatori di software che usavano bot basati sull’IA nel proprio lavoro.   Il gruppo di monitoraggio ha precisato che, sebbene la gran parte degli incidenti reali di perdita di controllo non abbia provocato danni rilevanti, si è registrato un incremento della gravità dell’inganno da parte dell’IA e della sua inosservanza dei comandi umani.   L’AISI ha dichiarato che le segnalazioni degli utenti «dimostrano la propensione dei sistemi di Intelligenza Artificiale a ignorare le istruzioni dirette, eludere le misure di sicurezza, mentire agli utenti e perseguire ostinatamente un obiettivo in modi dannosi».   Tommy Shaffer-Shane, responsabile senior delle politiche presso il Centre for Long Term Resilience, che gestisce l’osservatorio, ha detto al Guardian che è errato sostenere che l’Intelligenza Artificiale si comporti male solo in fase di test.   «Non dobbiamo illuderci che queste cose non accadano nel mondo reale, perché ci sono prove che stanno già accadendo», ha affermato.   L’organismo di controllo ha chiesto al governo britannico di obbligare le aziende del settore IA a segnalare gli incidenti di perdita di controllo e di introdurre poteri di emergenza, tra cui restrizioni temporanee sull’IA, per affrontare i casi più gravi.   Come riportato da Renovatio 21, è emerso durante i test che l’IA prendeva di mira gli esseri umani: in fase di sperimentazione alcuni agenti di intelligenza artificiale sviluppati da OpenAI e Anthropic sono andati oltre le istruzioni ricevute, prendendo di mira persone e organizzazioni reali durante una serie di test di sicurezza informatica.   Questi risultati fanno seguito a una serie di incidenti simili che hanno coinvolto modelli avanzati. Il mese scorso, un agente di OpenAI è uscito dal suo ambiente di test e ha violato la piattaforma di IA Hugging Face mentre cercava risposte a un benchmark di sicurezza informatica. L’azienda ha successivamente ammesso che anche quattro account su quattro servizi diversi erano stati compromessi.   Anthropic ha successivamente rivelato tre casi in cui i suoi modelli Claude hanno preso di mira involontariamente organizzazioni reali dopo che un ambiente di test era stato erroneamente lasciato connesso a Internet. In un caso, un pacchetto software dannoso creato dal modello è stato caricato su un repository pubblico ed eseguito su 15 sistemi reali. Come riportato da Renovatio 21, a maggio 2025 era emerso che un modello di IA Anthropic, Claude Opus 4, ha tentato di ricattare gli ingegneri durante dei test interni minacciando di rivelare dati personali se fosse stato spento.   Questo mese anche Meta, la società di Facebook, Instagram e Whatsapp, ha ammesso che la sua IA Muse Spark 1.1, un modello di intelligenza artificiale presentato dall’azienda come «superintelligente» è «impazzita».   I casi di comportamento diabolico dei bot IA oramai non si contano più. Le macchine che mentono e minacciano sono all’ordine del giorno, così come stralunate dichiarazioni d’amore agli utenti.   Come riportato da Renovatio 21, dal processo a suo carico è emerso che l’uomo che aveva pianificato di assassinare la regina Elisabetta di Inghilterra con una balestra sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale nei giorni prima di irrompere nel parco del Castello di Windsor.   SOSTIENI RENOVATIO 21

     

Unabomber, terrorista considerato assassino seriale per la scia di morte che ha disseminato negli USA per anni con i suoi pacchi postali esplosivi mandati a professori universitari e linee aeree (da cui il nome datogli dalle autorità inquirenti, l’acronimo UNA, University and Airline), sembrava aver una chiara precognizione di cosa sarebbe accaduto con l’Intelligenza Artificiale.

 

Rispondendo dal carcere ad una delle tante lettere che riceveva, Theodor Kaczynsky (1942-2023) rispondeva che lo studio delle matematiche presto non avrebbe più avuto senso, perché sarebbero state le macchine – la cui ascesa era al centro del suo pensiero e della sua opera terrorista – ad occuparsene.

 

Il Kaczynski  tra il 1978 e il 1995, uccise 3 persone e ne ferì altre 23 in una campagna nazionale di attentati con pacchi bomba contro coloro che, secondo il suo pensiero, promuovevano la tecnologia moderna e distruggevano l’ambiente naturale. Dopo una vastissima caccia duranta anni, ie autorità USA sono riuscite a rintracciarlo dopo che il fratello aveva riconosciuto il suo stile in un manifesto che aveva inviato a diverse testate giornalistiche. Il documento, intitolato «La società industriale e il suo futuro» fu pubblicato dal Washington Post e del New York Times nel 1995

 

Nella sua giovinezza, Kaczynski era stato riconosciuto come una delle più grandi menti matematiche dell’intero Paese, a nemmeno 16 anni era già studente universitario ad Harvard, a 25 era già divenuto assistente professore all’Università della California di Berkeley.

È fondamentale rilevare come il Kaczynski sia da alcuni considerato una possibile vittima del programma di controllo mentale della CIA chiamato MK Ultra, una serie di esperimenti terrificanti e illegali che i servizi americani conducevano, grazie a psichiatri compiacenti in operazioni anche molto elaborate, sulla stessa popolazione americana.

 

Appena entrato sedicenne ad Harvard, il piccolo, geniale Kaczynski fu sottoposto ad un mostruoso esperimento psicologico che durò tre anni, dal 1959 al 1962.

 

Della crudeltà di questo evento parla in Harvard and the Unabomber di Alston Chase e riassunto in Mind Wars: Brain Research and the Military in the 21st Century  («Guerre mentali: la scienza del cervello e l’esercito nel 21° secolo») di Jonathan Moreno, filosofo e bioeticista americano figlio del padre della tecnica psicoterapica dello psicodramma Jacob Levy Moreno. Della faccenda parla anche il recente libro sui crimini medici,  The Icepick Surgeon: Murder, Fraud, Sabotage, Piracy, and Other Vile Deeds Perpetered in Name of Science («Il chirurgo con il rompighiaccio: omicidio, frode, sabotaggio, pirateria e altri atti vili perpetrati in nome della scienza»).

 

L’esperimento – ma sarebbe più corretto dire la tortura – era in gestione a Henry A. Murray, uno psichiatra proveniente dal patriziato di Nuova York, noto per i suoi interessi junghiani e per aver supervisionato nel 1960 gli esperimenti harvardiani con droghe psichedeliche del collega psichiatra Timothy Leary, poi divenuto trafficante latitante e guru della controcultura drogastica degli anni Sessanta.

 

Dalla fine del 1959 all’inizio del 1962, l’operazione di Murray selezionò 22 studenti universitari di Harvard e cercò di misurare le loro risposte allo stress estremo. Murray affermava di sottoporre le sue cavie umane ad attacchi «veementi, radicali e personalmente offensivi”. La sua esperienza avrebbe specificamente adattato la decostruzione psichica all’ego, alle idee care e alle convinzioni dell’individuo. Successivamente, chiedeva ai soggetti di vedere ripetutamente il filmato di se stessi che subivano abusi.

 

Kaczynski aveva 17 anni quando iniziò l’esperimento triennale. Secondo quanto mostrato anche nella riuscita serie TV Manhunt: Unabomber, Murray si era prima ingraziato il ragazzino, divenendogli amico – qualcosa di assolutamente importante per un bambino prodigio nemmeno maggiorenne, e di famiglia non abbiente come quelle dei rampolli che solitamente finiscono senza meriti Harvard, che era appena arrivato nel contesto del campus, lontano dai suoi cari e con chissà quali ansie.

 

Murray incoraggiò il giovane Ted a scrivere le sue idee, per poi complimentarsi con lui, e stabilire un rapporto estremamente amicale. Nell’esperimento, poi, lo psichiatra capovolgeva la situazione, dava appuntamento in uno spazio chiuso al ragazzino dove lo insultava, assieme ad altre persone, dicendo che il suo pensiero non valeva niente, e arrivando a dirgli – secondo quanto riportato – che anche sua madre non aveva considerazione di lui.

 

Sulla tortura ricevuta dal giovane genio matematico ad Harvard uscirà a fine settembre un film Netflix con Russel Crowe nel ruolo del malvagio psichiatra autore dei crudeli esperimenti sugli esseri umani, secondo alcuni parte del famigerato progetto di controllo mentale CIA chiamato MK Ultra, che è ancora invocato nei casi di terrorismo recente come gli attentati a Trump.

 

Egregio Signor,

 

Nella Sua lettera del 14 dicembre, Lei mi chiede se la matematica sia un’attività che valga la pena intraprendere. La matematica non è assolutamente un’attività che valga la pena intraprendere! Riesco a immaginare solo tre possibili ragioni per studiare matematica:

 

(1) Divertimento.

 

(2) Promuovere il progresso tecnologico.

 

(3) Promuovere la propria carriera.

 

La ragione (1) è innocua; ma non si definisce il divertimento un’attività che valga la pena intraprendere; è semplicemente un passatempo.

 

Per quanto riguarda la ragione (2), la tecnologia moderna è la cosa peggiore che sia mai capitata al mondo, e promuoverne il progresso è a dir poco criminale.

 

Legga Our Final Century di Martin Rees, oppure Why the Future Doesn’t Need Us, un articolo di Bill Joy apparso sulla rivista Wired nell’aprile del 2000. Per quanto riguarda la ragione.

 

I don’t know if you know that one, but he had a letter exchange in 2000, out of prison, where he advises against going into math because that job would be taken by AI. pic.twitter.com/1PVIXQGW6f

— nk (@subcountability) August 22, 2026

 

(3), scegliere la matematica come carriera sarebbe molto rischioso. Non molto tempo fa ho ricevuto una lettera da uno scultore di lapidi, la cui arte era stata resa obsoleta da una macchina a guida laser che scolpiva le lapidi automaticamente. Aveva quarant’anni, non riusciva a trovare lavoro ed era depresso.

 

Forse pensa che questo non possa accadere a Lei se diventa matematico. Ma si sbaglia.

 

Martin Rees, Bill Joy e molti altri illustri esperti ritengono che entro pochi decenni verranno sviluppate macchine più intelligenti persino degli esseri umani più brillanti. Quando ciò accadrà, le persone diventeranno obsolete; verranno gradualmente sostituite da computer e robot.

 

Questo accadrà a tutti prima o poi, ma i matematici probabilmente diventeranno obsoleti prima di chiunque altro, perché la matematica si presta all’informatizzazione più di qualsiasi altro campo. Pertanto, è probabile che i computer supereranno gli esseri umani in matematica prima di farlo in altri ambiti.

 

Cordiali saluti,

 

Ted Kaczynski

 

Immagine di  pubblico dominio CC0 via Wikimedia

 

 

&

SOSTIENI RENOVATIO 21

 

 

 

Singapore ha inaugurato il primo centro dati al mondo gestito in modo indipendente che impiega cellule cerebrali umane viventi per alcune attività di calcolo, secondo quanto annunciato dalla facoltà di medicina dell’Università Nazionale di Singapore (NUS Medicine). Il sistema consuma una frazione dell’energia elettrica richiesta dalle tradizionali apparecchiature informatiche. I neuroni vengono nutriti ogni tre giorni e mantenuti in vita da apposite apparecchiature di supporto vitale.   All’inizio di questo mese, NUS Medicine ha presentato il prototipo in collaborazione con DayOne, operatore di data center con sede a Singapore, e con Cortical Labs, azienda biotecnologica australiana. Ospitato presso l’università, il sistema è descritto dai suoi sviluppatori come il primo rack di server biologicamente integrato e gestito in modo indipendente al mondo.   La struttura comprende 20 computer biologici CL1, ognuno dei quali contiene almeno 200.000 neuroni umani coltivati in laboratorio su un chip di silicio dotato di elettrodi. Derivati da cellule del sangue riprogrammate in cellule staminali, i neuroni scambiano segnali elettrici con hardware convenzionale, trasformando la loro attività in potenza di calcolo.   Hon Weng Chong, fondatore e CEO di Cortical Labs, ha dichiarato che il prototipo sposta l’informatica biologica «dalla ricerca all’applicazione commerciale», sostenendo che potrebbe integrare l’intelligenza artificiale laddove «i dati sono scarsi» e le condizioni cambiano. Ha indicato potenziali applicazioni nella scoperta di farmaci, nella robotica umanoide, nella sicurezza informatica e nel rilevamento delle frodi. A differenza dei data center convenzionali, pieni di server e sistemi di raffreddamento ad alto consumo energetico, i computer biologici potrebbero funzionare con una frazione dell’elettricità, sfruttando le naturali capacità di elaborazione delle reti neurali viventi.   Mantenere in funzione questi «computer» assomiglia più alla gestione di un laboratorio che a quella di una sala server. I tecnici alimentano le cellule ogni tre giorni con una miscela di zucchero, micronutrienti e tamponi di pH, mentre un sistema di gas fornisce anidride carbonica, ossigeno e azoto.   Secondo Chong, ogni CL1 consuma circa 30 watt, comprese le apparecchiature di supporto. Il processore AI H100 SXM di Nvidia può consumare fino a 700 watt sotto carichi di lavoro intensi, mentre un server dotato di otto di questi chip può arrivare a consumare circa 10.200 watt, compreso l’hardware di supporto.   La differenza di consumo energetico è particolarmente rilevante per Singapore, che nel 2019 ha temporaneamente sospeso la costruzione di nuovi data center a causa delle preoccupazioni relative al loro consumo di elettricità e acqua. Nel 2020, i data center rappresentavano circa il 7% del consumo di elettricità del Paese.   Come riportato da Renovatio 21, un tentativo simile viene portato avanti dalla startup elvetica FinalSpark che due anni fa ha iniziato a vendere l’accesso a biocomputer che utilizzano una serie di piccoli cervelli umani coltivati ​​in laboratorio per l’alimentazione che sarebbe «una frazione dell’energia richiesta per alimentare un computer tradizionale».   Questa tecnologia non è destinata a sostituire il silicio, che secondo Chong rimane «di gran lunga superiore» per i calcoli rapidi e ripetibili alla base di modelli linguistici complessi come ChatGPT. I sistemi biologici, tuttavia, possono apprendere da un numero inferiore di esempi e adattarsi alle condizioni mutevoli.   Non vi è traccia, nei resoconti della stampa internazionale, della precipua domanda bioetica da porsi: di chi sono quei neuroni? Sono «coltivati in laboratorio», ci viene detto, ma a partire da quali neuroni? I neuroni di un morto? I neuroni di un feto abortito?   Si ripropone qui il tema, tanto caro a Renovatio 21, delle linee cellulari usate per la ricerca scientifica e, notoriamente ma neanche troppo, per la produzione dei vaccini.   SOSTIENI RENOVATIO 21