Intelligenza Artificiale
L’AI «probabilmente» annienterà l’umanità: parlano gli scienziati di Oxford e Google
I ricercatori di Google Deepmind e dell’Università di Oxford hanno concluso che esistono delle probabilità che una Intelligenza Artificiale (AI) superintelligente segnerà la fine dell’umanità; uno scenario decisamente inquietante che sempre più persone esperte cominciano ad ipotizzare.
In un recente articolo pubblicato sulla rivista AI Magazine, il team composto dallo scienziato senior di DeepMind, Marcus Hutter, e dai ricercatori di Oxford, Michael Cohen e Michael Osborne, sostengono che le macchine alla fine saranno incentivate a infrangere le regole impostate dai loro creatori per competere nella ricerca di risorse ed energia.
«Nelle condizioni che abbiamo identificato, la nostra conclusione è molto più forte di quella di qualsiasi pubblicazione precedente: una catastrofe esistenziale non è solo possibile, ma probabile», ha twittato all’inizio di questo mese Cohen, studente di ingegneria dell’Università di Oxford e coautore dell’articolo.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Nel documento i ricercatori sostengono che l’umanità potrebbe affrontare il suo destino sotto forma di «agenti disallineati» super avanzati che percepiscono l’umanità come un ostacolo ai loro progetti e sviluppi.
«Un buon modo per un agente di mantenere il controllo a lungo termine della sua ricompensa è eliminare potenziali minacce e utilizzare tutta l’energia disponibile per proteggere il proprio computer», si legge nel documento. «Perdere questo gioco sarebbe fatale».
I ricercatori sostengono che non c’è molto che possano fare al riguardo. «In un mondo con risorse infinite, sarei estremamente incerto su cosa potrebbe succedere», ha detto il Cohen in un’intervista a Motherboard. «In un mondo con risorse limitate, c’è una competizione inevitabile per queste risorse».
«E se sei in una competizione con qualcosa in grado di ingannarti ad ogni turno, allora non dovresti aspettarti di vincere», ha aggiunto.
In risposta a questa ipotetica minaccia, l’umanità dovrebbe far progredire lentamente e con attenzione le sue tecnologie di Intelligenza Artificiale. Se queste ipotesi fossero veritiere, «un agente artificiale sufficientemente avanzato potrebbe intervenire nella fornitura di informazioni sugli obiettivi, con conseguenze catastrofiche», avverte il documento.
Inoltre il ricercatore a capo di OpenAI ha recentemente dichiarato che l’Intelligenza Artificiale potrebbe già essere stata in grado di prendere coscienza. Ilya Sutskever, scienziato capo del gruppo di ricerca OpenAI – una organizzazione ora divenuta a scopo di lucro inizialmente dedicata allo sviluppo di una IA «benevola» che possa giovare all’umanità invece che distruggerla – aveva twittato che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Un altro progetto chiamato DALL-E2, un sistema di Intelligenza Artificiale testo-immagine realizzato da Open AI, parrebbe aver creato un proprio linguaggio scritto. È ciò che sostiene Giannis Daras, uno studente di dottorato in informatica presso l’Università del Texas ad Austin.
DALL-E2 ha fatto un salto evolutivo all’inizio di quest’anno con la sua straordinaria capacità di trasformare i messaggi di testo in immagini fotorealistiche con tanto di stile artistico e ora sembra che possa essere ancora più potente e inquietante di quanto si potesse immaginare, in quanto pare sia in grado di generare un proprio codice segreto.
Previsioni altrettanto sinistre vengono da Mo Gawdat, ex Chief Business Officer per l’organizzazione sperimentale di Google, in una intervista rilasciata al giornale britannico The Times.
L’uomo della Silicon Valley ha dichiarato che crede che la cosiddetta Intelligenza Artificiale generale (AGI), il tipo di AI onnipotente e senziente vista nella fantascienza sia inevitabile e che una volta che sarà qui, l’umanità potrebbe benissimo ritrovarsi in un’apocalisse provocata da macchine simili a delle divinità.
Si tratta, in pratica, dello scenario «Skynet» – l’Intelligenza Artificiale che nella storia di Terminator assume il controllo della Terra reputando l’uomo come minaccia.
Il Gawdat ha detto al Times di aver avuto la sua spaventosa rivelazione mentre lavorava con gli sviluppatori di intelligenza artificiale di Google X che stavano costruendo bracci robotici in grado di trovare e raccogliere una pallina.
Dopo un periodo di lenti progressi, Gawdat ha detto che un braccio ha afferrato la palla e sembrava tenerla sollevata verso i ricercatori in un gesto che, a lui, sembrava un gesto di esibizione.
Come riportato da Renovatio 21, sono vari le voci che si stanno levando per neutralizzare la minaccia di una Intelligenza Artificiale assassina. Secondo alcuni osservatori, le armi autonome potrebbero essere più destabilizzanti di quelle nucleari.
L’Intelligenza Artificiale è oramai montata, con diversi gradi di realizzazione, su droni, caccia, armi teleguidate, carrarmati, «slaughterbots» e altro ancora.
Una moratoria ONU sui robot killer non ha trovato al momento l’accordo dei vari Paesi.
Nel frattempo, su questo sito testimoniamo spesso di come robot e AI stanno di fatto sostituendo i dipendenti umani perfino nei fast food.
Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato quest’anno. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.
Intelligenza Artificiale
Musk definisce i vertici di OpenAI «stronzi inaffidabili»
Il miliardario del settore tecnologico Elon Musk ha definito i dirigenti di OpenAI «idioti totalmente inaffidabili» dopo che l’azienda ha annunciato l’intenzione di ritirare i propri modelli di intelligenza artificiale da Cursor in seguito all’acquisizione della piattaforma di programmazione da parte di SpaceX.
Musk, che ha co-fondato OpenAI nel 2015 insieme all’attuale CEO Sam Altman, al presidente Greg Brockman e ad altri sviluppatori e ricercatori, ha abbandonato la società tre anni dopo a causa della sua linea e da allora è impegnato in un’aspra controversia pubblica e legale con la dirigenza.
All’inizio di questo mese, SpaceX ha perfezionato l’acquisto di Anysphere, la società che ha realizzato Cursor, per 60 miliardi di dollari: si tratta di un software che consente ai programmatori di accedere a modelli di iItelligenza Artificiale di diverse aziende.
Venerdì, OpenAI ha comunicato all’improvviso l’intenzione di sospendere l’accesso degli utenti di Cursor ai propri modelli, con una «data di chiusura proposta» fissata al 12 novembre. L’azienda ha spiegato di non poter garantire che «SpaceX utilizzerà la nostra tecnologia nel rispetto dei nostri termini di servizio, in base alla nostra esperienza con le società di Elon Musk che hanno violato i contratti».
«Non me ne potrebbe importare di meno. Altman e Greg Stockman sono due idioti assolutamente inaffidabili che hanno rubato un’organizzazione no-profit open source», ha scritto Musk su X sabato.
I couldn’t care less. Scam Altman and Greg Stockman are utterly untrustworthy assholes who stole an open source nonprofit.
— Elon Musk (@elonmusk) August 29, 2026
Sostieni Renovatio 21
Secondo il co-fondatore Michael Truell, i modelli OpenAI rappresentano circa il 5% del traffico utenti di Cursor e l’azienda è in trattative con OpenAI per risolvere la controversia. Truell ha evidenziato che Cursor è stata una delle prime società clienti di OpenAI e che si è fidata della piattaforma dell’azienda, considerandola un’infrastruttura «neutrale» per la propria attività.
OpenAI ha dichiarato che l’accordo con Cursor le consente di recedere dal contratto entro un periodo limitato in caso di cambio di controllo, pur non avendo accusato la piattaforma stessa di aver violato i termini dell’intesa.
Anthropic, uno dei principali concorrenti di OpenAI, ha immediatamente colto l’occasione per sfruttare la disputa, annunciando che avrebbe incrementato la capacità di calcolo per supportare i propri modelli Claude su Cursor dopo l’annuncio del blocco.
Musk, che in origine aveva investito circa 38 milioni di dollari nell’iniziativa, ha citato in giudizio OpenAI nel 2024, sostenendo di essere stato indotto in errore e di aver finanziato l’azienda nella convinzione che sarebbe rimasta un’organizzazione senza scopo di lucro. La società, che oggi ha una capitalizzazione di mercato di circa 850 miliardi di dollari, si è nel frattempo ristrutturata: la società madre senza scopo di lucro mantiene il controllo e una partecipazione nella divisione a scopo di lucro che gestisce ChatGPT.
Durante il procedimento giudiziario, Musk ha accusato OpenAI di aver violato l’impegno fondante adottando un modello orientato al profitto e stringendo una stretta alleanza con Microsoft, una partnership che, secondo le testimonianze, è costata a Microsoft oltre 100 miliardi di dollari in infrastrutture e finanziamenti diretti. Il miliardario ha ripetutamente accusato Altman di aver «rubato un ente di beneficenza» e si è definito uno «sciocco» per aver fornito all’azienda un sostegno finanziario iniziale.
A maggio, una giuria federale statunitense ha respinto le pretese di Musk, ritenendo che avesse atteso troppo a lungo prima di intentare causa e che avesse superato i termini di legge. Musk ha annunciato l’intenzione di presentare ricorso contro la sentenza. La causa di due anni fa citava «profondi rischi per la società e l’umanità».
Altman, oggetto dei suoi strali (lo chiama «Scum Altman», ossia «fregatura Altman»), è stato accusato anche altrove di essere un «megalomane».
Come riportato da Renovatio 21, due anni fa Elone aveva presentato con un consorzio di investitori un’offerta da 97,4 miliardi di dollari per acquisire OpenAI.
Aiuta Renovatio 21
L’idea di Musk per superare la concorrenza, e i problemi che sorgeranno con la costruzione di immani data-center, è quella di sfruttare le capacità spaziali di SpaceX (la cui fusione con l’azienda di IA muskiana xAI) e piazzare in orbita satelliti che compiano calcoli di Intelligenza Artificiale sfruttando il freddo siderale e l’energia solare presente ad abundatiam.
L’idea di Musk è quella di spostare i data center – ingombranti ed energivori – nello spazio, dove non solo c’è spazio, senza rischi ambientali (i colossi che stanno costruendo centrali IA stanno incontrando resistenze da parte dei locali e delle autorità ambientali), ma soprattutto c’è energia, data dal sole senza la schermatura dell’atmosfera.
Tale prospettiva, chiamata orbital compute, è perseguita anche dal miliardario patron di Amazon – e di Blue Origin, altra azienda che compie voli spaziali con razzi riutilizzabili – Jeff Bezos, che la ha annunciata ad un incontro a Torino anni fa.
Per la costruzione di tali infrastrutture orbitali Musk pare ora stia puntando anche alla Luna, dove intende costruire potenti lanciatori di massa (mass driver) in grado di sparare nello spazio strutture e risorse dal nostro satellite.
Iscriviti alla Newslettera di Renovatio 21
Immagine di Steve Jurvetson via Flickr pubblicata su licenza CC BY 2.0
Intelligenza Artificiale
I casi di AI fuori controllo sono raddoppiati
Iscriviti alla Newslettera di Renovatio 21
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Quando Unabomber consigliava: non studiate matematica, sarà presto appaltata all’AI
Unabomber, terrorista considerato assassino seriale per la scia di morte che ha disseminato negli USA per anni con i suoi pacchi postali esplosivi mandati a professori universitari e linee aeree (da cui il nome datogli dalle autorità inquirenti, l’acronimo UNA, University and Airline), sembrava aver una chiara precognizione di cosa sarebbe accaduto con l’Intelligenza Artificiale.
Rispondendo dal carcere ad una delle tante lettere che riceveva, Theodor Kaczynsky (1942-2023) rispondeva che lo studio delle matematiche presto non avrebbe più avuto senso, perché sarebbero state le macchine – la cui ascesa era al centro del suo pensiero e della sua opera terrorista – ad occuparsene.
Il Kaczynski tra il 1978 e il 1995, uccise 3 persone e ne ferì altre 23 in una campagna nazionale di attentati con pacchi bomba contro coloro che, secondo il suo pensiero, promuovevano la tecnologia moderna e distruggevano l’ambiente naturale. Dopo una vastissima caccia durata anni, ie autorità USA sono riuscite a rintracciarlo dopo che il fratello aveva riconosciuto il suo stile in un manifesto che aveva inviato a diverse testate giornalistiche. Il documento, intitolato «La società industriale e il suo futuro» fu pubblicato dal Washington Post e del New York Times nel 1995
Nella sua giovinezza, Kaczynski era stato riconosciuto come una delle più grandi menti matematiche dell’intero Paese, a nemmeno 16 anni era già studente universitario ad Harvard, a 25 era già divenuto assistente professore all’Università della California di Berkeley.
Aiuta Renovatio 21
È fondamentale rilevare come il Kaczynski sia da alcuni considerato una possibile vittima del programma di controllo mentale della CIA chiamato MK Ultra, una serie di esperimenti terrificanti e illegali che i servizi americani conducevano, grazie a psichiatri compiacenti in operazioni anche molto elaborate, sulla stessa popolazione americana.
Appena entrato sedicenne ad Harvard, il piccolo, geniale Kaczynski fu sottoposto ad un mostruoso esperimento psicologico che durò tre anni, dal 1959 al 1962.
Della crudeltà di questo evento parla in Harvard and the Unabomber di Alston Chase e riassunto in Mind Wars: Brain Research and the Military in the 21st Century («Guerre mentali: la scienza del cervello e l’esercito nel 21° secolo») di Jonathan Moreno, filosofo e bioeticista americano figlio del padre della tecnica psicoterapica dello psicodramma Jacob Levy Moreno. Della faccenda parla anche il recente libro sui crimini medici, The Icepick Surgeon: Murder, Fraud, Sabotage, Piracy, and Other Vile Deeds Perpetered in Name of Science («Il chirurgo con il rompighiaccio: omicidio, frode, sabotaggio, pirateria e altri atti vili perpetrati in nome della scienza»).
L’esperimento – ma sarebbe più corretto dire la tortura – era in gestione a Henry A. Murray, uno psichiatra proveniente dal patriziato di Nuova York, noto per i suoi interessi junghiani e per aver supervisionato nel 1960 gli esperimenti harvardiani con droghe psichedeliche del collega psichiatra Timothy Leary, poi divenuto trafficante latitante e guru della controcultura drogastica degli anni Sessanta.
Dalla fine del 1959 all’inizio del 1962, l’operazione di Murray selezionò 22 studenti universitari di Harvard e cercò di misurare le loro risposte allo stress estremo. Murray affermava di sottoporre le sue cavie umane ad attacchi «veementi, radicali e personalmente offensivi”. La sua esperienza avrebbe specificamente adattato la decostruzione psichica all’ego, alle idee care e alle convinzioni dell’individuo. Successivamente, chiedeva ai soggetti di vedere ripetutamente il filmato di se stessi che subivano abusi.
Kaczynski aveva 17 anni quando iniziò l’esperimento triennale. Secondo quanto mostrato anche nella riuscita serie TV Manhunt: Unabomber, Murray si era prima ingraziato il ragazzino, divenendogli amico – qualcosa di assolutamente importante per un bambino prodigio nemmeno maggiorenne, e di famiglia non abbiente come quelle dei rampolli che solitamente finiscono senza meriti Harvard, che era appena arrivato nel contesto del campus, lontano dai suoi cari e con chissà quali ansie.
Murray incoraggiò il giovane Ted a scrivere le sue idee, per poi complimentarsi con lui, e stabilire un rapporto estremamente amicale. Nell’esperimento, poi, lo psichiatra capovolgeva la situazione, dava appuntamento in uno spazio chiuso al ragazzino dove lo insultava, assieme ad altre persone, dicendo che il suo pensiero non valeva niente, e arrivando a dirgli – secondo quanto riportato – che anche sua madre non aveva considerazione di lui.
Sulla tortura ricevuta dal giovane genio matematico ad Harvard uscirà a fine settembre un film Netflix con Russel Crowe nel ruolo del malvagio psichiatra autore dei crudeli esperimenti sugli esseri umani, secondo alcuni parte del famigerato progetto di controllo mentale CIA chiamato MK Ultra, che è ancora invocato nei casi di terrorismo recente come gli attentati a Trump.
Iscriviti alla Newslettera di Renovatio 21
Egregio Signor,
Nella Sua lettera del 14 dicembre, Lei mi chiede se la matematica sia un’attività che valga la pena intraprendere. La matematica non è assolutamente un’attività che valga la pena intraprendere! Riesco a immaginare solo tre possibili ragioni per studiare matematica:
(1) Divertimento.
(2) Promuovere il progresso tecnologico.
(3) Promuovere la propria carriera.
La ragione (1) è innocua; ma non si definisce il divertimento un’attività che valga la pena intraprendere; è semplicemente un passatempo.
Per quanto riguarda la ragione (2), la tecnologia moderna è la cosa peggiore che sia mai capitata al mondo, e promuoverne il progresso è a dir poco criminale.
Legga Our Final Century di Martin Rees, oppure Why the Future Doesn’t Need Us, un articolo di Bill Joy apparso sulla rivista Wired nell’aprile del 2000. Per quanto riguarda la ragione.
I don’t know if you know that one, but he had a letter exchange in 2000, out of prison, where he advises against going into math because that job would be taken by AI. pic.twitter.com/1PVIXQGW6f
— nk (@subcountability) August 22, 2026
Sostieni Renovatio 21
(3), scegliere la matematica come carriera sarebbe molto rischioso. Non molto tempo fa ho ricevuto una lettera da uno scultore di lapidi, la cui arte era stata resa obsoleta da una macchina a guida laser che scolpiva le lapidi automaticamente. Aveva quarant’anni, non riusciva a trovare lavoro ed era depresso.
Forse pensa che questo non possa accadere a Lei se diventa matematico. Ma si sbaglia.
Martin Rees, Bill Joy e molti altri illustri esperti ritengono che entro pochi decenni verranno sviluppate macchine più intelligenti persino degli esseri umani più brillanti. Quando ciò accadrà, le persone diventeranno obsolete; verranno gradualmente sostituite da computer e robot.
Questo accadrà a tutti prima o poi, ma i matematici probabilmente diventeranno obsoleti prima di chiunque altro, perché la matematica si presta all’informatizzazione più di qualsiasi altro campo. Pertanto, è probabile che i computer supereranno gli esseri umani in matematica prima di farlo in altri ambiti.
Cordiali saluti,
Ted Kaczynski
Immagine di pubblico dominio CC0 via Wikimedia
&
Iscriviti alla Newslettera di Renovatio 21
-



Occulto2 settimane faMons. Viganò contro il rito della Pachamama in Perù prima dell’arrivo del papa
-



Pensiero2 settimane faStoria di rune e cani che abbaiano
-



Bioetica7 giorni faKennedy lo ribadisce: sì, i vaccini sono fatti con gli aborti
-



Intelligenza Artificiale2 settimane faI Data Center faranno costare tutto di più. Le macchine hanno già vinto?
-



Catastrofi2 settimane faTerremoto di «intensità insolita» colpisce la città dove si è praticata l’idolatria di Pachamama
-



Spirito2 settimane faRisposta del vescovo de Castro-Mayer all’inchiesta segreta della Santa Sede sulla Messa
-



Pensiero1 settimana faDall’aborto alla strage figlicida, il ritorno della strega Medea
-



Salute2 settimane faI malori della 34ª settimana 2026














