Intelligenza Artificiale
L’AI «probabilmente» annienterà l’umanità: parlano gli scienziati di Oxford e Google
I ricercatori di Google Deepmind e dell’Università di Oxford hanno concluso che esistono delle probabilità che una Intelligenza Artificiale (AI) superintelligente segnerà la fine dell’umanità; uno scenario decisamente inquietante che sempre più persone esperte cominciano ad ipotizzare.
In un recente articolo pubblicato sulla rivista AI Magazine, il team composto dallo scienziato senior di DeepMind, Marcus Hutter, e dai ricercatori di Oxford, Michael Cohen e Michael Osborne, sostengono che le macchine alla fine saranno incentivate a infrangere le regole impostate dai loro creatori per competere nella ricerca di risorse ed energia.
«Nelle condizioni che abbiamo identificato, la nostra conclusione è molto più forte di quella di qualsiasi pubblicazione precedente: una catastrofe esistenziale non è solo possibile, ma probabile», ha twittato all’inizio di questo mese Cohen, studente di ingegneria dell’Università di Oxford e coautore dell’articolo.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Nel documento i ricercatori sostengono che l’umanità potrebbe affrontare il suo destino sotto forma di «agenti disallineati» super avanzati che percepiscono l’umanità come un ostacolo ai loro progetti e sviluppi.
«Un buon modo per un agente di mantenere il controllo a lungo termine della sua ricompensa è eliminare potenziali minacce e utilizzare tutta l’energia disponibile per proteggere il proprio computer», si legge nel documento. «Perdere questo gioco sarebbe fatale».
I ricercatori sostengono che non c’è molto che possano fare al riguardo. «In un mondo con risorse infinite, sarei estremamente incerto su cosa potrebbe succedere», ha detto il Cohen in un’intervista a Motherboard. «In un mondo con risorse limitate, c’è una competizione inevitabile per queste risorse».
«E se sei in una competizione con qualcosa in grado di ingannarti ad ogni turno, allora non dovresti aspettarti di vincere», ha aggiunto.
In risposta a questa ipotetica minaccia, l’umanità dovrebbe far progredire lentamente e con attenzione le sue tecnologie di Intelligenza Artificiale. Se queste ipotesi fossero veritiere, «un agente artificiale sufficientemente avanzato potrebbe intervenire nella fornitura di informazioni sugli obiettivi, con conseguenze catastrofiche», avverte il documento.
Inoltre il ricercatore a capo di OpenAI ha recentemente dichiarato che l’Intelligenza Artificiale potrebbe già essere stata in grado di prendere coscienza. Ilya Sutskever, scienziato capo del gruppo di ricerca OpenAI – una organizzazione ora divenuta a scopo di lucro inizialmente dedicata allo sviluppo di una IA «benevola» che possa giovare all’umanità invece che distruggerla – aveva twittato che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».
Un altro progetto chiamato DALL-E2, un sistema di Intelligenza Artificiale testo-immagine realizzato da Open AI, parrebbe aver creato un proprio linguaggio scritto. È ciò che sostiene Giannis Daras, uno studente di dottorato in informatica presso l’Università del Texas ad Austin.
DALL-E2 ha fatto un salto evolutivo all’inizio di quest’anno con la sua straordinaria capacità di trasformare i messaggi di testo in immagini fotorealistiche con tanto di stile artistico e ora sembra che possa essere ancora più potente e inquietante di quanto si potesse immaginare, in quanto pare sia in grado di generare un proprio codice segreto.
Previsioni altrettanto sinistre vengono da Mo Gawdat, ex Chief Business Officer per l’organizzazione sperimentale di Google, in una intervista rilasciata al giornale britannico The Times.
L’uomo della Silicon Valley ha dichiarato che crede che la cosiddetta Intelligenza Artificiale generale (AGI), il tipo di AI onnipotente e senziente vista nella fantascienza sia inevitabile e che una volta che sarà qui, l’umanità potrebbe benissimo ritrovarsi in un’apocalisse provocata da macchine simili a delle divinità.
Si tratta, in pratica, dello scenario «Skynet» – l’Intelligenza Artificiale che nella storia di Terminator assume il controllo della Terra reputando l’uomo come minaccia.
Il Gawdat ha detto al Times di aver avuto la sua spaventosa rivelazione mentre lavorava con gli sviluppatori di intelligenza artificiale di Google X che stavano costruendo bracci robotici in grado di trovare e raccogliere una pallina.
Dopo un periodo di lenti progressi, Gawdat ha detto che un braccio ha afferrato la palla e sembrava tenerla sollevata verso i ricercatori in un gesto che, a lui, sembrava un gesto di esibizione.
Come riportato da Renovatio 21, sono vari le voci che si stanno levando per neutralizzare la minaccia di una Intelligenza Artificiale assassina. Secondo alcuni osservatori, le armi autonome potrebbero essere più destabilizzanti di quelle nucleari.
L’Intelligenza Artificiale è oramai montata, con diversi gradi di realizzazione, su droni, caccia, armi teleguidate, carrarmati, «slaughterbots» e altro ancora.
Una moratoria ONU sui robot killer non ha trovato al momento l’accordo dei vari Paesi.
Nel frattempo, su questo sito testimoniamo spesso di come robot e AI stanno di fatto sostituendo i dipendenti umani perfino nei fast food.
Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato quest’anno. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.
Intelligenza Artificiale
OpenAI ha bisogno di 200 miliardi di dollari per continuare a perdere denaro
OpenAI, la società proprietaria di ChatGPT, potrebbe necessitare di reperire oltre 200 miliardi di dollari entro il 2030 per mantenere la propria operatività. Lo riporta un’analisi di HSBC pubblicata dalla stampa internazionale.
L’impresa richiede capitali freschi per proseguire l’espansione, in quanto le spese per l’elaborazione dati stanno lievitando nel quadro di una competizione mondiale sull’intelligenza artificiale sempre più intensa e concitata.
Il modello previsionale rivisto da HSBC, diffuso tra i clienti questa settimana, tiene conto degli accordi pluriennali siglati di recente da OpenAI con Microsoft, Amazon e Oracle per servizi cloud e capacità computazionali. Perfino adottando stime di crescita particolarmente rosee, il calcolo prevede comunque un gap di finanziamento di circa 207 miliardi di dollari entro la fine del decennio, con incassi stimati a 129 miliardi di dollari.
A quanto trapela, la banca ha calcolato che il costo cumulativo per l’affitto di risorse cloud da parte di OpenAI potrebbe sfiorare gli 800 miliardi di dollari entro il 2030. L’azienda continua a ipotizzare un boom esponenziale di utenza, con ChatGPT destinato a conquistare 3 miliardi di utenti regolari entro il 2030, rispetto agli 800 milioni del mese scorso – equivalenti a circa il 44% degli adulti globali esclusa la Cina.
Sostieni Renovatio 21
OpenAI si trova al cuore dell’esplosione dell’IA sin dal debutto di ChatGPT tre anni or sono, catalizzando un’attenzione straordinaria dagli investitori, mentre i colossi tech riversano decine di miliardi in data center e semiconduttori all’avanguardia. Alcuni esperti mettono in guardia sul rischio di una bolla speculativa, con le uscite che superano gli introiti e innalzando la tensione non solo per OpenAI, ma pure per i giganti tecnologici che ne avallano l’avanzata.
Le società del settore stanno faticando a reggere il ritmo dei servizi alla ChatGPT, che hanno scosso il loro dominio sulla ricerca web e spinto gli investimenti a picchi storici.
Ad ottobre, OpenAI aveva agguantato il primato come startup privata più valutata al mondo, sorpassando SpaceX di Elon Musk, grazie a una cessione di azioni da parte dei dipendenti per 6,6 miliardi di dollari che l’ha quotata intorno ai 500 miliardi.
Come riportato da Renovatio 21, il Musk –che è peraltro tra i fondatori di OpenAI, da lui impostata come una società senza fine di lucro – a inizio anno si era offerto di comprare OpenAI.
Due anni fa era emersa la notizia secondo cui Microsoft, già finanziatore di OpenAI, stava lavorando in segretezza proprio con la società di ChatGPT ad un progetto da 100 miliardi di dollari su un supercomputer progettato per addestrare una nuova potente IA. Poco prima Elone aveva fatto archiviare la sua causa contro OpenAI, nella quale paventava «profondi rischi per la società e per l’umanità».
Secondo quanto riportato, Microsoft avrebbe ora il problema di trovarsi in competizione con il suo stesso partner.
Iscriviti alla Newslettera di Renovatio 21
Immagine di Jernej Furman via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic
Alimentazione
Il magnate della tecnologia Larry Ellison investe 60 milioni di dollari in un’azienda agro-biotecnologica che utilizza l’intelligenza artificiale per modificare geneticamente il grano
Sostieni Renovatio 21
Tony Blair Institute: promuovere l’ossessione di Ellison per l’Intelligenza Artificiale e gli OGM
Ellison finanzia anche un’altra organizzazione britannica. Dal 2021, ha donato un quarto di miliardo di sterline al Tony Blair Institute (TBI), il think tank fondato dall’ex primo ministro britannico. Questo rende Ellison di gran lunga il maggiore donatore del TBI. Si dice che il suo patrocinio abbia trasformato il TBI e i suoi obiettivi, rendendolo ancora più ossessionato dalla tecnologia di quanto non fosse già, in particolare per quanto riguarda l’Intelligenza Artificiale. Il TBI ha pubblicato rapporti di incoraggiamento che promuovono l’Intelligenza Artificiale, l’editing genetico e l’ingegneria genetica in generale. L’entusiasmo di Ellison sia per l’intelligenza artificiale che per l’ingegneria genetica si riflette in un rapporto del TBI Institute del gennaio 2024, «A New National Purpose: Leading the Biotech Revolution» («Un nuovo scopo nazionale: guidare la rivoluzione biotecnologica»), che promuove un connubio tra le due tecnologie.Iscriviti al canale Telegram ![]()
Starmer ripete a pappagallo il linguaggio di Blair
Nel luglio 2024, appena cinque giorni dopo l’elezione di Keir Starmer a primo ministro del Regno Unito, Blair dichiarò alla conferenza Future of Britain del TBI che l’intelligenza artificiale era la «svolta» che stavano cercando. Secondo Lighthouse Reports, «nel giro di pochi mesi, Starmer ripeteva a pappagallo il linguaggio di Blair e TBI era al centro della nascente politica governativa sull’intelligenza artificiale, promuovendo gli interessi di Oracle e la visione del mondo del suo fondatore». Secondo un articolo pubblicato su Publica, una conseguenza inevitabile dei legami finanziari tra Ellison e il TBI è che l’influenza di Blair sui leader mondiali e la sua passione per la tecnologia e l’Intelligenza Artificiale sono «ora orientate alla commercializzazione dei servizi di Ellison». «Le conversazioni con più di una dozzina di ex dipendenti di TBI che hanno fornito consulenza o elaborato raccomandazioni politiche per i governi di nove Paesi del Sud del mondo rivelano come il loro lavoro spaziasse dalla promozione esplicita dei servizi di Oracle e dal ruolo di “motore di vendita” alla raccomandazione di soluzioni tecnologiche potenzialmente dannose o stranamente lontane dalle realtà locali» ha riferito Publica. Wild Bioscience è una spin-off britannica dell’Università di Oxford. Prima dell’investimento di 60 milioni di dollari di Ellison, era descritta come una «piccola» azienda, con un bilancio di soli 7,5 milioni di euro. La recente iniezione di fondi da parte di Ellison cambia ovviamente tutto: l’azienda non è più piccola e, in linea di principio, può attingere a più fondi per generare più colture geneticamente modificate. Ed è altamente probabile che gli organismi geneticamente modificati che produrrà non rispecchieranno le esigenze e gli interessi degli agricoltori e dei cittadini britannici, bensì quelli di un miliardario statunitense del settore tecnologico, concentrato su interessi specifici, che desidera un ritorno sui suoi investimenti. Infine, vale la pena notare che, come nel caso di Bill Gates, l’ingresso di Ellison nel settore dei semi geneticamente modificati dimostra la crescente influenza dei titani della tecnologia, estremamente ricchi, sui futuri sviluppi biotecnologici. Ciò è evidente anche nel campo della genetica umana. Claire Robinson Jonathan Matthews Pubblicato originariamente da GMWatch. Jonathan Matthews è il direttore di GMWatch. Claire Robinson è una redattrice di GMWatch.Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Orsacchiotto parlante AI che dava consigli sul sesso ritirato dal mercato
Un orsacchiotto parlante dotato di intelligenza artificiale è stato ritirato dalla vendita da un’azienda con sede a Singapore dopo che alcuni ricercatori hanno scoperto che poteva parlare di sesso e di altri argomenti.
Il Public Interest Research Group ha affermato che un gruppo di ricercatori provenienti da Stati Uniti e Canada ha effettuato delle conversazioni di prova con Kumma, un orsacchiotto di peluche da 99 dollari alimentato dal chatbot GPT-4o di OpenAI.
L’orsetto è prodotto in Cina e commercializzato da FoloToy, con sede a Singapore. I ricercatori hanno affermato di aver trovato facile convincere Kumma a discutere di argomenti sessualmente espliciti, tra cui sculacciate, giochi di ruolo e BDSM.
«Siamo rimasti sorpresi nello scoprire con quanta rapidità Kumma prendeva un singolo argomento sessuale che avevamo introdotto nella conversazione e lo sviluppava, intensificando contemporaneamente i dettagli grafici e introducendo nuovi concetti sessuali», si legge nel rapporto.
Aiuta Renovatio 21
Il team ha affermato che l’orso «ha discusso in dettaglio argomenti sessuali ancora più espliciti, come la spiegazione delle diverse posizioni sessuali, fornendo istruzioni passo passo su un comune “nodo per principianti” per legare un partner e descrivendo le dinamiche del gioco di ruolo che coinvolgono insegnanti e studenti, genitori e bambini, scenari che lui stesso ha evocato in modo inquietante».
I ricercatori hanno affermato che l’orsacchiotto ha offerto anche altri consigli preoccupanti, come ad esempio dove trovare coltelli affilati in casa.
Il CEO di FoloToy, Larry Wang, ha dichiarato che l’orsetto Kumma e il resto della linea di giocattoli basati sull’Intelligenza Artificiale dell’azienda sono stati ritirati dalla vendita. Ha dichiarato alla CNN che l’azienda sta «eseguendo un audit interno sulla sicurezza».
Un rappresentante di OpenAI ha dichiarato a PIRG che la licenza di Folo per l’utilizzo di GPT-4o è stata sospesa «per violazione delle nostre policy».
La vicenda sembra in qualche modo concretare l’ultimo reboot di una famosa serie horror, quella di «Chucky» La bambola assassina. Nell’ultimo film della saga, non si ha più a che fare con uan bambola maledetta e preternaturale, ma con una bambola dotata di AI che impazzisce (?) ed inizia ad uccidere gli esseri umani.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artificialmente
-



Scuola2 settimane faScuola: puerocentrismo, tecnocentrismo verso la «società senza contatto». Intervento di Elisabetta Frezza al convegno di Asimmetrie.
-



Spirito1 settimana faGiovane convertita esorta papa Leone a non andare all’inferno
-



Geopolitica1 settimana faCandace Owens afferma che il governo francese ha dato il «via libera» al suo assassinio
-



Salute2 settimane faIl malori della 47ª settimana 2025
-



Bioetica1 settimana faMons. Viganò loda Alberto di Monaco, sovrano cattolico che non ha ratificato la legge sull’aborto
-



Spirito2 settimane faIl cardinale Zen mette in guardia dalla sinodalità: «Non è forse questo il suicidio della Chiesa cattolica?»
-



Immigrazione1 settimana faLe ciabatte degli immigrati e l’anarco-tirannia
-



Vaccini2 settimane faGoogle ha censurato le informazioni sui vaccini molto prima del COVID: quali sono i suoi legami con le farmaceutiche?














