Connettiti con Renovato 21

Intelligenza Artificiale

L’AI «probabilmente» annienterà l’umanità: parlano gli scienziati di Oxford e Google

Pubblicato

il

I ricercatori di Google Deepmind e dell’Università di Oxford hanno concluso che esistono delle probabilità che una Intelligenza Artificiale (AI) superintelligente segnerà la fine dell’umanità; uno scenario decisamente inquietante che sempre più persone esperte cominciano ad ipotizzare.

 

In un recente articolo pubblicato sulla rivista AI Magazine, il team composto dallo scienziato senior di DeepMind, Marcus Hutter, e dai ricercatori di Oxford, Michael Cohen e Michael Osborne, sostengono che le macchine alla fine saranno incentivate a infrangere le regole impostate dai loro creatori per competere nella ricerca di risorse ed energia.

 

«Nelle condizioni che abbiamo identificato, la nostra conclusione è molto più forte di quella di qualsiasi pubblicazione precedente: una catastrofe esistenziale non è solo possibile, ma probabile», ha twittato all’inizio di questo mese Cohen, studente di ingegneria dell’Università di Oxford e coautore dell’articolo. 

 

 


 

Nel documento i ricercatori sostengono che l’umanità potrebbe affrontare il suo destino sotto forma di «agenti disallineati» super avanzati che percepiscono l’umanità come un ostacolo ai loro progetti e sviluppi.

 

«Un buon modo per un agente di mantenere il controllo a lungo termine della sua ricompensa è eliminare potenziali minacce e utilizzare tutta l’energia disponibile per proteggere il proprio computer», si legge nel documento. «Perdere questo gioco sarebbe fatale».

 

I ricercatori sostengono che non c’è molto che possano fare al riguardo. «In un mondo con risorse infinite, sarei estremamente incerto su cosa potrebbe succedere», ha detto il Cohen in un’intervista a Motherboard. «In un mondo con risorse limitate, c’è una competizione inevitabile per queste risorse».

 

«E se sei in una competizione con qualcosa in grado di ingannarti ad ogni turno, allora non dovresti aspettarti di vincere», ha aggiunto.

 

In risposta a questa ipotetica minaccia, l’umanità dovrebbe far progredire lentamente e con attenzione le sue tecnologie di Intelligenza Artificiale. Se queste ipotesi fossero veritiere, «un agente artificiale sufficientemente avanzato potrebbe intervenire nella fornitura di informazioni sugli obiettivi, con conseguenze catastrofiche», avverte il documento.

 

Inoltre il ricercatore a capo di OpenAI ha recentemente dichiarato che l’Intelligenza Artificiale potrebbe già essere stata in grado di prendere coscienza. Ilya Sutskever, scienziato capo del gruppo di ricerca OpenAI – una organizzazione ora divenuta a scopo di lucro inizialmente dedicata allo sviluppo di una IA «benevola» che possa giovare all’umanità invece che distruggerla – aveva twittato che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».

 

Un altro progetto chiamato DALL-E2, un sistema di Intelligenza Artificiale testo-immagine realizzato da Open AI,  parrebbe aver creato un proprio linguaggio scritto. È ciò che sostiene Giannis Daras, uno studente di dottorato in informatica presso l’Università del Texas ad Austin.

 

DALL-E2 ha fatto un salto evolutivo all’inizio di quest’anno con la sua straordinaria capacità di trasformare i messaggi di testo in immagini fotorealistiche con tanto di stile artistico e ora sembra che possa essere ancora più potente e inquietante di quanto si potesse immaginare, in quanto pare sia in grado di generare un proprio codice segreto.

 

Previsioni altrettanto sinistre vengono da Mo Gawdat, ex Chief Business Officer per l’organizzazione sperimentale di Google, in una intervista rilasciata al giornale britannico The Times.

 

L’uomo della Silicon Valley ha dichiarato che crede che la cosiddetta Intelligenza Artificiale generale (AGI), il tipo di AI onnipotente e senziente vista nella fantascienza  sia inevitabile e che una volta che sarà qui, l’umanità potrebbe benissimo ritrovarsi in un’apocalisse provocata da macchine simili a delle divinità.

 

Si tratta, in pratica, dello scenario «Skynet» – l’Intelligenza Artificiale che nella storia di Terminator assume il controllo della Terra reputando l’uomo come minaccia.

 

Il Gawdat ha detto al Times di aver avuto la sua spaventosa rivelazione mentre lavorava con gli sviluppatori di intelligenza artificiale di Google X che stavano costruendo bracci robotici in grado di trovare e raccogliere una pallina.

 

Dopo un periodo di lenti progressi, Gawdat ha detto che un braccio ha afferrato la palla e sembrava tenerla sollevata verso i ricercatori in un gesto che, a lui, sembrava un gesto di esibizione.

 

Come riportato da Renovatio 21, sono vari le voci che si stanno levando per neutralizzare la minaccia di una Intelligenza Artificiale assassina. Secondo alcuni osservatori, le armi autonome potrebbero essere più destabilizzanti di quelle nucleari.

 

L’Intelligenza Artificiale è oramai montata, con diversi gradi di realizzazione, su droni, caccia, armi teleguidate, carrarmati, «slaughterbots» e altro ancora.

 

Una moratoria ONU sui robot killer non ha trovato al momento l’accordo dei vari Paesi.

 

Nel frattempo, su questo sito testimoniamo spesso di come robot e AI stanno di fatto sostituendo i dipendenti umani perfino nei fast food.

 

Come riportato dall’Harvard Business Review, uno studio del 2019 stimava che il 10% dei posti di lavoro negli Stati Uniti sarebbe stato automatizzato quest’anno. Un altro studio del colosso internazionale della consulenza McKinsey stimava che quasi la metà di tutti i posti di lavoro negli Stati Uniti potrebbe essere automatizzato nel prossimo decennio.

 

 

Continua a leggere

Intelligenza Artificiale

OpenAI ha bisogno di 200 miliardi di dollari per continuare a perdere denaro

Pubblicato

il

Da

OpenAI, la società proprietaria di ChatGPT, potrebbe necessitare di reperire oltre 200 miliardi di dollari entro il 2030 per mantenere la propria operatività. Lo riporta un’analisi di HSBC pubblicata dalla stampa internazionale.

 

L’impresa richiede capitali freschi per proseguire l’espansione, in quanto le spese per l’elaborazione dati stanno lievitando nel quadro di una competizione mondiale sull’intelligenza artificiale sempre più intensa e concitata.

 

Il modello previsionale rivisto da HSBC, diffuso tra i clienti questa settimana, tiene conto degli accordi pluriennali siglati di recente da OpenAI con Microsoft, Amazon e Oracle per servizi cloud e capacità computazionali. Perfino adottando stime di crescita particolarmente rosee, il calcolo prevede comunque un gap di finanziamento di circa 207 miliardi di dollari entro la fine del decennio, con incassi stimati a 129 miliardi di dollari.

 

A quanto trapela, la banca ha calcolato che il costo cumulativo per l’affitto di risorse cloud da parte di OpenAI potrebbe sfiorare gli 800 miliardi di dollari entro il 2030. L’azienda continua a ipotizzare un boom esponenziale di utenza, con ChatGPT destinato a conquistare 3 miliardi di utenti regolari entro il 2030, rispetto agli 800 milioni del mese scorso – equivalenti a circa il 44% degli adulti globali esclusa la Cina.

Sostieni Renovatio 21

OpenAI si trova al cuore dell’esplosione dell’IA sin dal debutto di ChatGPT tre anni or sono, catalizzando un’attenzione straordinaria dagli investitori, mentre i colossi tech riversano decine di miliardi in data center e semiconduttori all’avanguardia. Alcuni esperti mettono in guardia sul rischio di una bolla speculativa, con le uscite che superano gli introiti e innalzando la tensione non solo per OpenAI, ma pure per i giganti tecnologici che ne avallano l’avanzata.

 

Le società del settore stanno faticando a reggere il ritmo dei servizi alla ChatGPT, che hanno scosso il loro dominio sulla ricerca web e spinto gli investimenti a picchi storici.

 

Ad ottobre, OpenAI aveva agguantato il primato come startup privata più valutata al mondo, sorpassando SpaceX di Elon Musk, grazie a una cessione di azioni da parte dei dipendenti per 6,6 miliardi di dollari che l’ha quotata intorno ai 500 miliardi.

 

Come riportato da Renovatio 21, il Musk –che è peraltro tra i fondatori di OpenAI, da lui impostata come una società senza fine di lucro – a inizio anno si era offerto di comprare OpenAI.

 

Due anni fa era emersa la notizia secondo cui Microsoft, già finanziatore di OpenAI, stava lavorando in segretezza proprio con la società di ChatGPT ad un progetto da 100 miliardi di dollari su un supercomputer progettato per addestrare una nuova potente IA. Poco prima Elone aveva fatto archiviare la sua causa contro OpenAI, nella quale paventava «profondi rischi per la società e per l’umanità».

 

Secondo quanto riportato, Microsoft avrebbe ora il problema di trovarsi in competizione con il suo stesso partner.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Jernej Furman via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic

Continua a leggere

Alimentazione

Il magnate della tecnologia Larry Ellison investe 60 milioni di dollari in un’azienda agro-biotecnologica che utilizza l’intelligenza artificiale per modificare geneticamente il grano

Pubblicato

il

Da

Renovatio 21 traduce questo articolo di GM Watch.    Larry Ellison ha guidato un investimento di 60 milioni di dollari in Wild Bioscience, un’azienda britannica di biotecnologie agricole che modifica geneticamente le colture, incluso il grano, utilizzando l’intelligenza artificiale. La presenza crescente del miliardario della tecnologia in Gran Bretagna include oltre 250 milioni di sterline in donazioni al Tony Blair Institute, che ora promuove attivamente l’intelligenza artificiale, l’editing genetico e altre politiche basate sulla tecnologia.   Wild Bioscience, azienda britannica specializzata in biotecnologie agricole, è specializzata nella «selezione di colture di precisione basata sull’Intelligenza Artificiale», più precisamente nell’ingegneria genetica delle piante supportata dalla tecnologia dell’Intelligenza Artificiale (IA).   Ora l’azienda si è assicurata un massiccio investimento di 60 milioni di dollari da un gruppo guidato dall’Ellison Institute of Technology (EIT), un think tank fondato dal miliardario statunitense della Big Tech Larry Ellison.   Larry Ellison è il co-fondatore della società di software Oracle. È anche un magnate dei media, uno dei principali donatori delle Forze di Difesa Israeliane e membro della cerchia ristretta del presidente Donald Trump . E sta investendo nel settore dei semi geneticamente modificati (OGM).

Sostieni Renovatio 21

Wild Bioscience sta conducendo in Inghilterra sperimentazioni in campo aperto sul grano geneticamente modificato, progettato per una fotosintesi più efficiente.   Secondo il co-fondatore di Wild Bioscience, il dott. Ross Hendron , l’azienda sta cercando di «ripercorrere il nastro della vita» per vedere come colture come il grano avrebbero potuto evolversi con caratteristiche migliori.   AgTechNavigator parafrasa Hendron dicendo: «l’azienda non può condurre esperimenti di rapida evoluzione sulle piante… quindi li simula utilizzando set di dati ampi e diversificati, la maggior parte dei quali generati da essa stessa».   Ed è qui che entra in gioco l’Intelligenza Artificiale.  

Tony Blair Institute: promuovere l’ossessione di Ellison per l’Intelligenza Artificiale e gli OGM

Ellison finanzia anche un’altra organizzazione britannica. Dal 2021, ha donato un quarto di miliardo di sterline al Tony Blair Institute (TBI), il think tank fondato dall’ex primo ministro britannico. Questo rende Ellison di gran lunga il maggiore donatore del TBI.   Si dice che il suo patrocinio abbia trasformato il TBI e i suoi obiettivi, rendendolo ancora più ossessionato dalla tecnologia di quanto non fosse già, in particolare per quanto riguarda l’Intelligenza Artificiale.   Il TBI ha pubblicato rapporti di incoraggiamento che promuovono l’Intelligenza Artificiale, l’editing genetico e l’ingegneria genetica in generale.   L’entusiasmo di Ellison sia per l’intelligenza artificiale che per l’ingegneria genetica si riflette in un rapporto del TBI Institute del gennaio 2024, «A New National Purpose: Leading the Biotech Revolution» («Un nuovo scopo nazionale: guidare la rivoluzione biotecnologica»), che promuove un connubio tra le due tecnologie.

Iscriviti al canale Telegram

Starmer ripete a pappagallo il linguaggio di Blair

Nel luglio 2024, appena cinque giorni dopo l’elezione di Keir Starmer a primo ministro del Regno Unito, Blair dichiarò alla conferenza Future of Britain del TBI che l’intelligenza artificiale era la «svolta» che stavano cercando.   Secondo Lighthouse Reports, «nel giro di pochi mesi, Starmer ripeteva a pappagallo il linguaggio di Blair e TBI era al centro della nascente politica governativa sull’intelligenza artificiale, promuovendo gli interessi di Oracle e la visione del mondo del suo fondatore».   Secondo un articolo pubblicato su Publica, una conseguenza inevitabile dei legami finanziari tra Ellison e il TBI è che l’influenza di Blair sui leader mondiali e la sua passione per la tecnologia e l’Intelligenza Artificiale sono «ora orientate alla commercializzazione dei servizi di Ellison».   «Le conversazioni con più di una dozzina di ex dipendenti di TBI che hanno fornito consulenza o elaborato raccomandazioni politiche per i governi di nove Paesi del Sud del mondo rivelano come il loro lavoro spaziasse dalla promozione esplicita dei servizi di Oracle e dal ruolo di “motore di vendita” alla raccomandazione di soluzioni tecnologiche potenzialmente dannose o stranamente lontane dalle realtà locali» ha riferito Publica.   Wild Bioscience è una spin-off britannica dell’Università di Oxford. Prima dell’investimento di 60 milioni di dollari di Ellison, era descritta come una «piccola» azienda, con un bilancio di soli 7,5 milioni di euro.   La recente iniezione di fondi da parte di Ellison cambia ovviamente tutto: l’azienda non è più piccola e, in linea di principio, può attingere a più fondi per generare più colture geneticamente modificate.   Ed è altamente probabile che gli organismi geneticamente modificati che produrrà non rispecchieranno le esigenze e gli interessi degli agricoltori e dei cittadini britannici, bensì quelli di un miliardario statunitense del settore tecnologico, concentrato su interessi specifici, che desidera un ritorno sui suoi investimenti.   Infine, vale la pena notare che, come nel caso di Bill Gates, l’ingresso di Ellison nel settore dei semi geneticamente modificati dimostra la crescente influenza dei titani della tecnologia, estremamente ricchi, sui futuri sviluppi biotecnologici.   Ciò è evidente anche nel campo della genetica umana.   Claire Robinson Jonathan Matthews   Pubblicato originariamente da GMWatch. Jonathan Matthews è il direttore di GMWatch. Claire Robinson è una redattrice di GMWatch  
Renovatio 21 offre questa traduzione per dare una informazione a 360º. Ricordiamo che non tutto ciò che viene pubblicato sul sito di Renovatio 21 corrisponde alle nostre posizioni.
 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Oracle PR via Flickr pubblicata su licenza CC BY 2.0
Continua a leggere

Intelligenza Artificiale

Orsacchiotto parlante AI che dava consigli sul sesso ritirato dal mercato

Pubblicato

il

Da

Un orsacchiotto parlante dotato di intelligenza artificiale è stato ritirato dalla vendita da un’azienda con sede a Singapore dopo che alcuni ricercatori hanno scoperto che poteva parlare di sesso e di altri argomenti.

 

Il Public Interest Research Group ha affermato che un gruppo di ricercatori provenienti da Stati Uniti e Canada ha effettuato delle conversazioni di prova con Kumma, un orsacchiotto di peluche da 99 dollari alimentato dal chatbot GPT-4o di OpenAI.

 

L’orsetto è prodotto in Cina e commercializzato da FoloToy, con sede a Singapore. I ricercatori hanno affermato di aver trovato facile convincere Kumma a discutere di argomenti sessualmente espliciti, tra cui sculacciate, giochi di ruolo e BDSM.

 

«Siamo rimasti sorpresi nello scoprire con quanta rapidità Kumma prendeva un singolo argomento sessuale che avevamo introdotto nella conversazione e lo sviluppava, intensificando contemporaneamente i dettagli grafici e introducendo nuovi concetti sessuali», si legge nel rapporto.

Aiuta Renovatio 21

Il team ha affermato che l’orso «ha discusso in dettaglio argomenti sessuali ancora più espliciti, come la spiegazione delle diverse posizioni sessuali, fornendo istruzioni passo passo su un comune “nodo per principianti” per legare un partner e descrivendo le dinamiche del gioco di ruolo che coinvolgono insegnanti e studenti, genitori e bambini, scenari che lui stesso ha evocato in modo inquietante».

 

I ricercatori hanno affermato che l’orsacchiotto ha offerto anche altri consigli preoccupanti, come ad esempio dove trovare coltelli affilati in casa.

 

Il CEO di FoloToy, Larry Wang, ha dichiarato che l’orsetto Kumma e il resto della linea di giocattoli basati sull’Intelligenza Artificiale dell’azienda sono stati ritirati dalla vendita. Ha dichiarato alla CNN che l’azienda sta «eseguendo un audit interno sulla sicurezza».

 

Un rappresentante di OpenAI ha dichiarato a PIRG che la licenza di Folo per l’utilizzo di GPT-4o è stata sospesa «per violazione delle nostre policy».

 

La vicenda sembra in qualche modo concretare l’ultimo reboot di una famosa serie horror, quella di «Chucky» La bambola assassina. Nell’ultimo film della saga, non si ha più a che fare con uan bambola maledetta e preternaturale, ma con una bambola dotata di AI che impazzisce (?) ed inizia ad uccidere gli esseri umani.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine generata artificialmente


 

Continua a leggere

Più popolari