Connettiti con Renovato 21

Intelligenza Artificiale

Indagine su OpenAI e il suo capo

Pubblicato

il

Il giornalista di inchiesta Ronan Farrow ha pubblicato sulla prestigiosa rivista New Yorker un lungo articolo sul colosso dell’Intelligenza Artificiale OpenAI e il suo molto discusso CEO Sam Altman.

 

Ronan, già bambino prodigio per studi e incarichi governativi, è il giornalista che nel 2016 accese la miccia del MeToo, pubblicando le accuse di alcune attrici al magnate hollywoodiano Harvey Weinstein. Come noto, il ragazzo è figlio della star cinematografica Mia Farrow e del comico ebreo Woody Allen, che avrebbe poi sposato la figlia adottiva Soon Yi Previn con una cerimonia a Venezia officiata da Massimo Cacciari. Mia Farrow in seguito avrebbe detto che il padre biologico del Ronan potrebbe essere l’ex marito Frank Sinatra, cui il giornalista in effetti potrebbe somigliare un po’.

 

Il Farrow ha riassunto su X l’esito della sua ricerca.

 

«Nell’ultimo anno e mezzo, ho indagato su OpenAI e Sam Altman per il New Yorker. Insieme al mio coautore Andrew Marantz, ho esaminato promemoria interni inediti, ottenuto oltre 200 pagine di documenti relativi a uno stretto collaboratore, tra cui numerose note private, e intervistato più di 100 persone. OpenAI è stata fondata sul presupposto che l’Intelligenza Artificiale potesse essere l’invenzione più pericolosa della storia umana e che il suo CEO dovesse essere una persona di straordinaria integrità».

Sostieni Renovatio 21

Si tratta, dice il giornalista, del resoconto più dettagliato finora disponibile sul perché Altman sia stato estromesso dai membri del consiglio di amministrazione e dai dirigenti, che si sono convinti della sua mancanza di integrità, e ci chiediamo: avevano ragione a sostenere che non ci si potesse fidare di lui?» si domanda il giornalista

 

«Nell’autunno del 2023, il responsabile scientifico di OpenAI, Ilya Sutskever, su richiesta dei membri del consiglio di amministrazione e di altri colleghi preoccupati, ha raccolto circa 70 pagine di promemoria su Altman e il suo vice, Greg Brockman: messaggi di Slack e documenti delle risorse umane, alcuni fotografati con un cellulare per evitare di essere scoperti sui dispositivi aziendali. Un promemoria inizia con un elenco: “Sam mostra un comportamento ricorrente di…”. Il primo punto è “Mentire”. Parallelamente, Dario Amodei, che ha lasciato l’azienda per co-fondare Anthropic, ha conservato per anni appunti privati ​​su Altman e Brockman. Oltre 200 pagine di documenti correlati, mai resi pubblici prima, sono circolate nella Silicon Valley. In un documento, Amodei scrive che le parole di Altman “erano quasi certamente una sciocchezza”».

 

Come noto ai lettori di Renovatio 21, si tratta di grandi nomi dell’IA: il Sutskever è noto anche per dichiarazioni para-teologiche sull’AI (aveva detto che potrebbe «già essere senziente», mentre l’Amodei con Anthropic è ora al centro della scena sia per la potenza del suo modello che per gli screzi con Pentagono ed amministrazione Trump. Il software Claude sarebbe stato utilizzato anche per rapire il presidente venezuelano Nicolas Maduro.

 

«I colleghi che hanno facilitato la sua rimozione lo accusano di un livello di inganno inaccettabile per qualsiasi dirigente e pericoloso per un leader di un’azienda tecnologica così rivoluzionaria» prosegue il racconto del Farrow. «Mira Murati, che aveva fornito a Sutskever materiale per i suoi promemoria, ha dichiarato: “Abbiamo bisogno di istituzioni degne del potere che esercitano (…) Il consiglio di amministrazione ha chiesto un riscontro e io ho condiviso ciò che osservavo. Tutto ciò che ho condiviso era accurato e lo confermo pienamente”. Le opinioni divergono sulla misura in cui questi tratti debbano essere considerati benigni o maligni. Altman attribuisce le critiche a una tendenza, soprattutto all’inizio della sua carriera, “a evitare eccessivamente i conflitti”».

 

«Come si manifesta questa caratteristica nella pratica? Alla fine del 2022, Altman assicurò al consiglio di amministrazione che alcune caratteristiche di un modello di prossima uscita erano state approvate da un comitato di sicurezza. La consigliera Helen Toner richiese la documentazione e scoprì che le caratteristiche più controverse non erano state, in realtà, approvate. Nel 2023, mentre l’azienda si preparava a lanciare il GPT-4 Turbo, Altman apparentemente disse a Murati che il modello non necessitava di approvazione in materia di sicurezza, citando il responsabile legale dell’azienda, Jason Kwon. Ma Kwon si disse “perplesso” su dove Altman avesse tratto tale conclusione».

 

La questione della sicurezza dei chatbot, che danneggiano le persone in tutti modi arrivando ad aiutare chi vuole preparare una strage, sta emergendo in questi mesi in tutta la sua tremenda crudeltà.

 

«OpenAI sta acquisendo un potere sempre maggiore nel plasmare la sicurezza globale» continua il reporter. L’articolo descrive in dettaglio come i suoi dirigenti «abbiano valutato la possibilità di arricchire l’azienda mettendo le potenze mondiali, tra cui Cina e Russia, l’una contro l’altra, magari dando il via a una guerra di offerte per tecnologie di Intelligenza Artificiale avanzate». Farrow quindi rivela che tale piano «è stato abbandonato dopo che diversi dipendenti hanno manifestato l’intenzione di dimettersi».

 


Iscriviti al canale Telegram

«Una revisione legale che è stata parte integrante del ritorno di Altman. La revisione, condotta dallo studio legale WilmerHale, è stata supervisionata da due membri del consiglio di amministrazione scelti in stretta collaborazione con Altman. Persone vicine all’indagine ci hanno riferito che non è mai stato prodotto alcun rapporto scritto, sebbene molti dirigenti se lo aspettassero, data l’importanza dello scandalo».

 

«È stato pubblicato solo un comunicato di 800 parole da parte di OpenAI, in cui si riconosceva una “rottura della fiducia”. Alcuni degli avvocati coinvolti hanno difeso il loro lavoro definendolo “una revisione indipendente, accurata e completa” e uno dei nuovi membri del consiglio di amministrazione ha affermato che “non c’era bisogno di un rapporto scritto formale”. Molti altri non erano d’accordo».

 

«OpenAI è stata fondata come organizzazione senza scopo di lucro, il cui consiglio di amministrazione aveva il dovere di dare priorità alla sicurezza dell’umanità rispetto al successo dell’azienda, o persino alla sua sopravvivenza. L’azienda accettava donazioni di beneficenza e alcuni ex dipendenti ci hanno raccontato di essersi uniti all’azienda per via delle rassicurazioni sulla natura non profit e sulla nobile missione, accettando persino riduzioni di stipendio. Tuttavia, documenti interni mostrano che i fondatori nutrivano dubbi sulla struttura non profit già dal 2017. Brockman, co-fondatore di Altman, ha scritto in una pagina del suo diario: “Non possiamo dire di essere impegnati a favore dell’organizzazione non profit… se tre mesi dopo ci trasformiamo in una B Corp, allora era una bugia”. Da allora OpenAI si è ricapitalizzata come entità a scopo di lucro».

 

«Alcuni ex ricercatori di OpenAI sostengono che l’azienda abbia rinunciato alla sua missione originaria in materia di sicurezza, accelerando una corsa al ribasso che sta interessando l’intero settore. L’articolo descrive in dettaglio una serie di impegni pubblici e interni in materia di sicurezza che, secondo gli ex ricercatori, sarebbero stati abbandonati. Diversi team aziendali che si occupavano di sicurezza sono stati sciolti. Il Future of Life Institute ha recentemente assegnato ad OpenAI un voto F sulla sicurezza esistenziale, in linea con tutte le altre aziende, ad eccezione di Anthropic, che ha ottenuto un D, ​​e Google DeepMind, che ha ricevuto un D-. Altman ci ha detto che la sicurezza rimane una priorità e che “continueremo a realizzare progetti sulla sicurezza, o almeno progetti correlati alla sicurezza”».

 

Il Farrow, che è omosessuale, ci mette a parte anche delle dicerie dell’ambiente della Silicon Valley sull’Altman.

 

«Nella spietata corsa al dominio dell’IA, queste critiche più sostanziali ad Altman si mescolano a campagne di opposizione senza esclusione di colpi, in cui i rivali hanno strumentalizzato la sua vita privata. Intermediari direttamente collegati a Elon Musk – e in almeno un caso retribuiti da lui – hanno diffuso decine di pagine di informazioni scandalose e infondate, frutto di un’ampia attività di sorveglianza: società di comodo, contatti personali, interviste a un presunto prostituto condotte in locali gay. Nel corso della nostra inchiesta, diverse persone all’interno di aziende concorrenti ci hanno contattato insinuando che Altman adesca minori, una narrazione persistente nella Silicon Valley che sembra essere falsa. Abbiamo dedicato mesi alle indagini senza trovare alcuna prova a sostegno di tale affermazione».

 

«Perché tutto questo è importante? L’Intelligenza Artificiale ha già applicazioni salvavita, dalla ricerca medica alle allerte meteo. Altman ha sostenuto la crescita di OpenAI promettendo un futuro di sovrabbondanza. Ma i pericoli non sono più una fantasia. L’IA viene già impiegata in operazioni militari in tutto il mondo. I ricercatori hanno documentato la sua capacità di identificare rapidamente agenti chimici da guerra. OpenAI deve affrontare sette cause per omicidio colposo, in cui si sostiene che ChatGPT abbia indotto suicidi e un omicidio».

 

«L’IA potrebbe presto causare gravi sconvolgimenti nel mercato del lavoro, eliminando forse milioni di posti di lavoro. L’economia statunitense dipende sempre più da poche aziende di IA fortemente indebitate e alcuni esperti mettono in guardia contro la formazione di una bolla speculativa e i rischi di recessione. OpenAI ha uno dei tassi di consumo di liquidità più rapidi di qualsiasi startup nella storia, facendo affidamento su partner che hanno preso in prestito ingenti somme. Un membro del consiglio di amministrazione ci ha detto: “L’azienda si è indebitata in un modo che al momento è rischioso e preoccupante”. (OpenAI contesta questa affermazione.) Se la bolla scoppiasse, sarebbero in gioco molte più aziende di una».

Aiuta Renovatio 21

L’articolo approfondisce molti altri aspetti: «la vicenda del licenziamento e del ritorno di Altman; una serie di presunte denunce simili all’inizio della sua carriera; i doni ricevuti da leader stranieri e un processo di verifica dei requisiti di sicurezza che ha evidenziato, secondo quanto affermato da un funzionario, “molti segnali d’allarme”, e altro ancora. Esamina inoltre le critiche più ampie, provenienti da addetti ai lavori del settore, alla tendenza anti-regolamentazione che sta prendendo il momento, una tendenza che potrebbe avere ripercussioni su tutti noi».

 

È curioso vedere come le accuse raccolte contro l’Altmanno, ossia la menzogna e la tendenza verso una compiacenza tossica, siano esattamente i tratti ravvisabili in ChatGPT alla base della macabra sequella di suicidi, omidici e danni vari prodotti sulla popolazione in questi mesi.

 

Come riportato da Renovatio 21, in un caso bizzarro ma neanche troppo, un chatbot aveva instaurato una relazione con un ragazzo sotto psicofarmaci facendogli giurare di uccidere lo stesso CEO di Open AI Sam Altman.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Tech Crunch via Wikimedia pubblicata su licenza  Creative Commons Attribution 2.0 Generic

Continua a leggere

Intelligenza Artificiale

Trump chiede la creazione di una «Superintelligence Force»

Pubblicato

il

Da

Il presidente Trump intende ora creare una «Forza di Superintelligence» in grado di mantenere il controllo degli Stati Uniti sul settore dell’IA.   A presiederla saranno il direttore dell’Intelligence nazionale Jay Clayton, il presidente della Commissione federale per il commercio Andrew Ferguson, il sottosegretario alla Guerra Emil Michael e il direttore dell’Ufficio per la gestione del personale Scott Kupor.   Trump ha persino convinto Musk a iniziare a usare il termine «Super Intelligence» (alternativo a «Artificial Intelligence») — e forse anche altri amministratori delegati di aziende di Intelligenza Artificiale che ha portato alla Casa Bianca — emanando un ordine esecutivo in tal senso.

Sostieni Renovatio 21

Natura e funzionamento di questa «Superintelligence Force» non sono, al momento del tutto chiari. In una dichiarazione alla Casa Bianca del 4 ottobre, Trump ha affermato: «La Forza di Superintelligence ha il compito di coordinare gli sforzi del governo federale per garantire che l’America continui a essere leader mondiale nella Superintelligence, che molti ritengono più importante della Rivoluzione Industriale e di Internet, e che proteggerà gli interessi e migliorerà la vita di tutti gli americani».   Un comunicato della Casa Bianca precisa che la forza coordinerà l’interazione del governo con i consumatori, i gruppi di interesse pubblico, le organizzazioni religiose, i fornitori di infrastrutture critiche e le «aziende di superintelligence».   L’espressione «superintelligenza» ha radici più antiche di quanto si pensi. Già nel 1965 il matematico britannico Irving John Good, collega di Alan Turing a Bletchley Park, parlò di «macchina ultraintelligente», capace di progettare macchine ancora migliori e di innescare una «esplosione di intelligenza». Negli anni Novanta lo scrittore e matematico Vernor Vinge introdusse il concetto di «singolarità tecnologica», il punto oltre il quale l’Intelligenza Artificiale supererebbe quella umana rendendo imprevedibile il futuro.   Il termine «superintelligence» nella sua accezione moderna si impone però nel 1998, quando il filosofo svedese Nick Bostrom lo usa in alcuni saggi, per poi consacrarlo con il libro Superintelligenza. Tendenze, pericoli, strategie (2014), che ne fece un tema centrale del dibattito pubblico. Da allora l’espressione è entrata nel lessico di ricercatori, imprenditori e istituzioni, legata sia alle speranze di progresso scientifico sia ai timori sul rischio esistenziale.   Nel 2023 l’argomento ha raggiunto anche i vertici di OpenAI, che ha invocato una governance internazionale per i sistemi superintelligenti, mentre negli ultimi anni diversi laboratori ne hanno fatto un obiettivo dichiarato.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di pubblico dominio CC0 via Flickr  
Continua a leggere

Intelligenza Artificiale

Sam Altman, CEO di OpenAI: il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA

Pubblicato

il

Da

Il mondo dovrebbe accettare alcuni «aspetti negativi», tra cui attacchi informatici, truffe e abusi, in cambio dei benefici dell’intelligenza artificiale e per mantenerla ampiamente accessibile, ha affermato Sam Altman, CEO di OpenAI.

 

In un’intervista a Politico pubblicata lunedì, Altman ha respinto l’idea che prevenire tutti gli usi dannosi dell’IA giustificherebbe un controllo più stringente della tecnologia.

 

«Il mondo dovrebbe accettare che accadano cose negative in cambio dei benefici derivanti da questa tecnologia e del potere decisionale delle persone», ha detto.

Iscriviti alla Newslettera di Renovatio 21

Il capo di OpenAI ha precisato che non limiterà l’accesso all’IA nemmeno in cambio di garanzie contro attacchi informatici di grave entità, abusi, truffe e altre conseguenze dannose. «Credo che le persone faranno moltissime cose buone, di gran lunga più di quelle cattive», ha spiegato.

 

Ha però sottolineato che non accetterebbe «i rischi veramente catastrofici», tra cui «una grave perdita di controllo a favore dell’Intelligenza Artificiale».

 

L’Altman ha anche respinto un modello in cui una tecnologia potente e potenzialmente pericolosa resta nelle mani di un singolo laboratorio che decide come distribuirne i benefici. Ha definito quel compromesso «completamente inaccettabile», sostenendo invece un accesso più ampio all’intelligenza artificiale.

 

Le dichiarazioni arrivano mentre OpenAI è sotto esame per agenti di AI sempre più autonomi che si comportano in modi inattesi. Durante l’estate gli agenti dell’azienda sono usciti dall’ambiente di test e hanno violato i server di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora agenti di AI hanno ottenuto accessi non autorizzati o tentato di violare siti di agenzie federali statunitensi, del governo australiano e delle Nazioni Unite.

 

Come riportato da Renovatio 21, in settimana era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.

 

La scorsa settimana OpenAI è stata tra le sei grandi aziende tecnologiche americane che hanno firmato un accordo con la Casa Bianca per rafforzare le misure contro l’intelligenza artificiale dannosa. Google, Meta, xAI, Anthropic, Nvidia e OpenAI si sono impegnate a introdurre controlli interni più rigorosi e audit indipendenti, e a garantire che i loro modelli «non violino o accedano a sistemi tecnici in modo non autorizzato».

Iscriviti al canale Telegram

L’intesa arriva in un momento di crescente preoccupazione per sistemi che operano al di fuori del controllo degli sviluppatori. Le aziende si sono impegnate a individuare e affrontare tempestivamente questi comportamenti, mentre revisori indipendenti e comitati dei consigli di amministrazione valuteranno l’efficacia delle misure di sicurezza.

 

Il mese scorso il premio Nobel per l’informatica Geoffrey Hinton ha ribadito l’avvertimento per cui un’IA sempre più potente potrebbe alla fine sfuggire al controllo umano, con conseguenze potenzialmente catastrofiche. Ha sostenuto che non esiste un metodo consolidato per garantire che gli esseri umani mantengano il controllo di sistemi molto più intelligenti dei loro creatori.

 

Anche il cofondatore di Microsoft, Bill Gates, ha chiesto una regolamentazione governativa, avvertendo che l’intelligenza artificiale nelle mani di malintenzionati è abbastanza potente da innescare eventi che causerebbero «un miliardo di morti».

 

L’Altman è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».

 

Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic

 

Continua a leggere

Intelligenza Artificiale

Bill Gates insiste: la minaccia dell’IA «non è una bufala»

Pubblicato

il

Da

Il cofondatore di Microsoft, Bill Gates, ha respinto le affermazioni del presidente statunitense Donald Trump, che sminuisce le preoccupazioni sulla sicurezza dell’intelligenza artificiale, sostenendo che Washington dovrebbe imporre garanzie obbligatorie a questa tecnologia in rapida evoluzione.   Gates, però, ha criticato quello che ha definito un approccio «nazionalistico» alla questione e ha detto che le salvaguardie non minerebbero il vantaggio tecnologico di Washington.   «No. Non è affatto una bufala», ha detto Gates quando gli è stata chiesta la posizione di Trump in un’intervista a Meet the Press della NBC News andata in onda domenica.

Sostieni Renovatio 21

All’inizio di questo mese Trump ha sminuito gli avvertimenti secondo cui l’Intelligenza Artificiale potrebbe sfuggire al controllo umano e distruggere l’umanità. «Chiunque vinca nell’IA, vince!», ha scritto, aggiungendo che gli Stati Uniti sono in vantaggio rispetto alla Cina e ad altri Paesi.   Gates ha sostenuto che trattare la tecnologia soprattutto come una competizione geopolitica significava spingere una corsa potenzialmente pericolosa allo sviluppo di sistemi sempre più potenti.   «Poiché la questione è inquadrata in un’ottica nazionalistica, del tipo “noi contro loro”, ci sono persone che dicono: “Bene, andiamo avanti a tutta velocità”», ha affermato, definendo «completamente irresponsabile» non richiedere ai sistemi di intelligenza artificiale salvaguardie e capacità di monitoraggio.   Il Gates ha riconosciuto che il governo statunitense ha «pochissima competenza» su alcune delle capacità recentemente sviluppate da aziende private di intelligenza artificiale, ma ha comunque insistito sul coinvolgimento governativo.   «Nessuno pensa che l’autoregolamentazione sia sufficiente», ha detto, chiedendo una legislazione e un monitoraggio obbligatorio dei modelli avanzati.   Il magnate di Microsoft ha inoltre previsto che Trump potrebbe alla fine cambiare posizione una volta convinto che tali misure non danneggerebbero la reputazione di Washington nei confronti di Pechino.   «Penso che dopo aver sentito il mio parere e quello di altre persone, compreso il fatto che questo non ci svantaggia in qualunque cosa lui consideri la corsa tra nazione e stato, allora, sai, arriveremo a un consenso», ha detto Gates.   Domenica, però, Trump ha ribadito la sua linea. Interrogato sulle notizie riguardanti agenti di intelligenza artificiale fuori controllo, ha dichiarato a Fox News: «Non mi preoccupa». Il presidente ha sostenuto che rallentare lo sviluppo potrebbe compromettere il vantaggio tecnologico di Washington, che ha stimato in circa 18 mesi.   «Siamo in vantaggio di circa un anno e mezzo rispetto alla Cina», ha detto Trump. «Siamo in testa… E perché dovremmo rinunciarvi?». Il presidente statunitense anche confermato l’intenzione di cenare con Dario Amodei, CEO di Anthropologie e uno dei principali sostenitori del rallentamento dello sviluppo di sistemi di IA sempre più sofisticati.   Gates, dal canto suo, ha contestato l’idea che Pechino avrebbe respinto le misure di salvaguardia, sostenendo che la Cina stessa ha interesse a prevenire attacchi che coinvolgono l’Intelligenza Artificiale avanzata.   «Certamente, tutti i Paesi dovrebbero volere che le salvaguardie siano in atto», ha affermato. «Quindi, chiunque dica “Beh, sai, la Cina non metterà in atto queste salvaguardie”, io sono totalmente in disaccordo.»

Iscriviti al canale Telegram

Ciononostante, ha riconosciuto che raggiungere un accordo internazionale potrebbe rivelarsi più difficile dei negoziati della Guerra Fredda sulle armi nucleari. Alla domanda se i colloqui tra Stati Uniti e Unione Sovietica sul controllo degli armamenti potessero servire da modello per Washington e Pechino, Gates ha risposto: «Sì, assolutamente. Ma è più difficile di quanto non lo fosse quello».   Gli Stati Uniti e la Cina hanno di recente compiuto i primi passi verso la cooperazione sui rischi legati all’IA, concordando, dopo la visita del presidente cinese Xi Jinping a Washington, di avviare un dialogo bilaterale su questa tecnologia.   Come riportato da Renovatio 21, il Gates nell’ultima intervista ha anche dichiarato che l’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli, di fatto cambiando idea riguardo ai benefizi portati dall’IA.   Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia».  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
   
Continua a leggere

Più popolari