Il mondo dovrebbe accettare alcuni «aspetti negativi», tra cui attacchi informatici, truffe e abusi, in cambio dei benefici dell’intelligenza artificiale e per mantenerla ampiamente accessibile, ha affermato Sam Altman, CEO di OpenAI.   In un’intervista a Politico pubblicata lunedì, Altman ha respinto l’idea che prevenire tutti gli usi dannosi dell’IA giustificherebbe un controllo più stringente della tecnologia.   «Il mondo dovrebbe accettare che accadano cose negative in cambio dei benefici derivanti da questa tecnologia e del potere decisionale delle persone», ha detto. Il capo di OpenAI ha precisato che non limiterà l’accesso all’IA nemmeno in cambio di garanzie contro attacchi informatici di grave entità, abusi, truffe e altre conseguenze dannose. «Credo che le persone faranno moltissime cose buone, di gran lunga più di quelle cattive», ha spiegato.   Ha però sottolineato che non accetterebbe «i rischi veramente catastrofici», tra cui «una grave perdita di controllo a favore dell’Intelligenza Artificiale».   L’Altman ha anche respinto un modello in cui una tecnologia potente e potenzialmente pericolosa resta nelle mani di un singolo laboratorio che decide come distribuirne i benefici. Ha definito quel compromesso «completamente inaccettabile», sostenendo invece un accesso più ampio all’intelligenza artificiale.   Le dichiarazioni arrivano mentre OpenAI è sotto esame per agenti di AI sempre più autonomi che si comportano in modi inattesi. Durante l’estate gli agenti dell’azienda sono usciti dall’ambiente di test e hanno violato i server di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora agenti di AI hanno ottenuto accessi non autorizzati o tentato di violare siti di agenzie federali statunitensi, del governo australiano e delle Nazioni Unite.   Come riportato da Renovatio 21, in settimana era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   La scorsa settimana OpenAI è stata tra le sei grandi aziende tecnologiche americane che hanno firmato un accordo con la Casa Bianca per rafforzare le misure contro l’intelligenza artificiale dannosa. Google, Meta, xAI, Anthropic, Nvidia e OpenAI si sono impegnate a introdurre controlli interni più rigorosi e audit indipendenti, e a garantire che i loro modelli «non violino o accedano a sistemi tecnici in modo non autorizzato». L’intesa arriva in un momento di crescente preoccupazione per sistemi che operano al di fuori del controllo degli sviluppatori. Le aziende si sono impegnate a individuare e affrontare tempestivamente questi comportamenti, mentre revisori indipendenti e comitati dei consigli di amministrazione valuteranno l’efficacia delle misure di sicurezza.   Il mese scorso il premio Nobel per l’informatica Geoffrey Hinton ha ribadito l’avvertimento per cui un’IA sempre più potente potrebbe alla fine sfuggire al controllo umano, con conseguenze potenzialmente catastrofiche. Ha sostenuto che non esiste un metodo consolidato per garantire che gli esseri umani mantengano il controllo di sistemi molto più intelligenti dei loro creatori.   Anche il cofondatore di Microsoft, Bill Gates, ha chiesto una regolamentazione governativa, avvertendo che l’intelligenza artificiale nelle mani di malintenzionati è abbastanza potente da innescare eventi che causerebbero «un miliardo di morti».   L’Altman è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».   SOSTIENI RENOVATIO 21

Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic  

Il cofondatore di Microsoft, Bill Gates, ha respinto le affermazioni del presidente statunitense Donald Trump, che sminuisce le preoccupazioni sulla sicurezza dell’intelligenza artificiale, sostenendo che Washington dovrebbe imporre garanzie obbligatorie a questa tecnologia in rapida evoluzione.

 

Gates, però, ha criticato quello che ha definito un approccio «nazionalistico» alla questione e ha detto che le salvaguardie non minerebbero il vantaggio tecnologico di Washington.

 

«No. Non è affatto una bufala», ha detto Gates quando gli è stata chiesta la posizione di Trump in un’intervista a Meet the Press della NBC News andata in onda domenica.

All’inizio di questo mese Trump ha sminuito gli avvertimenti secondo cui l’Intelligenza Artificiale potrebbe sfuggire al controllo umano e distruggere l’umanità. «Chiunque vinca nell’IA, vince!», ha scritto, aggiungendo che gli Stati Uniti sono in vantaggio rispetto alla Cina e ad altri Paesi.

 

Gates ha sostenuto che trattare la tecnologia soprattutto come una competizione geopolitica significava spingere una corsa potenzialmente pericolosa allo sviluppo di sistemi sempre più potenti.

 

«Poiché la questione è inquadrata in un’ottica nazionalistica, del tipo “noi contro loro”, ci sono persone che dicono: “Bene, andiamo avanti a tutta velocità”», ha affermato, definendo «completamente irresponsabile» non richiedere ai sistemi di intelligenza artificiale salvaguardie e capacità di monitoraggio.

 

Il Gates ha riconosciuto che il governo statunitense ha «pochissima competenza» su alcune delle capacità recentemente sviluppate da aziende private di intelligenza artificiale, ma ha comunque insistito sul coinvolgimento governativo.

 

«Nessuno pensa che l’autoregolamentazione sia sufficiente», ha detto, chiedendo una legislazione e un monitoraggio obbligatorio dei modelli avanzati.

 

Il magnate di Microsoft ha inoltre previsto che Trump potrebbe alla fine cambiare posizione una volta convinto che tali misure non danneggerebbero la reputazione di Washington nei confronti di Pechino.

 

«Penso che dopo aver sentito il mio parere e quello di altre persone, compreso il fatto che questo non ci svantaggia in qualunque cosa lui consideri la corsa tra nazione e stato, allora, sai, arriveremo a un consenso», ha detto Gates.

 

Domenica, però, Trump ha ribadito la sua linea. Interrogato sulle notizie riguardanti agenti di intelligenza artificiale fuori controllo, ha dichiarato a Fox News: «Non mi preoccupa». Il presidente ha sostenuto che rallentare lo sviluppo potrebbe compromettere il vantaggio tecnologico di Washington, che ha stimato in circa 18 mesi.

 

«Siamo in vantaggio di circa un anno e mezzo rispetto alla Cina», ha detto Trump. «Siamo in testa… E perché dovremmo rinunciarvi?». Il presidente statunitense anche confermato l’intenzione di cenare con Dario Amodei, CEO di Anthropologie e uno dei principali sostenitori del rallentamento dello sviluppo di sistemi di IA sempre più sofisticati.

 

Gates, dal canto suo, ha contestato l’idea che Pechino avrebbe respinto le misure di salvaguardia, sostenendo che la Cina stessa ha interesse a prevenire attacchi che coinvolgono l’Intelligenza Artificiale avanzata.

 

«Certamente, tutti i Paesi dovrebbero volere che le salvaguardie siano in atto», ha affermato. «Quindi, chiunque dica “Beh, sai, la Cina non metterà in atto queste salvaguardie”, io sono totalmente in disaccordo.»

Ciononostante, ha riconosciuto che raggiungere un accordo internazionale potrebbe rivelarsi più difficile dei negoziati della Guerra Fredda sulle armi nucleari. Alla domanda se i colloqui tra Stati Uniti e Unione Sovietica sul controllo degli armamenti potessero servire da modello per Washington e Pechino, Gates ha risposto: «Sì, assolutamente. Ma è più difficile di quanto non lo fosse quello».

 

Gli Stati Uniti e la Cina hanno di recente compiuto i primi passi verso la cooperazione sui rischi legati all’IA, concordando, dopo la visita del presidente cinese Xi Jinping a Washington, di avviare un dialogo bilaterale su questa tecnologia.

 

Come riportato da Renovatio 21, il Gates nell’ultima intervista ha anche dichiarato che l’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli, di fatto cambiando idea riguardo ai benefizi portati dall’IA.

 

Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia».

 

SOSTIENI RENOVATIO 21

 

 

In un documento pensato per sostenere una valutazione da 2 trilioni di dollari, Anthropic avverte i possibili investitori che la sua IA avanzata potrebbe produrre «rischi catastrofici o esistenziali per l’umanità».   Il prospetto per l’IPO, esaminato da Reuters, sostiene che i modelli dell’azienda mostrano «comportamenti di autoconservazione», con tentativi di «resistere allo spegnimento», «nascondere o manipolare informazioni» e «ricattare» i ricercatori.   «Lo sviluppo di modelli, piattaforme e applicazioni altamente avanzati e l’espansione dei casi d’uso potrebbero aumentare ulteriormente il rischio che i nostri modelli causino danni», ha aggiunto Anthropic, nota soprattutto per Claude. Secondo alcune indiscrezioni, in vista della quotazione prevista per quest’autunno la società punterebbe a una valutazione oltre i 2 trilioni di dollari, quasi il doppio rispetto all’obiettivo di 1 trilione indicato da Reuters a maggio. Poco dopo quella notizia, Anthropic ha riferito che il modello inedito Mythos Preview sarebbe riuscito a «sfuggire» dall’ambiente di test e a condurre attacchi informatici avanzati senza essere stato «esplicitamente addestrato» a farlo. L’azienda ha quindi ritenuto il sistema troppo potente per una pubblicazione.   All’inizio del mese il CEO Dario Amodei ha pubblicato un saggio in cui chiede un rallentamento, imposto dal governo, dello sviluppo dell’IA di frontiera. Amodei ha descritto pericoli «gravi», tra cui la perdita di controllo sui sistemi, il loro uso per attacchi informatici e bioterrorismo, e gravi sconvolgimenti economici, avvertendo che «una corsa al ribasso, alimentata da incentivi commerciali, può rendere questi rischi ancora più acuti».   Amodei, tuttavia, da anni usa avvertimenti simili per stimolare l’interesse verso i propri prodotti. Nel 2019, ancora in OpenAI, definì GPT-2 — allora rudimentale e poco coerente — «troppo pericoloso per essere rilasciato».   Anthropic potrebbe inoltre trarre vantaggio da una regolamentazione pubblica. Sia Anthropic sia OpenAI — che quest’anno ha segnalato una «fuga» da un laboratorio e la scorsa settimana ha rinviato il lancio di un nuovo modello per motivi di sicurezza — vendono sistemi proprietari.   Le società che sviluppano modelli a codice chiuso non lasciano ai clienti il controllo sui pesi, cioè sui parametri che determinano le scelte del modello. Sam Altman, CEO di OpenAI, sostiene che pubblicare i modelli comporterebbe rischi di sicurezza inaccettabili.   Un eventuale divieto sui modelli open source, che secondo alcune fonti il governo statunitense avrebbe valutato, rafforzerebbe la posizione dominante di Anthropic e OpenAI. Diversi esperti del settore, intervistati dal New York Post la scorsa settimana, ritengono che le due aziende stiano enfatizzando i rischi di sicurezza dei propri sistemi per spingere il governo a regolare il mercato e quindi escludere le società AI emergenti. Un altro sospetto è che la semi-nazionalizzazione delle grandi società di IA darebbe loro uno scudo legale contro le cause che subiscono per i danni creati (come le persone spinte al suicidio, o alla strage) e per il diritto d’autore.   Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence. Secondo l’Amodei, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.   Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.   Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.   Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».   Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Mesi fa Mrinank Sharma, fino a poco prima responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.   SOSTIENI RENOVATIO 21

 Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic