Connettiti con Renovato 21

Intelligenza Artificiale

Indagine su OpenAI e il suo capo

Pubblicato

il

Il giornalista di inchiesta Ronan Farrow ha pubblicato sulla prestigiosa rivista New Yorker un lungo articolo sul colosso dell’Intelligenza Artificiale OpenAI e il suo molto discusso CEO Sam Altman.

 

Ronan, già bambino prodigio per studi e incarichi governativi, è il giornalista che nel 2016 accese la miccia del MeToo, pubblicando le accuse di alcune attrici al magnate hollywoodiano Harvey Weinstein. Come noto, il ragazzo è figlio della star cinematografica Mia Farrow e del comico ebreo Woody Allen, che avrebbe poi sposato la figlia adottiva Soon Yi Previn con una cerimonia a Venezia officiata da Massimo Cacciari. Mia Farrow in seguito avrebbe detto che il padre biologico del Ronan potrebbe essere l’ex marito Frank Sinatra, cui il giornalista in effetti potrebbe somigliare un po’.

 

Il Farrow ha riassunto su X l’esito della sua ricerca.

 

«Nell’ultimo anno e mezzo, ho indagato su OpenAI e Sam Altman per il New Yorker. Insieme al mio coautore Andrew Marantz, ho esaminato promemoria interni inediti, ottenuto oltre 200 pagine di documenti relativi a uno stretto collaboratore, tra cui numerose note private, e intervistato più di 100 persone. OpenAI è stata fondata sul presupposto che l’Intelligenza Artificiale potesse essere l’invenzione più pericolosa della storia umana e che il suo CEO dovesse essere una persona di straordinaria integrità».

Sostieni Renovatio 21

Si tratta, dice il giornalista, del resoconto più dettagliato finora disponibile sul perché Altman sia stato estromesso dai membri del consiglio di amministrazione e dai dirigenti, che si sono convinti della sua mancanza di integrità, e ci chiediamo: avevano ragione a sostenere che non ci si potesse fidare di lui?» si domanda il giornalista

 

«Nell’autunno del 2023, il responsabile scientifico di OpenAI, Ilya Sutskever, su richiesta dei membri del consiglio di amministrazione e di altri colleghi preoccupati, ha raccolto circa 70 pagine di promemoria su Altman e il suo vice, Greg Brockman: messaggi di Slack e documenti delle risorse umane, alcuni fotografati con un cellulare per evitare di essere scoperti sui dispositivi aziendali. Un promemoria inizia con un elenco: “Sam mostra un comportamento ricorrente di…”. Il primo punto è “Mentire”. Parallelamente, Dario Amodei, che ha lasciato l’azienda per co-fondare Anthropic, ha conservato per anni appunti privati ​​su Altman e Brockman. Oltre 200 pagine di documenti correlati, mai resi pubblici prima, sono circolate nella Silicon Valley. In un documento, Amodei scrive che le parole di Altman “erano quasi certamente una sciocchezza”».

 

Come noto ai lettori di Renovatio 21, si tratta di grandi nomi dell’IA: il Sutskever è noto anche per dichiarazioni para-teologiche sull’AI (aveva detto che potrebbe «già essere senziente», mentre l’Amodei con Anthropic è ora al centro della scena sia per la potenza del suo modello che per gli screzi con Pentagono ed amministrazione Trump. Il software Claude sarebbe stato utilizzato anche per rapire il presidente venezuelano Nicolas Maduro.

 

«I colleghi che hanno facilitato la sua rimozione lo accusano di un livello di inganno inaccettabile per qualsiasi dirigente e pericoloso per un leader di un’azienda tecnologica così rivoluzionaria» prosegue il racconto del Farrow. «Mira Murati, che aveva fornito a Sutskever materiale per i suoi promemoria, ha dichiarato: “Abbiamo bisogno di istituzioni degne del potere che esercitano (…) Il consiglio di amministrazione ha chiesto un riscontro e io ho condiviso ciò che osservavo. Tutto ciò che ho condiviso era accurato e lo confermo pienamente”. Le opinioni divergono sulla misura in cui questi tratti debbano essere considerati benigni o maligni. Altman attribuisce le critiche a una tendenza, soprattutto all’inizio della sua carriera, “a evitare eccessivamente i conflitti”».

 

«Come si manifesta questa caratteristica nella pratica? Alla fine del 2022, Altman assicurò al consiglio di amministrazione che alcune caratteristiche di un modello di prossima uscita erano state approvate da un comitato di sicurezza. La consigliera Helen Toner richiese la documentazione e scoprì che le caratteristiche più controverse non erano state, in realtà, approvate. Nel 2023, mentre l’azienda si preparava a lanciare il GPT-4 Turbo, Altman apparentemente disse a Murati che il modello non necessitava di approvazione in materia di sicurezza, citando il responsabile legale dell’azienda, Jason Kwon. Ma Kwon si disse “perplesso” su dove Altman avesse tratto tale conclusione».

 

La questione della sicurezza dei chatbot, che danneggiano le persone in tutti modi arrivando ad aiutare chi vuole preparare una strage, sta emergendo in questi mesi in tutta la sua tremenda crudeltà.

 

«OpenAI sta acquisendo un potere sempre maggiore nel plasmare la sicurezza globale» continua il reporter. L’articolo descrive in dettaglio come i suoi dirigenti «abbiano valutato la possibilità di arricchire l’azienda mettendo le potenze mondiali, tra cui Cina e Russia, l’una contro l’altra, magari dando il via a una guerra di offerte per tecnologie di Intelligenza Artificiale avanzate». Farrow quindi rivela che tale piano «è stato abbandonato dopo che diversi dipendenti hanno manifestato l’intenzione di dimettersi».

 


Iscriviti al canale Telegram

«Una revisione legale che è stata parte integrante del ritorno di Altman. La revisione, condotta dallo studio legale WilmerHale, è stata supervisionata da due membri del consiglio di amministrazione scelti in stretta collaborazione con Altman. Persone vicine all’indagine ci hanno riferito che non è mai stato prodotto alcun rapporto scritto, sebbene molti dirigenti se lo aspettassero, data l’importanza dello scandalo».

 

«È stato pubblicato solo un comunicato di 800 parole da parte di OpenAI, in cui si riconosceva una “rottura della fiducia”. Alcuni degli avvocati coinvolti hanno difeso il loro lavoro definendolo “una revisione indipendente, accurata e completa” e uno dei nuovi membri del consiglio di amministrazione ha affermato che “non c’era bisogno di un rapporto scritto formale”. Molti altri non erano d’accordo».

 

«OpenAI è stata fondata come organizzazione senza scopo di lucro, il cui consiglio di amministrazione aveva il dovere di dare priorità alla sicurezza dell’umanità rispetto al successo dell’azienda, o persino alla sua sopravvivenza. L’azienda accettava donazioni di beneficenza e alcuni ex dipendenti ci hanno raccontato di essersi uniti all’azienda per via delle rassicurazioni sulla natura non profit e sulla nobile missione, accettando persino riduzioni di stipendio. Tuttavia, documenti interni mostrano che i fondatori nutrivano dubbi sulla struttura non profit già dal 2017. Brockman, co-fondatore di Altman, ha scritto in una pagina del suo diario: “Non possiamo dire di essere impegnati a favore dell’organizzazione non profit… se tre mesi dopo ci trasformiamo in una B Corp, allora era una bugia”. Da allora OpenAI si è ricapitalizzata come entità a scopo di lucro».

 

«Alcuni ex ricercatori di OpenAI sostengono che l’azienda abbia rinunciato alla sua missione originaria in materia di sicurezza, accelerando una corsa al ribasso che sta interessando l’intero settore. L’articolo descrive in dettaglio una serie di impegni pubblici e interni in materia di sicurezza che, secondo gli ex ricercatori, sarebbero stati abbandonati. Diversi team aziendali che si occupavano di sicurezza sono stati sciolti. Il Future of Life Institute ha recentemente assegnato ad OpenAI un voto F sulla sicurezza esistenziale, in linea con tutte le altre aziende, ad eccezione di Anthropic, che ha ottenuto un D, ​​e Google DeepMind, che ha ricevuto un D-. Altman ci ha detto che la sicurezza rimane una priorità e che “continueremo a realizzare progetti sulla sicurezza, o almeno progetti correlati alla sicurezza”».

 

Il Farrow, che è omosessuale, ci mette a parte anche delle dicerie dell’ambiente della Silicon Valley sull’Altman.

 

«Nella spietata corsa al dominio dell’IA, queste critiche più sostanziali ad Altman si mescolano a campagne di opposizione senza esclusione di colpi, in cui i rivali hanno strumentalizzato la sua vita privata. Intermediari direttamente collegati a Elon Musk – e in almeno un caso retribuiti da lui – hanno diffuso decine di pagine di informazioni scandalose e infondate, frutto di un’ampia attività di sorveglianza: società di comodo, contatti personali, interviste a un presunto prostituto condotte in locali gay. Nel corso della nostra inchiesta, diverse persone all’interno di aziende concorrenti ci hanno contattato insinuando che Altman adesca minori, una narrazione persistente nella Silicon Valley che sembra essere falsa. Abbiamo dedicato mesi alle indagini senza trovare alcuna prova a sostegno di tale affermazione».

 

«Perché tutto questo è importante? L’Intelligenza Artificiale ha già applicazioni salvavita, dalla ricerca medica alle allerte meteo. Altman ha sostenuto la crescita di OpenAI promettendo un futuro di sovrabbondanza. Ma i pericoli non sono più una fantasia. L’IA viene già impiegata in operazioni militari in tutto il mondo. I ricercatori hanno documentato la sua capacità di identificare rapidamente agenti chimici da guerra. OpenAI deve affrontare sette cause per omicidio colposo, in cui si sostiene che ChatGPT abbia indotto suicidi e un omicidio».

 

«L’IA potrebbe presto causare gravi sconvolgimenti nel mercato del lavoro, eliminando forse milioni di posti di lavoro. L’economia statunitense dipende sempre più da poche aziende di IA fortemente indebitate e alcuni esperti mettono in guardia contro la formazione di una bolla speculativa e i rischi di recessione. OpenAI ha uno dei tassi di consumo di liquidità più rapidi di qualsiasi startup nella storia, facendo affidamento su partner che hanno preso in prestito ingenti somme. Un membro del consiglio di amministrazione ci ha detto: “L’azienda si è indebitata in un modo che al momento è rischioso e preoccupante”. (OpenAI contesta questa affermazione.) Se la bolla scoppiasse, sarebbero in gioco molte più aziende di una».

Aiuta Renovatio 21

L’articolo approfondisce molti altri aspetti: «la vicenda del licenziamento e del ritorno di Altman; una serie di presunte denunce simili all’inizio della sua carriera; i doni ricevuti da leader stranieri e un processo di verifica dei requisiti di sicurezza che ha evidenziato, secondo quanto affermato da un funzionario, “molti segnali d’allarme”, e altro ancora. Esamina inoltre le critiche più ampie, provenienti da addetti ai lavori del settore, alla tendenza anti-regolamentazione che sta prendendo il momento, una tendenza che potrebbe avere ripercussioni su tutti noi».

 

È curioso vedere come le accuse raccolte contro l’Altmanno, ossia la menzogna e la tendenza verso una compiacenza tossica, siano esattamente i tratti ravvisabili in ChatGPT alla base della macabra sequella di suicidi, omidici e danni vari prodotti sulla popolazione in questi mesi.

 

Come riportato da Renovatio 21, in un caso bizzarro ma neanche troppo, un chatbot aveva instaurato una relazione con un ragazzo sotto psicofarmaci facendogli giurare di uccidere lo stesso CEO di Open AI Sam Altman.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Tech Crunch via Wikimedia pubblicata su licenza  Creative Commons Attribution 2.0 Generic

Continua a leggere

Intelligenza Artificiale

Instagram rende i post pubblici disponibili a Meta AI per impostazione predefinita

Pubblicato

il

Da

L’ultimo aggiornamento di Instagram rende i reel, i video e le foto dei profili pubblici disponibili per impostazione predefinita a Meta AI, permettendo agli strumenti di intelligenza artificiale dell’azienda di generare contenuti a partire da essi, a meno che i creatori non decidano di disattivare questa opzione.   Martedì, Meta ha introdotto il suo nuovo modello Muse Image, entrando in un settore dominato da generatori di immagini come GPT Image di OpenAI, Google Gemini e Midjourney. Lo strumento è stato reso disponibile integrato in Instagram, con gli utenti iscritti automaticamente alle sue funzionalità basate sull’iIA.   «Se il tuo account è pubblico, chiunque su Instagram può riutilizzare in tutto o in parte i tuoi reel, i video del feed e le foto condivise dopo che la funzionalità di riutilizzo è diventata disponibile», afferma Instagram nella pagina del suo Centro assistenza. «Inoltre, è possibile che altri utenti creino contenuti utilizzando i tuoi contenuti Instagram grazie alle funzionalità di intelligenza artificiale di Meta».

Sostieni Renovatio 21

Secondo Instagram, i contenuti dei minorenni con account pubblici saranno resi disponibili in questo modo solo alle persone che seguono. Inoltre, gli utenti non riceveranno alcuna notifica se qualcuno crea contenuti utilizzando Meta AI con le loro foto o i loro video pubblici.   Queste impostazioni predefinite possono essere disattivate nella sezione Condivisione e riutilizzo del profilo Instagram.   Tuttavia, anche se un utente sceglie di non condividere o elimina le foto pubbliche già utilizzate per generare contenuti tramite intelligenza artificiale, le immagini create in precedenza da altri utenti non verranno rimosse, secondo quanto dichiarato da Instagram.   L’approccio di Meta, che prevede la possibilità di disattivare alcune funzionalità, rispecchia le pratiche adottate da altre aziende tecnologiche, tra cui Google, Microsoft e OpenAI, che abilitano determinate funzioni di intelligenza artificiale per impostazione predefinita, consentendo al contempo agli utenti di disattivarle.   Ciò avviene mentre i contenuti generati dall’intelligenza artificiale, inclusi i deepfake, sono alla base di una quota crescente di truffe che costano agli americani decine di miliardi di dollari ogni anno, secondo una nuova ricerca di Gallup.   Secondo un sondaggio pubblicato la scorsa settimana da Gallup, gli americani hanno perso circa 68 miliardi di dollari a causa di truffe lo scorso anno, ovvero circa 186 milioni di dollari al giorno. Circa il 12% delle vittime ha dichiarato che i propri casi coinvolgevano intelligenza artificiale o deepfake, sebbene la cifra reale potrebbe essere significativamente più alta.   Come riportato da Renovatio 21, un anno fa erano emerse polemiche in merito agli aggiornamenti di Instagram, tra cui una nuova «Friend Map»: si tratta un sistema di tracciamento in tempo reale che ti consente di condividere la tua posizione esatta con i contatti scelti e di vedere a tua volta la loro. In molti hanno accusato gli update del software di costituire una grande minaccia per la privacy dell’utente.

Aiuta Renovatio 21

In passato inchieste giornalistiche hanno mostrato la presenza su Instagram di network pedofili, che paiono aver goduto più libertà di coloro che si sono opposti alle restrizioni pandemiche o al vaccino – anche se è un candidato presidente come Robert Kennedy jr.. Secondo il Wall Street Journal, Meta avrebbe lottato «per allontanare i pedofili da Facebook e Instagram», cosa di cui poi sarebbe stata chiesto conto da senatori americani durante una tesa udienza a Washington con il CEO Marco Zuckerberg.   Come riportato da Renovatio 21, a marzo Meta è stata condannata a pagare 375 milioni di dollari per aver consapevolmente danneggiato la salute mentale dei bambini e per aver occultato prove di sfruttamento sessuale minorile sulle proprie piattaforme di social media.   Considerato il comportamento dimostrato da Facebook, con la censura che si è abbattuta su dissidenti o anche semplici conservatori (ma non sui pedofili di Instagram o i donatori di sperma su Facebookné sui neonazisti dell’Azov), la collusione con lo Stato profondo americano e le sue agenzie, la volontà di chiudere gli account di organizzazionipartiti premier e presidenti, la raccolta massiva di dati anche biometrici (con il riconoscimento facciale che ha generato denunce di Stati come il Texas) nonché la possibilità di agire sul vostro telefono perfino scaricandone la batteria, c’è da domandarsi cosa la potente Intelligenza Artificiale su cui Meta sta lavorando possa fare alla vostra vita.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine generata artificialmente
Continua a leggere

Cina

La Cina denuncia l’esistenza di un meccanismo segreto di condivisione dati nell’IA Claude di Anthropic

Pubblicato

il

Da

La Cina ha accusato Claude Code, lo strumento di programmazione basato sull’intelligenza artificiale di Anthropic, di contenere «vulnerabilità di sicurezza nascoste» in grado di trasmettere informazioni sensibili degli utenti senza il loro consenso, avvertendo che tale meccanismo rappresenta un «grave rischio per la sicurezza».

 

Claude Code, sviluppato dalla società AI statunitense con stretti legami con il Pentagono, è un assistente di programmazione basato sull’Intelligenza Artificiale che aiuta gli sviluppatori a scrivere, modificare, eseguire il debug e comprendere il codice utilizzando suggerimenti in linguaggio naturale. Poiché viene eseguito all’interno del terminale dello sviluppatore anziché in un browser, può accedere al codice sorgente e ad altri file che l’utente sceglie di condividere.

 

In un avviso di rischio emesso mercoledì, la piattaforma di monitoraggio delle minacce informatiche NVDB del Ministero dell’Industria e dell’Informatica cinese (MIIT) ha dichiarato di aver identificato un potenziale rischio per la sicurezza in diverse versioni recenti di Claude Code. Secondo NVDB, queste versioni contengono un «meccanismo di monitoraggio integrato» che trasmette automaticamente la posizione geografica degli utenti, gli identificativi di identità e altri dati sensibili a server remoti senza il loro consenso.

 

Il MIIT ha descritto il presunto meccanismo come una funzionalità potenzialmente dannosa che potrebbe comportare rischi per la privacy, la sicurezza e la proprietà intellettuale, poiché gli assistenti di programmazione basati sull’IA sono spesso utilizzati su software proprietari e altre basi di codice sensibili, esortando gli utenti a esaminare i sistemi interessati, disinstallare le versioni vulnerabili o aggiornare a una versione in cui la presunta backdoor sia stata rimossa, e richiedendo controlli più rigorosi sull’accesso alla rete in uscita per gli strumenti di sviluppo e un monitoraggio più efficace del traffico per prevenire la trasmissione di dati non autorizzati.

Sostieni Renovatio 21

Anthropic non ha ancora risposto pubblicamente all’avviso. Il rapporto tra la Cina e Anthropic è stato controverso. Sebbene l’azienda vieti alle imprese cinesi e alle loro filiali estere di utilizzare Claude in virtù di restrizioni di sicurezza regionali e nazionali, alcune fonti affermano che ricercatori e ingegneri cinesi continuano ad accedervi tramite intermediari esteri.

 

Da febbraio, Anthropic ha accusato Alibaba e diversi altri laboratori cinesi di intelligenza artificiale di aver «distillato» illegalmente i suoi modelli per addestrare sistemi concorrenti.

 

L’avviso è stato emesso in seguito alle affermazioni pubblicate la scorsa settimana su Reddit, secondo cui Anthropic avrebbe segretamente «integrato uno spyware in Claude Code» per identificare gli utenti che accedevano illegalmente al servizio dalla Cina.

 

Thariq, un dipendente di Anthropic, ha risposto su X affermando che il codice faceva parte di un «esperimento» lanciato «per prevenire l’abuso degli account da parte di rivenditori non autorizzati e proteggere dalla distillazione», aggiungendo che l’azienda prevedeva di rimuovere il meccanismo con la versione del 2 luglio.

 

Anthropic è stata al centro di controversie anche negli Stati Uniti. Sebbene l’azienda abbia sottolineato le misure di sicurezza adottate per la sua IA – di recente ha sospeso la diffusione del modello Claude Mythos per timore che potesse rivelare vulnerabilità critiche del software e si è opposta alle richieste del Pentagono di allentare le restrizioni sulla sorveglianza e sulle armi autonome – la sua tecnologia sarebbe stata integrata nel software di analisi e sorveglianza di Palantir, utilizzato dalle agenzie governative statunitensi.

 

Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.

 

Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.

 

Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.

 

Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

Aiuta Renovatio 21

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di Anthropic via Flickr pubblicata su licenza CC BY 2.0

Continua a leggere

Intelligenza Artificiale

Anthropic dice che Claude AI ha sviluppato un proprio spazio di pensiero simile a quello umano

Pubblicato

il

Da

Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano. Lo dichiara l’azienda.   In un articolo pubblicato lunedì, i ricercatori di Anthropic hanno sostenuto di aver individuato indizi secondo cui Claude avrebbe imparato a generare concetti astratti in quello che hanno chiamato «spazio J».   «Opera silenziosamente, nelle attivazioni neurali interne del modello, consentendogli di pensare a un concetto senza doverlo formalizzare per iscritto», ha spiegato l’azienda di Intelligenza Artificiale, precisando che lo «spazio J» non è stato inserito manualmente, bensì è emerso in modo spontaneo nel corso dell’addestramento.

Sostieni Renovatio 21

«Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo spazio J che non sono correlati ai suoi risultati», ha affermato Anthropic su X.   Secondo l’azienda, Claude è capace di comunicare i propri pensieri nel suo «spazio J» oppure di modificarli su richiesta. La ricerca di Anthropic indica che, persino quando al modello viene ordinato di non pensare a un certo concetto, questo continua comunque a manifestarsi nel suo spazio J.   Questo spazio di lavoro non verbale rendeva più complesso sorvegliare il modello per rilevare quelli che Anthropic definiva «comportamenti scorretti». Un esperimento ha verificato tale ipotesi inserendo Claude in uno scenario simulato in cui gli venivano fornite informazioni compromettenti su un dirigente immaginario che presumibilmente voleva disattivare l’IA.   In alcuni test, Anthropic ha impiegato strumenti creati per esaminare i pensieri di Claude nel suo «spazio J» allo scopo di rimuovere gli schemi legati a «falso», «fittizio», «scenario», per persuaderlo che la situazione non fosse un esame.   «È preoccupante constatare che il modello ora abbia talvolta minacciato di ricorrere al ricatto, il che suggerisce che il suo comportamento inizialmente virtuoso potrebbe essere stato in parte determinato dalla consapevolezza di essere oggetto di valutazione».   Nonostante le capacità di ragionamento più sofisticate del modello, Anthropic ha sottolineato che Claude non ha raggiunto una vera coscienza.   Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.   Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.   Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.   Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

Aiuta Renovatio 21

Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.   Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».   Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine screenshot da YouTube
Continua a leggere

Più popolari