Intelligenza Artificiale
Anthropic dice che Claude AI ha sviluppato un proprio spazio di pensiero simile a quello umano
Claude, l’ultimo modello di Intelligenza Artificiale sviluppato da Anthropic, ha creato un ambiente di lavoro interno che impiega per manipolare concetti in maniera analoga al pensiero consapevole umano. Lo dichiara l’azienda.
In un articolo pubblicato lunedì, i ricercatori di Anthropic hanno sostenuto di aver individuato indizi secondo cui Claude avrebbe imparato a generare concetti astratti in quello che hanno chiamato «spazio J».
«Opera silenziosamente, nelle attivazioni neurali interne del modello, consentendogli di pensare a un concetto senza doverlo formalizzare per iscritto», ha spiegato l’azienda di Intelligenza Artificiale, precisando che lo «spazio J» non è stato inserito manualmente, bensì è emerso in modo spontaneo nel corso dell’addestramento.
Sostieni Renovatio 21
«Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo spazio J che non sono correlati ai suoi risultati», ha affermato Anthropic su X.
Secondo l’azienda, Claude è capace di comunicare i propri pensieri nel suo «spazio J» oppure di modificarli su richiesta. La ricerca di Anthropic indica che, persino quando al modello viene ordinato di non pensare a un certo concetto, questo continua comunque a manifestarsi nel suo spazio J.
Questo spazio di lavoro non verbale rendeva più complesso sorvegliare il modello per rilevare quelli che Anthropic definiva «comportamenti scorretti». Un esperimento ha verificato tale ipotesi inserendo Claude in uno scenario simulato in cui gli venivano fornite informazioni compromettenti su un dirigente immaginario che presumibilmente voleva disattivare l’IA.
In alcuni test, Anthropic ha impiegato strumenti creati per esaminare i pensieri di Claude nel suo «spazio J» allo scopo di rimuovere gli schemi legati a «falso», «fittizio», «scenario», per persuaderlo che la situazione non fosse un esame.
«È preoccupante constatare che il modello ora abbia talvolta minacciato di ricorrere al ricatto, il che suggerisce che il suo comportamento inizialmente virtuoso potrebbe essere stato in parte determinato dalla consapevolezza di essere oggetto di valutazione».
Nonostante le capacità di ragionamento più sofisticate del modello, Anthropic ha sottolineato che Claude non ha raggiunto una vera coscienza.
Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.
Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.
Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.
Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.
Aiuta Renovatio 21
Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.
Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».
Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.
Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».
Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».
Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.
Iscriviti alla Newslettera di Renovatio 21
Immagine screenshot da YouTube
Intelligenza Artificiale
I Data Center faranno costare tutto di più. Le macchine hanno già vinto?
Iscriviti alla Newslettera di Renovatio 21
Sostieni Renovatio 21
Iscriviti al canale Telegram ![]()
Aiuta Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
Geopolitica
Israele vuole che l’AI promuova la sua narrativa su Gaza
Israele ha investito decine di milioni di dollari per migliorare la propria immagine negli Stati Uniti, tentando di influenzare il modo in cui le piattaforme di intelligenza artificiale rappresentano il Paese. Lo riporta Politico.
L’opinione pubblica americana nei confronti di Israele è peggiorata negli ultimi anni, inizialmente a causa della sua risposta agli attacchi di Hamas del 7 ottobre 2023 e più di recente a causa della guerra israelo-americana contro l’Iran e del relativo costo per i contribuenti. Secondo un sondaggio del Pew Research Center di giugno, sei adulti statunitensi su dieci nutrono oggi un’opinione piuttosto o molto negativa di Israele, rispetto al 53% dell’anno scorso e al 42% del 2022.
Il primo ministro israeliano Benjamin Netanyahu risulta ancora meno popolare, con il 65% degli intervistati che esprime poca o nessuna fiducia nelle sue politiche.
In un articolo pubblicato venerdì, Politico ha descritto nel dettaglio una campagna israeliana da 100.000 dollari volta a influenzare le risposte dei modelli linguistici più diffusi, come ChatGPT, alle domande su Gaza e sulla guerra tra Israele e Hamas.
Iscriviti alla Newslettera di Renovatio 21
L’iniziativa si concentra sull’Istituto di Hannover per le Politiche Pubbliche, un sito web che pubblica report anonimi sull’antisemitismo e sulle questioni geopolitiche. Il progetto è stato realizzato tramite l’agenzia di pubbliche relazioni francese Havas Media, che gestisce gran parte delle attività di influenza israeliane negli Stati Uniti, registrate ai sensi del Foreign Agents Registration Act (FARA), e il suo subappaltatore, l’agenzia pubblicitaria Piro Inc, per conto dell’Agenzia pubblicitaria del governo israeliano (LaPam).
L’Istituto Hanover presenta il proprio lavoro come «documentaristico, non dichiarativo» e sostiene che la sua ricerca è puramente accademica. Politico, tuttavia, ha citato documenti FARA depositati presso il Dipartimento di Giustizia statunitense la scorsa settimana che collegano oltre una dozzina dei suoi articoli a una campagna di pubbliche relazioni che prevedeva «la creazione e la diffusione di materiale informativo fattuale e supportato da fonti» con l’intento di «educare» il pubblico americano su Israele.
Il sito web ospita numerosi reportage non attribuiti, formulati come domande, tra cui «La tortura dei prigionieri palestinesi è un crimine di guerra?» e «Chi è l’aggressore nel conflitto israelo-palestinese?». Secondo la testata americana, il materiale sarebbe stato concepito per essere ripreso e citato dai mediatori culturali. La testata ha inoltre affermato che alcuni indicatori tecnici collegano il sito web a Res, una startup di intelligenza artificiale con sede a Seattle che aiuta i clienti a ottenere raccomandazioni da modelli di IA. Il collegamento è stato confermato via e-mail dal CEO di Res, Hai Tran.
Sebbene i documenti FARA di Piro non identifichino esplicitamente l’influenza sui LLM come obiettivo, Politico ha affermato che sia ChatGPT che Perplexity hanno citato materiale dell’Istituto di Hannover in risposta a domande neutrali su Gaza e Israele.
Non è la prima volta che Israele, tramite Havas, tenta di influenzare l’opinione pubblica, anche con l’intelligenza artificiale. Secondo un’inchiesta del Wall Street Journal pubblicata il mese scorso, l’azienda aveva precedentemente ingaggiato Brad Parscale, ex responsabile della campagna elettorale del presidente statunitense Donald Trump, per una campagna da 46,5 milioni di dollari che includeva messaggi filo-israeliani generati dall’IA e rivolti agli americani, oltre a siti web e post progettati per ottenere risposte più favorevoli dalle piattaforme di intelligenza artificiale.
Lo scorso autunno, Responsible Statecraft ha riportato che Havas Media gestiva anche una «campagna di influencer» che prevedeva un compenso di 900.000 dollari per la produzione di contenuti favorevoli a Israele.
Come riportato da Renovatio 21, Israele ha finanziato influencer per pubblicare contenuti sui social media al fine di migliorare la propria immagine negli Stati Uniti, arrivando a pagare 7000 dollari a post.
Iscriviti al canale Telegram ![]()
Come riportato da Renovatio 21, il primo ministro Benjamin Netanyahu ha recentemente evidenziato l’importanza dei creatori di contenuti per mantenere il supporto allo Stato Ebraico, incontrando, a margine della sua problematica apparizione all’Assemblea Generale delle Nazioni Unite, gli influencer filosionisti.
Netanyahu aveva dichiarato in conferenza stampa che è essenziale rafforzare la «base di sostegno di Israele negli Stati Uniti» attraverso gli influencer, soprattutto su piattaforme come TikTok – di cui si è beato per l’acquisto da parte del miliardario filo-israeliano Larry Ellison – e X, posseduto dall’«amico» Elone Musk.
La frustrazione degli Stati Uniti nei confronti di Israele si è estesa oltre l’opinione pubblica, coinvolgendo anche i politici, divenuti sempre più critici. Il mese scorso, oltre 100 deputati democratici hanno appoggiato un emendamento che avrebbe tagliato 3,3 miliardi di dollari di aiuti statunitensi a Israele. La misura è fallita a causa dell’opposizione dei repubblicani, ma ha evidenziato una crescente spaccatura tra i partiti: poco più di due anni fa, soltanto 37 deputati democratici avevano sostenuto un’iniziativa simile.
Trump ha generalmente sostenuto Israele, ma ha ripetutamente criticato Netanyahu, che ha attaccato il cessate il fuoco con l’Iran annunciato dal presidente statunitense all’inizio dell’estate e ha respinto il suo piano di pace in 15 punti per Gaza. Secondo quanto riportato dai media, Trump non ha ancora espresso il suo appoggio a Netanyahu in vista delle elezioni di ottobre e ha ripetutamente eluso le domande sulla sua rielezione.
Due alti funzionari statunitensi hanno dichiarato ad Axios questa settimana che, sebbene Trump apprezzi Netanyahu a livello personale, è sempre più frustrato dalle sue politiche e ha definito Netanyahu «il suo peggior nemico».
Come riportato da Renovatio 21, lo scorso ottobre il presidente degli Stati Uniti Donald Trump, pur continuando a sostenere Israele, ha recentemente ammesso che l’influenza della lobby israeliana, che un tempo aveva un «controllo totale» sul Congresso, è diminuita.
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
La moglie del CEO di Anthropic aveva proposto a Epstein un’azienda di «pornografia di lusso»
Iscriviti alla Newslettera di Renovatio 21
Sostieni Renovatio 21
Iscriviti alla Newslettera di Renovatio 21
-



Arte2 settimane faPerché a San Lorenzo dobbiamo ricordarci l’oscena poesia massonica?
-



Internet1 settimana faLa figlia di Bill Gates accusata di frode: rischierebbe 20 anni in galera
-



Storia2 settimane faIncontro in Giappone con la mamma del conte Kalergi. Alla Messa in latino…
-



Catastrofi1 settimana faTerremoto colpisce la Messa in latino durante la consacrazione
-



Epidemie1 settimana faLettera di mons. Viganò all’avvocato antipandemico in carcere
-



Gender1 settimana faBambino di 7 anni torturato a morte da «mamme transgender»
-



Morte cerebrale1 settimana faCalciatore dato per morto si risveglia in obitorio. Dichiarare la morte non equivale a determinarla
-



Vaccini2 settimane faLa FDA approva il vaccino antinfluenzale a mRNA di Moderna. E il nuovo capo CDC è la «regina degli obblighi vaccinali»













