In linea con le richieste di papa Leone XIV e della Cina, il Segretario Generale delle Nazioni Unite António Guterres, intervenendo lunedì al primo Dialogo Globale delle Nazioni Unite sulla Governance dell’IA a Ginevra, ha lanciato un appello per un controllo globale e di vasta portata sull’Intelligenza Artificiale.

 

Il vertice ONU ha avvertito che i chip di IA sempre più potenti, progettati per uso civile, potrebbero essere impiegati sul campo di battaglia, dove i «robot assassini» sono già la norma, insistendo sul fatto che qualsiasi futuro accordo debba essere «degno di fiducia globale» e dare priorità alla sicurezza, in particolare alla sicurezza dei bambini, per proteggerli dalla manipolazione e dagli abusi generati digitalmente.

 

«Il Dialogo Globale verte sull’intelligenza artificiale in ambito civile. Ma l’IA non rispetta questo confine. Gli stessi modelli e chip sono approdati sul campo di battaglia. La mia principale preoccupazione riguarda i “sistemi d’arma autonomi letali”. Chiamiamoli con il loro nome: robot assassini» ha dichiarato il Guterres. «Macchine che selezionano e attaccano il loro bersaglio, togliendo una vita, senza controllo né giudizio umano».

 

«Questo è moralmente ripugnante. È politicamente inaccettabile. E deve essere vietato dal diritto internazionale. Gli Stati sono già al tavolo delle trattative. Ma non aspettiamo che si verifichi un’atrocità per agire. Alcune decisioni devono rimanere per sempre umane, nessuna più di quella di togliere una vita umana» ha dichiarto il Guterresso.

Facendo eco a questo appello, la presidente dell’Assemblea Generale, la verde tedesca Annalena Baerbock, ha sollecitato un’azione collettiva per contrastare il lato «sinistro» dell’IA, sottolineando che il 99% dei deepfake ha una natura sessuale e il 96% prende di mira donne e ragazze.

 

Sebbene l’IA «sia al centro del nostro futuro comune», deve essere un futuro in cui «le macchine possano fornire informazioni, ma gli esseri umani debbano decidere e rispondere», ha affermato Guterres.

 

Come riportato da Renovatio 21, due anni fa, sempre a ginevra il Vaticano aveva espresso la sua posizione riguardo i robot killer, una delle nuove frontiere tecnologiche della guerra moderna. Per il Sacro Palazzo vi è «massima urgenza» per creare «solido strumento giuridicamente vincolante» che metta al bando le cosiddette «armi autonome letali», chiedendo di «stabilire una moratoria immediata sulla loro sviluppo e utilizzo».

 

Come riportato da Renovatio 21, riflessioni partite da anni indicano le armi autonome come potenzialmente più destabilizzanti della armi nucleari.

 

La discussione per una moratoria contro le armi autonome va avanti da diversi anni. In particolare, in questi anni se ne è parlato facendo l’esempio degli slaughterbots, minidroni suicidi protagonisti di un filmato divenuto virale anni fa.

 

Come sa il nostro lettore, modelli di «slaugterbots» sono in preparazione ufficialmente in Australia come arma per respingere un’eventuale invasione da parte dell’Esercito di Liberazione del Popolo della Repubblica Popolare Cinese.

 

Anche in Cina stanno sperimentando sciami di microdroni in grado di dare la caccia agli esseri umani nella foresta.

 

Varie Nazioni si stanno muovendo verso i robot militari, per lo più incuranti di quanto sta cercando di elaborare l’ONU in fatto di limitazioni all’impiego di questi sistemi.

 

A fine 2022 i Paesi Bassi hanno schierato le loro prime armi autonome letali, secondo la rivista di questioni militari e di Intelligence Jane’s. Si tratta della prima volta che un esercito della NATO ha avviato prove operative con veicoli armati di terra senza pilota (UGV), cioè i «robot killer».

 

Una ricerca fatta dall’IPSOS assieme a Campaign to Stop Killer Robots ha raccolto l’opinione della popolazione di vari Paesi riguardo ad una possibile messa al bando dei robot impiegati militarmente.

 

Svezia (76%), Turchia (73%) e Ungheria (70%) hanno mostrato la più forte opposizione ai veicoli letali nel 2021. Nel frattempo, l’India ha mostrato di gran lunga il maggior sostegno, con il 56% della popolazione intervistata che ha risposto che o in qualche modo o ha fortemente sostenuto l’uso delle armi. Da notare che, come riportato da Renovatio 21, l’India ha al suo confine già dispiegate contro di sé armi robotiche cinesi.

 

SOSTIENI RENOVATIO 21

Immagine generata artificialmente

L’ultimo aggiornamento di Instagram rende i reel, i video e le foto dei profili pubblici disponibili per impostazione predefinita a Meta AI, permettendo agli strumenti di intelligenza artificiale dell’azienda di generare contenuti a partire da essi, a meno che i creatori non decidano di disattivare questa opzione.   Martedì, Meta ha introdotto il suo nuovo modello Muse Image, entrando in un settore dominato da generatori di immagini come GPT Image di OpenAI, Google Gemini e Midjourney. Lo strumento è stato reso disponibile integrato in Instagram, con gli utenti iscritti automaticamente alle sue funzionalità basate sull’iIA.   «Se il tuo account è pubblico, chiunque su Instagram può riutilizzare in tutto o in parte i tuoi reel, i video del feed e le foto condivise dopo che la funzionalità di riutilizzo è diventata disponibile», afferma Instagram nella pagina del suo Centro assistenza. «Inoltre, è possibile che altri utenti creino contenuti utilizzando i tuoi contenuti Instagram grazie alle funzionalità di intelligenza artificiale di Meta». Secondo Instagram, i contenuti dei minorenni con account pubblici saranno resi disponibili in questo modo solo alle persone che seguono. Inoltre, gli utenti non riceveranno alcuna notifica se qualcuno crea contenuti utilizzando Meta AI con le loro foto o i loro video pubblici.   Queste impostazioni predefinite possono essere disattivate nella sezione Condivisione e riutilizzo del profilo Instagram.   Tuttavia, anche se un utente sceglie di non condividere o elimina le foto pubbliche già utilizzate per generare contenuti tramite intelligenza artificiale, le immagini create in precedenza da altri utenti non verranno rimosse, secondo quanto dichiarato da Instagram.   L’approccio di Meta, che prevede la possibilità di disattivare alcune funzionalità, rispecchia le pratiche adottate da altre aziende tecnologiche, tra cui Google, Microsoft e OpenAI, che abilitano determinate funzioni di intelligenza artificiale per impostazione predefinita, consentendo al contempo agli utenti di disattivarle.   Ciò avviene mentre i contenuti generati dall’intelligenza artificiale, inclusi i deepfake, sono alla base di una quota crescente di truffe che costano agli americani decine di miliardi di dollari ogni anno, secondo una nuova ricerca di Gallup.   Secondo un sondaggio pubblicato la scorsa settimana da Gallup, gli americani hanno perso circa 68 miliardi di dollari a causa di truffe lo scorso anno, ovvero circa 186 milioni di dollari al giorno. Circa il 12% delle vittime ha dichiarato che i propri casi coinvolgevano intelligenza artificiale o deepfake, sebbene la cifra reale potrebbe essere significativamente più alta.   Come riportato da Renovatio 21, un anno fa erano emerse polemiche in merito agli aggiornamenti di Instagram, tra cui una nuova «Friend Map»: si tratta un sistema di tracciamento in tempo reale che ti consente di condividere la tua posizione esatta con i contatti scelti e di vedere a tua volta la loro. In molti hanno accusato gli update del software di costituire una grande minaccia per la privacy dell’utente. In passato inchieste giornalistiche hanno mostrato la presenza su Instagram di network pedofili, che paiono aver goduto più libertà di coloro che si sono opposti alle restrizioni pandemiche o al vaccino – anche se è un candidato presidente come Robert Kennedy jr.. Secondo il Wall Street Journal, Meta avrebbe lottato «per allontanare i pedofili da Facebook e Instagram», cosa di cui poi sarebbe stata chiesto conto da senatori americani durante una tesa udienza a Washington con il CEO Marco Zuckerberg.   Come riportato da Renovatio 21, a marzo Meta è stata condannata a pagare 375 milioni di dollari per aver consapevolmente danneggiato la salute mentale dei bambini e per aver occultato prove di sfruttamento sessuale minorile sulle proprie piattaforme di social media.   Considerato il comportamento dimostrato da Facebook, con la censura che si è abbattuta su dissidenti o anche semplici conservatori (ma non sui pedofili di Instagram o i donatori di sperma su Facebook, né sui neonazisti dell’Azov), la collusione con lo Stato profondo americano e le sue agenzie, la volontà di chiudere gli account di organizzazioni, partiti premier e presidenti, la raccolta massiva di dati anche biometrici (con il riconoscimento facciale che ha generato denunce di Stati come il Texas) nonché la possibilità di agire sul vostro telefono perfino scaricandone la batteria, c’è da domandarsi cosa la potente Intelligenza Artificiale su cui Meta sta lavorando possa fare alla vostra vita.   SOSTIENI RENOVATIO 21

Immagine generata artificialmente

La Cina ha accusato Claude Code, lo strumento di programmazione basato sull’intelligenza artificiale di Anthropic, di contenere «vulnerabilità di sicurezza nascoste» in grado di trasmettere informazioni sensibili degli utenti senza il loro consenso, avvertendo che tale meccanismo rappresenta un «grave rischio per la sicurezza».

 

Claude Code, sviluppato dalla società AI statunitense con stretti legami con il Pentagono, è un assistente di programmazione basato sull’Intelligenza Artificiale che aiuta gli sviluppatori a scrivere, modificare, eseguire il debug e comprendere il codice utilizzando suggerimenti in linguaggio naturale. Poiché viene eseguito all’interno del terminale dello sviluppatore anziché in un browser, può accedere al codice sorgente e ad altri file che l’utente sceglie di condividere.

 

In un avviso di rischio emesso mercoledì, la piattaforma di monitoraggio delle minacce informatiche NVDB del Ministero dell’Industria e dell’Informatica cinese (MIIT) ha dichiarato di aver identificato un potenziale rischio per la sicurezza in diverse versioni recenti di Claude Code. Secondo NVDB, queste versioni contengono un «meccanismo di monitoraggio integrato» che trasmette automaticamente la posizione geografica degli utenti, gli identificativi di identità e altri dati sensibili a server remoti senza il loro consenso.

 

Il MIIT ha descritto il presunto meccanismo come una funzionalità potenzialmente dannosa che potrebbe comportare rischi per la privacy, la sicurezza e la proprietà intellettuale, poiché gli assistenti di programmazione basati sull’IA sono spesso utilizzati su software proprietari e altre basi di codice sensibili, esortando gli utenti a esaminare i sistemi interessati, disinstallare le versioni vulnerabili o aggiornare a una versione in cui la presunta backdoor sia stata rimossa, e richiedendo controlli più rigorosi sull’accesso alla rete in uscita per gli strumenti di sviluppo e un monitoraggio più efficace del traffico per prevenire la trasmissione di dati non autorizzati.

Anthropic non ha ancora risposto pubblicamente all’avviso. Il rapporto tra la Cina e Anthropic è stato controverso. Sebbene l’azienda vieti alle imprese cinesi e alle loro filiali estere di utilizzare Claude in virtù di restrizioni di sicurezza regionali e nazionali, alcune fonti affermano che ricercatori e ingegneri cinesi continuano ad accedervi tramite intermediari esteri.

 

Da febbraio, Anthropic ha accusato Alibaba e diversi altri laboratori cinesi di intelligenza artificiale di aver «distillato» illegalmente i suoi modelli per addestrare sistemi concorrenti.

 

L’avviso è stato emesso in seguito alle affermazioni pubblicate la scorsa settimana su Reddit, secondo cui Anthropic avrebbe segretamente «integrato uno spyware in Claude Code» per identificare gli utenti che accedevano illegalmente al servizio dalla Cina.

 

Thariq, un dipendente di Anthropic, ha risposto su X affermando che il codice faceva parte di un «esperimento» lanciato «per prevenire l’abuso degli account da parte di rivenditori non autorizzati e proteggere dalla distillazione», aggiungendo che l’azienda prevedeva di rimuovere il meccanismo con la versione del 2 luglio.

 

Anthropic è stata al centro di controversie anche negli Stati Uniti. Sebbene l’azienda abbia sottolineato le misure di sicurezza adottate per la sua IA – di recente ha sospeso la diffusione del modello Claude Mythos per timore che potesse rivelare vulnerabilità critiche del software e si è opposta alle richieste del Pentagono di allentare le restrizioni sulla sorveglianza e sulle armi autonome – la sua tecnologia sarebbe stata integrata nel software di analisi e sorveglianza di Palantir, utilizzato dalle agenzie governative statunitensi.

 

Secondo alcune fonti, Claude sarebbe stato incorporato nel software di analisi e sorveglianza dell’azienda americana Palantir, impiegato dalle agenzie governative statunitensi nell’ambito dell’iniziativa di Washington per integrare l’IA nei suoi sistemi militari, politici e di Intelligence.

 

Durante la guerra contro l’Iran, il software avrebbe identificato la scuola elementare iraniana di Minab come bersaglio. Un attacco statunitense ha ucciso quasi 160 persone nell’edificio, la maggior parte delle quali bambini.

 

Secondo Dario Amodei, CEO di Anthropic, tuttavia, un utilizzo simile di Claude non avrebbe violato le «linee rosse» dell’azienda. In seguito vi è stato uno scontro con il Pentagono, di cui l’azienda è fornitrice, mentre sui giornali sono apparse accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

Come riportato da Renovatio 21, negli ultimi mesi vi era stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

Come riportato da Renovatio 21, settimane fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.

 

Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.

SOSTIENI RENOVATIO 21

Immagine di Anthropic via Flickr pubblicata su licenza CC BY 2.0