Connettiti con Renovato 21

Intelligence

Sindaco nega di utilizzare l’intelligenza artificiale per le decisioni amministrative

Pubblicato

il

Il sindaco della metropoli canadese di Vancouver, Ken Sim, ha precisato che i sistemi di intelligenza artificiale non vengono impiegati per assumere decisioni a livello comunale, dopo che alcune sue affermazioni sull’uso di assistenti digitali per gestire parte del suo lavoro avevano acceso un dibattito online, secondo quanto riportato dai media locali.

 

Le polemiche sono scaturite dopo che il Sim ha dichiarato, durante una conferenza tecnologica all’inizio di questa settimana, di avere «11 agenti di intelligenza artificiale» che gestiscono «gran parte» del suo lavoro «in background». I critici, tra cui il candidato sindaco Kareem Allam, hanno espresso dubbi sulla gestione delle informazioni sensibili e hanno messo in guardia contro possibili fughe di dati legate a servizi di intelligenza artificiale di terze parti.

 

Mercoledì, il Sim ha chiarito che gli strumenti di intelligenza artificiale non vengono utilizzati per prendere decisioni politiche o di governo presso il municipio di Vancouver, aggiungendo che la tecnologia serve principalmente per il supporto amministrativo, la ricerca e le attività di produttività. Ha spiegato che i sistemi lo aiutano a consultare le notizie, seguire gli eventi finanziari e globali e gestire la pianificazione alimentare.

Sostieni Renovatio 21

Le dichiarazioni di Sim sull’utilizzo di agenti di intelligenza artificiale sono arrivate mentre il governo federale canadese annunciava l’intenzione di sostenere la costruzione di due nuovi centri dati per l’IA a Vancouver. Secondo quanto riportato questa settimana dal National Observer canadese, Ottawa ha speso oltre 800 milioni di dollari canadesi (oltre 499 milioni di euro) in tecnologie e servizi legati all’IA negli ultimi tre anni.

 

L’episodio si verifica in un momento in cui i governi di tutto il mondo adottano sempre più sistemi di intelligenza artificiale per il lavoro amministrativo, l’analisi dei dati e i servizi pubblici, sostenendo che la tecnologia può migliorare l’efficienza e ridurre i costi.

 

Paesi come Singapore e gli Emirati Arabi Uniti hanno integrato la tecnologia nelle operazioni governative, mentre l’Albania lo scorso anno ha nominato un «ministro» generato dall’IA per sovrintendere ad alcune parti del suo sistema di appalti pubblici.

 

Al contempo, sono aumentate le preoccupazioni relative ai rischi connessi all’AI, tra cui la disinformazione, gli attacchi informatici, le violazioni della privacy, l’uso criminale, la perdita di posti di lavoro, gli effetti sulla salute mentale e il ruolo crescente dei sistemi automatizzati nei processi decisionali critici.

 

Le cronache di questi mesi hanno riportato di casi di persone che lasciano prendere ogni decisione della propria vita dai chatbot. Gli esiti, come sappiamo, a volte sono letali.

 

La diffusione dei chatbot ha da tempo suscitato preoccupazioni in merito ai crimini perpetrati con l’AI, espresse da numerosi ricercatori indipendenti e agenzie governative in tutto il mondo. Sebbene la maggior parte dei crimini commessi con l’IA sembri verificarsi nel settore tecnologico, tra cui attacchi hacker, cyberattacchi, frodi e furti d’identità, i chatbot sono stati ripetutamente implicati anche nel favorire crimini violenti. Una recente indagine congiunta della CNN e del Center for Countering Digital Hate, ad esempio, ha rilevato che otto leader su dieci erano pronti ad aiutare gli utenti a organizzare attacchi violenti, tra cui attentati dinamitardi a sfondo religioso, sparatorie nelle scuole e assassinii.

 

Come riportato da Renovatio 21, l’anno passato ChatGPT con una «relazione» con un ragazzo sotto psicofarmaci e gli avrebbe fatto giurare di uccidere il CEO di OpenAI Sam Altman.

 

Come riportato da Renovatio 21, Matthew Livelsberger, un Berretto Verde dell’esercito americano, altamente decorato, è sospettato di aver organizzato un’esplosione all’esterno del Trump International Hotel di Las Vegas, utilizzando strumenti di Intelligenza Artificiale, tra cui ChatGPT, per pianificare l’attacco.

 

Il potere pervasivo e nefasto di questa nuova tecnologia sta diventando un serio problema, come nella vicenda belga giovane vedova ha detto che il marito è stato portato a suicidarsi da un popolare chatbot di AI, mentre un bot di chat «terapeuta» dotato di intelligenza artificiale ha orribilmente incoraggiato un utente a scatenare una serie di omicidi per rendersi «felice».

 

C’è quindi il caso del ragazzo che due anni fa pianificò di assassinare la defunta regina Elisabetta di Inghilterra con una balestra, e il tutto sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale.

 

L’anno scorso tre studentesse sono rimaste ferite in un violento accoltellamento in una scuola nella città di Pirkkala, nella Finlandia meridionale. Secondo quanto riferito, il sospettato durante la pianificazione dell’attacco (durata circa sei mesi) avrebbe utilizzato ChatGPT per prepararsi.

 

Come riportato da Renovatio 21, due genitori hanno denunciato l’anno passato il fatto che ChatGPT avrebbe incoraggiato un adolescente a pianificare «un bel suicidio».

 

Meta ha dichiarato alla CNN di aver adottato misure «per risolvere il problema identificato», mentre Google e OpenAI hanno affermato che i modelli più recenti presentano misure di sicurezza rafforzate.

 

Secondo un recente sondaggio, circa la metà dei teenager americani afferma che parlare con l’AI è meglio che avere amici nella via reale.

Aiuta Renovatio 21

Come riportato da Renovatio 21, le «allucinazioni» di cui sono preda i chatbot ad Intelligenza Artificiale avanzata hanno già dimostrato ad abundantiam che la macchina menteminaccia e può spingere le persone all’anoressia e perfino al suicidio. I casi di violenza indotta dall’AI potrebbero essere moltissimi, senza che possano arrivare alla stampa.

 

Va considerato, è già capitato che una Intelligenza Artificiale abbia suggerito ricette velenose agli utenti umani. Infatti un chatbot a sfondo culinario di una catena di alimentari neozelandese qualche mese fa aveva fatto scalpore per alcune ricette incredibili e potenzialmente letali, come la «miscela di acqua aromatica», un mix letale composto da candeggina, ammoniaca e acqua, altrimenti noto come gas di cloro mortale. Esperti a fine 2023 hanno lanciato un avvertimento riguardo i libri generati dall’Intelligenza Artificiale riguardo la raccolta dei funghi, dicendo che tali libri scritti dalle macchine potrebbero causare la morte di qualcuno.

 

Come riportato da Renovatio 21, in un recente caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.

 

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligence

Gli USA temevano che Israele potesse ammazzare i negoziatori iraniani

Pubblicato

il

Da

Gli Stati Uniti temevano che Israele potesse eliminare i principali negoziatori iraniani nel tentativo di sabotare i colloqui di pace tra Washington e Teheran. Lo riporta il New York Times, citando funzionari americani.   Secondo un articolo pubblicato giovedì dal quotidiano neoeboraceno, i funzionari statunitensi paventavano che Israele avrebbe preso di mira il presidente del parlamento iraniano Mohammad Ghalibaf e il ministro degli Esteri Abbas Araghchi, compromettendo così qualsiasi possibilità di raggiungere un’intesa.   Secondo fonti del NYT, Washington sarebbe arrivata a chiedere ai suoi alleati nella regione di avvertire Teheran del possibile complotto ordito dallo Stato ebraico.   Ghalibaf e Araghchi avevano assunto la guida dei negoziati per conto dell’Iran dopo che Israele aveva già ucciso il principale consigliere per la sicurezza nazionale di Teheran, Ali Larijani, e l’ex ministro degli Esteri Kamal Kharazi, entrambi coinvolti nei colloqui con gli americani. I primi attacchi israelo-americani contro la Repubblica islamica, alla fine di febbraio, avevano ucciso la Guida Suprema iraniana, l’aiatollà Ali Khamenei, e altri alti funzionari iraniani.   L’articolo rileva che gli obiettivi degli Stati Uniti e di Israele «si sono rapidamente differenziati in modo radicale», con Washington alla ricerca di un accordo e lo Stato di Israele che insisteva sulla prosecuzione dei combattimenti.

Iscriviti alla Newslettera di Renovatio 21

Il Ghalibaffo e l’Araghchi hanno dapprima raggiunto una tregua temporanea con gli Stati Uniti in aprile e poi concordato un memorandum d’intesa (MoU) il 17 giugno, che ha aperto un periodo di negoziati di 60 giorni per elaborare una soluzione definitiva al conflitto. I colloqui tra le parti sono in corso nonostante uno scambio di colpi d’arma da fuoco la scorsa settimana a causa di disaccordi sullo Stretto di Ormuzzo.   A giugno, lo stesso presidente degli Stati Uniti Donald Trump ha minacciato Ghalibaf e Araghchi dopo che Teheran aveva avvertito che avrebbe chiuso lo stretto se Israele avesse continuato la sua operazione militare in Libano. Durante un’intervista telefonica con Fox News, Trump ha affermato di aver detto ai funzionari iraniani: «Non riuscirete nemmeno a tornare nel vostro fottuto paese».   Lunedì il ministro della Difesa israeliano Israel Katz ha affermato che anche la nuova Guida Suprema iraniana, Mojtaba Khamenei, è «condannata a morte». Araghchi ha replicato dicendo che Teheran avrebbe dato una risposta immediata e decisa a qualsiasi minaccia contro il suo popolo o la sua leadership.   Le processioni funebri per Ali Khamenei si svolgeranno in Iran tra sabato e giovedì, e Teheran ha avvertito che qualsiasi attacco da parte degli Stati Uniti o di Israele durante questo periodo sarebbe un grave «errore di valutazione».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Khamenei.ir via Wikimedia pubblicata su licenza Creative Commons Attribution 4.0 International 
   
Continua a leggere

Intelligence

L’AI è «a pochi mesi di distanza» dal rovesciare i governi: parlano le agenzie di Intelligence

Pubblicato

il

Da

I modelli avanzati di Intelligenza Artificiale potrebbero presto fornire agli hacker la capacità di paralizzare governi, aziende e sistemi critici, hanno messo in guardia le agenzie di sicurezza informatica di Five Eyes, l’unione internazionale dei Paei anglofoni per lo spionaggio.

 

In una rara dichiarazione congiunta diffusa lunedì, i vertici della sicurezza informatica di Australia, Stati Uniti, Gran Bretagna, Canada e Nuova Zelanda hanno sostenuto che i modelli di IA all’avanguardia si stanno evolvendo più velocemente del previsto e si prevede che «supereranno le attuali aspettative del settore, trasformando radicalmente le capacità di sicurezza informatica sia offensive che difensive».

 

«Non si tratta di anni, ma di mesi», hanno affermato le agenzie, aggiungendo che «il rischio informatico non può più essere trattato come una questione puramente tecnica. Si tratta di un rischio aziendale fondamentale e di una responsabilità della leadership».

Iscriviti alla Newslettera di Renovatio 21

Secondo il documento, l’AI contribuirà a potenziare le difese informatiche nel tempo, ma sta anche abbassando le barriere per gli attori malevoli, aumentando la velocità e la complessità degli attacchi e riducendo il tempo tra la scoperta e lo sfruttamento delle vulnerabilità.

 

Le agenzie hanno invitato le organizzazioni a rafforzare le proprie difese digitali, ad aggiornare più rapidamente i software obsoleti, a limitare l’accesso ai sistemi sensibili e a prepararsi agli attacchi informatici prima che si verifichino.

 

Sebbene la dichiarazione dei Five Eyes non abbia citato alcun modello o azienda specifica, il recente dibattito sulla sicurezza dell’IA si è concentrato sullo sviluppatore statunitense Anthropic, finito sotto esame per i suoi sistemi più recenti e avanzati.

 

All’inizio di quest’anno, l’azienda ha dichiarato che uno dei suoi modelli di punta, Mythos, era troppo potente per essere rilasciato al grande pubblico e ha limitato l’accesso a un piccolo gruppo di organizzazioni fidate. Successivamente, l’azienda ha introdotto Fable 5, una versione più restrittiva della tecnologia, ma entrambi i modelli sono stati poi ritirati dal mercato dopo che il governo degli Stati Uniti ha ordinato che ai cittadini stranieri fosse vietato utilizzarli, citando motivi di sicurezza nazionale.

 

Questi sviluppi si collocano nel contesto di avvertimenti più ampi da parte di ricercatori, leader tecnologici e funzionari della sicurezza, secondo i quali le capacità dell’AI si stanno evolvendo più rapidamente di quanto governi e istituzioni riescano ad adattarsi.

 

Gli esperti hanno sempre più spesso messo in guardia sul fatto che i sistemi progettati per aumentare la produttività e rafforzare le difese informatiche potrebbero essere utilizzati anche per automatizzare gli attacchi, abbassare le barriere per gli attori malevoli e amplificare l’impatto di piccoli gruppi.

 

Secondo una clamorosa indiscrezione riportata in questi giorni dalla rivista The Economist, il software Mythos avrebbe violato la National Security Agency (NSA), ossia l’agenzia di spionaggio informatico USA, nota per la sofisticazione dei suoi sistemi e la preparazione dei suoi hacker.

 

La testata ha riferito che il senatore Mark Warner ha svelato i dettagli di un briefing tenuto dal generale Joshua Rudd, capo della NSA e del Cyber Command statunitense. Secondo quanto riportato, durante un’esercitazione di red-teaming (la pratica di testare rigorosamente le difese, i sistemi o le strategie di un’organizzazione adottando una prospettiva avversaria), Mythos è riuscito a penetrare in quasi tutti i sistemi classificati della NSA nel giro di poche ore, anziché settimane.

 

Antrophic avrebbe deciso di non distribuire pubblicamente il modello proprio a causa delle sue straordinarie capacità autonome di hacking e analisi dati, che includono anche la ricostruzione di tipi cellulari dal DNA grezzo e l’individuazione di vulnerabilità inedite nei principali sistemi operativi e browser.

 

L’affermazione sulla violazione dei sistemi NSA ha scatenato un acceso dibattito tra gli esperti di tecnologia e cybersicurezza, con molti osservatori che ritengono si sia trattato della forzatura di ambienti isolati o sistemi di prova in condizioni controllate, piuttosto che di un vero e proprio attacco riuscito alla rete centrale dell’agenzia.

 

Tale evento ha comunque segnato una svolta geopolitica decisiva, spingendo l’amministrazione Trump ad abbandonando l’approccio deregolamentato per imporre severi controlli sulle esportazioni dei modelli di IA di frontiera.

Secondo quanto riportato dal New York Times, in queste ore la NSA ha perso l’accesso al modello di IA Mythos 5 di Anthropic, che utilizzava per individuare vulnerabilità nei software. La vicenda si inserisce nel contesto della disputa, che dura da mesi, tra Washington e l’azienda della Silicon Valley.

 

Il blocco è scattato dopo che l’amministrazione Trump ha imposto restrizioni all’esportazione nei confronti di Anthropic all’inizio di questo mese, citando motivi di sicurezza nazionale, secondo quanto riportato dal New York Times.

 

La perdita ha «privato» l’agenzia di Intelligence di uno «strumento che ha impressionato e allarmato i suoi analisti per la sua efficacia nell’individuare le vulnerabilità del software», ha aggiunto la testata.

Sostieni Renovatio 21

La tecnologia AI di Anthropic è stata sempre più impiegata su reti governative classificate e integrata nelle attività di sicurezza nazionale degli Stati Uniti, con i suoi modelli utilizzati per l’analisi dell’intelligence, la pianificazione operativa e le operazioni informatiche.

 

Tuttavia, a febbraio, il dipartimento della Guerra USA ha classificato Anthropic come «rischio per la catena di approvvigionamento» dopo che l’azienda si è rifiutata di rimuovere le restrizioni su alcune applicazioni militari dei suoi sistemi di intelligenza artificiale. L’azienda ha dichiarato di opporsi alla sorveglianza di massa sul territorio nazionale e alle armi completamente autonome. Il presidente degli Stati Uniti Donald Trump aveva quindi ordinato alle agenzie federali di eliminare gradualmente la tecnologia di Anthropic entro sei mesi.

 

Anthropic ha citato in giudizio il governo, sostenendo che le misure adottate costituivano una ritorsione illegale per il rifiuto di allentare le garanzie sull’utilizzo militare dell’IA.

 

Nonostante l’ordine di eliminazione graduale e la battaglia legale in corso, diverse testate giornalistiche hanno successivamente affermato che alcune componenti del governo statunitense continuano a utilizzare i sistemi Anthropic.

 

Questi sviluppi si verificano in un contesto di avvertimenti da parte di ricercatori, leader tecnologici e funzionari della sicurezza, secondo i quali i sistemi di AI vengono integrati nelle operazioni militari e di Intelligence a un ritmo più rapido di quanto governi e istituzioni riescano ad adattarsi alle loro crescenti capacità.

 

Gli esperti hanno avvertito che gli stessi strumenti utilizzati per rafforzare le difese informatiche potrebbero anche automatizzare gli attacchi e abbassare le barriere per gli attori malevoli.

 

Lo scontro emerso segue alle accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio. Tuttavia, L’utilizzo dell’Intelligenza Artificiale nell’attacco statunitense a una scuola elementare femminile in Iran, che ha causato la morte di quasi 160 persone, per lo più bambini, non ha violato le «linee rosse» di Anthropic, ha dichiarato l’amministratore delegato Dario Amodei.

 

Si tratta dell’azienda coinvolta dal Vaticano per il lancio dell’enciclica di Leone XIV Magnifica Humanitas.

 

Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

L’Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

Iscriviti al canale Telegram

Amodei ha messo in guardia dai «rischi di autonomia», in cui l’IA potrebbe sfuggire al controllo e sopraffare l’umanità, e ha ipotizzato che la tecnologia potrebbe facilitare l’instaurazione di «una dittatura totalitaria globale» attraverso sorveglianza di massa basata sull’Intelligenza Artificiale e l’impiego di armi autonome.

 

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Settimane fa Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligence

Rapporto dell’Intelligence USA: Netanyahu intensificherà le pressioni per rimanere in carica

Pubblicato

il

Da

Agenzie di intelligence statunitensi hanno avvertito l’amministrazione Trump che Netanyahu cercherà di minare l’accordo sul nucleare iraniano raggiunto da Trump. Lo riporta il Washington Post,  che cita funzionari statunitensi attuali ed ex.   Sebbene ciò possa sembrare ovvio, nel bizzarro clima di Washington, è significativo che un rapporto del genere venga diffuso.   Il rapporto dell’Intelligence, secondo un funzionario statunitense a conoscenza del documento, afferma che la sopravvivenza politica di Netanyahu nelle prossime elezioni è legata alla dimostrazione, da parte dell’opinione pubblica interna, che non ritirerà le truppe dal Libano e che intende intensificare i combattimenti con Hezbollah.   Il WaPo afferma che i funzionari dell’amministrazione Trump «insistono sul fatto che le preoccupazioni di Netanyahu impallidiscono rispetto alla necessità di concludere un accordo e riaprire lo Stretto di Hormuz per scongiurare una crisi economica globale».

Aiuta Renovatio 21

Un altro funzionario avrebbe dichiarato: «Continuare a occupare parte del Libano è una ricetta per il disastro. Senza un ritiro completo di Israele, la probabilità di una ripresa delle ostilità tra l’esercito israeliano e Hezbollah è pressoché certa».   Harrison Mann, ex ufficiale dell’esercito statunitense e analista presso la Defense Intelligence Agency, ha dichiarato al Washington Post che i rapporti dell’Intelligence statunitense hanno individuato un fattore chiave alla base delle decisioni politiche di Netanyahu. «La guerra permanente e l’espansione territoriale sono state le forze trainanti della politica israeliana per anni» ha spiegato. «Non sorprende che, con le elezioni alle porte, Netanyahu debba dimostrare di poterle attuare meglio del suo avversario».   «Gli Stati Uniti possono interrompere le forniture di munizioni, carburante per aerei e supporto logistico, limitando la portata di qualsiasi offensiva israeliana, congelare la condivisione di informazioni cruciali o ritirare le forze statunitensi attualmente schierate a protezione dello spazio aereo israeliano, aumentando il costo di qualsiasi guerra israeliana».   Come riportato da Renovatio 21, l’intero arco costitituzionale israeliano, dall’opposizione ai partiti di governo, si dichiara insoddisfatto dal Memorandum di Intesa tra Trump e gli iraniani e chiedono quindi l’estromissione di Netanyahu dal governo.   Netanyahu, fuori dalla carica di primo ministro, potrebbe rischiare condanne per le accuse di corruzione mossegli dalla magistratura israeliana. La questione è mostrata in tutta la sua crudezza nel documentario Bibi Files, recentemente rimesso in distribuzione sul sito di Tucker Carlson.   Come riportato da Renovatio 21, Trump si è speso più volte chiedendo pubblicamente la grazia per Bibi (che parrebbe averlo spinto in questo senso). Tuttavia, negli ultimi tempi, gli ha rinfacciato il suo ruolo per averlo tenuto fuori di galera.   «Sei completamente pazzo. Saresti in prigione se non fosse per me. Ti sto salvando il culo. Ora tutti ti odiano. Tutti odiano Israele per questo», avrebbe urlato Trump a Netanyahu durante un confronto telefonico recente finito sui giornali. Secondo quanto riportato, un Trump «furioso»  avrebbe pure gridato al Netanyahu: «Che cazzo stai facendo?».  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di pubblico dominio CC0 via Flickr  
       
Continua a leggere

Più popolari