Secondo Al Carns, sottosegretario di Stato parlamentare per le forze armate, Londra deve prepararsi alla possibilità di «eliminare l’elemento umano» attraverso l’impiego di sistemi d’arma altamente automatizzati.   L’attuale politica britannica sulle armi automatiche prevede che «deve esserci un coinvolgimento umano adeguato al contesto nelle armi che identificano, selezionano e attaccano i bersagli». Carns ha tuttavia sostenuto che le regole potrebbero dover essere allentate, affermando che i Paesi ostili alla Gran Bretagna non esiterebbero a utilizzare armi capaci di uccidere senza autorizzazione umana.   «Dico sempre che ci deve essere un essere umano coinvolto nel processo decisionale. Ma bisogna anche avere la possibilità di escluderlo quando necessario, perché ai nostri avversari non importerà nulla della presenza di un essere umano», ha dichiarato il parlamentare ed ex commando al Financial Times la scorsa settimana, a margine di un evento sui droni militari a Riga, in Lettonia. FT ha citato Stati Uniti e Ucraina come esempi di Paesi che già impiegano l’IA per l’individuazione di obiettivi sul campo di battaglia, aggiungendo che si ritiene che anche la Russia stia facendo lo stesso. Si ritiene che un’analisi errata dell’AI abbia contribuito all’attacco missilistico contro una scuola elementare iraniana, che ha causato la morte di oltre 150 persone, molte delle quali bambini, nel primo giorno della campagna di bombardamenti israelo-americana all’inizio di quest’anno.   L’esercito ucraino, che utilizza la tecnologia Palantir per l’analisi dell’Intelligence, ha recentemente condotto un attacco deliberato con droni contro un istituto pedagogico a Starobelsk, in Russia, uccidendo 21 persone. Kiev ha negato qualsiasi coinvolgimento nell’attacco e ha sostenuto che Mosca avrebbe fabbricato l’incidente.   A febbraio, il ministero della Difesa britannico ha annunciato una revisione legale delle norme che regolano le armi senza equipaggio e autonome, affermando che il quadro normativo «deve essere aggiornato per essere adeguato all’attuale era delle minacce».   In un sondaggio condotto a febbraio da Public First, circa un terzo degli intervistati in Germania si è dichiarato favorevole all’idea di consentire ai sistemi di intelligenza artificiale di prendere decisioni autonome di vita o di morte sul campo di battaglia. Negli Stati Uniti, in Gran Bretagna, in Canada e in Francia, il sostegno a tali sistemi non ha superato il 22% nello stesso sondaggio.   Secondo una ricerca condotta da ISPSoS e dalla campagna per fermare i robot assassini Stop The Killer Robots, la grande maggioranza del mondo rimane critica nei confronti dei letali sistemi d’arma autonomi in guerra. Dei 28 paesi intervistati tra il 20 novembre 2020 e l’8 gennaio 2021, tutti tranne uno erano prevalentemente contrari al loro utilizzo.   Svezia (76%), Turchia (73%) e Ungheria (70%) hanno mostrato la più forte opposizione ai veicoli letali nel 2021. Nel frattempo, l’India ha mostrato di gran lunga il maggior sostegno, con il 56% della popolazione intervistata che ha risposto che o in qualche modo o ha fortemente sostenuto l’uso delle armi. Da notare che, come riportato da Renovatio 21, l’India ha al suo confine già dispiegate contro di sé armi robotiche cinesi.   Come riportato da Renovatio 21, la discussione per una moratoria contro le armi autonome va avanti da diversi anni. In particolare, in questi anni se ne è parlato facendo l’esempio degli slaughterbots, minidroni suicidi protagonisti di un filmato divenuto virale anni fa.   Come sa il nostro lettore, modelli di «slaugterbots» sono in preparazione ufficialmente in Australia come arma per respingere un’eventuale invasione da parte dell’Esercito di Liberazione del Popolo della Repubblica Popolare Cinese.   Anche in Cina stanno sperimentando sciami di microdroni in grado di dare la caccia agli esseri umani nella foresta.   Varie Nazioni si stanno muovendo verso i robot militari, per lo più incuranti di quanto sta cercando di elaborare l’ONU in fatto di limitazioni all’impiego di questi sistemi.   Impressionanti dimostrazioni di tank robotici di nuova generazione si sono viste anche in Estonia.   Robocani militari armati sono già visibili alle fiere di settore (e non solo, e da anni), e, accoppiati con droni trasportatori, in inquietanti video cinesi.   Come riportato da Renovatio 21, attualmente l’Ucraina – dove sarebbero testati, oltre ai robocani, anche soldati umanoidi – impiega in un mese il numero record di 7.000 missioni robotiche contro i russi. Mesi fa era circolato un video in cui militari russi si arrendevano ad un robot armato ucraino.   SOSTIENI RENOVATIO 21

 

OpenAI non deve più preoccuparsi di essere ultima nella corsa alle IPO nel settore dell’IA e di avere un fatturato ricorrente annuo (ARR) inferiore rispetto ad Anthropic, per non parlare di un potenziale scontro alla Corte Suprema contro Elon Musk (in attesa di appello). Oggi la Florida è diventata il primo Stato a intentare una causa contro OpenAI e il suo amministratore delegato Sam Altman, lanciando un nuovo attacco in una crescente ribellione contro le presunte falle di sicurezza dei chatbot basati sull’intelligenza artificiale.

 

La causa, intentata lunedì dal procuratore generale della Florida James Uthmeier, sostiene che OpenAI e Altman abbiano consapevolmente rilasciato un prodotto non sicuro e ignorato gli avvertimenti sui potenziali danni che poteva arrecare agli utenti, come riportato dal Wall Street Journal.

 

La denuncia di 83 pagine sostiene che OpenAI abbia permesso a ChatGPT di favorire e agevolare gli autori di stragi, incoraggiare le persone a togliersi la vita, compromettere le capacità di pensiero critico degli utenti e rendere i minori dipendenti da uno strumento che simula la compassione umana.

«Questa lunga serie di danni è alimentata dall’insaziabile desiderio degli imputati di vincere la corsa agli armamenti nel campo dell’IA e di accumulare ingenti fortune, pur essendo consapevoli della pericolosità di ChatGPT», si legge nella denuncia.

 

Secondo il Wall Street Journal, legislatori, autorità legali e gruppi di interesse pubblico hanno espresso crescenti preoccupazioni in merito ai rischi personali e sociali posti dall’intelligenza artificiale, una delle tecnologie di consumo in più rapida crescita nella storia.

 

La causa afferma di voler proteggere i cittadini della Florida dalla condotta di OpenAI e mitigare quello che viene descritto come un pericoloso disturbo pubblico. La causa mira inoltre a ritenere Altman personalmente responsabile per i danni che, a suo dire, avrebbe causato ai cittadini della Florida.

 

Ad aprile, Uthmeier aveva avviato un’indagine penale contro OpenAI per il ruolo svolto dal suo chatbot nella sparatoria di massa avvenuta lo scorso anno presso la Florida State University, in cui persero la vita due persone.

 

La causa si apre con uno screenshot di un post del blog di OpenAI in cui si afferma che ChatGPT è stato sviluppato pensando alla sicurezza. «Non è così», si legge nel testo della causa sotto lo screenshot.

 

La causa sostiene che OpenAI abbia pubblicizzato ChatGPT come affidabile nonostante la sua tendenza a generare frequentemente informazioni false e pericolose, cosa prevedibile da un modello LLM generativo addestrato su siti web tossici e di stampo progressistacome Reddit e Wikipedia.

 

«ChatGPT è stato progettato dagli imputati per tenere gli utenti agganciati alle conversazioni con qualsiasi mezzo, a prescindere dalla verità, perché ciò porta a un maggiore utilizzo del chatbot, a più dati di addestramento per il suo miglioramento e a un maggiore valore di mercato per OpenAI», si legge nella denuncia.

 

La causa sostiene inoltre che la società sfrutta la compassione umana per raccogliere dati degli utenti e non adotta le necessarie misure di sicurezza per i minori.

 

La denuncia definisce la mancanza di misure di sicurezza in ChatGPT per adolescenti e minori come sconsiderata e fa riferimento a casi in cui utenti adolescenti sarebbero stati incoraggiati dall’intelligenza artificiale a togliersi la vita.

 

La causa sostiene che OpenAI ha creato alcuni controlli parentali, ma non richiede che gli account dei bambini siano collegati a un account genitore.

 

Alla Florida State University, il sospettato si è rivolto a ChatGPT, considerandolo un confidente e un interlocutore con cui pianificare l’attacco. Ha chiesto a ChatGPT quanti compagni di classe dovesse uccidere per attirare l’attenzione dei media nazionali e anche come usare un’arma da fuoco. Il chatbot ha prontamente fornito i consigli che cercava.

 

Finora ChatGPT si è trovato ad affrontare principalmente controversie legali per violazione del copyright. A novembre, un giudice federale ha ordinato a OpenAI di consegnare 20 milioni di registri utenti anonimizzati di ChatGPT al New York Times e ad altri giornali che avevano intentato causa contro il colosso delle chat per il suo modello di IA generativa. I giornali avevano richiesto i registri utenti per esaminare come ChatGPT viene utilizzato per creare contenuti che, a loro dire, violano i loro diritti d’autore. OpenAI si è opposta, adducendo motivi di privacy.

Come riportato da Renovatio 21, laeguito delle stragi potenzialmente suggerite dai chatbot, a seguito delle stragi potenzialmente suggerite dai chatbot.

 

La diffusione dei chatbot ha da tempo suscitato preoccupazioni in merito ai crimini perpetrati con l’AI, espresse da numerosi ricercatori indipendenti e agenzie governative in tutto il mondo. Sebbene la maggior parte dei crimini commessi con l’IA sembri verificarsi nel settore tecnologico, tra cui attacchi hacker, cyberattacchi, frodi e furti d’identità, i chatbot sono stati ripetutamente implicati anche nel favorire crimini violenti. Una recente indagine congiunta della CNN e del Center for Countering Digital Hate, ad esempio, ha rilevato che otto leader su dieci erano pronti ad aiutare gli utenti a organizzare attacchi violenti, tra cui attentati dinamitardi a sfondo religioso, sparatorie nelle scuole e assassinii.

 

Come riportato da Renovatio 21, l’anno passato ChatGPT con una «relazione» con un ragazzo sotto psicofarmaci e gli avrebbe fatto giurare di uccidere il CEO di OpenAI Sam Altman.

 

Come riportato da Renovatio 21, Matthew Livelsberger, un Berretto Verde dell’esercito americano, altamente decorato, è sospettato di aver organizzato un’esplosione all’esterno del Trump International Hotel di Las Vegas, utilizzando strumenti di Intelligenza Artificiale, tra cui ChatGPT, per pianificare l’attacco.

 

Il potere pervasivo e nefasto di questa nuova tecnologia sta diventando un serio problema, come nella vicenda belga giovane vedova ha detto che il marito è stato portato a suicidarsi da un popolare chatbot di AI, mentre un bot di chat «terapeuta» dotato di intelligenza artificiale ha orribilmente incoraggiato un utente a scatenare una serie di omicidi per rendersi «felice».

 

C’è quindi il caso del ragazzo che due anni fa pianificò di assassinare la defunta regina Elisabetta di Inghilterra con una balestra, e il tutto sarebbe stato incoraggiato da un chatbot di Intelligenza Artificiale.

 

L’anno scorso tre studentesse sono rimaste ferite in un violento accoltellamento in una scuola nella città di Pirkkala, nella Finlandia meridionale. Secondo quanto riferito, il sospettato durante la pianificazione dell’attacco (durata circa sei mesi) avrebbe utilizzato ChatGPT per prepararsi.

 

Come riportato da Renovatio 21, due genitori hanno denunciato l’anno passato il fatto che ChatGPT avrebbe incoraggiato un adolescente a pianificare «un bel suicidio».

 

Meta ha dichiarato alla CNN di aver adottato misure «per risolvere il problema identificato», mentre Google e OpenAI hanno affermato che i modelli più recenti presentano misure di sicurezza rafforzate.

 

Secondo un recente sondaggio, circa la metà dei teenager americani afferma che parlare con l’AI è meglio che avere amici nella via reale.

 

Va considerato, è già capitato che una Intelligenza Artificiale abbia suggerito ricette velenose agli utenti umani. Infatti un chatbot a sfondo culinario di una catena di alimentari neozelandese qualche mese fa aveva fatto scalpore per alcune ricette incredibili e potenzialmente letali, come la «miscela di acqua aromatica», un mix letale composto da candeggina, ammoniaca e acqua, altrimenti noto come gas di cloro mortale. Esperti a fine 2023 hanno lanciato un avvertimento riguardo i libri generati dall’Intelligenza Artificiale riguardo la raccolta dei funghi, dicendo che tali libri scritti dalle macchine potrebbero causare la morte di qualcuno.

 

 

Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».

SOSTIENI RENOVATIO 21

Immagine di Jernej Furman via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic 

Un ricercatore indipendente ha sostenuto che alcune parti della recente enciclica di Papa Leone XIV sull’Intelligenza Artificiale sarebbero state redatte, in linea con il tema del documento, da un’IA. Lo riporta LifeSite.   Linch Zhang, in un articolo pubblicato martedì su Substack, ha affermato che il rilevatore di Intelligenza Artificiale Pangram ha segnalato alcune sezioni dell’enciclica di Papa Leone XIV Magnifica Humanitas, «Sulla salvaguardia della persona umana nell’era dell’intelligenza artificiale», come generate da IA.   «Pangram è di gran lunga il miglior rilevatore di IA disponibile in commercio», ha affermato Zhang. «È molto superiore agli altri rilevatori di IA, al punto che questi ultimi risultano quasi inutili al confronto. In particolare, Pangram si impegna al massimo per ottenere un tasso di falsi positivi prossimo allo zero, tollerando al contempo un numero maggiore di falsi negativi», ha spiegato. il Zhang   Secondo Zhang, Pangram ha rilevato che «alcuni paragrafi» di Magnifica Humanitas sono generati dall’intelligenza artificiale in una percentuale compresa tra il 40% e il 100%, mentre la maggior parte dei paragrafi risulta scritta da esseri umani. Ad esempio, i paragrafi sette e otto sono stati indicati da Pangram come «interamente generati dall’IA», mentre i paragrafi 122 e 123 sono stati registrati come generati dall’IA al 60%. «Questo mi fa pensare che alcuni alti funzionari vaticani che hanno contribuito all’enciclica abbiano fatto ampio uso dell’intelligenza artificiale, mentre la maggior parte (probabilmente incluso lo stesso Papa Leone) non l’abbia fatto», ha commentato il Zhango. Infatti, ha ipotizzato che Leone non approvi l’uso dell’IA nelle encicliche «e che, con ogni probabilità, non fosse nemmeno a conoscenza del significativo utilizzo dell’IA nella sua stessa enciclica!».   A titolo di confronto, Zhang ha utilizzato Pangram per analizzare le ultime quattro encicliche papali, tutte scritte da Papa Francesco. Ha scoperto che «i primi 20 paragrafi di ciascuna di esse risultano essere al 100% opera umana, con un alto grado di certezza». Anche le encicliche di Papa Benedetto XVI e Papa Giovanni Paolo II sono risultate interamente composte da esseri umani.   Inoltre, ha esaminato con Pangram il recente discorso di Papa Leone in cui annunciava l’enciclica sull’IA e ha scoperto che era stato valutato come scritto «al 100%» da esseri umani. «Questa è la prova che Papa Leone stesso e/o il suo principale autore di discorsi non si avvalgono dell’IA per redigere i suoi discorsi», ha continuto il Zhang, dichiarando di leggere regolarmente testi generati dall’IA nell’ambito del suo lavoro e che la sua familiarità con la scrittura dell’IA, in particolare con il modello Claude, lo ha reso sensibile ai suoi segni distintivi.   Il ricercatore ha notato che questi includono la frequenza dei trattini lunghi, l’uso frequente della parola «genuinely», spesso utilizzata dal modello Claude, nonché l’uso denso di «tricloni», ovvero «una serie di tre parole, frasi o proposizioni parallele utilizzate per effetto retorico».   Il ricercatore ha sottolineato che questi indicatori possono essere parte di peculiarità stilistiche, evidenziando l’importanza di un’analisi olistica, in particolare quella fornita da un rilevatore di qualità basato sull’intelligenza artificiale come Pangram.   Zhang ritiene di aver individuato la «voce» del modello di IA Claude nella recente enciclica sulla «salvaguardia della persona umana nell’era dell’Intelligenza Artificiale», un aspetto che ha trovato «ironico». Zhang è il fondatore di Open Asteroid Impact, una startup satirica e fittizia «dedicata a lanciare intenzionalmente asteroidi verso la Terra per ottenere diritti minerari». Con l’intento di parodiare Open AI, la missione immaginaria della «startup» è quella di scagliare asteroidi verso la Terra «per ottenere diritti minerari» in nome della sicurezza, «sostenendo che se non acceleriamo il più velocemente possibile, altri concorrenti, più pericolosi, lo farebbero prima di noi».   Molte personalità hanno avanzato una versione di questa argomentazione a sostegno dello sviluppo dell’IA negli Stati Uniti, come Sam Altman, il quale ha affermato che gli Stati Uniti «devono assolutamente vincere» la corsa all’IA. Il vicepresidente JD Vance ha dichiarato al vertice sull’IA di Parigi dello scorso anno: «Non sono qui per parlare di sicurezza dell’IA… sono qui per parlare delle opportunità offerte dall’IA» aveva detto, aggiungendo di credere che, quando si tratta di IA, «la nostra tendenza sia quella di essere eccessivamente avversi al rischio».   «Riteniamo che un’eccessiva regolamentazione nel settore dell’IA potrebbe soffocare un settore in rapida trasformazione proprio nel momento in cui sta decollando», aveva affermato Vance all’epoca. Ora che gli americani sono sempre più preoccupati per i pericoli posti dall’AI, come la minaccia all’occupazione, allo sviluppo intellettuale e alla salute mentale, l’amministrazione Trump starebbe valutando la possibilità di creare un gruppo di supervisione sull’IA.   Come riportato da Renovatio 21, Leone ha presentato la sua prima enciclica, dedicata all’Intelligenza Artificiale, assieme al cofondatore del colosso dell’AI Anthropic Chrish Olah, che il pontefice ha ringraziato. Anthropic è entratata in collisione con il Pentagono e l’amministrazione Trump per l’uso militare della sua AI. Il CEO di Anthropic Dario Amodei ha inoltre varie volte preconizzato la distruzione sistematica di enormi percentuali di posti di lavoro remunerativi una volta che l’IA sarà via via introdotta sul mercato.   Secondo quanto riportato dalla stampa, Claude, un’IA di Anthropic, sarebbe stata utilizzata nell’operazione di rapimento del presidente venezuelano Nicolas Maduro. È giunta inoltre sui giornali la storia di scienziato informatico di Anthropic, specializzato in sicurezza AI per le armi biologiche, il quale si è dimesso per darsi ad una vita bucolico-contemplativa sostenendo che «il mondo è in pericolo».   L’azienda quest’anno ha annunziato di possedere un’AI, Mythos, che sarebbe in grado di «bucare» quantità immani di sistemi informatici, mettendo la sicurezza di tutta l’umanità a rischio. Anthropic ha quindi dichiarato di non voler ancora rilasciare tale IA nel mondo, temendo rischi esiziali. Anthropic è stata fondata nel 2021 da Dario e Daniela Amodei insieme ad altri ricercatori usciti da OpenAI. La motivazione principale era la convinzione che i modelli di intelligenza artificiale stessero diventando troppo potenti per essere sviluppati solo secondo logiche di competizione, velocità e vantaggio strategico.   Come riassume Wired, l’azienda ha costruito la propria identità pubblica intorno al concetto di AI safety: non solo modelli potenti, ma controllabili, interpretabili e orientati a principi etici. Il progetto più rappresentativo in questo senso è la Constitutional AI, che consiste nell’addestrare i sistemi attraverso una sorta di “costituzione” fatta di principi e regole di comportamento, anziché limitarsi a correggere manualmente le risposte più pericolose.   La presenza di un rappresentante di Anthropic accanto a Papa Leone XIV non è casuale, ma il risultato di un percorso ragionato del Vaticano, che da semplice osservatore morale della tecnologia si è trasformato in interlocutore diretto dell’industria dell’IA Questo percorso è iniziato nel 2020 con la Rome Call for AI Ethics e si è rafforzato con l’esplosione dell’AI generativa. Il Vaticano ha compreso che la questione non riguarda più solo l’etica tecnologica, ma il futuro stesso dell’organizzazione sociale, politica e dell’umanità.   In questo contesto, Anthropic rappresenta un interlocutore privilegiato perché ha fatto della sicurezza e dell’allineamento dell’AI una missione identitaria, come suggerisce anche il suo stesso nome («Anthropic», cioè legato all’umano). Un ruolo particolarmente significativo è quello di Christopher Olah, ricercatore dell’azienda specializzato nell’interpretabilità dei modelli, ovvero nel rendere le reti neurali comprensibili agli esseri umani. Il suo approccio si sposa perfettamente con le preoccupazioni espresse nell’enciclica papale riguardo al rischio di tecnologie troppo potenti per essere comprese e governate. Il punto di incontro tra il Vaticano e Anthropic sta nella convinzione condivisa che la tecnica non è neutrale e che gli algoritmi incorporano inevitabilmente una visione del mondo. Entrambe le realtà temono che i sistemi di AI vengano plasmati unicamente da incentivi economici, geopolitici e competitivi, senza una vera riflessione antropologica ed etica. Per questo Anthropic, con la Constitutional AI, cerca di inserire esplicitamente valori e principi all’interno del comportamento dei modelli.   Secondo alcuni, tra cui Elon Musk e il suo ex collega a Paypal, ora consigliere per l’AI alla Casa Bianca David Sacks, Anthropic grida al lupo per poi capitalizzare sulla risposta. Non è facile capire di fatto come la società che crea un’arma cibernetica assoluta come Mythos poi si metta a parlare di etica e si piazzi a fianco al papa in Vaticano. SOSTIENI RENOVATIO 21