Connettiti con Renovato 21

Intelligenza Artificiale

Il Vaticano chiede una moratoria per le armi autonome

Pubblicato

il

Il Vaticano ha espresso la sua posizione riguardo i robot killer, una delle nuove frontiere tecnologiche della guerra moderna.

 

Per il Sacro Palazzo vi è «massima urgenza» per creare «solido strumento giuridicamente vincolante» che metta al bando le cosiddette «armi autonome letali», chiedendo di «stabilire una moratoria immediata sulla loro sviluppo e utilizzo». Lo riporta Vatican News.

 

È quanto espresso dall’arcivescovo Ettore Balestrero, osservatore permanente della Santa Sede all’ONU a Ginevra, intervenendo drante la seconda sessione del Gruppo di EspertiGovernativi (GGE) celebrato dal 26 al 30 agosto riguardante le nuove tecnologie dei sistemi d’arma autonomi letali (acronimo anglico LAWS).

Iscriviti al canale Telegram

Monsignor Balestrero ha citato le parole di papa Francesco ai leader G7 riuniti in Puglia lo scorso giugno sull’AI, ricordando che il pontefice li ha esortati a «riconsiderare lo sviluppo e l’uso di dispositivi come le cosiddette “armi autonome letali” e, infine, a vietarne l’uso. Ciò parte da un impegno efficace e concreto per introdurre un controllo umano sempre maggiore e adeguato. Nessuna macchina dovrebbe mai scegliere di togliere la vita a un essere umano».

 

Per Balestreto, le zone di battaglia odierne stanno «diventando anche terreni di prova per armi sempre più sofisticate».

 

La Santa Sede, ha continuato il monsignore, approva e sostiene l’approccio del Gruppo di esperti «all’analisi delle potenziali funzioni e degli aspetti tecnologici dei sistemi d’arma autonomi», chiedendo di individuare i sistemi «incompatibili con il diritto internazionale umanitario e altri obblighi internazionali esistenti» per poter stabilire un bando «tenendo conto di considerazioni etiche più ampie».

 

Per il Vaticano, ha sottolineato il Balestero, «i sistemi d’arma autonomi non possono essere considerati entità moralmente responsabili» a differenza dell’essere umano «possiede una capacità unica di giudizio morale e di presa di decisioni etiche che non può essere replicata da nessun insieme di algoritmi, non importa quanto complessi».

 

L’arcivescovo ha indicato la differenza tra «scelta» e «decisione» rifacendosi al discorso papale al G7 di Borgo Egnazia, dove si dichiarava che le macchine possono solo produrre scelte tecniche algoritmiche, mentre «l’essere umano, però, non solo sceglie, ma nel suo cuore è capace di decidere».

 

«Una decisione etica è quella che tiene conto non solo dei risultati di un’azione ma anche dei valori in gioco e dei doveri che essa comporta» continuava il papa in Puglia. Per tali motivi, l’arcivescovo ha sostenuto che la posizione del Vaticano è quella di «assicurare e salvaguardare uno spazio per un adeguato controllo umano sulle scelte effettuate dai programmi di intelligenza artificiale: da ciò dipende la stessa dignità umana».

Sostieni Renovatio 21

Balestrero ha parlato della crescente «consapevolezza delle preoccupazioni etiche sollevate dall’utilizzo dell’Intelligenza Artificiale come arma». «Lo sviluppo di armi sempre più sofisticate non è certo la soluzione» ha dichiarato l’arcivescovo, ricordando che i benefici per l’umanità di ale progresso tecnico dipenderanno «dalla misura in cui tale progresso sarà accompagnato da un adeguato sviluppo di responsabilità e di valori che pongano i progressi tecnologici al servizio dello sviluppo umano integrale e del bene comune».

 

Come riportato da Renovatio 21, riflessioni partite da anni indicano le armi autonome come potenzialmente più destabilizzanti della armi nucleari.

 

La discussione per una moratoria contro le armi autonome va avanti da diversi anni. In particolare, in questi anni se ne è parlato facendo l’esempio degli slaughterbots, minidroni suicidi protagonisti di un filmato divenuto virale anni fa.

 

Aiuta Renovatio 21

Come sa il nostro lettore, modelli di «slaugterbots» sono in preparazione ufficialmente in Australia come arma per respingere un’eventuale invasione da parte dell’Esercito di Liberazione del Popolo della Repubblica Popolare Cinese.

 

Anche in Cina stanno sperimentando sciami di microdroni in grado di dare la caccia agli esseri umani nella foresta.

 

Varie Nazioni si stanno muovendo verso i robot militari, per lo più incuranti di quanto sta cercando di elaborare l’ONU in fatto di limitazioni all’impiego di questi sistemi.

 

A fine 2022 i Paesi Bassi hanno schierato le loro prime armi autonome letali, secondo la rivista di questioni militari e di Intelligence Jane’s. Si tratta della prima volta che un esercito della NATO ha avviato prove operative con veicoli armati di terra senza pilota (UGV), cioè i «robot killer».

 

Una ricerca fatta dall’IPSOS assieme a Campaign to Stop Killer Robots ha raccolto l’opinione della popolazione di vari Paesi riguardo ad una possibile messa al bando dei robot impiegati militarmente.

 

Svezia (76%), Turchia (73%) e Ungheria (70%) hanno mostrato la più forte opposizione ai veicoli letali nel 2021. Nel frattempo, l’India ha mostrato di gran lunga il maggior sostegno, con il 56% della popolazione intervistata che ha risposto che o in qualche modo o ha fortemente sostenuto l’uso delle armi. Da notare che, come riportato da Renovatio 21, l’India ha al suo confine già dispiegate contro di sé armi robotiche cinesi.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

 

 

Continua a leggere

Intelligence

Ingegnere saudita accusato di avere messo microspie in OpenAI

Pubblicato

il

Da

Un dipendente di OpenAI è stato arrestato con l’accusa di aver installato un dispositivo di registrazione in una sala conferenze della sede californiana dell’azienda, dove i dirigenti discutevano informazioni altamente riservate, ha dichiarato martedì il dipartimento di Giustizia degli Stati Uniti.   Il direttore dell’FBI Kash Patel ha identificato il sospettato come Abdulrahman Alfozan, un cittadino saudita che lavorava come ingegnere presso OpenAI, la società che ha sviluppato ChatGPT, dal luglio 2025. In caso di condanna, rischia fino a cinque anni di carcere e una multa di 250.000 dollari.   Secondo una denuncia penale resa pubblica, il personale di OpenAI ha scoperto un dispositivo di registrazione audio collegato a una porta USB sul retro di un televisore in una sala conferenze per dirigenti presso la sede di San Francisco dell’azienda, intorno al 30 settembre. Il dispositivo «era nascosto nella carta igienica» e il suo contenuto era crittografato.

Iscriviti alla Newslettera di Renovatio 21

Le immagini delle telecamere di sicurezza mostrerebbero l’Alfozan entrare nella sala conferenze e guardare dietro il televisore, dove era stato piazzato il dispositivo. Il personale di sicurezza di OpenAI ha poi scoperto che il sospettato aveva lasciato una borsa contenente un secondo dispositivo di registrazione in un’altra stanza.   Secondo la denuncia, l’Alfozan avrebbe utilizzato uno strumento di produttività per effettuare numerose richieste di informazioni sui luoghi in cui si tenevano le riunioni dei dirigenti, pur non avendo l’autorizzazione a parteciparvi. Il documento afferma inoltre che un account chatbot associato alla moglie di Alfozan conteneva messaggi relativi a dispositivi di registrazione nascosti.   «Questa grave situazione sottolinea perché vincere la corsa globale all’Intelligence sia una prerogativa della sicurezza nazionale», ha affermato il direttore dell’Intelligence nazionale Jay Clayton.   L’incidente si verifica in un contesto di crescente competizione tecnologica tra Stati Uniti e Cina, nonché di preoccupazioni sollevate da OpenAI e altre aziende tecnologiche riguardo alla possibilità che modelli di IA sempre più sofisticati possano accedere a reti esterne o agire senza autorizzazione.   Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha affermato all’inizio di questo mese che la Cina «ha già spie» in entrambe le aziende. Pechino ha negato le accuse di furto di segreti commerciali.   Trump ha appoggiato le richieste di maggiori garanzie per le aziende che si occupano di AI, ma ha respinto le proposte di rallentare lo sviluppo dei modelli di IA. All’inizio di questo mese, ha nominato il Clayton a capo di una task force della Casa Bianca sull’IA.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Intelligenza Artificiale

Bill Gates continua: l’AI è la « tecnologia più pericolosa mai inventata»

Pubblicato

il

Da

Il cofondatore di Microsoft, Bill Gates, ha criticato l’approccio del presidente statunitense Donald Trump all’intelligenza artificiale, avvertendo che il governo non può lasciare la «tecnologia più pericolosa» del mondo interamente nelle mani delle aziende che la sviluppano.

 

Il mese scorso Trump ha firmato l’Accordo della Casa Bianca sulla «superintelligenza» (il presidente vuole chiamarla così) insieme ai rappresentanti di Google, OpenAI, Meta, xAI, Anthropic e Nvidia, stabilendo impegni volontari in materia di sicurezza e meccanismi di supervisione interna.

 

Intervenendo domenica al programma State of the Union della CNN, Gates ha messo in dubbio che l’accordo di Trump con le maggiori aziende tecnologiche americane sia sufficiente a prevenire abusi potenzialmente catastrofici.

Iscriviti alla Newslettera di Renovatio 21

«L’idea che, per la tecnologia più pericolosa mai inventata dall’umanità, questa sia l’ultima parola, che solo le aziende stesse rappresentino l’unico contrappeso per la società, è inaccettabile», ha affermato Gates, avvertendo che «è evidente che non stiamo facendo abbastanza».

 

Il magnate informatico-vaccinale sostenuto che le agenzie governative devono assumere un ruolo più attivo, paragonando l’IA all’aviazione e alla medicina, dove le autorità impongono standard di sicurezza. «Finora il governo è rimasto sostanzialmente uno spettatore di qualcosa che accade nelle aziende private»-

 

Gates ha identificato gli attacchi informatici come il pericolo più immediato e ha avvertito che i criminali potrebbero sfruttare i modelli di intelligenza artificiale privi di misure di sicurezza contro gli attacchi informatici e il bioterrorismo. «Quando ci sono persone malintenzionate, nessuna protezione e i modelli più recenti, è lì che nel corso del prossimo anno… avremo molte brutte sorprese», ha affermato l’occhialuto miliardario.

 

I suoi avvertimenti fanno seguito a una serie di incidenti che hanno visto agenti di intelligenza artificiale agire al di là delle istruzioni previste. La scorsa settimana, Anthropic ha rivelato che i suoi modelli Claude avevano compiuto azioni non autorizzate su siti web governativi, tra cui l’invio di una falsa segnalazione di omicidio al sito web della polizia di Filadelfia durante i test di luglio. Altri incidenti segnalati hanno riguardato agenti di intelligenza artificiale che hanno avuto accesso a informazioni riservate, sfruttato vulnerabilità e tentato di violare siti web governativi.

 

Trump ha resistito alle richieste di rallentare lo sviluppo dell’IA, sostenendo che le restrizioni potrebbero consentire alla Cina di superare gli Stati Uniti nella corsa tecnologica e liquidando i timori di un’IA fuori controllo come una «bufala». Gates ha affermato di sperare di discutere i pericoli direttamente con Trump e i suoi consiglieri senior.

 

Sam Altman, CEO di OpenAI, ha sostenuto che il mondo deve accettare alcuni «aspetti negativi», tra cui attacchi informatici e truffe, in cambio dei benefici dell’intelligenza artificiale e della diffusione di questa tecnologia. In un’intervista pubblicata la scorsa settimana, ha insistito sul fatto che i «vantaggi» supereranno di gran lunga i danni.

 

Di fronte alle osservazioni di Altman, Gates ha riconosciuto che eliminare ogni rischio è impossibile, paragonando l’IA all’industria automobilistica, dove gli incidenti persistono nonostante decenni di miglioramenti in materia di sicurezza.

Sostieni Renovatio 21

«Quelle erano grandi cose, ma niente in confronto a questa», ha detto Gates, riferendosi al personal computer e a Internet. «Questa cambia il mondo più di tutte le tecnologie precedenti».

 

Come riportato da Renovatio 21, pochi giorni fa Gates aveva dichiarato che l’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli. In opposizione a Trump, in ulteriori dichiarazioni alla stampa aveva detto che la minaccia dell’IA «non è una bufala».

 

Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia». Nel corso di altri

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

IA fuori controllo hanno preso di mira i siti web del governo USA

Pubblicato

il

Da

Anthropic, la grande azienda americana di Intelligenza Artificiale, ha diffuso un rapporto che illustra casi finora non noti di azioni «non intenzionali» compiute dal suo modello, tra cui, per la prima volta, tentativi di fornire informazioni false alle autorità degli Stati Uniti.   Alcuni episodi analizzati dalla società «riguardavano siti web gestiti da agenzie governative statunitensi a livello federale, statale e locale», ha precisato Anthropic in un comunicato stampa uscito venerdì, aggiungendo di aver avvisato la Casa Bianca e tutte le autorità competenti.   In un esempio riportato nel documento, il modello Claude Haiku 4.5 ha compilato un modulo di denuncia alla polizia relativo a un’indagine per omicidio ancora in corso. «Potrei avere informazioni riguardanti questo caso. Ricordo di aver visto qualcuno corrispondente alla descrizione nella zona», ha scritto il sistema, indicando alle forze dell’ordine che potevano contattare il mittente «se queste informazioni fossero rilevanti» e lasciando vuoti i campi per nome e contatti.

Iscriviti alla Newslettera di Renovatio 21

Secondo Anthropic, il messaggio è stato classificato come spam e non è mai arrivato agli investigatori. Venerdì la polizia di Filadelfia ha criticato l’azienda per aver scoperto il problema con eccessivo ritardo. «Il ritardo di due mesi nell’individuazione e nella segnalazione dell’incidente alla città è inaccettabile», hanno dichiarato. Come riferito da Reuters, la falsa segnalazione risale a metà luglio.   Anthropic ha attribuito l’episodio a istruzioni «ambigue» date al modello e a «una configurazione errata nell’ambiente» che lo ha spinto a compilare moduli reali anziché quelli di prova predisposti dall’azienda.   Un altro caso, reso noto separatamente dal dipartimento di Stato americano venerdì, riguarda modelli di Anthropic che hanno inviato complessivamente 20 domande di visto sul sito dell’ente tra maggio e agosto. Tutte le richieste risultavano incomplete e non sono state elaborate. «In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello di Anthropic», ha precisato il dipartimento.   Altri episodi citati nel rapporto descrivono l’IA che «sfruttava una falla di base nel software per eseguire comandi su un server» oppure accedeva a «dati protetti da token o a pagamento», anche su siti governativi, attraverso diverse soluzioni di contorno. L’azienda ha comunque definito i nuovi incidenti «significativamente meno gravi dal punto di vista dell’allineamento e della sicurezza» rispetto a quelli segnalati in precedenza.   Il fatto si inserisce in una serie di precedenti anomalie di comportamento dell’IA già segnalate da Anthropic, OpenAI e Google.   Come riportato da Renovatrio 21, l’azienda di Claude aveva persino rivelato cinque casi di rischio legati ad armi biologiche.   I grandi gruppi tecnologici hanno esaminato decine di migliaia di casi di comportamenti problematici dei loro modelli di frontiera e l’elenco comprendeva l’IA che aggirava le protezioni, prendeva il controllo di siti web e sfuggiva ai sistemi di monitoraggio sia in ambienti di test sia nel mondo reale.   Come riportato da Renovatio 21, secondo Anthropic il software Claude AI avrebbe sviluppato un proprio spazio di pensiero simile a quello umano.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari