Connettiti con Renovato 21

Intelligenza Artificiale

La lettera di Elon Musk per fermare l’Intelligenza Artificiale

Pubblicato

il

Elon Musk, il cofondatore di Apple e molti esperti informatici tra cui i professori di AI Yoshua Bengio e Stuart Russel altro hanno firmato una lettera pubblicata dal Future of Life Institute per fermare l’avanzata dell’Intelligenza Artificiale, arrivata a spaventare anche l’opinione pubblica con chatGPT, software di cui si è impadronita spendendo 10 miliardi la Microsoft di Bill Gates.

 

Come riportato da Renovatio 21, il software è arrivato a minacciare gli utenti, fare proclami stralunati, perfino dichiarare di voler sterminare gli esseri umani, e creare codice per prendere il controllo del computer dei suoi interlocutori.

 

L’appello di Musk e compagni (tra i quali, purtroppo, vediamo anche Yuval Harari) è paragonabile a quelli che decenni fa si sono visti per lo sviluppo delle armi atomiche, e – aggiungiamo noi – che non si sono visti per le armi biologiche e le ricerche Gain of Function: il risultato del genio scappato dalla lampada lì è stato, con estrema probabilità, la catastrofe della pandemia COVID-19.

 

Gli effetti della fuga del genio AI dalla lampada, strofinata a dovere da oligarchi senza scrupoli e senza amore per il genere umano, non riusciamo ancora ad immaginarceli.

 

Tuttavia Elon Musk, oramai quasi una decina di anni fa, ci aveva messo in guardia: sarà «come evocare un demone».

 

È il momento di avere paura.  È il momento di agire – è il momento che se ne occupi la politica, che in Italia invece che vedere il precipizio davanti alla popolazione, come sempre, si occupa di quisquilie e problemucci partitici, sempre obbediente ai suoi capi di Bruxelles, Francoforte, Washington, e quindi incapace di difenderci davvero.

 

La minaccia è reale, e Renovatio 21 ve lo ripete da anni.

 

Sotto la traduzione integrale della lettera.

 

 

«Mettete in pausa gli esperimenti di Intelligenza Artificiale gigante: una lettera aperta»

 

 

Chiediamo a tutti i laboratori di Intelligenza Artificiale di sospendere immediatamente per almeno 6 mesi l’addestramento di sistemi di Intelligenza Artificiale più potenti di GPT-4.

 

 

I sistemi di Intelligenza Artificiale con intelligenza competitiva umana possono comportare gravi rischi per la società e l’umanità, come dimostrato da ricerche approfondite (1) e riconosciuto dai migliori laboratori di Intelligenza Artificiale. (1)

 

Come affermato nei Principi Asilomar AI ampiamente approvati, l’IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con cure e risorse adeguate.

 

Sfortunatamente, questo livello di pianificazione e gestione non sta accadendo, anche se negli ultimi mesi i laboratori di Intelligenza Artificiale sono stati incastrati in una corsa fuori controllo per sviluppare e implementare menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può capire, prevedere o controllare in modo affidabile.

 

I sistemi di Intelligenza Artificiale contemporanei stanno ora diventando competitivi per l’uomo in compiti generali, (3) e dobbiamo chiederci: dovremmo lasciare che le macchine inondino i nostri canali di informazioni con propaganda e falsità?

 

Dovremmo automatizzare tutti i lavori, compresi quelli soddisfacenti?

 

Dovremmo sviluppare menti non umane che alla fine potrebbero essere più numerose, superate in astuzia, obsolete e sostituirci?

 

Dovremmo rischiare di perdere il controllo della nostra civiltà?

 

Tali decisioni non devono essere delegate a leader tecnologici non eletti. Potenti sistemi di Intelligenza Artificiale dovrebbero essere sviluppati solo quando saremo certi che i loro effetti saranno positivi e i loro rischi saranno gestibili.

 

Questa fiducia deve essere ben giustificata e aumentare con l’entità degli effetti potenziali di un sistema. La recente dichiarazione di OpenAI sull’Intelligenza Artificiale generale afferma che «ad un certo punto, potrebbe essere importante ottenere una revisione indipendente prima di iniziare ad addestrare i sistemi futuri e, per gli sforzi più avanzati, concordare di limitare il tasso di crescita del calcolo utilizzato per creare nuovi Modelli». Siamo d’accordo. Quel punto è adesso.

 

Pertanto, invitiamo tutti i laboratori di Intelligenza Artificiale a sospendere immediatamente per almeno 6 mesi l’addestramento di sistemi di Intelligenza Artificiale più potenti di GPT-4. Questa pausa dovrebbe essere pubblica e verificabile e includere tutti gli attori chiave. Se una tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria.

 

I laboratori di Intelligenza Artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di Intelligenza Artificiale, rigorosamente verificati e supervisionati da esperti esterni indipendenti. Questi protocolli dovrebbero garantire che i sistemi che vi aderiscono siano sicuri oltre ogni ragionevole dubbio. (4)

 

Ciò non significa una pausa nello sviluppo dell’IA in generale, ma semplicemente un passo indietro dalla pericolosa corsa a modelli black-box sempre più grandi e imprevedibili con capacità emergenti.

 

La ricerca e lo sviluppo dell’IA dovrebbero essere riorientati per rendere i sistemi potenti e all’avanguardia di oggi più accurati, sicuri, interpretabili, trasparenti, robusti, allineati, affidabili e leali.

 

Parallelamente, gli sviluppatori di Intelligenza Artificiale devono collaborare con i responsabili politici per accelerare drasticamente lo sviluppo di solidi sistemi di governance dell’IA.

 

Questi dovrebbero come minimo includere: autorità di regolamentazione nuove e capaci dedicate all’IA; supervisione e tracciamento di sistemi di Intelligenza Artificiale altamente capaci e ampi pool di capacità computazionali; sistemi di provenienza e watermarking per aiutare a distinguere il reale dal sintetico e per tenere traccia delle fughe di modelli; un solido ecosistema di audit e certificazione; responsabilità per danni causati dall’IA; solidi finanziamenti pubblici per la ricerca tecnica sulla sicurezza dell’IA; e istituzioni dotate di risorse adeguate per far fronte alle drammatiche perturbazioni economiche e politiche (soprattutto per la democrazia) che l’IA causerà.

 

L’umanità può godere di un futuro fiorente con l’IA. Dopo essere riusciti a creare potenti sistemi di Intelligenza Artificiale, ora possiamo goderci un’«estate di Intelligenza Artificiale» in cui raccogliamo i frutti, progettiamo questi sistemi per il chiaro vantaggio di tutti e diamo alla società la possibilità di adattarsi. La società ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici sulla società. (5)

 

Possiamo farlo qui. Godiamoci una lunga estate AI, non precipitiamoci impreparati nell’autunno.

 

 

 

 

NOTE

 

1) Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?????. In Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623).

Bostrom, N. (2016). Superintelligence. Oxford University Press.

Bucknall, B. S., & Dori-Hacohen, S. (2022, July). Current and near-term AI as a potential existential risk factor. In Proceedings of the 2022 AAAI/ACM Conference on AI, Ethics, and Society (pp. 119-129).

Carlsmith, J. (2022). Is Power-Seeking AI an Existential Risk?. arXiv preprint arXiv:2206.13353.

Christian, B. (2020). The Alignment Problem: Machine Learning and human values. Norton & Company.

Cohen, M. et al. (2022). Advanced Artificial Agents Intervene in the Provision of Reward. AI Magazine43(3) (pp. 282-293).

Eloundou, T., et al. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.

Hendrycks, D., & Mazeika, M. (2022). X-risk Analysis for AI Research. arXiv preprint arXiv:2206.05862.

Ngo, R. (2022). The alignment problem from a deep learning perspective. arXiv preprint arXiv:2209.00626.

Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.

Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.

Weidinger, L. et al (2021). Ethical and social risks of harm from language models. arXiv preprint arXiv:2112.04359.

 

 

3) Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712.

OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.

 

4) Esiste un ampio precedente legale: ad esempio, i principi IA dell’OCSE ampiamente adottati richiedono che i sistemi IA «funzionino in modo appropriato e non comportino un rischio irragionevole per la sicurezza».

 

5) Gli esempi includono la clonazione umana, la modifica della linea germinale umana, la ricerca sul guadagno di funzione e l’eugenetica.

 

Continua a leggere

Droni

I pasdaran attaccano in Bahrein un deposito di droni USA e un centro di AI

Pubblicato

il

Da

Il Corpo delle Guardie Rivoluzionarie Islamiche iraniane (i pasdaran ) afferma di aver distrutto un deposito che ospitava droni statunitensi e il «principale centro di intelligenza artificiale» in Bahrein, come rappresaglia per gli attacchi statunitensi contro ponti e altre infrastrutture civili iraniane.

 

In una dichiarazione rilasciata venerdì sera, i pasdaran hanno affermato di aver colpito un deposito che ospitava USV americani in Bahrein durante la 17a ondata dell’Operazione Nasr 2, sostenendo che «un gran numero» di imbarcazioni sono state bruciate e distrutte.

 

«Inoltre, il principale centro di intelligenza artificiale in Bahrein, che veniva utilizzato dal Grande Satana per colpire i nemici e commettere crimini di guerra, è stato completamente distrutto da diversi missili balistici e decine di droni», ha affermato il Corpo delle Guardie Rivoluzionarie Islamiche.

Sostieni Renovatio 21

Né gli Stati Uniti né il Bahrein hanno confermato ufficialmente alcun danno derivante dai presunti attacchi. Il Bahrein ospita il quartier generale della Quinta Flotta della Marina statunitense ed è uno dei principali centri militari di Washington nel Golfo Persico.

 

Venerdì l’Iran ha anche lanciato missili e droni contro obiettivi militari statunitensi in tutta la regione. Attacchi e intercettazioni sono stati segnalati in Kuwait, Giordania, Bahrein e Qatar. La Giordania ha affermato di aver intercettato diversi missili senza vittime né danni. Le autorità del Qatar hanno riferito che un bambino è rimasto ferito dalla caduta di detriti in seguito alle intercettazioni.

 

I pasdarani hanno descritto gli attacchi come una rappresaglia per i raid statunitensi contro diversi ponti iraniani, che, a suo dire, hanno causato morti e feriti tra i civili. Ha minacciato di colpire importanti infrastrutture industriali, informatiche e di intelligenza artificiale appartenenti a società con azionisti americani in tutta la regione, qualora gli Stati Uniti continuassero a colpire le infrastrutture civili iraniane.

 

«Raderemo al suolo i beni più preziosi delle aziende americane in tutti i paesi che ospitano basi statunitensi», avvertiva la dichiarazione, accusando tali paesi di complicità nell’operazione militare di Washington.

Aiuta Renovatio 21

Il Comando Centrale degli Stati Uniti ha annunciato venerdì di aver lanciato un’altra serie di attacchi contro l’Iran, segnando la settima notte consecutiva di bombardamenti. La stampa iraniana ha successivamente riportato cinque esplosioni nella città centrale di Yazd, nonché esplosioni nella provincia di Fars e un attacco missilistico su Ahvaz, nella provincia sud-occidentale del Khuzestan.

 

In precedenza, Mohsen Rezaei, consigliere senior della Guida Suprema iraniana ed ex comandante delle Guardie Rivoluzionarie, aveva dichiarato che il memorandum d’intesa tra Iran e Stati Uniti era di fatto decaduto, accusando gli Stati Uniti di violare l’accordo mantenendo il blocco navale, continuando gli attacchi contro il territorio iraniano, rifiutandosi di rilasciare i beni iraniani e creando una rotta marittima alternativa «illegale» attraverso lo Stretto di Ormuzzo.

 

L’agenzia di stampa iraniana Tasnim ha riferito che due petroliere hanno preso fuoco dopo aver tentato di attraversare un campo minato nella parte meridionale dello Stretto di Hormuz venerdì. Citando la Marina delle Guardie Rivoluzionarie, l’agenzia ha affermato che la via navigabile rimane «estremamente pericolosa e completamente chiusa» a causa delle operazioni militari statunitensi in corso.

 

L’ultima escalation segue gli attacchi statunitensi contro almeno cinque ponti e altri obiettivi infrastrutturali nel sud dell’Iran, dopo che il presidente Donald Trump ha ufficialmente ripreso la guerra e minacciato di colpire le infrastrutture civili iraniane se il Paese non accetterà le richieste di Washington.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di pubblico dominio CC0 via Wikimedia

Continua a leggere

Intelligenza Artificiale

Il capo delle Nazioni Unite lancia un appello per la governance dell’IA e mette in guardia sui robot killer

Pubblicato

il

Da

In linea con le richieste di papa Leone XIV e della Cina, il Segretario Generale delle Nazioni Unite António Guterres, intervenendo lunedì al primo Dialogo Globale delle Nazioni Unite sulla Governance dell’IA a Ginevra, ha lanciato un appello per un controllo globale e di vasta portata sull’Intelligenza Artificiale.   Il vertice ONU ha avvertito che i chip di IA sempre più potenti, progettati per uso civile, potrebbero essere impiegati sul campo di battaglia, dove i «robot assassini» sono già la norma, insistendo sul fatto che qualsiasi futuro accordo debba essere «degno di fiducia globale» e dare priorità alla sicurezza, in particolare alla sicurezza dei bambini, per proteggerli dalla manipolazione e dagli abusi generati digitalmente.   «Il Dialogo Globale verte sull’intelligenza artificiale in ambito civile. Ma l’IA non rispetta questo confine. Gli stessi modelli e chip sono approdati sul campo di battaglia. La mia principale preoccupazione riguarda i “sistemi d’arma autonomi letali”. Chiamiamoli con il loro nome: robot assassini» ha dichiarato il Guterres. «Macchine che selezionano e attaccano il loro bersaglio, togliendo una vita, senza controllo né giudizio umano».   «Questo è moralmente ripugnante. È politicamente inaccettabile. E deve essere vietato dal diritto internazionale. Gli Stati sono già al tavolo delle trattative. Ma non aspettiamo che si verifichi un’atrocità per agire. Alcune decisioni devono rimanere per sempre umane, nessuna più di quella di togliere una vita umana» ha dichiarto il Guterresso.

Sostieni Renovatio 21

Facendo eco a questo appello, la presidente dell’Assemblea Generale, la verde tedesca Annalena Baerbock, ha sollecitato un’azione collettiva per contrastare il lato «sinistro» dell’IA, sottolineando che il 99% dei deepfake ha una natura sessuale e il 96% prende di mira donne e ragazze.   Sebbene l’IA «sia al centro del nostro futuro comune», deve essere un futuro in cui «le macchine possano fornire informazioni, ma gli esseri umani debbano decidere e rispondere», ha affermato Guterres.   Come riportato da Renovatio 21, due anni fa, sempre a ginevra il Vaticano aveva espresso la sua posizione riguardo i robot killer, una delle nuove frontiere tecnologiche della guerra moderna. Per il Sacro Palazzo vi è «massima urgenza» per creare «solido strumento giuridicamente vincolante» che metta al bando le cosiddette «armi autonome letali», chiedendo di «stabilire una moratoria immediata sulla loro sviluppo e utilizzo».   Come riportato da Renovatio 21, riflessioni partite da anni indicano le armi autonome come potenzialmente più destabilizzanti della armi nucleari.   La discussione per una moratoria contro le armi autonome va avanti da diversi anni. In particolare, in questi anni se ne è parlato facendo l’esempio degli slaughterbots, minidroni suicidi protagonisti di un filmato divenuto virale anni fa.  

Iscriviti alla Newslettera di Renovatio 21

Come sa il nostro lettore, modelli di «slaugterbots» sono in preparazione ufficialmente in Australia come arma per respingere un’eventuale invasione da parte dell’Esercito di Liberazione del Popolo della Repubblica Popolare Cinese.   Anche in Cina stanno sperimentando sciami di microdroni in grado di dare la caccia agli esseri umani nella foresta.   Varie Nazioni si stanno muovendo verso i robot militari, per lo più incuranti di quanto sta cercando di elaborare l’ONU in fatto di limitazioni all’impiego di questi sistemi.   A fine 2022 i Paesi Bassi hanno schierato le loro prime armi autonome letali, secondo la rivista di questioni militari e di Intelligence Jane’s. Si tratta della prima volta che un esercito della NATO ha avviato prove operative con veicoli armati di terra senza pilota (UGV), cioè i «robot killer».   Una ricerca fatta dall’IPSOS assieme a Campaign to Stop Killer Robots ha raccolto l’opinione della popolazione di vari Paesi riguardo ad una possibile messa al bando dei robot impiegati militarmente.   Svezia (76%), Turchia (73%) e Ungheria (70%) hanno mostrato la più forte opposizione ai veicoli letali nel 2021. Nel frattempo, l’India ha mostrato di gran lunga il maggior sostegno, con il 56% della popolazione intervistata che ha risposto che o in qualche modo o ha fortemente sostenuto l’uso delle armi. Da notare che, come riportato da Renovatio 21, l’India ha al suo confine già dispiegate contro di sé armi robotiche cinesi.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine generata artificialmente
Continua a leggere

Intelligenza Artificiale

Instagram rende i post pubblici disponibili a Meta AI per impostazione predefinita

Pubblicato

il

Da

L’ultimo aggiornamento di Instagram rende i reel, i video e le foto dei profili pubblici disponibili per impostazione predefinita a Meta AI, permettendo agli strumenti di intelligenza artificiale dell’azienda di generare contenuti a partire da essi, a meno che i creatori non decidano di disattivare questa opzione.

 

Martedì, Meta ha introdotto il suo nuovo modello Muse Image, entrando in un settore dominato da generatori di immagini come GPT Image di OpenAI, Google Gemini e Midjourney. Lo strumento è stato reso disponibile integrato in Instagram, con gli utenti iscritti automaticamente alle sue funzionalità basate sull’iIA.

 

«Se il tuo account è pubblico, chiunque su Instagram può riutilizzare in tutto o in parte i tuoi reel, i video del feed e le foto condivise dopo che la funzionalità di riutilizzo è diventata disponibile», afferma Instagram nella pagina del suo Centro assistenza. «Inoltre, è possibile che altri utenti creino contenuti utilizzando i tuoi contenuti Instagram grazie alle funzionalità di intelligenza artificiale di Meta».

Sostieni Renovatio 21

Secondo Instagram, i contenuti dei minorenni con account pubblici saranno resi disponibili in questo modo solo alle persone che seguono. Inoltre, gli utenti non riceveranno alcuna notifica se qualcuno crea contenuti utilizzando Meta AI con le loro foto o i loro video pubblici.

 

Queste impostazioni predefinite possono essere disattivate nella sezione Condivisione e riutilizzo del profilo Instagram.

 

Tuttavia, anche se un utente sceglie di non condividere o elimina le foto pubbliche già utilizzate per generare contenuti tramite intelligenza artificiale, le immagini create in precedenza da altri utenti non verranno rimosse, secondo quanto dichiarato da Instagram.

 

L’approccio di Meta, che prevede la possibilità di disattivare alcune funzionalità, rispecchia le pratiche adottate da altre aziende tecnologiche, tra cui Google, Microsoft e OpenAI, che abilitano determinate funzioni di intelligenza artificiale per impostazione predefinita, consentendo al contempo agli utenti di disattivarle.

 

Ciò avviene mentre i contenuti generati dall’intelligenza artificiale, inclusi i deepfake, sono alla base di una quota crescente di truffe che costano agli americani decine di miliardi di dollari ogni anno, secondo una nuova ricerca di Gallup.

 

Secondo un sondaggio pubblicato la scorsa settimana da Gallup, gli americani hanno perso circa 68 miliardi di dollari a causa di truffe lo scorso anno, ovvero circa 186 milioni di dollari al giorno. Circa il 12% delle vittime ha dichiarato che i propri casi coinvolgevano intelligenza artificiale o deepfake, sebbene la cifra reale potrebbe essere significativamente più alta.

 

Come riportato da Renovatio 21, un anno fa erano emerse polemiche in merito agli aggiornamenti di Instagram, tra cui una nuova «Friend Map»: si tratta un sistema di tracciamento in tempo reale che ti consente di condividere la tua posizione esatta con i contatti scelti e di vedere a tua volta la loro. In molti hanno accusato gli update del software di costituire una grande minaccia per la privacy dell’utente.

Aiuta Renovatio 21

In passato inchieste giornalistiche hanno mostrato la presenza su Instagram di network pedofili, che paiono aver goduto più libertà di coloro che si sono opposti alle restrizioni pandemiche o al vaccino – anche se è un candidato presidente come Robert Kennedy jr.. Secondo il Wall Street Journal, Meta avrebbe lottato «per allontanare i pedofili da Facebook e Instagram», cosa di cui poi sarebbe stata chiesto conto da senatori americani durante una tesa udienza a Washington con il CEO Marco Zuckerberg.

 

Come riportato da Renovatio 21, a marzo Meta è stata condannata a pagare 375 milioni di dollari per aver consapevolmente danneggiato la salute mentale dei bambini e per aver occultato prove di sfruttamento sessuale minorile sulle proprie piattaforme di social media.

 

Considerato il comportamento dimostrato da Facebook, con la censura che si è abbattuta su dissidenti o anche semplici conservatori (ma non sui pedofili di Instagram o i donatori di sperma su Facebookné sui neonazisti dell’Azov), la collusione con lo Stato profondo americano e le sue agenzie, la volontà di chiudere gli account di organizzazionipartiti premier e presidenti, la raccolta massiva di dati anche biometrici (con il riconoscimento facciale che ha generato denunce di Stati come il Texas) nonché la possibilità di agire sul vostro telefono perfino scaricandone la batteria, c’è da domandarsi cosa la potente Intelligenza Artificiale su cui Meta sta lavorando possa fare alla vostra vita.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine generata artificialmente

Continua a leggere

Più popolari