Connettiti con Renovato 21

Intelligenza Artificiale

La lettera di Elon Musk per fermare l’Intelligenza Artificiale

Pubblicato

4 anni fa

il

Elon Musk, il cofondatore di Apple e molti esperti informatici tra cui i professori di AI Yoshua Bengio e Stuart Russel altro hanno firmato una lettera pubblicata dal Future of Life Institute per fermare l’avanzata dell’Intelligenza Artificiale, arrivata a spaventare anche l’opinione pubblica con chatGPT, software di cui si è impadronita spendendo 10 miliardi la Microsoft di Bill Gates.

 

Come riportato da Renovatio 21, il software è arrivato a minacciare gli utenti, fare proclami stralunati, perfino dichiarare di voler sterminare gli esseri umani, e creare codice per prendere il controllo del computer dei suoi interlocutori.

 

L’appello di Musk e compagni (tra i quali, purtroppo, vediamo anche Yuval Harari) è paragonabile a quelli che decenni fa si sono visti per lo sviluppo delle armi atomiche, e – aggiungiamo noi – che non si sono visti per le armi biologiche e le ricerche Gain of Function: il risultato del genio scappato dalla lampada lì è stato, con estrema probabilità, la catastrofe della pandemia COVID-19.

 

Gli effetti della fuga del genio AI dalla lampada, strofinata a dovere da oligarchi senza scrupoli e senza amore per il genere umano, non riusciamo ancora ad immaginarceli.

 

Tuttavia Elon Musk, oramai quasi una decina di anni fa, ci aveva messo in guardia: sarà «come evocare un demone».

 

È il momento di avere paura.  È il momento di agire – è il momento che se ne occupi la politica, che in Italia invece che vedere il precipizio davanti alla popolazione, come sempre, si occupa di quisquilie e problemucci partitici, sempre obbediente ai suoi capi di Bruxelles, Francoforte, Washington, e quindi incapace di difenderci davvero.

 

La minaccia è reale, e Renovatio 21 ve lo ripete da anni.

 

Sotto la traduzione integrale della lettera.

 

 

«Mettete in pausa gli esperimenti di Intelligenza Artificiale gigante: una lettera aperta»

 

 

Chiediamo a tutti i laboratori di Intelligenza Artificiale di sospendere immediatamente per almeno 6 mesi l’addestramento di sistemi di Intelligenza Artificiale più potenti di GPT-4.

 

 

I sistemi di Intelligenza Artificiale con intelligenza competitiva umana possono comportare gravi rischi per la società e l’umanità, come dimostrato da ricerche approfondite (1) e riconosciuto dai migliori laboratori di Intelligenza Artificiale. (1)

 

Come affermato nei Principi Asilomar AI ampiamente approvati, l’IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con cure e risorse adeguate.

 

Sfortunatamente, questo livello di pianificazione e gestione non sta accadendo, anche se negli ultimi mesi i laboratori di Intelligenza Artificiale sono stati incastrati in una corsa fuori controllo per sviluppare e implementare menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può capire, prevedere o controllare in modo affidabile.

 

I sistemi di Intelligenza Artificiale contemporanei stanno ora diventando competitivi per l’uomo in compiti generali, (3) e dobbiamo chiederci: dovremmo lasciare che le macchine inondino i nostri canali di informazioni con propaganda e falsità?

 

Dovremmo automatizzare tutti i lavori, compresi quelli soddisfacenti?

 

Dovremmo sviluppare menti non umane che alla fine potrebbero essere più numerose, superate in astuzia, obsolete e sostituirci?

 

Dovremmo rischiare di perdere il controllo della nostra civiltà?

 

Tali decisioni non devono essere delegate a leader tecnologici non eletti. Potenti sistemi di Intelligenza Artificiale dovrebbero essere sviluppati solo quando saremo certi che i loro effetti saranno positivi e i loro rischi saranno gestibili.

 

Questa fiducia deve essere ben giustificata e aumentare con l’entità degli effetti potenziali di un sistema. La recente dichiarazione di OpenAI sull’Intelligenza Artificiale generale afferma che «ad un certo punto, potrebbe essere importante ottenere una revisione indipendente prima di iniziare ad addestrare i sistemi futuri e, per gli sforzi più avanzati, concordare di limitare il tasso di crescita del calcolo utilizzato per creare nuovi Modelli». Siamo d’accordo. Quel punto è adesso.

 

Pertanto, invitiamo tutti i laboratori di Intelligenza Artificiale a sospendere immediatamente per almeno 6 mesi l’addestramento di sistemi di Intelligenza Artificiale più potenti di GPT-4. Questa pausa dovrebbe essere pubblica e verificabile e includere tutti gli attori chiave. Se una tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria.

 

I laboratori di Intelligenza Artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di Intelligenza Artificiale, rigorosamente verificati e supervisionati da esperti esterni indipendenti. Questi protocolli dovrebbero garantire che i sistemi che vi aderiscono siano sicuri oltre ogni ragionevole dubbio. (4)

 

Ciò non significa una pausa nello sviluppo dell’IA in generale, ma semplicemente un passo indietro dalla pericolosa corsa a modelli black-box sempre più grandi e imprevedibili con capacità emergenti.

 

La ricerca e lo sviluppo dell’IA dovrebbero essere riorientati per rendere i sistemi potenti e all’avanguardia di oggi più accurati, sicuri, interpretabili, trasparenti, robusti, allineati, affidabili e leali.

 

Parallelamente, gli sviluppatori di Intelligenza Artificiale devono collaborare con i responsabili politici per accelerare drasticamente lo sviluppo di solidi sistemi di governance dell’IA.

 

Questi dovrebbero come minimo includere: autorità di regolamentazione nuove e capaci dedicate all’IA; supervisione e tracciamento di sistemi di Intelligenza Artificiale altamente capaci e ampi pool di capacità computazionali; sistemi di provenienza e watermarking per aiutare a distinguere il reale dal sintetico e per tenere traccia delle fughe di modelli; un solido ecosistema di audit e certificazione; responsabilità per danni causati dall’IA; solidi finanziamenti pubblici per la ricerca tecnica sulla sicurezza dell’IA; e istituzioni dotate di risorse adeguate per far fronte alle drammatiche perturbazioni economiche e politiche (soprattutto per la democrazia) che l’IA causerà.

 

L’umanità può godere di un futuro fiorente con l’IA. Dopo essere riusciti a creare potenti sistemi di Intelligenza Artificiale, ora possiamo goderci un’«estate di Intelligenza Artificiale» in cui raccogliamo i frutti, progettiamo questi sistemi per il chiaro vantaggio di tutti e diamo alla società la possibilità di adattarsi. La società ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici sulla società. (5)

 

Possiamo farlo qui. Godiamoci una lunga estate AI, non precipitiamoci impreparati nell’autunno.

 

 

 

 

NOTE

 

1) Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?????. In Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623).

Bostrom, N. (2016). Superintelligence. Oxford University Press.

Bucknall, B. S., & Dori-Hacohen, S. (2022, July). Current and near-term AI as a potential existential risk factor. In Proceedings of the 2022 AAAI/ACM Conference on AI, Ethics, and Society (pp. 119-129).

Carlsmith, J. (2022). Is Power-Seeking AI an Existential Risk?. arXiv preprint arXiv:2206.13353.

Christian, B. (2020). The Alignment Problem: Machine Learning and human values. Norton & Company.

Cohen, M. et al. (2022). Advanced Artificial Agents Intervene in the Provision of Reward. AI Magazine, 43(3) (pp. 282-293).

Eloundou, T., et al. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.

Hendrycks, D., & Mazeika, M. (2022). X-risk Analysis for AI Research. arXiv preprint arXiv:2206.05862.

Ngo, R. (2022). The alignment problem from a deep learning perspective. arXiv preprint arXiv:2209.00626.

Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.

Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.

Weidinger, L. et al (2021). Ethical and social risks of harm from language models. arXiv preprint arXiv:2112.04359.

 

2) Ordonez, V. et al. (2023, March 16). OpenAI CEO Sam Altman says AI will reshape society, acknowledges risks: ‘A little bit scared of this’. ABC News.

Perrigo, B. (2023, January 12). DeepMind CEO Demis Hassabis Urges Caution on AI. Time.

 

3) Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712.

OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.

 

4) Esiste un ampio precedente legale: ad esempio, i principi IA dell’OCSE ampiamente adottati richiedono che i sistemi IA «funzionino in modo appropriato e non comportino un rischio irragionevole per la sicurezza».

 

5) Gli esempi includono la clonazione umana, la modifica della linea germinale umana, la ricerca sul guadagno di funzione e l’eugenetica.

 

Argomenti correlati:
Continua a leggere

Intelligenza Artificiale

Icona di Carlo Acutis fatta con l’IA. Polemiche

Pubblicato

2 giorni fa

il

19 Ottobre 2026

Da

Una chiesa cattolica in Bielorussia ha suscitato polemiche per aver utilizzato l’intelligenza artificiale per generare un’icona di Carlo Acutis e farla benedire. Lo riporta LifeSite.

 

Euroradio riferisce che il ritratto eretto nella Chiesa di Santa Maria Maddalena sarebbe la prima icona religiosa di questo tipo in Bielorussia, e potenzialmente al mondo intero. Raffigura Acutis, soprannominato l’«apostolo cibernetico» e patrono dei giovani e di Internet. L’icona è stata benedetta l’11 ottobre dall’arcivescovo emerito Tadeusz Kondrusiewicz.

 

Secondo quanto riportato Acutis «aveva una devozione così intensa per il Santissimo Sacramento da aver creato un sito web che documentava tutti i miracoli eucaristici e le apparizioni mariane approvati. Durante la sua vita, Acutis si riferiva all’Eucaristia come alla «mia autostrada per il paradiso». Morì nel 2006 all’età di 15 anni a causa di una leucemia promielocitica acuta. Ora è acclamato come il primo «santo millenial».

Iscriviti alla Newslettera di Renovatio 21

La santificazione di Acutis è stata oggetto di polemiche. Il percorso che ha portato alla santità in circa diciannove anni dalla sua morte (e con un’accelerazione mediatica e burocratica molto marcata negli ultimi anni) è stato definito da diversi osservatori un’operazione di «storytelling» e marketing pastorale. Alcuni critici evidenziano come la Chiesa utilizzi queste figure per tentare un aggancio rapido con i giovani e il mondo dei social media.

 

Diversi osservatori hanno ridimensionato l’etichetta di «patrono di internet» o «genio dell’informatica», spiegando che le sue competenze digitali si limitavano a lavoretti scolastici e a un sito amatoriale di catalogazione dei miracoli eucaristici, trasformato poi a posteriori in un’operazione simbolica massiccia. Non manca chi ha lamentato le origini alto-borghesi della famiglia di Acutis.

 

Sebbene l’uso dell’IA sia in linea con l’associazione di Acutis con la tecnologia, molti osservatori hanno reagito ritenendo inappropriato creare un’icona religiosa con mezzi diversi dalle mani umane.

 

«Orribile. Quando si dipinge un’icona, ogni tratto è una preghiera. Intelligenza artificiale? Niente», ha commentato un utente di X. «Sono scarabocchi vuoti senza alcun significato. Vi garantisco che lo percepite anche voi guardando le immagini.»

 

Sostieni Renovatio 21

«Questo è un passo troppo azzardato», ha affermato un altro cattolico autodefinitosi «tradizionalista». «Le immagini generate dall’IA OVVIAMENTE non possono essere venerate!»

 

«L’arte religiosa dovrebbe essere creata dagli esseri umani, poiché l’atto stesso di creare un’opera d’arte è come comporre un canto o un’opera religiosa, per glorificare e al contempo nutrire l’anima dell’artista», ha spiegato un terzo utente. «L’intelligenza artificiale non può glorificare, quindi qualsiasi opera d’arte creata da essa è superficiale e vana.»

 

L’icona aveva anche alcuni difensori, uno dei quali sosteneva che l’uso dell’IA non fosse diverso dall’adozione della stampa o della televisione: «Le chiese hanno utilizzato ogni nuovo mezzo per raccontare la loro storia… Lo strumento non è mai stato la parte sacra».

 

Il mese scorso, l’arcivescovo Josafá Menezes da Silva di Aracaju, in Brasile, ha pubblicato le regole per l’uso dell’AI da parte della Chiesa, che includono «una revisione umana obbligatoria prima della pubblicazione» di qualsiasi materiale realizzato con l’ausilio dell’IA. Gli strumenti tecnologici possono essere utilizzati per la progettazione grafica e il fotoritocco, con i limiti descritti di seguito. L’arcivescovo ha approvato il loro utilizzo per «creare sfondi, creare texture, generare elementi astratti, creare illustrazioni, suggerire layout, lavorare con i colori, assistere nella composizione, assistere nel montaggio e contribuire alla creazione di concetti visivi», secondo ACI Digital, ma non per fotografie o omelie.

 

Monsignor Menezes ha affermato che «l’Intelligenza Artificiale generativa non deve essere utilizzata per ricostruire o simulare l’aspetto di un vescovo, un sacerdote o un diacono quando il risultato sostituisce la loro fotografia reale o potrebbe essere interpretato come una rappresentazione autentica del loro aspetto o di una situazione da loro vissuta», e lo stesso divieto si applica anche alla voce di un ecclesiastico.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine screenshot da Twitter

 

Continua a leggere

Intelligenza Artificiale

La polizia tedesca arresta un robot pedofilo

Pubblicato

4 giorni fa

il

16 Ottobre 2026

Da

La polizia tedesca ha messo sotto sequestro un robot umanoide che, secondo l’accusa, avrebbe molestato sessualmente una sedicenne nelle strade di Colonia; è inoltre in corso un’indagine per molestie sessuali nei confronti di chi lo possiede.   Stando a quanto riferito dalla polizia di Colonia, il mezzo è stato sequestrato dagli agenti all’alba di domenica, dopo che la macchina avrebbe toccato i glutei di una ragazza di 16 anni e simulato movimenti di spinta contro il suo corpo.   La giovane si trovava davanti a un fast food in compagnia delle amiche quando il robot l’ha avvicinata alle spalle, esibendosi in gesti osceni, come precisa il comunicato. Poco più tardi i poliziotti hanno individuato il robot nel bagagliaio di un’automobile in sosta lì vicino e l’hanno requisito, insieme ai telefoni cellulari del suo proprietario, un sedicenne, e del complice, un ragazzo di 19 anni.   Il robot, rosso e oro e ispirato all’«Iron Man» della Marvel, è stato ritratto in una foto segnaletica mentre indossava un gilet bianco, una catena d’oro e dei baffi adesivi.  

Iscriviti alla Newslettera di Renovatio 21

Gli investigatori stanno ora «esaminando il funzionamento del robot al momento dell’incidente e se qualcuno ne stesse deliberatamente controllando i movimenti». I due giovani che manovravano il droide, e che hanno trasmesso l’episodio in diretta online, sono indagati per molestie sessuali.   Su TikTok circola un video in cui il robot, soprannominato «Ahmed» dal proprietario e dal suo complice, importuna diverse donne. Il droide mima gesti masturbatori e movimenti di spinta davanti a più passanti, mentre i presunti operatori ridono, e in un caso si avvicina a una donna da dietro facendola gridare. Non è chiaro se sia proprio questo l’episodio all’origine dell’indagine.   Il codice penale tedesco richiede, per configurare la violenza sessuale, un contatto fisico tra aggressore e vittima. Gli atti «compiuti da macchine o da terzi» non integrano il reato di violenza sessuale, come stabilito nel 2021 dalla Corte federale di giustizia tedesca. Se però venissero riconosciuti colpevoli di molestie sessuali, gli indagati rischierebbero una multa o fino a due anni di reclusione.   Non si tratta del primo caso di robot molestatore che finisce nei guai.   Come riportato da Renovatio 21, tre anni fa un robot saudita palpeggiò una giornalista dinanzi alle telecamere. Il video divenne virale.    

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
Immagine da Twitter
 
Continua a leggere

Intelligence

Ingegnere saudita accusato di avere messo microspie in OpenAI

Pubblicato

5 giorni fa

il

15 Ottobre 2026

Da

Un dipendente di OpenAI è stato arrestato con l’accusa di aver installato un dispositivo di registrazione in una sala conferenze della sede californiana dell’azienda, dove i dirigenti discutevano informazioni altamente riservate, ha dichiarato martedì il dipartimento di Giustizia degli Stati Uniti.

 

Il direttore dell’FBI Kash Patel ha identificato il sospettato come Abdulrahman Alfozan, un cittadino saudita che lavorava come ingegnere presso OpenAI, la società che ha sviluppato ChatGPT, dal luglio 2025. In caso di condanna, rischia fino a cinque anni di carcere e una multa di 250.000 dollari.

 

Secondo una denuncia penale resa pubblica, il personale di OpenAI ha scoperto un dispositivo di registrazione audio collegato a una porta USB sul retro di un televisore in una sala conferenze per dirigenti presso la sede di San Francisco dell’azienda, intorno al 30 settembre. Il dispositivo «era nascosto nella carta igienica» e il suo contenuto era crittografato.

Iscriviti alla Newslettera di Renovatio 21

Le immagini delle telecamere di sicurezza mostrerebbero l’Alfozan entrare nella sala conferenze e guardare dietro il televisore, dove era stato piazzato il dispositivo. Il personale di sicurezza di OpenAI ha poi scoperto che il sospettato aveva lasciato una borsa contenente un secondo dispositivo di registrazione in un’altra stanza.

 

Secondo la denuncia, l’Alfozan avrebbe utilizzato uno strumento di produttività per effettuare numerose richieste di informazioni sui luoghi in cui si tenevano le riunioni dei dirigenti, pur non avendo l’autorizzazione a parteciparvi. Il documento afferma inoltre che un account chatbot associato alla moglie di Alfozan conteneva messaggi relativi a dispositivi di registrazione nascosti.

 

«Questa grave situazione sottolinea perché vincere la corsa globale all’Intelligence sia una prerogativa della sicurezza nazionale», ha affermato il direttore dell’Intelligence nazionale Jay Clayton.

 

L’incidente si verifica in un contesto di crescente competizione tecnologica tra Stati Uniti e Cina, nonché di preoccupazioni sollevate da OpenAI e altre aziende tecnologiche riguardo alla possibilità che modelli di IA sempre più sofisticati possano accedere a reti esterne o agire senza autorizzazione.

 

Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha affermato all’inizio di questo mese che la Cina «ha già spie» in entrambe le aziende. Pechino ha negato le accuse di furto di segreti commerciali.

 

Trump ha appoggiato le richieste di maggiori garanzie per le aziende che si occupano di AI, ma ha respinto le proposte di rallentare lo sviluppo dei modelli di IA. All’inizio di questo mese, ha nominato il Clayton a capo di una task force della Casa Bianca sull’IA.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Più popolari