Intelligenza Artificiale
La superintelligenza artificiale potrebbe porre fine all’umanità
Centinaia di figure di spicco del settore tecnologico, accademico, politico e dello spettacolo hanno sottoscritto una lettera che chiede il divieto dello sviluppo della «superintelligenza», un’intelligenza artificiale capace di superare gli esseri umani in quasi tutti i compiti cognitivi.
Secondo il gruppo, la creazione di una superintelligenza potrebbe causare disordini economici, compromettere la libertà umana e, se non controllata, persino mettere a rischio l’estinzione della specie. L’appello arriva dopo mesi di crescenti preoccupazioni da parte degli esperti, che avvertono come i modelli di IA stiano evolvendo più rapidamente di quanto i regolatori riescano a gestire.
Tra le 4.300 firme raccolte giovedì ci sono Steve Wozniak, cofondatore di Apple, Richard Branson, fondatore del Virgin Group, celebrità come Kate Bush e Will.I.am, e pionieri della tecnologia come Geoffrey Hinton – che in passato ha plurime volte parlato dei rischi dell’IA – e Yoshua Bengio, anche lui lanciatore di allarmi sulle macchine pensanti (e che non è parente di Haran Banjo, che pure avvertiva della minaccia meganoide).
Sostieni Renovatio 21
La lettera chiede un divieto fino a quando non si raggiungerà «un ampio consenso scientifico» sulla sicurezza e controllabilità dello sviluppo, insieme a «un forte consenso pubblico».
Non si tratta della prima petizione allarmistica di questo tipo. Il Bengio e Wozniak ad esempio erano tra le principali figure del settore, tra cui il CEO di Tesla Elon Musk, che nel 2023 hanno co-firmato una lettera che chiedeva una regolamentazione aggressiva del settore dell’Intelligenza Artificiale.
Come riportato da Renovatio 21, Bill Gates si oppose alla moratoria. Gates, con cui Musk ha avuto scontri anche gustosi in passato, non ha partecipato alla moratoria internazionale promossa di Musk sul controllo dell’AI, replicando che invece l’AI sarebbe divenuto un ottimo maestro per i bambini e che proprio l’Intelligenza Artificiale salverà la democrazia.
A giugno dello scorso anno, il Bengio ha approvato un’altra lettera aperta sui «seri rischi» della tecnologia. La lettera è stata firmata dai dipendenti di Open AI, il creatore del chatbot virale di Intelligenza artificiale ChatGPT.
Un ulteriore appello a mettere in pausa lo sviluppo dell’Intelligenza Artificiale è stato firmato da un gruppo internazionale di medici e pubblicato dalla prestigiosa rivista medica BMJ Global Health. «Ci sono scenari in cui l’AGI [Intelligenza Artificiale Generale, ndr] potrebbe rappresentare una minaccia per gli esseri umani, e possibilmente una minaccia esistenziale» scrivono nell’appello i dottori di varie parti del mondo.
Nonostante l’allarme crescente sui rischi dell’IA, la regolamentazione globale rimane frammentata e incoerente.
L’AI Act dell’Unione Europea, il primo tentativo significativo a livello mondiale di regolamentare l’IA, classifica i sistemi in base al livello di rischio, da minimo a inaccettabile. Tuttavia, i critici sostengono che il quadro normativo, la cui piena attuazione potrebbe richiedere anni, rischia di essere obsoleto al momento dell’entrata in vigore.
Aziende come OpenAI, Google DeepMind, Anthropic e xAI stanno investendo miliardi per sviluppare modelli capaci di pensare, pianificare e programmare autonomamente. Stati Uniti e Cina vedono la supremazia nell’IA come una questione di sicurezza nazionale e leadership economica.
Aiuta Renovatio 21
Come riportato da Renovatio 21, in un caso davvero inquietante, plurimi utenti di Copilot, l’Intelligenza Artificiale di Microsoft creata in collaborazione con Open AI, hanno testimoniato su X e Reddit che il programma avrebbe una «seconda personalità» preoccupante che chiede l’adorazione degli esseri umani, come un dio crudele.
Elon Musk due anni fa aveva dichiarato durante la sua intervista con Tucker Carlson che il fine di Google – nemmeno così occulto – è quello di creare un dio-Intelligenza Artificiale. Musk, oramai quasi una decina di anni fa aveva parlato del fatto che creare l’AI era «come evocare un demone».
Più pessimista è l’esperto dei pericoli dell’AI Eliezer Yudkowsky, che ha lanciato un appello per chiedere la distruzione materiale dei data center dell’AI prima che sia troppo tardi, dichiarando che «tutti sulla Terra moriranno».
Iscriviti alla Newslettera di Renovatio 21
Intelligenza Artificiale
Ricercatore IA spende i risparmi della pensione: «probabilità superiore al 50% che in un decennio spazzerà l’umanità»
Iscriviti alla Newslettera di Renovatio 21
Genetica
Scienziati iniettano ad un essere umano un virus creato dall’IA
Per la prima volta in assoluto, gli scienziati hanno iniettato in un essere umano un virus progettato dall’Intelligenza Artificiale. L’esperimento rientrebbe in un tentativo di trovare modi per combattere i microbi resistenti agli antibiotici, che non rispondono alle forme di trattamento tradizionali. Lo riporta il quotidiano britannico Indipendent.
Una startup californiana chiamata Radical Numerics ha iniettato a un paziente dei virus creati dal suo modello di IA, Omnii-1. Il paziente soffriva di una grave infezione batterica.
Il modello di AI progetta i batteriofagi, un tipo speciale di virus che infetta e uccide i batteri senza attaccare le cellule umane. I batteriofagi sono già utilizzati come trattamento sperimentale per gravi infezioni batteriche, ma questa è la prima volta che viene utilizzato un batteriofago progettato interamente dall’intelligenza artificiale.
Anziché cercare un batteriofago in grado di colpire i batteri responsabili dell’infezione del paziente, Omnii-1 ne ha progettato uno da zero. L’azienda afferma che l’intero processo di progettazione e trattamento potrebbe richiedere solo pochi giorni.
Il trattamento è stato somministrato tramite un programma speciale che consente di tentare terapie sperimentali quando le altre opzioni sono limitate.
Radical Numerics ha affermato che si tratta della prima volta che dei fagi progettati con l’intelligenza artificiale vengono utilizzati per trattare un paziente umano. L’annuncio è stato pubblicato sul sito web dell’azienda, ma non è stato confermato da uno studio sottoposto a revisione paritaria e l’azienda non ha specificato se il trattamento abbia effettivamente aiutato il paziente.»
Finora, l’azienda non ha rilasciato alcun dettaglio sulla diagnosi del paziente o sull’esito del trattamento.
L’utilizzo dell’AI per sviluppare nuove terapie mediche è stato accolto con entusiasmo e al contempo con apprensione.
Come riportato da Renovatio 21, ad agosto era emerso che i team dell’Università di Stanford e del Broad Institute del MIT e di Harvard hanno utilizzato l’IA per ideare migliaia di genomi virali completi per la creazione di batteriofagi, generati a partire da un fago naturale denominato ΦX174. Alcune delle varianti create dall’IA si sono rivelate più efficaci di quelle presenti in natura nell’eliminare ceppi di E. coli diventati resistenti.
Quasi 300 di questi progetti sono stati poi sintetizzati in laboratorio e sottoposti a test, riuscendo a ottenere 16 virus vitali.
L’IA era già stata ampiamente applicata alla progettazione di singoli geni e proteine, ma i ricercatori hanno dichiarato che questa rappresenta la prima prova concreta della capacità dei modelli generativi di concepire un intero genoma virale operativo.
Come riportato da Renovatio 21, due mesi fa i dirigenti delle principali aziende di Intelligenza Artificiale si sono uniti agli esperti di biotecnologie in un appello urgente per rendere obbligatori i controlli di sicurezza per l’acquisto di DNA sintetico.
Il timore per le armi biologiche create dell’AI era presente anche in una lettera che 60 figure del movimento MAGA avevano indirizzato al presidente Trump chiedendo controlli sullo sviluppo dell’Intelligenza Artificiale. «I sistemi aeronautici sono sottoposti a una rigorosa certificazione. I sistemi di Intelligenza Artificiale più potenti, che ora possono, o presto potranno, contribuire alla progettazione di armi biologiche, all’infiltrazione in infrastrutture critiche o alla manipolazione dei mercati finanziari, dovrebbero essere trattati con la stessa serietà e attenzione» hanno scritto i firmatari, tra i quali spiccava il nome di Steve Bannon.
Come riportato da Renovatio 21, un ricercatore esperto di sicurezza di Anthropic che aveva lavorato sul fronte delle armi biologiche si licenziò lasciando un monito preciso. «Il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora», ha scritto Mrinank Sharma rivolgendosi ai colleghi.
Come riportato da Renovatio 21, a settembre Anthropic ha sostenuto di aver individuato scienziati che impiegavano i suoi modelli di AI per ricerche potenzialmente utili allo sviluppo di armi biologiche.
Iscriviti alla Newslettera di Renovatio 21
Immagine generata artifizialmente
Intelligenza Artificiale
La Finlandia avvia un’indagine sul progetto del data center di Google
Iscriviti alla Newslettera di Renovatio 21
-



Politica2 settimane faCaos per l’emendamento sul reintegro dei medici definiti «no-vax». Intervista al dottor Dario Giacomini
-



Spirito2 settimane faNuvola a forma di Croce sopra Lourdes
-



Vaccini2 settimane faGates e Bourla sotto processo nei Paesi Bassi, accusati del piano del «Grande Reset» nell’ambito dell’udienza sui danni da vaccino
-



Necrocultura1 settimana faHalloween, la festa di sangue è di nuovo qui
-



Cremazione1 settimana faLo Stato italiano contro i morti
-



Vaccini1 settimana faVaccino COVID, Londra era a conoscenza del rischio fatale di coaguli, ma ha permesso la sperimentazione sui bambini
-



Spirito1 settimana fa«Stessa agenda antiumana e anticristica»: mons. Viganò commenta la sponsorizzazione da parte di Gates dell’evento multireligioso di Assisi
-



Spirito2 settimane faMons. Viganò, avvertimento ai musulmani d’Italia dopo le parole del cardinale Zuppi













