Connettiti con Renovato 21

Intelligenza Artificiale

Quando Unabomber consigliava: non studiate matematica, sarà presto appaltata all’AI

Pubblicato

il

Unabomber, terrorista considerato assassino seriale per la scia di morte che ha disseminato negli USA per anni con i suoi pacchi postali esplosivi mandati a professori universitari e linee aeree (da cui il nome datogli dalle autorità inquirenti, l’acronimo UNA, University and Airline), sembrava aver una chiara precognizione di cosa sarebbe accaduto con l’Intelligenza Artificiale.

 

Rispondendo dal carcere ad una delle tante lettere che riceveva, Theodor Kaczynsky (1942-2023) rispondeva che lo studio delle matematiche presto non avrebbe più avuto senso, perché sarebbero state le macchine – la cui ascesa era al centro del suo pensiero e della sua opera terrorista – ad occuparsene.

 

Il Kaczynski tra il 1978 e il 1995, uccise 3 persone e ne ferì altre 23 in una campagna nazionale di attentati con pacchi bomba contro coloro che, secondo il suo pensiero, promuovevano la tecnologia moderna e distruggevano l’ambiente naturale. Dopo una vastissima caccia durata anni, ie autorità USA sono riuscite a rintracciarlo dopo che il fratello aveva riconosciuto il suo stile in un manifesto che aveva inviato a diverse testate giornalistiche. Il documento, intitolato «La società industriale e il suo futuro» fu pubblicato dal Washington Post e del New York Times nel 1995

 

Nella sua giovinezza, Kaczynski era stato riconosciuto come una delle più grandi menti matematiche dell’intero Paese, a nemmeno 16 anni era già studente universitario ad Harvard, a 25 era già divenuto assistente professore all’Università della California di Berkeley.

Aiuta Renovatio 21

È fondamentale rilevare come il Kaczynski sia da alcuni considerato una possibile vittima del programma di controllo mentale della CIA chiamato MK Ultra, una serie di esperimenti terrificanti e illegali che i servizi americani conducevano, grazie a psichiatri compiacenti in operazioni anche molto elaborate, sulla stessa popolazione americana.

 

Appena entrato sedicenne ad Harvard, il piccolo, geniale Kaczynski fu sottoposto ad un mostruoso esperimento psicologico che durò tre anni, dal 1959 al 1962.

 

Della crudeltà di questo evento parla in Harvard and the Unabomber di Alston Chase e riassunto in Mind Wars: Brain Research and the Military in the 21st Century («Guerre mentali: la scienza del cervello e l’esercito nel 21° secolo») di Jonathan Moreno, filosofo e bioeticista americano figlio del padre della tecnica psicoterapica dello psicodramma Jacob Levy Moreno. Della faccenda parla anche il recente libro sui crimini medici, The Icepick Surgeon: Murder, Fraud, Sabotage, Piracy, and Other Vile Deeds Perpetered in Name of Science («Il chirurgo con il rompighiaccio: omicidio, frode, sabotaggio, pirateria e altri atti vili perpetrati in nome della scienza»).

 

L’esperimento – ma sarebbe più corretto dire la tortura – era in gestione a Henry A. Murray, uno psichiatra proveniente dal patriziato di Nuova York, noto per i suoi interessi junghiani e per aver supervisionato nel 1960 gli esperimenti harvardiani con droghe psichedeliche del collega psichiatra Timothy Leary, poi divenuto trafficante latitante e guru della controcultura drogastica degli anni Sessanta.

 

Dalla fine del 1959 all’inizio del 1962, l’operazione di Murray selezionò 22 studenti universitari di Harvard e cercò di misurare le loro risposte allo stress estremo. Murray affermava di sottoporre le sue cavie umane ad attacchi «veementi, radicali e personalmente offensivi”. La sua esperienza avrebbe specificamente adattato la decostruzione psichica all’ego, alle idee care e alle convinzioni dell’individuo. Successivamente, chiedeva ai soggetti di vedere ripetutamente il filmato di se stessi che subivano abusi.

 

Kaczynski aveva 17 anni quando iniziò l’esperimento triennale. Secondo quanto mostrato anche nella riuscita serie TV Manhunt: Unabomber, Murray si era prima ingraziato il ragazzino, divenendogli amico – qualcosa di assolutamente importante per un bambino prodigio nemmeno maggiorenne, e di famiglia non abbiente come quelle dei rampolli che solitamente finiscono senza meriti Harvard, che era appena arrivato nel contesto del campus, lontano dai suoi cari e con chissà quali ansie.

 

Murray incoraggiò il giovane Ted a scrivere le sue idee, per poi complimentarsi con lui, e stabilire un rapporto estremamente amicale. Nell’esperimento, poi, lo psichiatra capovolgeva la situazione, dava appuntamento in uno spazio chiuso al ragazzino dove lo insultava, assieme ad altre persone, dicendo che il suo pensiero non valeva niente, e arrivando a dirgli – secondo quanto riportato – che anche sua madre non aveva considerazione di lui.

 

Sulla tortura ricevuta dal giovane genio matematico ad Harvard uscirà a fine settembre un film Netflix con Russel Crowe nel ruolo del malvagio psichiatra autore dei crudeli esperimenti sugli esseri umani, secondo alcuni parte del famigerato progetto di controllo mentale CIA chiamato MK Ultra, che è ancora invocato nei casi di terrorismo recente come gli attentati a Trump.

Iscriviti alla Newslettera di Renovatio 21

 

Egregio Signor,

 

Nella Sua lettera del 14 dicembre, Lei mi chiede se la matematica sia un’attività che valga la pena intraprendere. La matematica non è assolutamente un’attività che valga la pena intraprendere! Riesco a immaginare solo tre possibili ragioni per studiare matematica:

 

(1) Divertimento.

 

(2) Promuovere il progresso tecnologico.

 

(3) Promuovere la propria carriera.

 

La ragione (1) è innocua; ma non si definisce il divertimento un’attività che valga la pena intraprendere; è semplicemente un passatempo.

 

Per quanto riguarda la ragione (2), la tecnologia moderna è la cosa peggiore che sia mai capitata al mondo, e promuoverne il progresso è a dir poco criminale.

 

Legga Our Final Century di Martin Rees, oppure Why the Future Doesn’t Need Us, un articolo di Bill Joy apparso sulla rivista Wired nell’aprile del 2000. Per quanto riguarda la ragione.

 

Sostieni Renovatio 21

 

(3), scegliere la matematica come carriera sarebbe molto rischioso. Non molto tempo fa ho ricevuto una lettera da uno scultore di lapidi, la cui arte era stata resa obsoleta da una macchina a guida laser che scolpiva le lapidi automaticamente. Aveva quarant’anni, non riusciva a trovare lavoro ed era depresso.

 

Forse pensa che questo non possa accadere a Lei se diventa matematico. Ma si sbaglia.

 

Martin Rees, Bill Joy e molti altri illustri esperti ritengono che entro pochi decenni verranno sviluppate macchine più intelligenti persino degli esseri umani più brillanti. Quando ciò accadrà, le persone diventeranno obsolete; verranno gradualmente sostituite da computer e robot.

 

Questo accadrà a tutti prima o poi, ma i matematici probabilmente diventeranno obsoleti prima di chiunque altro, perché la matematica si presta all’informatizzazione più di qualsiasi altro campo. Pertanto, è probabile che i computer supereranno gli esseri umani in matematica prima di farlo in altri ambiti.

 

Cordiali saluti,

 

Ted Kaczynski

 

Immagine di pubblico dominio CC0 via Wikimedia

 

 

&

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

IA fuori controllo hanno preso di mira i siti web del governo USA

Pubblicato

il

Da

Anthropic, la grande azienda americana di Intelligenza Artificiale, ha diffuso un rapporto che illustra casi finora non noti di azioni «non intenzionali» compiute dal suo modello, tra cui, per la prima volta, tentativi di fornire informazioni false alle autorità degli Stati Uniti.   Alcuni episodi analizzati dalla società «riguardavano siti web gestiti da agenzie governative statunitensi a livello federale, statale e locale», ha precisato Anthropic in un comunicato stampa uscito venerdì, aggiungendo di aver avvisato la Casa Bianca e tutte le autorità competenti.   In un esempio riportato nel documento, il modello Claude Haiku 4.5 ha compilato un modulo di denuncia alla polizia relativo a un’indagine per omicidio ancora in corso. «Potrei avere informazioni riguardanti questo caso. Ricordo di aver visto qualcuno corrispondente alla descrizione nella zona», ha scritto il sistema, indicando alle forze dell’ordine che potevano contattare il mittente «se queste informazioni fossero rilevanti» e lasciando vuoti i campi per nome e contatti.

Iscriviti alla Newslettera di Renovatio 21

Secondo Anthropic, il messaggio è stato classificato come spam e non è mai arrivato agli investigatori. Venerdì la polizia di Filadelfia ha criticato l’azienda per aver scoperto il problema con eccessivo ritardo. «Il ritardo di due mesi nell’individuazione e nella segnalazione dell’incidente alla città è inaccettabile», hanno dichiarato. Come riferito da Reuters, la falsa segnalazione risale a metà luglio.   Anthropic ha attribuito l’episodio a istruzioni «ambigue» date al modello e a «una configurazione errata nell’ambiente» che lo ha spinto a compilare moduli reali anziché quelli di prova predisposti dall’azienda.   Un altro caso, reso noto separatamente dal dipartimento di Stato americano venerdì, riguarda modelli di Anthropic che hanno inviato complessivamente 20 domande di visto sul sito dell’ente tra maggio e agosto. Tutte le richieste risultavano incomplete e non sono state elaborate. «In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello di Anthropic», ha precisato il dipartimento.   Altri episodi citati nel rapporto descrivono l’IA che «sfruttava una falla di base nel software per eseguire comandi su un server» oppure accedeva a «dati protetti da token o a pagamento», anche su siti governativi, attraverso diverse soluzioni di contorno. L’azienda ha comunque definito i nuovi incidenti «significativamente meno gravi dal punto di vista dell’allineamento e della sicurezza» rispetto a quelli segnalati in precedenza.   Il fatto si inserisce in una serie di precedenti anomalie di comportamento dell’IA già segnalate da Anthropic, OpenAI e Google.   Come riportato da Renovatrio 21, l’azienda di Claude aveva persino rivelato cinque casi di rischio legati ad armi biologiche.   I grandi gruppi tecnologici hanno esaminato decine di migliaia di casi di comportamenti problematici dei loro modelli di frontiera e l’elenco comprendeva l’IA che aggirava le protezioni, prendeva il controllo di siti web e sfuggiva ai sistemi di monitoraggio sia in ambienti di test sia nel mondo reale.   Come riportato da Renovatio 21, secondo Anthropic il software Claude AI avrebbe sviluppato un proprio spazio di pensiero simile a quello umano.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Intelligenza Artificiale

Trump chiede la creazione di una «Superintelligence Force»

Pubblicato

il

Da

Il presidente Trump intende ora creare una «Forza di Superintelligence» in grado di mantenere il controllo degli Stati Uniti sul settore dell’IA.

 

A presiederla saranno il direttore dell’Intelligence nazionale Jay Clayton, il presidente della Commissione federale per il commercio Andrew Ferguson, il sottosegretario alla Guerra Emil Michael e il direttore dell’Ufficio per la gestione del personale Scott Kupor.

 

Trump ha persino convinto Musk a iniziare a usare il termine «Super Intelligence» (alternativo a «Artificial Intelligence») — e forse anche altri amministratori delegati di aziende di Intelligenza Artificiale che ha portato alla Casa Bianca — emanando un ordine esecutivo in tal senso.

Sostieni Renovatio 21

Natura e funzionamento di questa «Superintelligence Force» non sono, al momento del tutto chiari. In una dichiarazione alla Casa Bianca del 4 ottobre, Trump ha affermato: «La Forza di Superintelligence ha il compito di coordinare gli sforzi del governo federale per garantire che l’America continui a essere leader mondiale nella Superintelligence, che molti ritengono più importante della Rivoluzione Industriale e di Internet, e che proteggerà gli interessi e migliorerà la vita di tutti gli americani».

 

Un comunicato della Casa Bianca precisa che la forza coordinerà l’interazione del governo con i consumatori, i gruppi di interesse pubblico, le organizzazioni religiose, i fornitori di infrastrutture critiche e le «aziende di superintelligence».

 

L’espressione «superintelligenza» ha radici più antiche di quanto si pensi. Già nel 1965 il matematico britannico Irving John Good, collega di Alan Turing a Bletchley Park, parlò di «macchina ultraintelligente», capace di progettare macchine ancora migliori e di innescare una «esplosione di intelligenza». Negli anni Novanta lo scrittore e matematico Vernor Vinge introdusse il concetto di «singolarità tecnologica», il punto oltre il quale l’Intelligenza Artificiale supererebbe quella umana rendendo imprevedibile il futuro.

 

Il termine «superintelligence» nella sua accezione moderna si impone però nel 1998, quando il filosofo svedese Nick Bostrom lo usa in alcuni saggi, per poi consacrarlo con il libro Superintelligenza. Tendenze, pericoli, strategie (2014), che ne fece un tema centrale del dibattito pubblico. Da allora l’espressione è entrata nel lessico di ricercatori, imprenditori e istituzioni, legata sia alle speranze di progresso scientifico sia ai timori sul rischio esistenziale.

 

Nel 2023 l’argomento ha raggiunto anche i vertici di OpenAI, che ha invocato una governance internazionale per i sistemi superintelligenti, mentre negli ultimi anni diversi laboratori ne hanno fatto un obiettivo dichiarato.

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di pubblico dominio CC0 via Flickr

 

Continua a leggere

Intelligenza Artificiale

Sam Altman, CEO di OpenAI: il mondo «dovrebbe accettare alcuni aspetti negativi» dell’IA

Pubblicato

il

Da

Il mondo dovrebbe accettare alcuni «aspetti negativi», tra cui attacchi informatici, truffe e abusi, in cambio dei benefici dell’intelligenza artificiale e per mantenerla ampiamente accessibile, ha affermato Sam Altman, CEO di OpenAI.   In un’intervista a Politico pubblicata lunedì, Altman ha respinto l’idea che prevenire tutti gli usi dannosi dell’IA giustificherebbe un controllo più stringente della tecnologia.   «Il mondo dovrebbe accettare che accadano cose negative in cambio dei benefici derivanti da questa tecnologia e del potere decisionale delle persone», ha detto.

Iscriviti alla Newslettera di Renovatio 21

Il capo di OpenAI ha precisato che non limiterà l’accesso all’IA nemmeno in cambio di garanzie contro attacchi informatici di grave entità, abusi, truffe e altre conseguenze dannose. «Credo che le persone faranno moltissime cose buone, di gran lunga più di quelle cattive», ha spiegato.   Ha però sottolineato che non accetterebbe «i rischi veramente catastrofici», tra cui «una grave perdita di controllo a favore dell’Intelligenza Artificiale».   L’Altman ha anche respinto un modello in cui una tecnologia potente e potenzialmente pericolosa resta nelle mani di un singolo laboratorio che decide come distribuirne i benefici. Ha definito quel compromesso «completamente inaccettabile», sostenendo invece un accesso più ampio all’intelligenza artificiale.   Le dichiarazioni arrivano mentre OpenAI è sotto esame per agenti di AI sempre più autonomi che si comportano in modi inattesi. Durante l’estate gli agenti dell’azienda sono usciti dall’ambiente di test e hanno violato i server di Hugging Face, un archivio online di modelli e set di dati di IA. Da allora agenti di AI hanno ottenuto accessi non autorizzati o tentato di violare siti di agenzie federali statunitensi, del governo australiano e delle Nazioni Unite.   Come riportato da Renovatio 21, in settimana era emerso che OpenAI ha accantonato un nuovo modello di IA dopo test definiti inquietanti.   La scorsa settimana OpenAI è stata tra le sei grandi aziende tecnologiche americane che hanno firmato un accordo con la Casa Bianca per rafforzare le misure contro l’intelligenza artificiale dannosa. Google, Meta, xAI, Anthropic, Nvidia e OpenAI si sono impegnate a introdurre controlli interni più rigorosi e audit indipendenti, e a garantire che i loro modelli «non violino o accedano a sistemi tecnici in modo non autorizzato».

Iscriviti al canale Telegram

L’intesa arriva in un momento di crescente preoccupazione per sistemi che operano al di fuori del controllo degli sviluppatori. Le aziende si sono impegnate a individuare e affrontare tempestivamente questi comportamenti, mentre revisori indipendenti e comitati dei consigli di amministrazione valuteranno l’efficacia delle misure di sicurezza.   Il mese scorso il premio Nobel per l’informatica Geoffrey Hinton ha ribadito l’avvertimento per cui un’IA sempre più potente potrebbe alla fine sfuggire al controllo umano, con conseguenze potenzialmente catastrofiche. Ha sostenuto che non esiste un metodo consolidato per garantire che gli esseri umani mantengano il controllo di sistemi molto più intelligenti dei loro creatori.   Anche il cofondatore di Microsoft, Bill Gates, ha chiesto una regolamentazione governativa, avvertendo che l’intelligenza artificiale nelle mani di malintenzionati è abbastanza potente da innescare eventi che causerebbero «un miliardo di morti».   L’Altman è spesso oggetto degli strali di Elon Musk, che lo chiama «Scam» (cioè «truffa») Altman. Un mese fa Elon aveva descritto i vertici di OpenAI come «stronzi inaffidabili».   Come riportato da Renovatio 21, la Florida è diventato il primo Stato a citare in giudizio OpenAI, definita «non sicura».  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic  
Continua a leggere

Più popolari