Connettiti con Renovato 21

Intelligenza Artificiale

L’ex scienziato capo di OpenAI lancia SSI per concentrarsi sulla «sicurezza» dell’IA

Pubblicato

il

Il co-fondatore ed ex capo scienziato di OpenAI, Ilya Sutskever, e l’ex ingegnere di OpenAI Daniel Levy hanno unito le forze con Daniel Gross, un investitore ed ex partner dell’acceleratore di startup Y Combinator, per creare Safe Superintelligence, Inc. (SSI). L’obiettivo e il prodotto della nuova azienda sono evidenti già dal nome.

 

SSI è una società statunitense con uffici a Palo Alto e Tel Aviv. Farà avanzare l’intelligenza artificiale (AI) sviluppando sicurezza e capacità in tandem, hanno affermato i tre fondatori in un annuncio online il 19 giugno.

 

«Il nostro focus unico non implica alcuna distrazione da parte delle spese generali di gestione o dei cicli di prodotto, e il nostro modello di business significa che la sicurezza, la protezione e il progresso sono tutti isolati dalle pressioni commerciali a breve termine» hanno dichiarato.

Iscriviti al canale Telegram

Sutskever ha lasciato OpenAI il 14 maggio. Era stato coinvolto nello strano licenziamento del CEO Sam Altman e ha svolto un ruolo ambiguo nella società dopo essersi dimesso dal consiglio dopo il ritorno di Altman. Daniel Levy è stato tra i ricercatori che hanno lasciato OpenAI pochi giorni dopo Sutskever.

 

Sutskever e Jan Leike erano i leader del team Superalignment di OpenAI creato nel luglio 2023 per considerare come «guidare e controllare i sistemi di intelligenza artificiale molto più intelligenti di noi». Tali sistemi sono indicati come intelligenza generale artificiale (AGI). OpenAI ha assegnato il 20% della sua potenza di calcolo al team di Superalignment al momento della sua creazione.

 

Anche Leike ha lasciato OpenAI a maggio ed è ora a capo di un team presso la startup di intelligenza artificiale Anthropic, sostenuta da Amazon. OpenAI ha difeso le sue precauzioni relative alla sicurezza in un lungo post X del presidente dell’azienda Greg Brockman, ma ha sciolto il team di Superalignment dopo la partenza dei suoi ricercatori a maggio.

 

Gli ex ricercatori di OpenAI sono tra i tanti scienziati preoccupati per la direzione futura dell’intelligenza artificiale.

 

Nel bel mezzo del turnover del personale di OpenAI co-fondatore di Ethereum Vitalik Butertin aveva definito AGI «rischioso».

 

Aveva tuttavia aggiunto che «tali modelli sono anche molto più bassi in termini di rischio catastrofico rispetto sia alla megalomania aziendale che ai militari».

 

«Questa azienda è speciale in quanto il suo primo prodotto sarà la superintelligenza sicura, e fino ad allora non farà nient’altro», dice Sutskever in un’intervista esclusiva a Bloomberg sui suoi piani.

 

«Sarà completamente isolato dalle pressioni esterne derivanti dal dover gestire un prodotto grande e complicato e dal dover rimanere bloccato in una corsa al successo competitiva”.

 

Il CEO di Tesla Elon Musk, considerabile come fondatore di OpenAI, e il co-fondatore di Apple Steve Wozniak erano tra gli oltre 2.600 leader e ricercatori tecnologici che hanno sollecitato la sospensione dell’addestramento dei sistemi di intelligenza artificiale per sei mesi mentre l’umanità rifletteva sul «profondo rischio» che rappresentavano.

 

Musk ha risposto a un post su X che evidenziava il potenziale che tutto questo andasse molto storto: «sulla base delle convenzioni di denominazione stabilite da OpenAI e StabilityAI, questa potrebbe essere la società di intelligenza artificiale più pericolosa mai vista».

 

Elon, che dice di non aver animosità nei confronti di Sutskever, ha rivendicato di averlo in pratica assunto lui al momento della fondazione di OpenAI, all’epoca società no-profit. Musk pochi giorni fa ha ritirato la causa intentata ad OpenAI.

Aiuta Renovatio 21

L’annuncio della SSI rileva che la società sta assumendo ingegneri e ricercatori.

 

«Per sicuro intendiamo sicuro come la sicurezza nucleare in contrapposizione a sicuro come “fiducia e sicurezza”», afferma Sutskever. Sutskever rifiuta di nominare i sostenitori finanziari di Safe Superintelligence o di rivelare quanto ha raccolto.

 

Come riportato da Renovatio 21, l’idea che l’AI diventerà una sorta di dio circola da anni e investe direttamente personale di OpenAI come il capo scientifico e cofondatore Ilya Sutskever, il quale ha chiesto ai suoi followers se le super-IA avanzate dovrebbero essere rese «profondamente obbedienti» ai loro creatori umani, o se questi algoritmi dovrebbero «amare veramente profondamente l’umanità».

 

Nel 2022, Sutskever affermò che «può darsi che le grandi reti neurali di oggi siano leggermente consapevoli».

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

Elon Musk parla di mass driver sulla Luna

Pubblicato

il

Da

Durante una presentazione tenutasi nel fine settimana al Giga Texas, il miliardario del settore tecnologico ha svelato il Progetto TERAFAB, un piano per trasferire sulla superficie lunare l’infrastruttura di Intelligenza Artificiale più energivora del mondo.   L’obiettivo è quello di infrangere il «soffitto di terawatt» dell’informatica terrestre e inaugurare un’era di intelligenza su scala petawatt. L’ultima visione di Musk prevede di superare i limiti energetici della Terra costruendo sulla Luna dei mass driver, cioè delle rampe di lancio elettromagnetiche per facilitare questa infrastruttura AI su vasta scala.   Secondo il pensiero di Musk la Terra ha meno spazio e meno energia per progetti di IA su larga scala. Per costruire una rete di Intelligenza Artificiale di grandi dimensioni, gli esperti intendono sfruttare lo spazio e l’energia illimitati della Luna. I pannelli solari nello spazio sono circa cinque volte più efficienti di quelli sulla Terra, dove le nuvole e una spessa atmosfera ne riducono l’efficienza.  

Sostieni Renovatio 21

Anziché utilizzare un maggior numero di razzi, il piano si basa sull’azione del mass driver, un gigantesco binario elettromagnetico per lanciare i satelliti nello spazio sfruttando l’energia solare. Tali sistemi di propulsione, che potrebbero estendersi per decine di chilometri, utilizzerebbero campi magnetici per accelerare i satelliti dotati di Intelligenza Artificiale fino alla velocità di fuga lunare.   In particolare, questa strategia elimina la necessità di propellenti chimici costosi e volatili, nonché degli stadi di razzo dismessi che ingombrano gli oceani della Terra. Il piano potrebbe utilizzare la Starship di SpaceX per trasportare l’hardware iniziale, arrivando infine a creare una rete orbitale distribuita in grado di fornire una potenza 1.000 volte superiore a quella dei sistemi attuali.   Se coronato da successo, il dispiegamento di infrastrutture di IA nello spazio ridurrebbe la competizione tra data center e città per l’energia terrestre, consentendo alle operazioni di AI avanzata di espandersi nel vasto e illimitato ambiente energetico della Luna.   Sebbene il concetto di un cannone spaziale magnetico esista da quando Edward Fitch Northrup lo teorizzò per la prima volta nel 1937, rimane puramente teorico, non avendo ancora superato la fase di progettazione né raggiunto la superficie lunare.   La proposta di Musk per un propulsore lunare è una componente chiave di un più ampio cambiamento strategico annunciato nel febbraio 2026, in cui SpaceX ha dato priorità a una città lunare «autosufficiente» rispetto alla colonizzazione immediata di Marte. Sebbene Marte rimanga la «polizza assicurativa» a lungo termine dell’umanità come secondo pianeta da essa abitato po essere stato colonizzato o «terraformato», la Luna costituirebbe ora ora la priorità industriale immediata.   Dal punto di vista logistico, la Luna offre finestre di lancio ogni 10 giorni, rispetto ai 26 mesi di attesa necessari per Marte. Gli scettici, tuttavia, stanno già facendo notare i calcoli impressionanti. I critici sostengono che per lanciare oltre un milione di tonnellate di materiale necessario a raggiungere un petawatt di potenza sarebbero necessari circa 135 lanci di Starship al giorno.   «Spingeremo al limite le leggi della fisica nel campo dell’informatica e faremo cose folli e incredibili», ha detto Musk. «Voglio vivere abbastanza a lungo da vedere il lanciatore di massa sulla Luna», ha aggiunto.   L’altra ambiziosa visione di Musk è quella di realizzare una fabbrica lunare che utilizzi la robotica per produrre satelliti dotati di IA e alimentati a energia solare, che verrebbero poi lanciati in una rete orbitale distribuita tramite la porpulsione elettromagnetica del mass driver.   Sono in fase di valutazione due progetti principali: i cannoni a rotaia, che utilizzano un singolo e potente impulso di forza, e i cannoni a bobina, che impiegano una sequenza di magneti temporizzati per fornire un’accelerazione costante e controllata. Quest’ultimo sembra essere la scelta preferibile per la protezione di carichi sensibili di Intelligenza Artificiale.   La storia dei mass driver (o catapulte elettromagnetiche) affonda le radici nella fantascienza e nella fisica applicata. Il primo concetto ingegneristico appare nel 1937 nel romanzo Zero to Eighty del fisico princetoniano Edwin Fitch Northrup (pubblicato con il nom de plume Akkad Pseudoman), che descrisse e costruì prototipi di «electric guns» basati su bobine.   L’idea moderna nasce nel 1974 grazie ad un ulteriore fisico princetoniano, il teorico delle colonie spaziali orbitanti Gerard K. O’Neill, che propose appunto i mass driver per lanciare materiali dalla Luna verso i punti di Lagrange (soprattutto L5), dove costruire grandi habitat spaziali – i cosiddetti «cilindri di O’Neill» visibili nella pellicola 2001 Odissea nello Spazio o nelle serie di anime Gundam – senza dover usare costosi razzi chimici. L’obiettivo era sfruttare le risorse lunari per costruire industrie e colonie nello spazio, riducendo drasticamente i costi di lancio.

Aiuta Renovatio 21

Nel 1976-1977, durante un anno sabbatico al MIT, lo O’Neill insieme a Henry Kolm e studenti costruì il Mass Driver 1 con un budget di soli 2000 dollari, usando materiali di recupero. Il prototipo, lungo pochi metri, accelerava proiettili a 40 m/s con 33 g di accelerazione. Fu dimostrato con successo alla conferenza di Princeton nel maggio 1977, attirando l’attenzione della stampa statunitense.   Negli anni successivi vennero realizzati prototipi più avanzati (Mass Driver 2) grazie a finanziamenti NASA e del Space Studies Institute fondato da O’Neill. Gli studi degli anni Settanta, inclusi quelli estivi della NASA Ames, esplorarono applicazioni per il lancio di materie prime lunari a velocità orbitali.   Oggi i mass driver restano un concetto affascinante per lanci spaziali economici, specialmente sulla Luna o su asteroidi, ma non sono ancora stati realizzati a scala operativa. Influenzano ricerche sulle catapulte elettromagnetiche per aerei militarie futuri sistemi di lancio non basati su razzi, rappresentando una delle colonne portanti della visione di industrializzazione spaziale degli anni Settanta, ancora attuale nel dibattito su colonie lunari e marziane.   In un post del 2025, il Musk – che porta innanzi da anni la causa della costruzione di lanciatori di massa sul nostro satellite – si è spinto a dire che «quando il mass driver sulla Luna entrerà in funzione, non sono sicuro che il denaro sarà rilevante» SOSTIENI RENOVATIO 21
Immagine di pubblico dominio CC0 via Wikimedia
Continua a leggere

Intelligenza Artificiale

Un tribunale statunitense si pronuncia contro il Pentagono nella controversia sull’Intelligenza Artificiale letale

Pubblicato

il

Da

Un giudice federale statunitense ha bloccato un ordine del Pentagono che designava Anthropic come una minaccia per la sicurezza nazionale, affermando che i funzionari statunitensi hanno probabilmente violato la legge e si sono vendicati contro l’azienda di intelligenza artificiale per i suoi commenti pubblici su come la sua tecnologia dovrebbe essere utilizzata.

 

Anthropic, azienda leader nello sviluppo di modelli linguistici complessi, è coinvolta in una controversia con il Dipartimento della Guerra statunitense in merito all’utilizzo militare del suo sistema Claude, con i funzionari della difesa che premono per consentire l’impiego della tecnologia per «tutti gli usi leciti».

 

L’azienda si era opoosta, esprimendo preoccupazione per la possibilità che il sistema potesse essere utilizzato per la sorveglianza di massa sul territorio nazionale o per la creazione di armi completamente autonome. Il Pentagono interruppe i negoziati, impose la designazione e ordinò agli appaltatori di interrompere l’utilizzo di Claude.

 

Giovedì, la giudice distrettuale statunitense Rita Lin ha inoltre bloccato un ordine di rescissione di tutti i contratti governativi con Anthropic, definendolo una «classica» ritorsione ai sensi del Primo Emendamento.

 

«Nulla nella legge in materia avvalora l’idea orwelliana che un’azienda americana possa essere etichettata come potenziale avversario… per aver espresso disaccordo con il governo», ha scritto Lin, sottolineando che tale qualifica è in genere riservata a «agenzie di Intelligence straniere, terroristi e altri soggetti ostili».

Iscriviti al canale Telegram

Lunedì Anthropic ha intentato causa contro l’amministrazione del presidente statunitense Donald Trump, definendo la mossa «senza precedenti e illegale» e sostenendo che si tratti di una ritorsione per le sue critiche alla politica governativa.

 

«La Costituzione non consente al governo di esercitare il suo enorme potere per punire un’azienda per aver espresso un’opinione tutelata dalla legge», ha dichiarato l’azienda nella sua denuncia.

 

Il mese scorso Trump ha ordinato a tutte le agenzie federali statunitensi, incluso il Pentagono, di interrompere l’utilizzo della tecnologia di Anthropic, concedendo all’esercito un periodo di sei mesi per la dismissione graduale dei sistemi già in uso.

 

Il segretario alla Guerra Pete Hegseth ha accusato l’azienda di «arroganza e tradimento», affermando che il Pentagono si sarebbe orientato verso un’alternativa «più patriottica». Il dipartimento ha quindi raggiunto un accordo con OpenAI, il cui CEO, Sam Atman, ha dichiarato che l’accordo include garanzie contro la sorveglianza di massa sul territorio nazionale e richiede la supervisione umana nell’uso della forza.

 

Anthropic ha avvertito che tali azioni hanno destato preoccupazione tra i clienti, compresi quelli senza legami con il governo federale, e potrebbero costare all’azienda miliardi di dollari in mancati ricavi futuri. Alcune agenzie, tra cui il Dipartimento della Salute e dei Servizi Umani e la General Services Administration, avrebbero già ritirato i suoi prodotti.

 

Anthropic è stato il primo sviluppatore commerciale di AI a implementare modelli linguistici di grandi dimensioni su reti classificate del Pentagono, nell’ambito di un contratto del valore di 200 milioni di dollari. Il suo chatbot Claude è stato utilizzato per analisi di intelligence, simulazioni operative, operazioni informatiche e flussi di lavoro di pianificazione.

 

Lo scontro emerso segue alle accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

Il CEO di Anthropic, Dario Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

 

Amodei ha messo in guardia dai «rischi di autonomia», in cui l’IA potrebbe sfuggire al controllo e sopraffare l’umanità, e ha ipotizzato che la tecnologia potrebbe facilitare l’instaurazione di «una dittatura totalitaria globale» attraverso sorveglianza di massa basata sull’Intelligenza Artificiale e l’impiego di armi autonome.

 

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

OpenAI chiude l’app video Sora

Pubblicato

il

Da

OpenAI, la società produttrice di ChatGPT, ha annunciato la chiusura della sua app Sora, diventata virale lo scorso autunno come piattaforma per la condivisione di brevi video generati dall’intelligenza artificiale, ma che aveva anche sollevato preoccupazioni riguardo al realismo dei deepfake.   In una breve dichiarazione pubblicata mercoledì su X, OpenAI ha affermato di «dire addio all’app Sora», senza però specificarne il motivo.   «A tutti coloro che hanno creato con Sora, l’hanno condivisa e hanno costruito una community attorno ad essa: grazie», ha scritto l’azienda. «Ciò che avete realizzato con Sora è stato importante e sappiamo che questa notizia è deludente.»  

Iscriviti al canale Telegram

    OpenAI ha rilasciato Sora per la prima volta alla fine del 2024. Lo strumento ha ottenuto notorietà a livello globale dopo il lancio del suo modello di seconda generazione e di un’app standalone lo scorso settembre.   L’app ha rapidamente scalato le classifiche di iOS per foto e video, grazie alla creazione di clip virali da parte degli utenti, che spaziavano da figure storiche fotorealistiche a surreali mashup della cultura pop. OpenAI non aveva precedentemente dato alcun segnale di voler chiudere Sora. A dicembre aveva persino annunciato un accordo, poi annullato, da 1 miliardo di dollari con Disney per portare sulla piattaforma personaggi di franchise come Marvel e Star Wars.   Tuttavia, Sora ha dovuto affrontare crescenti critiche per i deepfake, la disinformazione e l’uso non autorizzato di immagini di celebrità e materiale protetto da copyright. Gruppi di attivisti, accademici e figure del settore hanno messo in guardia sui rischi, tra cui l’utilizzo di immagini non consensuali e la perdita di posti di lavoro nel settore creativo. OpenAI è stata costretta a limitare le rappresentazioni tramite IA di personaggi pubblici come Michael Jackson e Martin Luther King Jr. a seguito delle pressioni esercitate dagli eredi e dai sindacati, tra cui il sindacato degli artisti statunitensi SAG-AFTRA.   Un portavoce della Disney ha dichiarato che la società interromperà la sua collaborazione con OpenAI.   «Con il rapido progresso del nascente campo dell’intelligenza artificiale, rispettiamo la decisione di OpenAI di abbandonare il settore della generazione di video e di ridefinire le proprie priorità», ha dichiarato il portavoce in un comunicato stampa. «Continueremo a esplorare tecnologie di intelligenza artificiale che rispettino la proprietà intellettuale e i diritti dei creatori.»       Nel frattempo, la chiusura di Sora precede anche una potenziale IPO di OpenAI, che secondo alcune indiscrezioni potrebbe concretizzarsi entro la fine dell’anno. Gli analisti interpretano la mossa come una strategia di riduzione dei costi, dato che la generazione di video tramite intelligenza artificiale richiede una potenza di calcolo elevata, per la quale OpenAI ha faticato a trovare un modello di business sostenibile. Alcune fonti suggeriscono che le priorità interne si stiano spostando verso aree commercialmente più redditizie, come i «collaboratori» basati sull’IA e la robotica.   OpenAI ha dichiarato che a breve fornirà dettagli sulla tempistica di chiusura e su come gli utenti potranno salvare i propri video.   SOSTIENI RENOVATIO 21
Immagine screenshot da YouTube
Continua a leggere

Più popolari