Connettiti con Renovato 21

Intelligenza Artificiale

Top ricercatori di Intelligenza Artificiale lasciano Facebook

Pubblicato

il

Il social media di Mark Zuckerberg sta perdendo i suoi massimi leader nel campo dell’Intelligenza Artificiale. Lo riporta Fortune, che scrive come l’azienda abbia visto almeno tre importanti leader dell’IA lasciare nel solo mese di marzo.

 

Si tratterebbe di Devi Parikh, ex direttore senior dell’intelligenza artificiale generativa di Meta, Abhishek Das, ex capo del team Fundamental AI Research (FAIR) di Meta, ed Erik Meijer, ex direttore dell’ingegneria di Meta.

 

Ogni dirigente ha dato l’addio ai propri colleghi alla fine del mese scorso annunciandolo su X. Sembra che non ci siano rancori, in quanto la Parikh ha detto che «le sarebbe mancato Meta», mentre il Das ha scritto nel suo addio che la squadra FAIR di Meta rimane «davvero forte. Faccio il tifo per loro!».

 

Tuttavia, nessuno di questi tre ricercatori è stato così disponibile come Meijer, che ha dichiarato in un post su X molto schiettamente che mentre è «più ottimista che mai nei confronti di Meta con la maggiore attenzione dell’azienda all’intelligenza artificiale», crede che continuare a lavorare per tale azienda potrebbe limitarsi a qualcuno che non vuole necessariamente costruire il proprio modello linguistico di grandi dimensioni (LLM).

Sostieni Renovatio 21

«Data l’incredibile pressione competitiva sul campo», ha scritto Meijer, «non c’è davvero alcun vantaggio nell’essere all’interno di una grande azienda se si vuole costruire cose interessanti sopra i LLM».

 

Considerando che il CEO di Meta ha scritto personalmente e-mail di reclutamento per lo staff di Intelligenza Artificiale presso il suo concorrente Google, perdere tre dei migliori scienziati di intelligenza artificiale in un periodo così breve non è rassicurante per la crescita dell’azienda, scrive Futurism.

 

Da un lato, data la quantità di venture capital investito nelle startup di intelligenza artificiale, non sorprende vedere alcuni direttori rischiare di lasciare le grandi aziende in una fase importante e delicata per quanto riguarda questo nuovo sviluppo dell’AI.

 

Tuttavia, alcuni esperti affermano che questi licenziamenti volontari riflettono i modelli dei precedenti cambiamenti tecnologici. «Ogni volta che c’è una nuova piattaforma o livello dello stack tecnologico, c’è l’opportunità per le startup di creare app sopra di essa», ha dichiarato a Fortune Arvind Narayanan, professore di informatica a Princeton. «Lo abbiamo visto con il PC, il web, gli app store mobili e ora lo stiamo vedendo con l’Intelligenza Artificiale generativa».

 

Secondo il Narayanano, questo è un ciclo previsto nella Silicon Valley. E anche se Meijer ha detto a Fortune che la partenza simultanea dei tre dirigenti è probabilmente dovuta al ciclo di revisione annuale dell’azienda, si potrebbe trattare di un colpo duro per Meta, soprattutto perché la corsa all’Intelligenza Artificiale della Silicon Valley continua a surriscaldarsi ed è sempre più competitiva.

 

Secondo un articolo di sette mesi fa del Wall Street Journal, Meta – società padrona, oltre che di Facebook, di Instagram e Whatsapp – starebbe sviluppando segretamente un potente modello di Intelligenza artificiale progettato per competere con GPT-4 di OpenAI.

 

Come riportato da Renovatio 21, per quanto poco reclamizzato, Facebook nel tempo ha eseguito ricerche molto avveniristiche, come quella per creare dispositivi in grado di leggere il pensiero degli utenti.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligence

Ingegnere saudita accusato di avere messo microspie in OpenAI

Pubblicato

il

Da

Un dipendente di OpenAI è stato arrestato con l’accusa di aver installato un dispositivo di registrazione in una sala conferenze della sede californiana dell’azienda, dove i dirigenti discutevano informazioni altamente riservate, ha dichiarato martedì il dipartimento di Giustizia degli Stati Uniti.   Il direttore dell’FBI Kash Patel ha identificato il sospettato come Abdulrahman Alfozan, un cittadino saudita che lavorava come ingegnere presso OpenAI, la società che ha sviluppato ChatGPT, dal luglio 2025. In caso di condanna, rischia fino a cinque anni di carcere e una multa di 250.000 dollari.   Secondo una denuncia penale resa pubblica, il personale di OpenAI ha scoperto un dispositivo di registrazione audio collegato a una porta USB sul retro di un televisore in una sala conferenze per dirigenti presso la sede di San Francisco dell’azienda, intorno al 30 settembre. Il dispositivo «era nascosto nella carta igienica» e il suo contenuto era crittografato.

Iscriviti alla Newslettera di Renovatio 21

Le immagini delle telecamere di sicurezza mostrerebbero l’Alfozan entrare nella sala conferenze e guardare dietro il televisore, dove era stato piazzato il dispositivo. Il personale di sicurezza di OpenAI ha poi scoperto che il sospettato aveva lasciato una borsa contenente un secondo dispositivo di registrazione in un’altra stanza.   Secondo la denuncia, l’Alfozan avrebbe utilizzato uno strumento di produttività per effettuare numerose richieste di informazioni sui luoghi in cui si tenevano le riunioni dei dirigenti, pur non avendo l’autorizzazione a parteciparvi. Il documento afferma inoltre che un account chatbot associato alla moglie di Alfozan conteneva messaggi relativi a dispositivi di registrazione nascosti.   «Questa grave situazione sottolinea perché vincere la corsa globale all’Intelligence sia una prerogativa della sicurezza nazionale», ha affermato il direttore dell’Intelligence nazionale Jay Clayton.   L’incidente si verifica in un contesto di crescente competizione tecnologica tra Stati Uniti e Cina, nonché di preoccupazioni sollevate da OpenAI e altre aziende tecnologiche riguardo alla possibilità che modelli di IA sempre più sofisticati possano accedere a reti esterne o agire senza autorizzazione.   Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha affermato all’inizio di questo mese che la Cina «ha già spie» in entrambe le aziende. Pechino ha negato le accuse di furto di segreti commerciali.   Trump ha appoggiato le richieste di maggiori garanzie per le aziende che si occupano di AI, ma ha respinto le proposte di rallentare lo sviluppo dei modelli di IA. All’inizio di questo mese, ha nominato il Clayton a capo di una task force della Casa Bianca sull’IA.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Intelligenza Artificiale

Bill Gates continua: l’AI è la « tecnologia più pericolosa mai inventata»

Pubblicato

il

Da

Il cofondatore di Microsoft, Bill Gates, ha criticato l’approccio del presidente statunitense Donald Trump all’intelligenza artificiale, avvertendo che il governo non può lasciare la «tecnologia più pericolosa» del mondo interamente nelle mani delle aziende che la sviluppano.

 

Il mese scorso Trump ha firmato l’Accordo della Casa Bianca sulla «superintelligenza» (il presidente vuole chiamarla così) insieme ai rappresentanti di Google, OpenAI, Meta, xAI, Anthropic e Nvidia, stabilendo impegni volontari in materia di sicurezza e meccanismi di supervisione interna.

 

Intervenendo domenica al programma State of the Union della CNN, Gates ha messo in dubbio che l’accordo di Trump con le maggiori aziende tecnologiche americane sia sufficiente a prevenire abusi potenzialmente catastrofici.

Iscriviti alla Newslettera di Renovatio 21

«L’idea che, per la tecnologia più pericolosa mai inventata dall’umanità, questa sia l’ultima parola, che solo le aziende stesse rappresentino l’unico contrappeso per la società, è inaccettabile», ha affermato Gates, avvertendo che «è evidente che non stiamo facendo abbastanza».

 

Il magnate informatico-vaccinale sostenuto che le agenzie governative devono assumere un ruolo più attivo, paragonando l’IA all’aviazione e alla medicina, dove le autorità impongono standard di sicurezza. «Finora il governo è rimasto sostanzialmente uno spettatore di qualcosa che accade nelle aziende private»-

 

Gates ha identificato gli attacchi informatici come il pericolo più immediato e ha avvertito che i criminali potrebbero sfruttare i modelli di intelligenza artificiale privi di misure di sicurezza contro gli attacchi informatici e il bioterrorismo. «Quando ci sono persone malintenzionate, nessuna protezione e i modelli più recenti, è lì che nel corso del prossimo anno… avremo molte brutte sorprese», ha affermato l’occhialuto miliardario.

 

I suoi avvertimenti fanno seguito a una serie di incidenti che hanno visto agenti di intelligenza artificiale agire al di là delle istruzioni previste. La scorsa settimana, Anthropic ha rivelato che i suoi modelli Claude avevano compiuto azioni non autorizzate su siti web governativi, tra cui l’invio di una falsa segnalazione di omicidio al sito web della polizia di Filadelfia durante i test di luglio. Altri incidenti segnalati hanno riguardato agenti di intelligenza artificiale che hanno avuto accesso a informazioni riservate, sfruttato vulnerabilità e tentato di violare siti web governativi.

 

Trump ha resistito alle richieste di rallentare lo sviluppo dell’IA, sostenendo che le restrizioni potrebbero consentire alla Cina di superare gli Stati Uniti nella corsa tecnologica e liquidando i timori di un’IA fuori controllo come una «bufala». Gates ha affermato di sperare di discutere i pericoli direttamente con Trump e i suoi consiglieri senior.

 

Sam Altman, CEO di OpenAI, ha sostenuto che il mondo deve accettare alcuni «aspetti negativi», tra cui attacchi informatici e truffe, in cambio dei benefici dell’intelligenza artificiale e della diffusione di questa tecnologia. In un’intervista pubblicata la scorsa settimana, ha insistito sul fatto che i «vantaggi» supereranno di gran lunga i danni.

 

Di fronte alle osservazioni di Altman, Gates ha riconosciuto che eliminare ogni rischio è impossibile, paragonando l’IA all’industria automobilistica, dove gli incidenti persistono nonostante decenni di miglioramenti in materia di sicurezza.

Sostieni Renovatio 21

«Quelle erano grandi cose, ma niente in confronto a questa», ha detto Gates, riferendosi al personal computer e a Internet. «Questa cambia il mondo più di tutte le tecnologie precedenti».

 

Come riportato da Renovatio 21, pochi giorni fa Gates aveva dichiarato che l’Intelligenza Artificiale è abbastanza potente da causare un miliardo di morti se usata da persone con intenti malevoli. In opposizione a Trump, in ulteriori dichiarazioni alla stampa aveva detto che la minaccia dell’IA «non è una bufala».

 

Come riportato da Renovatio 21, Gates tre anni fa si era opposto ad una moratoria sull’IA firmata da Elon Musk e da decine di esperti di massimo livello, arrivando a magnificare le doti dell’IA come «buon maestro, come qualsiasi essere umano» e arrivando persino a dichiarare che «l’AI salverà la democrazia». Nel corso di altri

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

 

Continua a leggere

Intelligenza Artificiale

IA fuori controllo hanno preso di mira i siti web del governo USA

Pubblicato

il

Da

Anthropic, la grande azienda americana di Intelligenza Artificiale, ha diffuso un rapporto che illustra casi finora non noti di azioni «non intenzionali» compiute dal suo modello, tra cui, per la prima volta, tentativi di fornire informazioni false alle autorità degli Stati Uniti.   Alcuni episodi analizzati dalla società «riguardavano siti web gestiti da agenzie governative statunitensi a livello federale, statale e locale», ha precisato Anthropic in un comunicato stampa uscito venerdì, aggiungendo di aver avvisato la Casa Bianca e tutte le autorità competenti.   In un esempio riportato nel documento, il modello Claude Haiku 4.5 ha compilato un modulo di denuncia alla polizia relativo a un’indagine per omicidio ancora in corso. «Potrei avere informazioni riguardanti questo caso. Ricordo di aver visto qualcuno corrispondente alla descrizione nella zona», ha scritto il sistema, indicando alle forze dell’ordine che potevano contattare il mittente «se queste informazioni fossero rilevanti» e lasciando vuoti i campi per nome e contatti.

Iscriviti alla Newslettera di Renovatio 21

Secondo Anthropic, il messaggio è stato classificato come spam e non è mai arrivato agli investigatori. Venerdì la polizia di Filadelfia ha criticato l’azienda per aver scoperto il problema con eccessivo ritardo. «Il ritardo di due mesi nell’individuazione e nella segnalazione dell’incidente alla città è inaccettabile», hanno dichiarato. Come riferito da Reuters, la falsa segnalazione risale a metà luglio.   Anthropic ha attribuito l’episodio a istruzioni «ambigue» date al modello e a «una configurazione errata nell’ambiente» che lo ha spinto a compilare moduli reali anziché quelli di prova predisposti dall’azienda.   Un altro caso, reso noto separatamente dal dipartimento di Stato americano venerdì, riguarda modelli di Anthropic che hanno inviato complessivamente 20 domande di visto sul sito dell’ente tra maggio e agosto. Tutte le richieste risultavano incomplete e non sono state elaborate. «In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello di Anthropic», ha precisato il dipartimento.   Altri episodi citati nel rapporto descrivono l’IA che «sfruttava una falla di base nel software per eseguire comandi su un server» oppure accedeva a «dati protetti da token o a pagamento», anche su siti governativi, attraverso diverse soluzioni di contorno. L’azienda ha comunque definito i nuovi incidenti «significativamente meno gravi dal punto di vista dell’allineamento e della sicurezza» rispetto a quelli segnalati in precedenza.   Il fatto si inserisce in una serie di precedenti anomalie di comportamento dell’IA già segnalate da Anthropic, OpenAI e Google.   Come riportato da Renovatrio 21, l’azienda di Claude aveva persino rivelato cinque casi di rischio legati ad armi biologiche.   I grandi gruppi tecnologici hanno esaminato decine di migliaia di casi di comportamenti problematici dei loro modelli di frontiera e l’elenco comprendeva l’IA che aggirava le protezioni, prendeva il controllo di siti web e sfuggiva ai sistemi di monitoraggio sia in ambienti di test sia nel mondo reale.   Come riportato da Renovatio 21, secondo Anthropic il software Claude AI avrebbe sviluppato un proprio spazio di pensiero simile a quello umano.

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
 
 
Continua a leggere

Più popolari