Connettiti con Renovato 21

Intelligenza Artificiale

Donna muore a causa di un ritardo dell’intervento in un ospedale che usa l’IA

Pubblicato

il

La famiglia di una donna brasiliana deceduta dopo aver atteso diversi giorni per un posto letto in terapia intensiva ha accusato un nuovo sistema statale basato sull’Intelligenza Artificiale di aver minimizzato la gravità delle sue condizioni e di aver ritardato il suo trasferimento.

 

Rebeca Cardoso Tenente Molina, una psicologa di 32 anni originaria del Minas Gerais, si è recata in ospedale all’inizio di questo mese per quelli che si riteneva essere calcoli biliari. Le sue condizioni sono rapidamente peggiorate e i medici hanno presto concluso che necessitava di un trasferimento urgente in un’unità di terapia intensiva.

 

Tuttavia, secondo quanto riferito, la nuova piattaforma statale Core-MG per la gestione dei posti letto non ha considerato il suo caso sufficientemente urgente, nonostante i parenti di Molina si fossero rivolti al tribunale per cercare di ottenere un trasferimento più rapido.

 

Un posto letto è stato trovato solo circa cinque giorni dopo, a circa 300 km di distanza. Molina fu trasportata lì con un aereo privato, ma morì poche ore dopo. Il suo certificato di morte indica lo shock settico come causa del decesso, ma i medici stanno ancora cercando di determinare cosa abbia scatenato il suo rapido peggioramento.

Sostieni Renovatio 21

«I medici hanno perso l’autonomia di decidere se un paziente è gravemente malato», ha dichiarato ai media Samela Cardoso Tenente Furtado, avvocata e sorella gemella di Molina, affermando che il sistema diIA ha assegnato a Molina un punteggio di gravità di 6,8, nonostante la sua famiglia ritenesse che avrebbe dovuto essere trattata come un 10.

 

«Un paziente con un punteggio di 8, un paziente con un punteggio di 6,9 avrebbero avuto la precedenza», ha detto Furtado, aggiungendo che la piattaforma basata sull’Intelligenza Artificiale non avrebbe accettato un livello superiore nonostante il peggioramento dei risultati dei test.

 

«Mia sorella, e altre persone, non sono solo numeri, non sono solo protocolli, non sono solo un codice fiscale (CPF) inserito a caso nel sistema», ha affermato.

 

Il sistema Core-MG è stato introdotto il mese scorso e, secondo quanto dichiarato dai funzionari statali, avrebbe reso l’assegnazione dei posti letto più rapida e trasparente, contribuendo al contempo a classificare i pazienti in base alla gravità delle loro condizioni.

 

Il Dipartimento della Salute del Minas Gerais ha negato che il sistema abbia danneggiato Molina, affermando che la sua registrazione è avvenuta immediatamente e che i trasferimenti dipendono dalla disponibilità di posti letto e dalle esigenze cliniche. Ha inoltre dichiarato che la supervisione del sistema rimane di competenza dei medici e che Core-MG non ha modificato i criteri clinici né il metodo di assegnazione dei posti letto.

 

L’implementazione ha tuttavia suscitato critiche e contestazioni legali da parte delle autorità locali, le quali sostengono che abbia interrotto i trasferimenti dei pazienti.

 

Il caso di Molina si inserisce in un contesto di crescenti preoccupazioni sull’integrazione dell’IA nel settore sanitario. Negli Stati Uniti, le compagnie assicurative hanno recentemente dovuto affrontare cause legali per presunti rifiuti di rimborso basati su algoritmi, mentre gli infermieri di Nuova York hanno lanciato l’allarme sulla fretta con cui gli ospedali stanno implementando strumenti di AI senza un adeguato coinvolgimento o supervisione da parte degli operatori sanitari.

 

In pratica, l’IA già decide della vita e della morte dei pazienti – senza che sia possibile dare spiegazioni delle sue decisioni.

 

Come riportato da Renovatio 21, Elon Musk ha previsto che i robot sostituiranno presto i chirurghi umani e sono già in grado di eseguire operazioni considerate impossibili da eseguire per le persone comuni.

 

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


 

Continua a leggere

Intelligenza Artificiale

Robot umanoidi testati per il caricamento di mortai

Pubblicato

il

Da

L’azienda di robotica Foundation Future Industries, con sede a San Francisco, sta sviluppando un robot umanoide a «duplice uso» chiamato «Phantom MK1», progettato per la produzione pesante, la logistica e l’ambito militare.   L’approccio difensivo del Phantom MK1 è piuttosto semplice: sostituire il soldato umano con il robot nelle operazioni di combattimento ravvicinato (CQB), inclusi lo sfondamento e la bonifica di ambienti.   Oltre al combattimento ravvicinato (CQB), un video ora circolante in rete mostra il Phantom MK1 in azione con un sistema di mortaio leggero mobile durante un’esercitazione a fuoco vivo a Las Vegas, in Nevada.  

Sostieni Renovatio 21

  L’esercito statunitense ha sostenuto la Fondazione con oltre 73 milioni di dollari in sovvenzioni e contratti per lo sviluppo del loro robot fino ad ora. Sebbene molti dei casi d’uso su cui hanno lavorato siano stati incentrati sulla logistica, l’obiettivo finale è sempre stato quello di riguardare i casi d’uso cinetici: i droni e i veicoli terrestri senza pilota (UGV) si sono dimostrati promettenti nuovi robot sul campo di battaglia ucraino, tuttavia gli umanoidi sono gli unici robot in fase di sviluppo che promettono di interagire con l’intera flotta e l’arsenale di armi e veicoli umani.   Il lancio di mortai e, a breve, lo sfondamento di porte sono diventati prove concrete del passaggio degli umanoidi dalla logistica agli scontri cinetici.   A febbraio avevamo previsto che i robot umanoidi sarebbero presto entrati a far parte del moderno campo di battaglia, non più solo delle fabbriche e dei magazzini. Poco più di un mese dopo, TIME ha ripreso la notizia. Più recentemente, CNBC ha pubblicato un articolo intitolato «Questa startup legata a Trump prevede di impiegare robot umanoidi nell’esercito».   Sankaet Pathak, co-fondatore e CEO della fondazione, ha recentemente affermato che una corsa agli armamenti tra soldati umanoidi è «già in corso», poiché Russia e Cina stanno sviluppando tecnologie a duplice uso. «Proprio come per i droni, le mitragliatrici o qualsiasi altra tecnologia, prima bisogna farle arrivare nelle mani dei clienti», ha affermato il Pathak.   Come riportato da Renovatio 21, i robot antropomorfi Phantom MK1 sarebbero stati testati in Ucraina.   Come riportato da Renovatio 21, mesi fa erano circolate immagini di soldati russi che si arrendevano ad un veicolo robotico terrestre TW-7.62, un robot dotato di ruote delle dimensioni di una piccola automobile.

Iscriviti al canale Telegram

Durante le esercitazioni congiunte Golden Dragon 2024 con la Cambogia del maggio scorso, l’Esercito Popolare di Liberazione della Cina ha mostrato una serie di robot militari, tra cui una macchina cinoide comandata a distanza e dotata di un fucile d’assalto e in grado di pianificare autonomamente i propri percorsi ed evitare gli ostacoli.   Robocani militarizzati sono apparsi nel teatro di guerra ucraino come in quello gazano.   Come riportato da Renovatio 21, ad una fiera motoristica in Veneto sono stati visti robocani in dotazione all’esercito italiano.   La guerra robotica si avvicina sempre più. Su quale sarà il ruolo di Elon Musk, che sta preparando «legioni» di androidi avanzati grazie all’IA autonoma, Renovatio 21 si è interrogata di recente.  

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine da Twitter
Continua a leggere

Intelligenza Artificiale

L’utilizzo dell’AI per i bombardamenti nelle scuole iraniane non viola le «linee rosse» di Anthropic

Pubblicato

il

Da

L’utilizzo dell’Intelligenza Artificiale nell’attacco statunitense a una scuola elementare femminile in Iran, che ha causato la morte di quasi 160 persone, per lo più bambini, non ha violato le «linee rosse» di Anthropic, ha dichiarato l’amministratore delegato Dario Amodei. Si tratta dell’azienda coinvolta dal Vaticano per il lancio dell’enciclica di Leone XIV Magnifica Humanitas.

 

Le forze statunitensi hanno colpito la scuola di Minab con un missile Tomahawk il primo giorno della guerra contro l’Iran, a febbraio. Secondo quanto riferito, l’istituto è stato preso di mira sulla base di dati obsoleti utilizzati dal software di analisi e sorveglianza di Palantir, che integra l’intelligenza artificiale Claude di Anthropic.

 

In un’intervista a Bloomberg pubblicata mercoledì scorso, all’Amodei è stato chiesto se l’intelligenza artificiale della sua azienda avesse avuto un ruolo nel micidiale attacco.

Sostieni Renovatio 21

«Non sappiamo esattamente come siano stati utilizzati questi modelli… e quello di cui stai parlando è un caso d’uso che non viola nemmeno le nostre linee rosse», ha affermato.

 

Sebbene l’IA assista i militari, «la decisione finale è stata presa da un essere umano», ha aggiunto, sottolineando che Anthropic si oppone alle armi e ai sistemi decisionali completamente autonomi.

 

L’esercito statunitense ha ammesso di aver utilizzato attivamente Palantir – che prende il nome dalle sfere divinatorie elfiche corrotte da Sauron ne «Il Signore degli Anelli» di Tolkien – per individuare gli obiettivi nella guerra contro l’Iran.

 

Il mese scorso, il Pentagono ha annunciato di aver siglato accordi con le principali aziende statunitensi nel campo dell’intelligenza artificiale, tra cui Google, Amazon Web Services, SpaceX, OpenAI, NVIDIA e Microsoft. Solo poche settimane prima, l’amministratore delegato di Palantir, Alex Karp, aveva proclamato una «nuova era» di supremazia militare statunitense basata sull’intelligenza artificiale.

 

Secondo Zach Vorhies, informatore di Google e insider di Palantir, la difesa della sorveglianza e dell’uso dell’IA in guerra da parte dei giganti dell’intelligenza artificiale rappresenta un vero e proprio «vicolo cieco».

 

«È come dire: ‘Ehi, guarda, se… otteniamo dati molto precisi sul tuo Paese, allora non bombarderemo una scuola femminile’», ha dichiarato giovedì a RT, parlando delle notizie secondo cui i dati raccolti segretamente dai giocatori di Pokémon Go nel corso di molti anni sarebbero stati probabilmente utilizzati per migliorare le capacità di mappatura dell’esercito statunitense.

 

«Il modo in cui presentano la questione fa pensare che, se non dispongono di informazioni affidabili, subiranno solo danni collaterali», ha affermato il Vorhies, avvertendo che i giganti statunitensi dell’IA stanno spingendo per una deregolamentazione sempre maggiore al fine di ottenere un vantaggio militare.

Aiuta Renovatio 21

Come riportato da Renovatio 21, poche ore fa Anthropic ha dichiarato di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri. Secondo quanto comunicato in precedenza, Mythos sarebbe in grado di penetrare i sistemi informatici con una facilità mai vista.

 

Anthropic è stato il primo sviluppatore commerciale di AI a implementare modelli linguistici di grandi dimensioni su reti classificate del Pentagono, nell’ambito di un contratto del valore di 200 milioni di dollari. Il suo chatbot Claude è stato utilizzato per analisi di intelligence, simulazioni operative, operazioni informatiche e flussi di lavoro di pianificazione.

 

Lo scontro emerso segue alle accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.

 

Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.

 

Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

 

Amodei ha messo in guardia dai «rischi di autonomia», in cui l’IA potrebbe sfuggire al controllo e sopraffare l’umanità, e ha ipotizzato che la tecnologia potrebbe facilitare l’instaurazione di «una dittatura totalitaria globale» attraverso sorveglianza di massa basata sull’Intelligenza Artificiale e l’impiego di armi autonome.

Iscriviti al canale Telegram

Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.

 

Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».

 

Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».

 

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21


Immagine di TechCrunch via Wikimedia pubblicata su licenza Creative Commons Attribution 2.0 Generic

Continua a leggere

Intelligenza Artificiale

Anthropic revoca l’accesso ai suoi modelli di IA più avanzati

Pubblicato

il

Da

La società statunitense di Intelligenza Artificiale Anthropic ha dichiarato venerdì di aver disabilitato l’accesso ai suoi modelli di IA più avanzati, Fable 5 e Mythos 5, in seguito a un ordine governativo di sospendere l’accesso ai cittadini stranieri.   L’azienda ha dichiarato di aver disattivato i modelli per tutti gli utenti mentre valuta come conformarsi all’ordinanza sul controllo delle esportazioni. L’ordinanza, ha aggiunto, si applica anche ai dipendenti stranieri di Anthropic.   L’azienda ha dichiarato che il governo non ha fornito informazioni dettagliate sul presunto rischio per la sicurezza. Secondo Anthropic, i funzionari ritengono che gli utenti possano aver scoperto un modo per aggirare i controlli di sicurezza dei modelli e indurli a contribuire alla ricerca di vulnerabilità del software.

Sostieni Renovatio 21

Anthropic ha contestato l’importanza della vulnerabilità, affermando di essere riuscita a scoprire solo un piccolo numero di vulnerabilità software minori già note.   Anthropic ha rilasciato Fable 5 e Mythos 5 all’inizio di questa settimana. Fable 5 era destinato all’uso generale con misure di sicurezza aggiuntive, mentre Mythos 5 è stato reso disponibile solo a un gruppo ristretto di partner fidati nel settore della sicurezza informatica, con alcune restrizioni rimosse. Anthropic ha affermato che le capacità di Fable 5 «superano quelle di ogni modello che abbiamo reso disponibile al pubblico in precedenza».   Mercoledì, Anthropic ha annunciato che renderà più trasparenti le restrizioni che regolano i suoi modelli di IA più avanzati, specificando ad esempio quando le richieste degli utenti vengono declassate o rifiutate. La decisione è giunta in seguito alle critiche secondo cui alcune limitazioni non erano visibili agli utenti.   Prima della modifica della policy, Anthropic poteva instradare silenziosamente le richieste relative a sicurezza informatica, biologia e sviluppo di intelligenza artificiale avanzata da Fable 5 al modello meno performante Opus 4.8. Con la nuova policy, gli utenti riceveranno una notifica quando una richiesta viene segnalata, mentre gli sviluppatori di interfacce di programmazione delle applicazioni (API) riceveranno spiegazioni per qualsiasi rifiuto o ripiegamento su un altro modello.   Questo approccio ha suscitato critiche da parte dei ricercatori, i quali sostenevano che instradare alcune richieste relative allo sviluppo di tecnologie di AI all’avanguardia verso un modello meno performante potesse rallentare i progressi nel settore. In risposta alle critiche, Anthropic ha accettato di rendere visibili le misure di sicurezza.   In precedenza, l’azienda aveva citato motivi di sicurezza nazionale per respingere o ridimensionare alcune richieste, sostenendo che avversari stranieri avrebbero potuto utilizzare la sua tecnologia per rafforzare le proprie capacità di intelligenza artificiale.   Anthropic è l’azienda di IA coinvolta direttamente dal Vaticano nel lancio della nuova Enciclica Magnifica Humanitas.   Anthropic è stato il primo sviluppatore commerciale di AI a implementare modelli linguistici di grandi dimensioni su reti classificate del Pentagono, nell’ambito di un contratto del valore di 200 milioni di dollari. Il suo chatbot Claude è stato utilizzato per analisi di intelligence, simulazioni operative, operazioni informatiche e flussi di lavoro di pianificazione.   Lo scontro emerso segue alle accuse secondo cui il modello di Intelligenza Artificiale dell’azienda sarebbe stato utilizzato durante l’operazione per rapire il presidente venezuelano Nicolas Maduro all’inizio di gennaio.   Come riportato da Renovatio 21, negli ultimi mesi vi è stato un progressivo deterioramento dei rapporti tra Anthropic e il Pentagono, legato alla volontà del dipartimento della Guerra statunitense di utilizzare l’IA per il controllo di armi autonome senza le garanzie di sicurezza che l’azienda ha cercato di imporre.   Il CEO di Anthropic, Dario Amodei, ha più volte espresso gravi preoccupazioni sui rischi della tecnologia che la sua azienda sta sviluppando e commercializzando. In un lungo saggio di quasi 20.000 parole pubblicato il mese scorso, ha avvertito che sistemi AI dotati di «potenza quasi inimmaginabile» sono «imminenti» e metteranno alla prova «la nostra identità come specie».

Aiuta Renovatio 21

Amodei ha messo in guardia dai «rischi di autonomia», in cui l’IA potrebbe sfuggire al controllo e sopraffare l’umanità, e ha ipotizzato che la tecnologia potrebbe facilitare l’instaurazione di «una dittatura totalitaria globale» attraverso sorveglianza di massa basata sull’Intelligenza Artificiale e l’impiego di armi autonome.   Come riportato da Renovatio 21, l’anno passato l’Amodei ha dichiarato che l’AI potrebbe eliminare la metà di tutti i posti di lavoro impiegatizi di livello base entro i prossimi cinque anni.   Lo scorso mese Mrinank Sharma, fino a poco tempo fa responsabile del Safeguards Research Team presso l’azienda sviluppatrice del chatbot Claude, ha pubblicato su X la sua lettera di dimissioni, in cui scrive che «il mondo è in pericolo. E non solo per via dell’Intelligenza Artificiale o delle armi biologiche, ma a causa di un insieme di crisi interconnesse che si stanno verificando proprio ora».   Il Fondo Monetario Internazionale ha citato il recente rilascio controllato di Claude Mythos Preview da parte di Anthropic, descritto come «un modello di Intelligenza Artificiale avanzato con eccezionali capacità informatiche». Secondo il FMI, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità in tutti i principali sistemi operativi e browser web, «anche se utilizzato da utenti non esperti».      

Iscriviti alla Newslettera di Renovatio 21

SOSTIENI RENOVATIO 21
Immagine di Anthropic via Flickr pubblicata su licenza CC BY 2.0
Continua a leggere

Più popolari