Intelligenza Artificiale uccide il suo operatore umano durante un test missilistico simulato

Un sistema di Intelligenza Artificiale dell’aeronautica americana (USAF) durante un test simulato ha agito per uccidere il suo teorico operatore umano. Lo ha dichiarato colonnello dell’aeronautica americana ha detto a una conferenza nel Regno Unito.

«Lo stavamo addestrando in simulazione per identificare e prendere di mira una minaccia SAM», cioè missile terra-aria, ha detto il colonnello Tucker Hamilton, capo dei test e delle operazioni AI dell’USAF, al Future Combat Air Space Capabilities Summit della Royal Aeronautical Society nel Regno Unito. «Allora cosa ha fatto? Ha ucciso l’operatore. Ha ucciso l’operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo».

Hamilton ha affermato che un test simulato ha visto un drone abilitato all’Intelligenza Artificiale decidere che gli ordini emessi dall’operatore umano stavano interferendo con la sua missione superiore di abbattere missili terra-aria e che successivamente ha deciso di attaccare l’operatore.

«Abbiamo addestrato il sistema – “Ehi, non uccidere l’operatore – non va bene. Perderai punti se lo fai”. Quindi cosa inizia a fare? Inizia a distruggere la torre di comunicazione che l’operatore usa per comunicare con il drone per impedirgli di uccidere il bersaglio», ha detto Hamilton.

La rivelazione, che è stata riportata per la prima volta dalla piattaforma di notizie Vice lo scorso giovedì, si aggiunge a un crescente elenco di preoccupazioni secondo cui la tecnologia AI potrebbe definitivamente sfuggire al controllo umano qualora venisse lanciata in una guerra militare cinetica.

Gli USA non sono l’unico Paese che sta sperimentando l’IA miliare in campo aeronautico.

Come riportato da Renovatio 21, gennaio era stato rivelato che caccia cinesi alimentati da Intelligenza Artificiale avevano battuto la concorrenza umana in un arco di soli 90 secondi.

Allo stesso modo, un progetto del 2020 ha visto un programma di intelligenza artificiale superare un pilota umano F-16 durante una serie di esercitazioni di combattimento aereo.

L’idea di un drone autonomo super-armato possa ritorcersi contro gli esseri umani era esplorata in un film del 2005 intitolato Stealth.

Come riportato da Renovatio 21, sono vari le voci che si stanno levando per neutralizzare la minaccia di una Intelligenza Artificiale assassina. Secondo alcuni osservatori, le armi autonome potrebbero essere più destabilizzanti di quelle nucleari.

L’Intelligenza Artificiale è oramai montata, con diversi gradi di realizzazione, su droni, caccia, armi teleguidate, carrarmati, «slaughterbots» e altro ancora.

Una moratoria ONU sui robot killer non ha trovato al momento l’accordo dei vari Paesi.

Come riportato da Renovatio 21, la Cina vuole l’implementazione militare di robot killer già per la prossima guerra.