Ecco i deepfake delle forze speciali USA vogliono per condurre campagne di «propaganda e inganno»

Il comando delle operazioni speciali degli Stati Uniti (SOCOM) vuole utilizzare video deepfake per condurre campagne di propaganda e inganno online. Lo riporta il sito The Intercept, che cita documenti contrattuali federali.

«Mentre il governo degli Stati Uniti mette regolarmente in guardia contro il rischio di deepfake e sta apertamente lavorando per costruire strumenti per contrastarli, il documento dello Special Operations Command, o SOCOM, rappresenta un’istanza quasi senza precedenti del governo americano – o di qualsiasi governo – che segnala apertamente il suo desiderio utilizzare la tecnologia altamente controversa in modo offensivo» scrive la testata.

Le aspirazioni propagandistiche di nuova generazione del SOCOM sono delineate in un documento di approvvigionamento che elenca le capacità che sta cercando per il prossimo futuro e sollecita proposte da parti esterne che credono di essere in grado di costruirle.

I piani includono anche l’hacking di dispositivi connessi a Internet per spiare le popolazioni straniere e valutare la loro suscettibilità alla propaganda. Il documento lo descrive come una «capacità di nuova generazione per “rilevare” i dispositivi Internet of Things (IoT) per raccogliere dati e informazioni dalle popolazioni locali per consentire la suddivisione di quali messaggi potrebbero essere popolari e accettati attraverso il setacciamento dei dati una volta ricevuti»,  e che la capacità di intercettare obiettivi di propaganda «consentirebbe a MISO [Military Information Support Operations, ndr] di creare e promuovere messaggi che potrebbero essere ricevuti più prontamente dalla popolazione locale».

Oltre a deepfake e hacking, il Directorate of Science and Technology del SOCOM ha presentato una lista dei desideri di tecnologie di nuova generazione o e consentire di cacciare e uccidere in modo più efficace utilizzando laser, olografi, robot e altro hardware high-tech.

Lo scorso ottobre hanno aggiornato questa lista dei desideri con una nuova sezione; «Tecnologie avanzate da utilizzare nelle operazioni di supporto alle informazioni militari (MISO)», ovvero propaganda e inganno, che comprendono «operazioni di influenza, inganno digitale, interruzione della comunicazione e campagne di disinformazione a livello tattico e operativo.

Sebbene il Comando delle operazioni speciali abbia coordinato per anni «operazioni di influenza» straniere, queste campagne di inganno sono state oggetto di un rinnovato controllo. A dicembre, sempre The Intercept aveva riferito che il SOCOM aveva convinto Twitter, in violazione delle sue politiche interne, a consentire una rete di account fittizi che diffondevano notizie fasulle di dubbia accuratezza, inclusa l’affermazione secondo cui il governo iraniano stava rubando gli organi di civili afghani.

Sebbene l’offensiva propagandistica basata su Twitter non abbia utilizzato i deepfake, i ricercatori hanno scoperto che gli appaltatori del Pentagono utilizzavano avatar generati dall’apprendimento automatico per conferire agli account falsi un certo grado di realismo.

In modo provocatorio, il documento sulle capacità aggiornato rivela che SOCOM vuole potenziare questi sforzi di inganno su Internet con l’uso di video deepfake di «prossima generazione», un metodo sempre più efficace per generare falsi video digitali realistici utilizzando l’apprendimento automatico.

Le forze speciali userebbero questo filmato falso per «generare messaggi e influenzare le operazioni tramite canali non tradizionali», aggiunge il documento.

Come riportato da Renovatio 21, alcuni usi di deepfake si sono visti durante il conflitto ucraino. La tecnologia delle immagini di sintesi ha raggiunto un livello di realismo tale che spesso i volti generati dall’Intelligenza Artificiale sono più credibili di quelli di persone i carne ed ossa.

Negli USA si è sospettato che un discorso di Biden dell’anno passato fosse in verità un deepfake diffuso dalla Casa Bianca.