Un bot deepfake viene utilizzato per «spogliare» minorenni

Nel giugno del 2019, si scoprì l’esistenza di un’app inquietante che utilizzava l’intelligenza artificiale per «spogliare» le donne.

Chiamato DeepNude, il bot permetteva agli utenti di caricare una foto di una donna vestita per $ 50 e ottenere indietro una foto di lei apparentemente nuda.

Basta inviare una foto per ricevere in pochi minuti la foto «denudata» dall’Intelligenza Artificiale

In realtà, il software utilizzava reti antagoniste generative, l’algoritmo alla base dei deepfakes, per scambiare i vestiti delle donne con corpi nudi altamente realistici. Più la vittima è vestita in modo succinto, meglio è. Non funzionava sugli uomini.

A meno di 24 ore dallo scandalo partito sui giornali i creatori dell’app la ritirarono per sempre.

Ora si scopre che una tecnologia simile è usata da un bot disponibile su Telegram: basta inviare una foto per ricevere in pochi minuti la foto «denudata» dall’Intelligenza Artificiale.

Secondo una ricerca di un’azienda di cybersecurity, a luglio 2020 il bot aveva denudato 100.000 donne. «Sfortunatamente, a volte è anche abbastanza ovvio che alcune di queste persone sono minorenni»

Il servizio è gratuito; però con 100 rubli (poco più di un euro) si può cancellare il Watermark (il logo) dalle foto o ottenerle più velocemente.

Secondo una ricerca di un’azienda di cybersecurity, a luglio 2020 il bot aveva denudato 100.000 donne. «Sfortunatamente, a volte è anche abbastanza ovvio che alcune di queste persone sono minorenni» dice il ricercatore di cybersecurity al MIT Technology Review.

Nel 2019, uno studio dell’American Psychological Association ha rilevato che una donna su 12 finisce per essere vittima di revenge porn ad un certo punto della sua vita.

Il «Deepfake revenge porn» aggiunge una dimensione completamente nuova alle molestie

Uno studio del governo australiano, che ha esaminato l’Australia, il Regno Unito e la Nuova Zelanda, ha rilevato che il rapporto è pari a uno su tre.

Il «Deepfake revenge porn» aggiunge una dimensione completamente nuova alle molestie, perché le vittime non si rendono conto che tali immagini esistono.

La tecnologia Deepfake è diventata popolare per la prima volta nei recessi profondi di Internet come un modo per scambiare le celebrità in video porno, ed è stata utilizzata come parte di campagne di molestie per mettere a tacere le giornaliste donne.

I ricercatori hanno anche scoperto che l’algoritmo di «svestizione» sta iniziando ad essere applicato ai video.