I magistrati americani chiedono un intervento sui materiali pedopornografici generati dall’Intelligenza Artificiale

I procuratori generali di tutti i 50 stati degli Stati Uniti hanno firmato una lettera che invita il Congresso ad agire contro la proliferazione di materiale pedopornografico generato dall’Intelligenza Artificiale.

Come riportato dall’Associated Press, la lettera bipartisan, inviata ai legislatori repubblicani e democratici della Camera e del Senato, chiede ai leader politici di «istituire una commissione di esperti per studiare i mezzi e i metodi dell’Intelligenza Artificiale che possono essere utilizzati per sfruttare specificamente i bambini».

La richiesta è quella di «proporre soluzioni per scoraggiare e affrontare tale sfruttamento nel tentativo di proteggere i bambini americani».

Nella lettera, i pubblici ministeri invitano i legislatori statunitensi ad ampliare le leggi sui materiali di abuso di minori (CSAM) esistenti, che non tengono ancora conto esplicitamente della creazione e distribuzione di contenuti sintetici di abusi sui minori.

Lo scorso giugno, il Washington Post aveva riferito che la crescente diffusione di materiale pedopornografico generato dall’Intelligenza Artificiale stava rendendo più difficile aiutare le vere vittime di abusi sessuali su minori.

L’esperta in materia, Rebecca Portnoff, direttrice della scienza dei dati presso il gruppo no-profit per la sicurezza dei bambini Thorn, ha raccontato al giornale che lei e il suo team hanno notato un aumento, mese dopo mese, da quando i generatori di immagini hanno iniziato a raggiungere la sfera pubblica circa un anno fa. 

Possiamo notare che man mano che i generatori di immagini open source diventano sempre più diffusi e di facile accesso, diventerà molto più difficile controllare ciò che sono in grado di produrre.

I procuratori generali hanno anche richiamato l’attenzione sui recenti passi avanti compiuti dalla tecnologia deepfake: può essere utilizzata per studiare «fotografie reali di bambini vittime di abusi per generare nuove immagini che mostrano quei bambini in posizioni sessuali» o per vittimizzare bambini precedentemente illesi sovrapponendo i loro volti su i corpi dei bambini che hanno subito abusi.

Si legge ancora nella lettera che «l’Intelligenza Artificiale può combinare dati provenienti da fotografie di bambini abusati e non abusati per animare immagini sessualizzate nuove e realistiche di bambini che non esistono, ma che potrebbero assomigliare a bambini reali».

I pubblici ministeri hanno riconosciuto che il Congresso ha preso in considerazione la regolamentazione federale dell’IA in modo più generale, in particolare per quanto riguarda le preoccupazioni di «sicurezza nazionale e istruzione». Ma sebbene questi sforzi siano certamente importanti, l’Intelligenza Artificiale viene già utilizzata per danneggiare i bambini e «la sicurezza dei bambini non dovrebbe essere trascurata».

«Siamo impegnati in una corsa contro il tempo per proteggere i bambini del nostro Paese dai pericoli dell’intelligenza artificiale», prosegue la lettera. «In effetti, le proverbiali mura della città sono già state sfondate. Ora è il momento di agire».

Come riportato da Renovatio 21, tre anni fa emerse l’esistenza in rete di un bot deepfake utilizzato per «spogliare» donne in immagini create artificialmente a partire da foto mandate dall’utente Secondo una ricerca di un’azienda di cybersecurity, a luglio 2020 il bot a pagamento aveva denudato 100.000 donne. «Sfortunatamente, a volte è anche abbastanza ovvio che alcune di queste persone sono minorenni», disse l’azienda.

SOSTIENI RENOVATIO 21