App usa foto «rubate» di morti per addestrare l’algoritmo di riconoscimento facciale

Ecco un nuovo capitolo nella storia, sempre più corposa ed inquietante, del rapporto tra Intelligenza Artificiale e cari estinti.

Come riportato dalla rivista Wired, un sito di ricerca per il riconoscimento facciale chiamato PimEyes – che afferma di creare «impronte facciali» umane biometriche avrebbe utilizzato foto «rubate» di persone morte per sviluppare i suoi algoritmi.

Secondo l’articolo, Cher Scarlett, ingegnere del software e scrittrice, ha fatto questa inquietante scoperta mentre cercava sul sito immagini di se stessa. Le foto di sua madre, della sua bisnonna morta da tempo e di sua sorella, morta nel 2018 alla giovane età di 30 anni.

Tutte queste foto, dice la Scarlett, sembrano essere state prese da immagini che lei e la sua famiglia hanno caricato personalmente su Ancestry.com, un sito che proibisce apertamente «la raccolta di dati, comprese le foto, dai siti e dai servizi di Ancestry, nonché la rivendita, riprodurre o pubblicare qualsiasi contenuto o informazione trovata su Ancestry» come si legge nei Terms & Conditions del sito.

Tuttavia questa non è solo una violazione della politica di Ancestry, perché i membri defunti della famiglia di Scarlett semplicemente non avrebbero potuto dare a PimEyes il permesso di sviluppare il loro algoritmo con queste foto.

«Mia sorella è morta», ha detto Scarlett a Wired. «Non può acconsentire o revocare il consenso».

«PimEyes esegue la scansione solo dei siti web che ci consentono ufficialmente di farlo», ha dichiarato a Wired il direttore dell’azienda Giorgi Gobronidze. «È stata… una notizia molto spiacevole che i nostri crawler abbiano infranto in qualche modo la regola».

E sebbene il sito abbia tecnicamente una funzione di disattivazione che può consentire agli utenti di limitare l’utilizzo di un’immagine specifica di se stessi nel motore, Gobronidze ha ammesso che la funzione di disattivazione «non funzionerà sempre con un’efficienza del 100%».

Vale la pena notare che questa non è la prima volta che il sito è stato coinvolto in polemiche.

Come sottolinea Wired, la privacy dei bambini è stata ampiamente considerata una preoccupazione. Ma mentre Gobronidze ha detto a Wired che PimEyes ha lanciato un «protocollo di sicurezza in più fasi» per proteggere i bambini a partire dal 9 gennaio, alcuni partner dell’azienda, tra cui alcune ONG, sono «autorizzati» e possono eseguire ricerche illimitate sulla piattaforma.

«In altre parole, le regole non si applicano sempre (…) I misfatti di PimEyes sono sintomatici di un futuro in cui le nostre identità online e persino i nostri volti sono tutt’altro che protetti da occhi indiscreti» riassume Futurism. «E nonostante la promessa di guardrail, sia PimEyes che Ancestry hanno fallito nei loro tentativi di proteggere la nostra privacy».

Altrove, sia i gruppi per i diritti umani che gli esperti hanno affermato che tramite questo tipo di siti si può passare allo stalking e altri abusi – e non solo della memoria dei defunti: i dati ottenuti – che sono ad un clic di distanza – potrebbero essere usati per stalking, doxxing e altri danni ai vivi.

Notiamo tuttavia, come anche qui siamo dinanzi alla tendenza negromantica che sta rivelando il mondo digitale.

Come riportato da Renovatio 21, sappiamo che in tanti, compresa Microsoft che ha già ottenuto un brevetto e Amazon che potrebbe implementare la voce dei defunti sui suoi speaker, stanno lavorando a questi macabri prodotti, con sperimentazioni fuori di ogni logica umana, come la «presenza» – via IA – del morto al suo stesso funerale in cui i parenti e gli amici possono «interagire» con una sua replica digitale.

Con l’AI, inoltre, hanno «invecchiato» vari personaggi famosi che sono morti prima di divenire anziani.

L’IA ha permesso ora la ricostruzione della voce di John Lennon, ripulita via algoritmo da un nastro fornito da Yoko Ono e inserita in quella che Paul McCartney ha descritto come «la canzona definitiva dei Beatles».

Anche il cantante, ucciso nel 1981 da un personaggio forse legato al progetto di controllo mentale dei servizi americani MK Ultra, non crediamo abbia dato l’assenso, tuttavia probabilmente la controversa vedova nipponica magari sì.