Maschera e volto del Capitalismo di sorveglianza

Renovatio 21 pubblica l’ultimo estratto di un articolo di capitale importanza scritto per il New York Times da Shoshana Zuboff, docente universitario ad Harvard. Il suo libro Il capitalismo della sorveglianza è testé stato tradotto anche in italiano.

Quando abbiamo cominciato a riportare i brani dell’articolo della professoressa Zuboff, dobbiamo ammettere, il mondo era molto diverso. La fine della privacy, si voleva dire, è realtà oggi stesso, nascosta tra le pieghe degli illeggibili contratti per i software, inghiottita per sempre nei server della Silicon Valley.

La fine della privacy era una catastrofe tollerata dai politici democratici e dal loro elettorato beota, narcotizzato dallo stipendio semi-pubblico e sempre più intollerante verso il dissenso: una radicalizzazione, una patente xenofobia nei confronti delle idee altrui che è essa stessa effetto del capitalismo di sorveglianza e della sua Filter Bubble, la bolla di filtraggio per cui vediamo  (sui social, su YouTube, sugli ecommerce) in rete solo argomenti che rafforzano le nostre idee spingendole sempre più verso l’estremismo.

Eccoci servita la radicalizzazione della mediocrità, che si è presto sposata con la censura. La rete perdeva la sua libertà, ma alle masse liberali nulla importa – anzi. Nel frattempo i nostri dati, i nostri umori, i nostri segreti finivano molto poco liberamente nei server dei colossi delle aziende e degli uomini più ricchi della Terra, senza che ne avessimo alcun controllo. I vostri pensieri, i vostri comportamenti del passato e del presente e del futuro – perché gli algoritmi a questo servono, ad eseguire con la maggior esattezza possibile delle predizioni – non vi appartengono più. Sono stati fagocitati da conglomerati miliardari e venduti a chi voleva.

Tuttavia giammai avremmo pensato che ci saremmo trovati nel giro di poche settimane a vedere la realizzazione nel nostro Paese non dello strisciante surveillance capitalism, ma di un sistema di sorveglianza totale alla cinese. Dalla Cina è venuto il virus; dalla Cina sta venendo una minaccia altrettanto spaventosa. E ce la stanno spacciando come l’antidoto al male planetario.

La Cina Popolare gode infatti del sistema più invasivo al mondo di spionaggio elettronico dei cittadini. Le tecnologie di cui dispone il PCC, e con cui ha ricoperto l’intero Paese, sono state con successo esportate anche all’estero. Dalle telecamere a riconoscimento facciale al sistema del credito sociale, dalle app anti-contagio a sistemi di ricostruzione dei volti a parte dal DNA dell’individuo, il catalogo del totalitarismo elettronico di Pechino è il più ricco del mondo. Renovatio 21 ne ha scritto numerose volte.

Al contempo, non possiamo dimenticare come anche nel nostro Paese le forze politiche che simpatizzano (usiamo questo verbo) con la Repubblica Popolare Cinese non mancano, né al governo né negli apparati profondi.

Abbiamo iniziato qualche mese fa questo discorso per indicare i pericoli di Google, Facebook e compagni; oggi ci ritroviamo a vedere che vogliono imporre all’intera popolazione nazionale una app di tracciamento – peraltro realizzata da una società che è parzialmente finanziata da capitali orientali.

Quello che in teoria era tabù, oggi è stato fatto scendere di vari gradini. La distruzione della privacy è stata overtonizzata: fa impensabile, è divenuta accettabile, razionale, popolare, legale – come da infallibile Finestra di Overton.

Già abbiamo visto, in questi giorni di disgrazia, famosissimi cantanti garantire ai fan: scaricate la app di tracciamento dello Stato, tanto avete già dato i vostri dati a Google e Facebook. Come dire: avete già subito lo stupro della vostra intimità da parte delle multinazionali web, ora subite quello del nuovo Stato elettrototalitario. Non ci preoccupiamo della logica del discorso, né delle apofantiche questioni tecniche, legali, costituzionali sollevate.

Ci prema rilevare altro: il Capitalismo di Sorveglianza è qui. Lo Stato di sorveglianza pure. Ciò è incontrovertibile. E sta avvenendo con una accelerazione immane.

Su tale realtà, va fatta una abissale riflessione. Perché, crediamo, la realtà va sempre affrontata, per quanto mostruosa essa sia. L’universo in quarantena, la società sconvolta dal Coronavirus non è la cosa peggiore che sta capitando.

Da un mondo dominato dagli algoritmi e dai Big Data che noi stesso offriamo loro in pasto, chi si salverà?

Renovatio 21

I capitalisti della sorveglianza sono ricchi e potenti, ma non sono invulnerabili. Hanno un tallone d’Achille: la paura. Temono i legislatori che non li temono. Temono i cittadini che chiedono una nuova strada mentre insistono nel volere nuove risposte

I capitoli precedenti pubblicati da Renovatio 21: «“Capitalismo di sorveglianza”. Ora sei controllato a distanza»; «Elementi di Capitalismo di sorveglianza»; «Imperativi del Capitalismo di sorveglianza»

Da «You are remotely controlled», New York Times 24 gennaio 2020

Sappiamo che i capitalisti della sorveglianza lavorano nell’ombra, ma ciò che fanno lì e le conoscenze che accumulano ci sono sconosciuti. Hanno i mezzi per sapere tutto di noi, ma noi possiamo sapere poco di loro. La loro conoscenza di noi non è per noi. Invece, i nostri futures sono venduti per i profitti degli altri.

Da quella riunione della Federal Trade Commission nel 1997, la linea non fu mai tracciata e il popolo divenne una massa di schiavi da sfruttare per il commercio. Un’altra illusione distruttiva è che questo risultato sia stato inevitabile, una conseguenza inevitabile delle tecnologie digitali che migliorano la convenienza. La verità è che il capitalismo della sorveglianza ha dirottato il mezzo digitale. Non c’era nulla di inevitabile al riguardo.

Sappiamo che i capitalisti della sorveglianza lavorano nell’ombra, ma ciò che fanno lì e le conoscenze che accumulano ci sono sconosciuti. Hanno i mezzi per sapere tutto di noi, ma noi possiamo sapere poco di loro

I legislatori americani sono stati riluttanti ad affrontare queste sfide per molte ragioni. Una è una politica non scritta di «eccezionalità della sorveglianza» forgiata all’indomani degli attentati dell’11 settembre, quando le preoccupazioni del governo sono passate dalla protezione della privacy online a un nuovo zelo per la «consapevolezza totale delle informazioni». In quell’ambiente politico le nuove capacità di sorveglianza emergenti dalla Silicon Valley sembravano portatrici di grandi promesse.

I capitalisti della sorveglianza si sono anche difesi con pressioni e forme di propaganda tese a minare e intimidire i legislatori, confondendo il giudizio e congelando l’azione. Questi hanno ricevuto relativamente poco controllo rispetto al danno compiuto. Consideriamo due esempi:

Il primo è l’affermazione che la democrazia minaccia la prosperità e l’innovazione. L’ex amministratore delegato di Google, Eric Schmidt, ha spiegato nel 2011 «abbiamo preso la posizione di “giù le mani da internet”. Sai, lasciaci soli … Il governo può commettere errori normativi che possono rallentare tutto, e noi lo vediamo e ci preoccupiamo». Questa propaganda è stata riciclata dai baroni dell’Età Dorata, che ora chiamiamo «ladri». Insistevano sul fatto che non c’era bisogno della legge quando si aveva la «legge di sopravvivenza del più adatto», le «leggi del capitale» e la «legge della domanda e dell’offerta».

I nostri futures sono venduti per i profitti degli altri

Paradossalmente, il capitale di sorveglianza non sembra guidare l’innovazione. Una nuova promettente era di ricerca economica mostra il ruolo fondamentale che il governo e la governance democratica hanno svolto nell’innovazione e suggerisce una mancanza di innovazione nelle grandi aziende tecnologiche come Google.

Assistiamo a un’operazione di frontiera gestita da geni con un vasto capitale e potere computazionale che è furiosamente dedicato alla scienza lucrativa e all’economia della previsione umana per il proprio guadagno

Il predominio dell’informazione del capitalismo di sorveglianza non è dedicato alle urgenti sfide dell’energia senza emissioni di carbonio, all’eliminazione della fame, alla cura dei tumori, alla pulizia degli oceani dalla plastica o al dotare il mondo di insegnanti e dottori ben pagati, intelligenti e amorevoli. Assistiamo, invece, a un’operazione di frontiera gestita da geni con un vasto capitale e potere computazionale che è furiosamente dedicato alla scienza lucrativa e all’economia della previsione umana per il proprio guadagno.

La seconda forma di propaganda è l’argomentazione secondo cui il successo delle principali società capitaliste di sorveglianza riflette il valore reale che apportano alle persone. Ma i dati dal lato della domanda suggeriscono che il capitalismo di sorveglianza rappresenta un fallimento del mercato. Invece di uno stretto allineamento di domanda e offerta, le persone usano questi servizi perché non hanno alternative comparabili e perché ignorano le operazioni ombra del capitalismo di sorveglianza e le loro conseguenze.

Il Pew Research Center ha recentemente riferito che l’81% degli americani ritiene che i potenziali rischi della raccolta dei dati delle aziende siano superiori ai benefici, suggerendo che il successo aziendale dipende dalla coercizione e dall’offuscamento piuttosto che dal soddisfacimento dei bisogni reali delle persone.

L’81% degli americani ritiene che i potenziali rischi della raccolta dei dati delle aziende siano superiori ai benefici, suggerendo che il successo aziendale dipende dalla coercizione e dall’offuscamento piuttosto che dal soddisfacimento dei bisogni reali delle persone

Nella sua premiata storia della regolamentazione, lo storico Thomas McCraw lancia un avvertimento. Nel corso dei secoli i regolatori hanno fallito quando non hanno definito «strategie appropriate per le particolari industrie che stavano regolando». Le leggi sulla privacy e antitrust esistenti sono di vitale importanza, ma nessuna delle due sarà adeguata alle nuove sfide poste dall’inversione della disuguaglianza epistemica.

Questi contesti del 21° secolo richiedono un quadro di diritti epistemici sanciti dalla legge e soggetti al governo democratico. Tali diritti interromperebbero le catene di fornitura dei dati salvaguardando i confini dell’esperienza umana prima che vengano assaliti dalle forze della datafication.

La scelta di trasformare ogni aspetto della propria vita in dati deve appartenere agli individui in virtù dei loro diritti in una società democratica. Ciò significa, ad esempio, che le aziende non possono rivendicare il diritto sul tuo volto o utilizzare il tuo viso come materia prima gratuita per analisi o per possedere e vendere qualsiasi prodotto computazionale derivante dal tuo volto. La conversazione sui diritti epistemici è già iniziata, come evidenzia un rapporto pionieristico di Amnesty International.

La scelta di trasformare ogni aspetto della propria vita in dati deve appartenere agli individui in virtù dei loro diritti in una società democratica

Dal lato della domanda, possiamo mettere al bando i mercati dei futures umani e quindi eliminare gli incentivi finanziari che sostengono il dividendo di sorveglianza. Questa non è una prospettiva radicale. Ad esempio, le società vietano i mercati che commerciano organi umani, neonati e schiavi.

In ogni caso, riconosciamo che tali mercati sono moralmente ripugnanti e producono conseguenze prevedibilmente violente. È possibile dimostrare che i mercati di futures umani producono risultati altrettanto prevedibili che sfidano la libertà umana e minano la democrazia. Come i mutui subprime e gli investimenti in combustibili fossili, le attività di sorveglianza diventeranno le nuove attività tossiche.

È possibile dimostrare che i mercati di futures umani producono risultati altrettanto prevedibili che sfidano la libertà umana e minano la democrazia. Come i mutui subprime e gli investimenti in combustibili fossili, le attività di sorveglianza diventeranno le nuove attività tossiche

A sostegno di un nuovo panorama competitivo, i legislatori dovranno difendere nuove forme di azione collettiva, proprio come quasi un secolo fa si battevano per le tutele legali per i diritti di organizzazione, sciopero e contrattazione collettiva tra legislatori e lavoratori nel limitare i poteri dei monopoli capitalisti.

I legislatori devono cercare alleanze con cittadini profondamente preoccupati per il potere incontrollato dei capitalisti di sorveglianza e con i lavoratori che cercano salari equi e ragionevole sicurezza in contrasto con le precarie condizioni di lavoro che definiscono l’economia della sorveglianza.

Ogni cosa creata dagli umani può essere disfatta dagli umani. Il capitalismo di sorveglianza è giovane, ha appena 20 anni, ma la democrazia è vecchia, radicata in generazioni di speranza e contesa.

I capitalisti della sorveglianza sono ricchi e potenti, ma non sono invulnerabili. Hanno un tallone d’Achille: la paura. Temono i legislatori che non li temono. Temono i cittadini che chiedono una nuova strada mentre insistono nel volere nuove risposte a vecchie domande: chi lo saprà?

Ogni cosa creata dagli umani può essere disfatta dagli umani

Chi deciderà chi lo sa?

Chi deciderà chi decide?

Chi scriverà la musica e chi ballerà?

Traduzione di Alessandra Boni