«Di fronte a enormi scandali come quello di Facebook e Cambridge Analytica non ci stiamo ponendo le domande giuste, quelle che veramente ci riguardano. Non dovremmo vedere soltanto ciò che la tecnologia fa o può fare, sia che la utilizziamo noi, sia che la utilizzi un’impresa o un governo. La società in cui viviamo è fondata su un sistema che non è in grado di impedire lo spionaggio sui nostri dati. Meno ancora che essi vengano commercializzati e usati per fini estranei al nostro controllo o interesse. Eppure non è quella la minaccia più grave del caso emerso con Cambridge Analytica. La domanda importante riguarda quello che la tecnologia fa a noi: perché e come ci facciamo modellare da dispositivi sempre più astratti i quali, attraverso l’applicazione di certi algoritmi, possono indurre pensieri o orientamenti che non abbiamo scelto»

Di fronte a scandali come quello di Facebook e Cambridge Analytica non ci stiamo ponendo le domande giuste, quelle che veramente ci riguardano. L’attenzione è concentrata su quello che la tecnologia può fare: come vengono raccolti e processati i dati personali, come vengono utilizzati per influenzare la gente, come certi gruppi possono utilizzare questo a fini propri, quali che essi siano.

Si ricerca la trasparenza nel contratto dell’Istituto Nazionale Elettorale con Facebook. Sembra una cosa sensata. Si fa pressione su Facebook affinché controlli l’informazione. Tuttavia, come lo stesso Zuckerberg si è chiesto in pubblico, la scorsa settimana, ci si deve chiedere se deve essere suo il compito di filtrare quello che passa nella rete, se deve svolgere un’azione di censura. Rispondere di no, non risolve il problema. Se non è lui, chi allora? I governi? I parlamenti? Commissioni di cittadini? Le Nazioni Unite? Il problema consiste forse nello stabilire chi deve censurare?

La discussione prosegue incentrata su quello che la tecnologia fa. L’enfasi oggi sembra consistere nella contraddizione fra utenti e clienti di Facebook. Facebook presta un servizio a circa 2 miliardi e 200 milioni di persone. Questi utenti non sono i suoi clienti. I suoi clienti sono quelli che comprano l’informazione sui suoi utenti, per i propri fini; sono loro che creano i guadagni che hanno reso Zuckerberg uno dei cinque uomini più ricchi del mondo.

Un processo analogo avviene con coloro che usano carte di credito o i servizi di un ospedale o di un supermercato. L’informazione elettronica su ciò che le persone fanno o cessano di fare nella loro vita quotidiana è una merce. La comprano coloro che la usano per i propri interessi politici, economici o di qualsiasi altro tipo. La comprano per modellare pensieri e comportamenti in funzione di ciò che loro conviene. La società nella quale viviamo non può impedire che questo spionaggio avvenga e ancor meno che venga commercializzato e utilizzato per finalità che non sono quelle degli utenti.

Forse però non è questo che dobbiamo chiederci, anche dopo aver saputo che non c’è una risposta accettabile. Non dovremmo vedere soltanto ciò che la tecnologia fa o può fare, sia che la utilizziamo noi, un’impresa o un governo. La domanda importante è quello che la tecnologia fa a noi: in qual maniera ci facciamo modellare da dispositivi sempre più astratti i quali, attraverso l’applicazione di certi algoritmi, possono indurre pensieri o orientamenti.

Non sembra esserci un grave danno nel fatto che un’impresa acquisisca informazioni sull’acquisto di medicine che una persona ha fatto per farle arrivare un messaggio pubblicitario di ciò che l’impresa vende. La persona potrà farci caso o meno, e comunque i vantaggi e le libertà associati alle nuove tecnologie sembrerebbero compensare il prezzo di essere esposti a tale pubblicità. Però questo è già superato. Il problema è molto più profondo, molto più grave. E’ di altra natura. Che qualcosa come ciò che ha fatto l’impresa con cui Trump ha fatto l’accordo sia possibile, che una certa tecnica possa determinare ciò che facciamo o decidiamo di non fare, ossia votare per un candidato o comprare una determinata marca di sapone, che siamo arrivati a questo punto, questo è ciò che deve preoccuparci.

50 anni or sono, nel 1968, Erich Fromm osservò che un fantasma si stava aggirando furtivamente fra noi e solo pochi lo avevano visto chiaramente: il fantasma di una società meccanizzata diretta da computer. In questa società, scrisse Fromm, l’uomo stesso, ben nutrito e soddisfatto, sebbene passivo, appagato e poco sentimentale, si sta trasformando in un ingranaggio della macchina globale. [Nella nuova società] i sentimenti verso gli altri saranno diretti dal condizionamento psicologico e da altri espedienti dello stesso genere, o da droghe, che a loro volta forniranno un nuovo tipo di esperienza introspettiva. La cosa più grave, pensava Fromm, è che perdiamo il controllo del nostro stesso sistema. «Eseguiamo le decisioni che i calcoli del computer elaborano per noi. (…) Non vogliamo nulla né rinunciamo a volere qualcosa. Le armi nucleari minacciano di estinguerci e la passività (…) di ucciderci internamente» (La revolución de la esperanza, FCE, 1970, p.13).

Lo stesso Fromm citava Zbigniew Brzezinski, di infausta memoria: «Nella società ‘tecno-elettronica’, la tendenza sembra andare nel senso dell’aggregazione dell’appoggio individuale di milioni di cittadini fra loro scoordinati, che cadranno facilmente dentro il raggio d’azione di personalità magnetiche e attrattive, le quali sfrutteranno in modo efficace le tecniche più recenti di comunicazione per manipolare le emozioni e controllare il pensiero» (p. 13).

A questo siamo arrivati. Come si può vedere nel mercato elettorale messicano, non è necessario che siano personalità magnetiche e attrattive… Ma la domanda non deve concentrarsi su coloro che quotidianamente commettono l’atrocità della manipolazione, su quelli che vivono di questo affare, su Facebook, per esempio, o su partiti e candidati messicani. La domanda deve vertere sugli utilizzatori, quelli che si sono lasciati trasformare in un profilo; quelli che credono di star parlando con altri quando stanno solo scambiando informazioni con loro; quelli che contano soddisfatti il numero di amici o amiche che in quel momento stanno guardando la loro fotografia, il selfie, che hanno appena caricato sulla loro pagina; quelli che, in realtà, sono già diventati ciò che l’algoritmo capta e usa, quelli e quelle che si sono trasformati in ciò che la loro traccia elettronica fa vedere… Il trucco funziona solo per questo. Questo è il vero problema.