Culture e pratiche di sorveglianza. Leviatano 4.0 e società onlife della prestazione

di Gioacchino Toni

Digitalizzazione, intelligenza artificiale e tutto ciò che vi ruota attorno prospettano mondi nuovi che però non mancano di rifarsi a dinamiche di potere non necessariamente nuove, su ciò si concentra il volume di Mirko Daniel Garasic, Leviatano 4.0. Politica delle nuove tecnologie (Luiss University Press, 2022). Accolte come possibilità di estrema valorizzazione dell’autonomia e delle opportunità degli individui, capaci di aprire loro inedite possibilità di interfacciarsi con contesti, realtà, paesi e individualità altre, a distanza di tempo gli entusiasmi per queste trasformazioni digitali sembrano essersi sgonfiati di fronte al manifestarsi di una crescente perdita di ciò a cui si guardava come direttamente rappresentativo della libertà e dell’autonomia dell’individuo. Se tale “cambio di umore” nei confronti della rivoluzione digitale è percepibile tra gli studiosi, non si può forse dire che qualcosa di analogo accada a livello diffuso o che, perlomeno sin qua, sia adeguatamente percepita e problematizzata la portata della trasformazione in atto.

L’obiettivo che si pone l’analisi di Garasic è quello di «integrare gradualmente l’analisi della tecnologia in maniera “neutra”, incentrata quindi su valutazioni oggettive di impatto e uso delle stesse, con la presa di coscienza di come questi cambiamenti sistematici abbiano finito per modificare il modo di relazionarsi con gli altri (la polis) e con sé stessi» (p. 26).

Dopo aver velocemente passato in rassegna le ideologie classiche a cui fa o ha fatto riferimento la politica moderna, compresa la più recente, lo studioso approfondisce il ruolo che algoritmi, tecnologie ed applicazioni quali robot, droni, 5G, Internet of Things, Blockchain, ecc., hanno ed avranno non solo sulle dinamiche lavorative e politiche, ma anche a livello etico e antropologico.

Garasic si sofferma, come esempio, sull’estensione, in piena emergenza pandemica, del “raggio d’azione” della app Dreamlab di Vodafone, sino ad allora utilizzata per raccogliere dati durante il sonno dei clienti affetti da cancro (che ne avevano dato il consenso) utili, se combinati con altri parametri comportamentali (stile di vita, sedentarietà, abitudini alimentari) alla ricerca scientifica.

Il rapido “riciclo” di una app, come questa, pianificata per raccogliere informazioni riguardanti individui in condizione di malattia al fine di verificare l’incidenza di certi comportamenti su di essa ad uno scopo di tipo “preventivo” – il diffondersi di un virus non ancora contratto – non può che sollevare numerose perplessità.

Volgiamo davvero consentire a qualsiasi azienda di iniziare a raccogliere i nostri dati solo perché potrebbero potarci a dei risultati utili in futuro? Che dire di tutti quei dati che le aziendale private raccolgono e utilizzano per il loro profitto? Non prestare attenzione a questa distanza inquietante tra ciò che già sappiamo e ciò che speriamo di trovare, potrebbe rendere il nostro consenso informato limitato sin dalla sua genesi. […] L’intento generale di Dreamlab e di altri progetti simili pare nobile da un certo punto di vista, ma, alla luce del fatto che questa iniziativa è portata avanti da una società privata che si basa anche su studi di neuromarketing che hanno come obiettivo principale quello di scoprire le debolezze del consumatore, alcuni dubbi sull’obiettivo non svelato dell’esperimento (perché di questo si tratta) rimangono (p. 81).

Ad essere affrontate dal volume sono anche le cosiddette città intelligenti, a proposito delle quali l’autore mette in risalto come a fronte di una presentazione entusiastica che le vuole esempi virtuosi di ecologismo e, persino, di democrazia diretta, si diano, però, non poche preoccupazioni a proposito dell’annientamento della privacy, di un crescente divario digitale che rischia di condurre a far vivere la cittadinanza in maniera completamente differente e di discriminazioni derivanti dalla non neutralità della tecnologia. Su quanto il razzismo sia radicato in molte tecnologie, l’autore riprende il volume di Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code ‎(Polity Pr, I. ed. 2019) – il “nuovo codice Jim” richiama le leggi razziste “Jim Crow” in uso fino agli anni Sessanta del Novecento negli Stati Uniti del Sud – in cui vine mostrato il razzismo soggiacente agli algoritmi utilizzati dalle autorità pubbliche statunitensi circa la “propensione al crimine”.

In particolare nel volume si prendono in esame, oltre al “sistema di credito sociale di stato” cinese, di cui i media occidentali hanno dato conto – più in funzione propagandistica che di reale denuncia di un meccanismo che in realtà si sta diffondendo anche tra gli autoproclamati “esportatori di democrazia” – anche sistemi utilizzati da piattaforme come Alibaba, che con il suo Sesame Credit struttura un sistema di “moralizzazione dei consumi” premiante permettendo, ad esempio, ai clienti che acquistano con regolarità attrezzature sportive per tenersi in forma, di ottenere “crediti” vantaggiosi nel noleggio di automobili, nella prenotazione di alberghi e persino forme ascesso privilegiato negli ospedali. «Per esempio in Giappone l’assicurazione sanitaria nazionale richiede alle persone di vedere uno specialista se il girovita supera determinati parametri mentre il punteggio della Fair Isaac Coroporation (FICO) con sede negli Stati Uniti fornisce analisi di credit score (che permette l’accesso o meno a mutui, prestiti, e altro) a tantissimi paesi occidentali» (p. 96).

Il volume si sofferma anche sulla complessa relazione tra corpo, tecnologia e politica. Oltre all’indagato impatto di dispositivi tecnologici separati e indipendenti dall’individuo, è infatti importante analizzare situazioni in cui tale separazione si affievolisce comportando un’inedita, quanto marcata, incidenza non solo sulla concettualizzazione del sé ma anche del più generale sistema giudiziario e politico.

Si può prendere come esempio il ricorso agli esoscheletri sui luoghi di lavoro: se da un lato è indubbio che il ricorso a tali dispositivi può comportare reali benefici sulla salute dei lavoratori e delle lavoratrici, riducendo in parte i loro sforzi fisici, dall’altro, “quel che esce dalla porta può rientrare dalla finestra” sotto forma di incremento dei ritmi produttivi. Inoltre, se l’utilizzo di dispositivi tecnologici nell’accudimento degli anziani o dei malati può alleviare le fatiche fisiche del personale sanitario, dall’altro possono anche comportare una diminuzione dei rapporti umani tra i soggetti in causa, rendendo le cure e l’accudimento sempre più spersonalizzati.

La tecnologia tende ad essere piegata all’ossessione per la prestazione che permea la contemporaneità. «Dall’economia, all’educazione, passando per il mondo lavoro, il potenziamento del livello delle nostre attività è visto, in Occidente almeno, come un obiettivo positivo e ricercato» (p. 112). Esemplare in tal senso è la ricerca prestazionale in ambito militare e non solo a proposito di protesi tecnologiche volte ad esempio alla visione aumentata¹ ma anche al ricorso a farmaci di ogni tipo per il potenziamento performante – DDP, performance enhancing drugs – a cui sono stati sottoposti i soldati già nel corso della seconda guerra mondiale, poi gli statunitensi in Vietnam e ancora in epoca contemporanea, compresi i combattenti dell’ISIS.

Se in ambito militare il ricorso alle droghe si pone storicamente l’obiettivo di vincere la paura, sedare le truppe di ritorno dal campo di battaglia e vincere la fatica, in ambito civile è proprio a questo ultimo fine che vi viene fatto ricorso, ad esempio, in ambito aeronautico, si ricorre a sostanza per “far reggere” ai piloti i turni sempre più massacranti a cui sono sottoposti. Inoltre, sottolinea Garasic, se per quanto riguarda gli ambienti militari il ricorso a farmaci performanti tende ad essere giustificato in virtù della sua eccezionalità, nell’universo civile-lavorativo la motivazione risiede nel dover ottemperare quotidianamente – e non eccezionalmente – all’imperativo della prestazione produttiva finalizzata al profitto.

La portata dei cambiamenti sin qua tratteggiati comporta anche la necessità di confrontarsi con i nuovi diritti e doveri che attraversano la società contemporanea anche alla luce del fatto che «la possibilità di poter leggere il pensiero di qualcuno senza il suo consenso sta diventando ogni giorno una possibilità più concreta» (p. 28). Converrà tornare su questa ultima questione su cui si sofferma la parte finale di Leviatano 4.0.

Su Carmilla – Serie completa Culture e pratiche di sorveglianza

Note

Cfr. Ruggero Eugeni, Le negoziazioni del visibile. Visioni aumentate tra guerra, media e tecnologia, in Maurizio Guerri (a cura di), Le immagini delle guerre contemporanee, Meltemi, Milano, 2018. [Su Carmilla].

Fonte