di Gioacchino Toni
“Have you ever questioned the nature of your reality?” (Westworld)
Del volume di Emanuela Piga Bruni, La macchina fragile. L’inconscio artificiale fra letteratura, cinema e televisione (Carocci, 2022), che attraverso l’immaginario fantascientifico incentrato sull’ibridazione umano/macchina affronta i concetti di fragilità e vulnerabilità nella dimensione sociale e tecnologica di una contemporaneità sempre più automatizzata, ci si è già occupati su Carmilla. Di seguito ci si limiterà pertanto a riprendere alcune riflessioni proposte dall’autrice nel confrontare la serie televisiva Westworld prodotta nel nuovo millennio con l’omonima opera cinematografica dei primi anni Settanta di Michael Crichton utili non solo a evidenziare le mutate modalità con cui attraverso il filtro distopico si guarda al rapporto tra gli umani e gli esseri tecnologici antropomimetici e all’emergere della questione della “coscienza artificiale”, ma anche a prendere atto delle nuove forme di sfruttamento introdotte dall’universo digitalizzato contemporaneo.
Dopo essersi soffermata sul perturbante confronto tra l’essere umano e la macchina antropomorfa, sul rapporto tra identità/alterità che ne deriva e sul problema della coscienza a partire da alcuni celebri interrogatori o colloqui psicoanalitici proposti dalla fantascienza – dalle indagini del robopicologo di Mirror Image (1972) di Isaac Asimov, alla misurazione dell’empatia del test Voight-Kampff in Do Androids Dream of Electric Sheep (1968) di Philip K. Dick, poi ripreso dal film Blade Runner (1982) di Ridley Scott, fino al dialogo tra due cyborg ibridazioni umano-tecnologiche di Ghost in the Shell, media franchise sviluppatosi a partire dal celebre manga di Masamune Shirow (dal 1989) – Emanuela Piga Bruni propone un interessante confronto tra il film Il mondo dei robot (Westworld, 1973) di Michael Crichton e la serie televisiva da esso derivata Westworld – Dove tutto è concesso (Westworld, dal 2016) creata da Jonathan Nolan e Linda Joy per HBO suggerendo importanti riflessioni sul contesto contemporaneo ipertecnologico votato alla disincarnazione dell’umano e alla trasformazione del suo immaginario e della sua coscienza.
Un contesto, quello contemporaneo, in cui pur persistendo il fascino per l’avanzata digitale nonostante il palesarsi della deriva a cui questa sta conducendo in termini di controllo e sfruttamento, cresce anche il timore per la perdita del controllo sulle tecnologie da parte degli esseri umani indotti a domandarsi con preoccupazione se i computer potranno mai avere una coscienza simile a quella umana evitando però di chiedersi quanto quest’ultima si stia nel frattempo “computerizzando” per effetto delle moderne Tecnologie dell’informazione e della comunicazione e dell’Intelligenza Artificiale al servizio del capitalismo della sorveglianza e predittivo.
Alcune narrazioni distopiche hanno saputo proporre riflessioni sull’incidenza delle tecnologie sugli esseri umani e su come questi ultimi si stiano trasformando. Se il romanzo di fine anni Sessanta Do Androids Dream of Electric Sheep di Dick si concentra sulle strutture oppressive del potere in un periodo incentrato sul medium televisivo, nel film dei primi anni Ottanta Blade Runner di Scott è invece l’universo informatico nella forma antropomorfa del replicante a conquistare la scena.
Confrontando l’androide del romanzo con il replicante del film si nota come del primo Dick eviti di dare una descrizione tecnologica, tratteggiandolo quasi come una figura magica, mentre il secondo venga utilizzato da Scott per mettere in scena non tanto una guerra tra esseri umani e macchine sfuggite al controllo, quanto piuttosto un tragico confronto tra macchine sempre più intelligenti e intuitive che sembrano dotarsi di coscienza ed esseri umani che stanno perdendo le loro peculiarità.
Se nel romanzo sono gli androidi a mancare di empatia, nel film sono piuttosto gli umani a mostrarsi deficitari in tal senso. Nell’opera di Scott il discrimine tra umano e macchina si sposta sulla presenza o meno di un passato, su quanto i ricordi siano derivati da esperienze vissute o impiantati artificialmente. Evidenziando il processo di artificializzazione del corpo umano, il film, rispetto al romanzo, insiste sulla sempre più difficile distinguibilità tra naturale e artificiale, tra organico e tecnologico.
Nell’opera di Dick l’artificiale assume un ruolo negativo in quanto simboleggia la realtà sintetica creata dai media e dalla farmacologia che ha condotto alla perdita di qualità tipicamente umane come l’empatia, l’amore e l’ironia: lo scrittore invita dunque a cogliere nell’artificiale la manipolazione della realtà operata dal potere.
Si può dire che a marcare una differenza sostanziale tra gli androidi di Dick e i replicanti di Scott è il fatto che mentre i primi vengono considerati demoni perché mancano di un’anima, i secondi si presentano come vittime del demone umano che sembra ormai aver smarrito la propria.
La questione della macchina antropomimetica è affrontata da Dick in un paio di suoi racconti nei primi anni Cinquanta: Second Variety e Impostor pubblicati su riviste di fantascienza nell’estate del 1953 (rispettivamente su “Space Science Fiction” e “Astounding Science Fiction”). Se nel primo il dover distinguere chi è umano da chi non lo è induce il lettore a immedesimarsi con il protagonista umano certo di essere tale, nel secondo caso chi legge è invece portato a identificarsi con chi, sospettato di essere artificiale, sente minacciata la propria identità di essere umano.
La questione della macchina antropomimetica si viene a intrecciare con il motivo del “cogito androide” ripreso da Dick sul finire degli anni Sessanta tanto nel citato Do Androids Dream of Electric Sheep? quanto nel racconto The Electric Ant (1969) in cui non ci si chiede più se si è realmente umani o soltanto programmati come tali, ma ci si domanda come possa reagire un robot organico che si crede umano nel momento in cui viene a conoscenza della sua vera natura. La questione del cogito androide, centrale nel film di Scott, viene affrontata direttamente da Dick nei suoi scritti The Android and the Human (1972) e Man, Android and Machine (1976).
Anche dal confronto tra il film Westworld di Crichton e l’adattamento che ne ha derivato l’omonima serie televisiva creata da Jonathan Nolan e Linda Joy proposto da Emanuela Piga Bruni – che si concentra esclusivamente sulla prima stagione – permette di evidenziare come siano cambiate le modalità con cui si guarda al rapporto tra gli umani e gli esseri tecnologici antropomimetici, con tanto di emergere della “coscienza artificiale”.
Lo scenario è quello di un parco divertimenti a tema con diverse ambientazioni – antica Roma imperiale, medioevo fiabesco e western di fine Ottocento – di proprietà della corporation Delos Inc. in cui operano robot antropomorfi indistinguibili dagli esseri umani programmati per soddisfare i desideri dei facoltosi visitatori sotto la discreta sorveglianza di operatori umani da una sala di controllo.
Ai clienti è permesso tutto ciò è invece loro proibito nella vita quotidiana in quanto ogni loro comportamento è rivolto contro esseri non umani imprigionati nella coazione a ripetere programmata, impossibilitati a ribellarsi mettendo in pericolo i visitatori. Un guasto nei robot induce uno di loro, il gunslinger “dal cappello nero” – che ha le sembianze dell’attore Yul Brynner, tra i protagonisti del celebre western I magnifici sette (The Magnificent Seven, 1960) di John Sturges – a prendere violentemente di mira uno dei clienti, Peter Martin (Richjard Benjamin), arrivato nel parco insieme all’amico John Blane (James Brolin), dai diversi tratti compartimentali.
Nella serie televisiva i due amici diventano Logan (Ben Barnes), individuo senza scrupoli desideroso di sfogare i suoi peggiori istinti sui personaggi antropomorfi, e William (Jimmi Simpson), che da un iniziale ritrosia a commettere atti violenti si trasforma nel corso delle sue ripetute partecipazioni al gioco facendo pian piano emergere la parte più oscura di sé mentre tenta di risolvere il “mistero del labirinto” e di scoprire il dietro le quinte del parco.
Centrale nella serie è il personaggio di Dolores, prototipo degli host realizzati da Robert Ford (Anthony Hopkins) e dall’ormai deceduto, rispetto al presente narrativo, Arnold Weber (Jeffrey Wright), incline a essere solidale alle proprie “creature”.
Piga Bruni sottolinea come sul piano metanarrativo il testo televisivo non manchi di rinviare alla produzione e al funzionamento tipici della serialità generando un meccanismo di mise en abîme. Il controllo si presenta come un sistema a livelli concentrici con al centro i loops degli host, dunque le gesta dei clienti, i tecnici della corporation e, al livello più esterno, chi osserva la serie televisiva da casa. Ogni anello permette l’osservazione degli anelli che contiene.
Sia le attrazioni che i visitatori vivono nell’illusione di avere una scelta, mentre sono spiati e utilizzati per il profitto. Pur con livelli diversi di consapevolezza e margine d’azione, entrambe le categorie agiscono ritenendo di poter scegliere, di essere responsabili delle proprie azioni, ma le loro scelte sono predeterminate dal ridotto novero di possibilità offerte a monte. È una riflessione che possiamo estendere al cerchio esterno di noi spettatori, seguendo un percorso ricorsivo che attraversa mondi che sono via via reali uno all’altro1.
In tali tipi di narrazioni distopiche la figura dell’androide si presta facilmente a fungere da «allegoria di tutti i (s)oggetti sfruttati» imponendo una riflessione sui risvolti etici e sul ruolo della tecnologia nella nostra contemporaneità.
Se gli esseri antropomimetici del film di Crichton degli anni Settanta venivano presentati come macchine elettromeccaniche rivestite da sembianze umane, gli host della serie televisiva del nuovo millennio mostrano di essere costruiti con ossa, carne e sangue, del tutto simili agli umani ben oltre le sembianze superficiali. L’evoluzione non riguarda solo i corpi di questi esseri artificiali ma tocca anche la dimensione della coscienza e delle emozioni.
A differenziare gli esseri antropomimetici proposti della serie televisiva rispetto da quelli del film è la presenza di qualche manifestazione di coscienza. A palesare la dimensione puramente macchinica dei robot di Crichton, suggerisce la studiosa, sono le immagini in soggettiva del pistolero pixelate e scarsamente definite; scelta stilistica volta a sottolineare che si tratta di una ribellione contro gli umani del tutto inconsapevole, priva di una benché minima autodeterminazione, derivata semplicemente da un malfunzionamento tecnologico.
Come sottolinea Piga Bruni, la presenza di un barlume di coscienza negli esseri artificiali della serie televisiva è individuabile, ad esempio, nello sguardo di Maeve quando, per l’ennesima volta, dopo essere stata uccisa al termine del gioco, viene ritirata dai tecnici per essere rimessa in funzione per poi venire nuovamente destinata a soddisfare i clienti. A differenza della visione pixelata del pistolero del film, «la prospettiva di Maeve è nettamente situata, ed esprimere pienamente la dimensione creaturale di una donna ferita, il suo stupore misto a terrore, la percezione di essere in un incubo ancora più inquietante quando, agonizzante ma cosciente, vede il personale del parco incaricato del ritiro»2.
Le modifiche inserite dai creatori nel codice sorgente degli esseri antropomimetici volte a permettere uno sviluppo autonomo della cognizione di sé – come le reveries, le ricordanze – conducono all’emersione di una “coscienza artificiale” e alla definizione di un “inconscio artificiale” immanente, segnando il passaggio verso l’elaborazione di una loro “coscienza collettiva”, «una coscienza di classe volta a intraprendere azioni per riscattare le oppressioni, le torture e lo sfruttamento. Appare allora evidente l’allegoria per cui la condizione delle macchine antropomorfe nella finzione narrativa sia quella concreta degli esseri umani contemporanei, a un tempo merce del capitalismo digitale e fonte della materia prima nell’era del capitalismo della sorveglianza»3. Insomma, negli esseri antropomimetici oppressi di Westworld dovremmo riconoscerci noi esseri umani del nuovo millennio.
Nella serie, la ribellione degli host creati da Robert Ford – che non manca di evocare, sottolinea Piga Bruni, tanto il legislatore di Brave New World (1931) di Aldous Huxley, quanto il sistema fordista – posseduti dalla corporation Delos Inc. e utilizzati da questa nel suo prodotto/servizio di intrattenimento, non deriva da un malfunzionamento tecnico come nel film «ma è un frutto di un percorso di riconquista di sé, di riappropriazione delle proprie memorie ed esperienze, di autodeterminazione, che viene messo in atto da esseri senzienti dotati di percezioni e capaci di provare emozioni»4.
“Il mito della produzione a tutti i costi”, nella rappresentazione di Westworld, è un sistema pervasivo che controlla il ragionamento degli host, cancella i ricordi delle violenze da essi subite e ne dirige i comportamenti. Il controllo delle menti avviene poi anche attraverso alcune pratiche pseudoipnotiche attraverso le quali è possibile orientare direttamente il comportamento dei singoli soggetti: il codice sorgente caricato nel cervello degli androidi contiene evidentemente alcune subroutine che si attivano al riconoscimento della voce e dei gesti di chi detiene il potere5.
Il meccanismo dispotico si estende nella trama nascosta e illecita volta a sfruttare i visitatori dei quali interessa il “surplus comportamentale”. Insomma, il parco a tema si mostra un grande sistema totalitario in cui gli androidi sono mercificati e sorvegliati dalla corporation e i visitatori umani «sono materia prima per il parco in quanto macchina produttiva totalizzante»6. Tutto ciò si estende anche ai telespettatori.
In riferimento più immediato è alla sfera dei social network, gli spazi virtuali in cui i soggetti si muovono dimenticandone la natura mercantile, in cui agiscono senza curarsi di essere osservati e registrati. La spazialità del parco è un fenomeno sociale (delle relazioni tra umani, androidi e il panopticon), così come lo sono gli spazi digitali privati nei quali immettiamo immagini, spostamenti, ricordi, riflessioni e legami affettivi: la materia prima che le grandi corporation che li possiedono conservano in archivi remoti e analizzano in modo da acquisire competenze sulle nostre vite singolari più di quanto non possiamo noi stessi7.
Per Dolores il labirinto di cui prova a venire a capo diviene metafora del proprio sé profondo che conduce alla presa di coscienza di una condizione di essere sovradeterminato e sfruttato abitante un mondo fittizio creato da altri. «Origine o fulcro della presa di coscienza individuale, la scoperta la spinge a trascendere la fisionomia remissiva assegnatale dai creatori – dai “sognatori”, i proprietari del parco – e divenire il villain»8. Dalla complessità labirintica derivano gli interrogativi che si pone Dolores: “Who am I?”, “When am I?”, “Am I in a dream?”.
L’insistito ricorso alla domanda “Have you ever questioned the nature of your reality?” nella serie televisiva ci invita a domandarci “In che accidenti di mondo siamo?”, “Cosa siamo diventati?”. Se i replicanti di Blade Runner e gli host di Westworld, dotati di un briciolo di coscienza, hanno saputo ribellarsi, per quanto sempre meno umani possiamo essere divenuti, forse ci resta ancora qualche possibilità di farlo anche noi. Domandarcelo sarebbe già un importante passo in avanti.
Note
Emanuela Piga Bruni, La macchina fragile. L’inconscio artificiale fra letteratura, cinema e televisione, Carocci, Roma 2022, p. 74.
Ivi, p. 79.
Ivi, p. 77.
Ibidem.
Ivi, p. 80.
Ibidem.
Ivi, p. 81.
Ivi, p. 85.
Nessun commento:
Posta un commento