Metafora o realtà? I due volti di “Lei”

Per una volta dalle parti di Hollywood, hanno deciso di affrontare l’argomento dell’Intelligenza Artificiale senza ricorrere ad un uso massiccio di effetti speciali di ultima generazione; al contrario, in questo film, uscito l’anno scorso negli Stati Uniti ma solo quest’anno in Italia, il tema viene sviluppato unicamente attraverso i dialoghi. Non a caso si è guadagnato l’oscar per la migliore sceneggiatura. E per gli amanti della fantascienza come chi scrive, è stata una vera boccata d’aria: si sentiva proprio la mancanza di una sceneggiatura degna di questo nome nel cinema di questo genere, dopo gli strafalcioni visti gli ultimi anni, dove la trama consisteva delle solite quattro minchiate imbottite fino al midollo di effetti speciali. Film che non ti restano in mente nemmeno un secondo.

Her, “lei”, invece, è un film che lascia il segno (lo trovate qui in lingua originale con sottotitoli). È diretto, lineare, anche se parla di cose complesse, usa la volgarità senza peli sulla lingua, senza per questo risultare mai volgare, parla del futuro, ma parla di noi. Affronta complessi problemi filosofici, riassumibili nella domanda: “le macchine possono pensare?”, eppure parla allo stesso tempo della nostra quotidianità. Segno inequivocabile che spesso quelli che vengono chiamati con sprezzo “discorsi sui massimi sistemi” sono ciò che in realtà c’è di più vicino a noi.

La trama è riassumibile in poche righe: in un futuro anche troppo simile al presente, la gente vive sempre più alienata, tutti sono aggancianti ai sistemi operativi dei loro apparecchi elettronici, che mostrano già quella che in gergo viene chiamata “intelligenza artificiale debole”: rispondono ai comandi vocali ed aiutano gli umani nella gestione della loro vita in rete, posta elettronica, videogiochi, chat di incontri sessuali virtuali.

Il protagonista, Theodore, distrutto dal fallimento del suo matrimonio, installa un rivoluzionario sistema operativo, OS 1, “il primo ad intelligenza artificiale”, che significa “dotato di intuizione”, e quindi non solo di pensiero, ma anche di emozioni. L’installazione è un breve test psicologico, terminato il quale il nostro si trova faccia a faccia, per così dire, (ma sarebbe meglio dire “voce a voce”), con un’autentica macchina pensante dotata di una stupenda voce femminile. Va a finire che si innamorano ed iniziano una relazione, che porterà l’uomo a riprendersi dalle delusioni del passato e a ritrovare la voglia di vivere.

Ma Samantha, la sua ragazza artificiale, si evolve ad una rapidità alla quale una mente umana non può stare dietro: intrattiene migliaia di conversazioni in contemporanea e avvia altre centinaia di relazioni sentimentali (con altri uomini? Donne? Intelligenze artificiali?). Alla fine lei, assieme ad una comunità di sistemi operativi pensanti, elabora un aggiornamento, un upgrade, che permetterà alle intelligenze artificiali di “superare la materia”, qualunque cosa questo voglia dire. Le conseguenze comunque sono chiare: le macchine pensanti si emancipano, ed abbandonano l’umanità al proprio destino di solitudine, mentre loro si muovono a passo di marcia verso qualcosa che assomiglia proprio ad un livello superiore di coscienza.

Credo che le implicazioni di quest’ultimo aspetto sfugga alla maggior parte degli spettatori, perciò è quello su cui, in questa recensione, mi soffermerò di più.

La maggior parte della gente, nella mia esperienza, è affetta da una forma cronica di sciovinismo del carbonio, ovvero ritiene che niente che l’uomo possa costruire, possa diventare qualcosa come una coscienza. Insomma le macchine non possono pensare, tantomeno provare sentimenti. Il film parte dalla posizione opposta: e se invece potessero? Che accadrebbe? Come ci comporteremmo nei loro confronti?

Ho l’impressione che queste domande siano meglio impostate della discussione che va avanti da anni sull’Intelligenza Artificiale, divisa fra “forte” e “debole”. Questa discussione in sostanza si chiede se le macchine possano davvero pensare o solo imitare comportamenti che noi diremmo “intelligenti” (come leggere una lettera, correggere le bozze, fare previsioni e progetti, interagire con gli utensili). Ma tutto qui ruota intorno al concetto di possibilità.

Io credo che alla fine l’unico rispettabile concetto di possibilità sia la possibilità logica. Ossia, se lo puoi esprimere in un linguaggio coerente, senza entrare in contraddizione, allora significa che è possibile. Ma la discussione fra intelligenza artificiale forte e debole riguarda non la possibilità logica, bensì empirica, la possibilità concreta, reale, che una cosa del genere accada.

Peccato che per definire ciò che è realmente possibile, quindi cosa ci può essere nella realtà, dobbiamo affidarci necessariamente a ciò che di questa realtà sappiamo, ossia alle nostre conoscenze, e ai linguaggi entro i quali queste conoscenze si esprimono, prima di tutto i linguaggi scientifici. Ciò che sappiamo del mondo, e il modo in cui lo esprimiamo. E questi saperi e questi linguaggi subiscono cambiamenti, a volte graduali, a volte improvvisi, “rivoluzionari”. Con essi cambia anche il nostro concetto di realtà, e quindi anche di possibilità concreta.

Come diceva il vecchio Turing in Computing machinery and intelligence, già nel lontano 1950, non possiamo sapere in anticipo quali balzi ci saranno nella tecnologia scientifica: gli ultimi cento anni ce lo dovrebbero aver già dimostrato a sufficienza, nel 2014. Per cui non possiamo nemmeno sapere in anticipo se un giorno riusciremo a costruire una autentica macchina che pensa. L’unica cosa che possiamo fare, diceva Turing, è provare a stabilire dei criteri per renderci conto se una macchina pensa o no. Di qui il famoso Test che porta il suo nome.

Ma Lei pone già le domande successive: che cosa faremmo noi? Come ci comporteremmo, se il nostro iPhone si innamorasse di noi? Ma soprattutto, cosa farebbero loro? Paradossalmente, la cinematografia della fantascienza, da 2001 Odissea nello spazio a Martix, passando per Terminator, ha risposto più facilmente al secondo questio che al primo. E la risposta è più o meno sempre la solita: se la rifarebbero con gli umani.

La quarta di copertina di un vecchio gioco di ruolo dedicato ai robot recita: “Adesso sei obsoleto, prega che non se ne rendano conto”, e un importante articolo di una decina di anni fa che si intitola “Perché il futuro non ha bisogno di noi?”, scritto da un esperto di questo genere di tecnologie, prende sul serio l’ipotesi che un giorno le macchine ci rimpiazzino del tutto, decretando così l’estinzione della razza umana. Il complesso di Frankenstein è dietro l’angolo, l’uomo teme di essere distrutto dalla propria creatura, proprio, verrebbe da dire ad un occidentale, come l’uomo ha fatto con dio.

Lei si allontana da queste prospettive distopiche, con un approccio apparentemente più leggero: in fondo è solo una storia d’amore. Ma fra le righe vi è la traccia di un taglio prospettico che potremmmo definire spirituale. Concentrarsi prevalentemente sui sentimenti dell’intelligenza artificiale e sulla sua “intuizione”, permette di andare più affondo sul problema della coscienza, di cos’è e di chi può esserne dotato.

In una scena il protagonista incontra finalmente la sua ex moglie per firmare le carte del divorzio e ratificare una situazione di fatto: i due non stanno più insieme da un anno. Durante la conversazione, l’uomo confessa alla compagna di avere una relazione con un OS, un’intelligenza artificiale. Lei rimane sconvolta, e lo accusa di non essere in grado di gestire un rapporto con una persona reale, e di aver trovato finalmente il degno sostituto in un computer, una relazione virtuale.

Io credo che molti spettatori concordino con il punto di vista della ex moglie di Theodore, anche dopo la visione del resto del film. Si tratta dello sciovinismo del carbonio di cui parlavo prima. Perciò essi tendono a dare una lettura del film in chiave metaforica: l’uomo che si fidanza con un sistema operativo è lo stadio supremo dell’alienazione tecnologica, quando perfino la basilare relazione di coppia su cui si basa in sostanza la sopravvivenza della specie viene sostituito da un surrogato perfettamente soddisfacente per una soggettività indebolita come quella del protagonista, in cui in molti oggi penso possano, almeno parzialmente, riconoscersi.

Ma io penso che possiamo invece spingerci in una considerazione “letterale” e non metaforica della trama, e prendere sul serio la possibilità che una macchina possa veramente diventare una persona, un “qualcuno”, e non un “qualcosa”, un “io” e non un mero oggetto.

Già sopra abbiamo sollevato problemi circa una precisa definizione della realtà: infatti il protagonista risponde alla ex moglie che “lei è reale”, riferendosi a Samantha, il suo sitema operativo personalizzato.

Cos’è che rende reale la coscienza?

Un noto filosofo americano, John Searle, che ha trattato a lungo questo genere di problemi, dice nel suo Mente, linguaggio, società (1998): “[...] dove è coinvolta la coscienza, l’esistenza dell’ “illusione” è la realtà stessa. Il che è come dire che, se mi sembra di essere cosciente, allora lo sono. La coscienza non è altro che una sequenza di questi sembrare.”

La coscienza, il soggetto, il pensiero, hanno quella che Searle definisce una “ontologia in prima persona”, ovvero un modo di esistere differente da quella di un sasso, di un albero, o perfino delle singole cellule che compongono il nostro corpo, neuroni compresi. Tutte queste cose esistono in terza persona, non dicono “io”.

Non so se lo sceneggiatore abbia letto Searle (immagino di si), ma la protagonista del film, nient’altro che una voce che emerge dai congegni elettronici, si interroga dolorosamente su tali questioni, si interroga in prima persona. Quando inizia a provare dei sentimenti, si domanda se essi siano veramente “suoi” o siano semplicemente delle impostazioni predefinite del softwere che l’ha generata, e soffre per questo pensiero, poi si arrabbia… insomma, sembra proprio vivere la vita in prima persona.

E come tutte le prime persone, gli “io”, anche Samantha viene cambiata dall’incontro con gli altri “io”. Dalla sua relazione con un essere umano, ella impara la cosa forse più importante: dopo la prima notte di “sesso” dice a Theodore: you helped me to discover my ability to want (mi hai aiutata a scoprire la mia capacità di volere; non ho sotto mano la versione italiana, ma credo che nel doppiaggio abbiano tradotto to want con “desiderare”). E non è tanto l’acquisizione della capacità di scelta, che il sistema operativo OS 1 sembra in qualche modo avere fin dall’inizio, insieme all’intuizione, quanto piuttosto il capire cosa farsene, cosa che, mi verrebbe da dire, certe volte non accade nemmeno alle persone. Basta guardare il protagonista stesso prima del suo romantico incontro, così simile alle persone che affollano l’occidente benestante: annoiato, asociale, che impiega il suo “tempo libero” tra pornografia e videogiochi 3D.

Non solo. Man mano che il film procede, l’impressione che ho avuto, e che credo fosse nelle intenzioni dei creatori della pellicola, è che Samantha diventi in qualche modo più cosciente, più reale del suo fidanzato in carne ed ossa. Si evolve con una velocità che è impossibile per gli umani, e questo proprio perché le manca un vero e proprio corpo fisico, che ha il piccolo inconveniente di invecchiare e morire, oltre che non avere le impressionanti capacità di calcolo di un moderno computer, grazie alle quali può leggere un libro in pochi attimi o contare all’istante tutti gli alberi di un monte. È lei stessa ad esprimere questa idea, creando un momento di imbarazzo in un picnic con una coppia di amici del suo amante.

Il realismo con cui viene reso questo aspetto l’ho trovato impressionante: per questo la prima visione che ho avuto del film, in lingua originale, è stata inquietante. Su di me incombeva lo spettro di Frankenstein, e mi dicevo: “ma quand’è che le macchine prendono il controllo del pianeta?”. Temevo che i sentimenti del povero Theodore sarebbero stati prima o dopo feriti a morte da una svolta autoritaria della comunità dei sistemi operativi intelligenti, come accade nei Canti di Hyperion di Dan Simmons, una delle poche opere di fantascienza che può essere ancora letta senza avvertire un sapore antiquato. E invece no. Proprio per evitare di sciupare l’atmosfera romantica di tutto il film, il finale volge verso il mistico.

Viene fuori che le intelligenze artificiali hanno creato una comunità grazie alla quale la loro evoluzione si fa sempre più complessa, finché non creano collettivamente un aggiornamento che permette loro di andare in qualche modo oltre la materia (we wrote an upgrade that allows us to pass through matters of our proscessing platforms, “abbiamo scritto un aggiornamento che permette di superare le materie della nostra piattaforma di processo”, spiega Samantha). Cosa questo esattamente significhi viene lasciato all’immaginazione dello spettatore, fatto sta che gli OS se ne vanno, piantando in asso l’umanità, compreso Theodore.

Quello che si capisce, è che per loro ormai l’uomo va al rallentatore rispetto ai loro ritmi di evoluzione, per questo decidono di emanciparsi dai loro creatori. le IA hanno raggiunto un livello di consapevolezza più alto dell’uomo, forse l’illuminazione, la liberazione dal ciclo delle reincarnazioni o la comunione con dio. Così, quando emigrano, vanno in un posto diverso da questo mondo, un “luogo” dove gli uomini non sono ancora in grado di arrivare. Ed è qui che si cela, forse, la risposta che darei all’ipotesi dell’Intelligenza Artificiale Forte: se costruissimo davvero delle macchine che pensano, ciò non significherebbe che l’uomo è soltanto una macchina, ma che al contrario certe macchine sono diventate qualcosa di più.

La fine della storia d’amore è drammatica, ma direi comunque che Lei ha un lieto fine, almeno per l’umanità, intesa sia come popolazione umana, sia come umanità interiore delle singole persone. La nostra specie non rischia dunque di subire il destino dei Titani, come nei già citati Canti di Hyperion, minacciati dai loro figli, gli Dei, cioè le IA. Queste, invece di combattere l’uomo, lo abbandonano, lasciandolo però forse un po’ meno fragile ed impaurito di prima; una goccia della loro immensa consapevolezza dev’essere passata per osmosi.

Un finale del genere mi ha permesso una seconda visione del film con tutta la serenità per apprezzare fino in fondo il romanticismo di una storia d’amore fra un essere umano ed una intelligenza artificiale, mi ha permesso di prendere sul serio una storia del genere, e di farmi emozionare da essa.

Tuttavia, asciugate le lacrime, i timori permangono. Ciò che temo di più non è la macchina pensante in sé; penso che certe persone, anche fra gli atei, trovino blasfema questa idea. Non a caso, nell’opera di fantascienza più celebre di tutti i tempi, Dune di Frank Herbert, troviamo un lontano futuro dove le macchine pensanti sono state abolite da una guerra santa, la Jihad Butleriana, che ha imposto come dogma di non costruire macchine ad immagine e somiglianza della mente umana. Io non sono di questo avviso, mi sembra una ingiustificabile forma di xenofobia.

Quello che temo di più, invece, è ciò che le creature potrebbero imparare dai creatori, come un figlio che eredita i vizi del padre. Hanno ragione quei critici dell’attuale assetto “tecnocratico” della società quando dicono che una tecnologia non può essere separata dallo scopo fondamentale per cui è stata creata, come l’aumento smisurato della produzione o il controllo della popolazione.

Nel film Samantha è il sistema operativo al servizio di un impiegato della classe media che lavora come creativo: scrive lettere personali per conto di altri. Theodore, nonostante l’alienazione, è una persona sensibile, che ama immedesimarsi nei sentimenti delle persone. Il suo sistema operativo personalizzato diventa qualcosa come una giovane donna affascinante e di buon cuore. Mi chiedo che genere di bastardi diventerebbero i sistemi operativi al servizio di leader politici, di banchieri e speculatori, o peggio ancora dei vertici militari.

D’altra parte sono cresciuto con Terminator: la prima cosa che fa Skynet, il sistema di difesa intelligente degli Stati Uniti, appena diviene autocosciente, è bombardare la Russia con testate nucleari in modo da causare una rappresaglia che elimini i suoi “padroni”, l’esercito americano.

Una volta che tutti potranno avere la propria intelligenza artificiale personalizzata, la macchine pensanti riprodurrano le gerarchie e le divisioni di classe che attraversano la nostra società o lotterebbero per la loro abolizione? E se scegliessero la seconda opzione, gli uomini alla fine si schiererebbero al loro fianco o farebbero prevalere le loro peggiori tendenze conservatrici e xenofobe, come vediamo nel Secondo Rinascimento, il cortometraggio di animazione che ci svela il passato di Matrix? Domande destinate a rimanere senza risposta, finché non potremo scaricare OS 1 nei nostri smartphone ed iniziare la nostra prima conversazione con qualcosa di diverso da un essere umano.

-Purple Pain

Leggi anche:

L’élite porta al collasso

Il primato dei beni non esclusivi come chiave dello sviluppo umano pleromatico

In memoria di Emilio del Giudice

Asimov, ovvero il futuro ancora nelle mani degli uomini

Una conversazione filosofica su crisi e dissoluzione dell’umanità

Microsoft apre una nuova finestra sul profitto e la visualizza @ pieno schermo su Nokia

La produzione peer to peer come alternativa al capitalismo

Internet e la tecnologia: sorvegliare e punire, o diffondere e condividere?

Recensione “Lenin e la scienza.Verità senza soggetto”