World Without Mind è un libro di Franklin Foer – fratello dello scrittore Jonathan Safran Foer – e in Italia è stato pubblicato dalla Longanesi (2018) con il ghettizzante titolo “I nuovi poteri forti”. Ho usato il termine “ghettizzante” perché con un titolo così il libro è destinato a rimanere relegato nel segmento di mercato della saggistica del complotto quando in realtà è un’inchiesta molto interessante sulle cinque compagnie più potenti dell’Occidente, e del mondo, nell’èra della New Economy: Google, Apple, Facebook e Amazon. Baricco nel suo The Game al riguardo dello stato attuale delle cose vede il bicchiere mezzo pieno; Foer al contrario lo vede mezzo vuoto. Devo ammettere che il secondo è stato di gran lunga più convincente.
L’algoritmo: intelligenze artificiali che creano e pensano per noi
Il libro è sintetizzato perfettamente nel titolo originale, un mondo senza una mente, dove per “mente” s’intende l’intelligenza umana da non confondere con quella che stanno creando, l’intelligenza artificiale. Il libro ripercorre tutte le tappe dell’algoritmo o meglio di come l’algoritmo si sia fatto passare e abbia del tutto soppiantato la matematica.
Quindi “automaticità” e non “comprensione”, vedi pagina 85: «I programmatori […] volevano a tutti i costi dimostrare di non essere solo dei tecnici e cominciarono quindi a descrivere il proprio lavoro come algoritmico, in parte perché questo li collegava a uno dei più grandi matematici di sempre, l’erudito persiano Muhammad ibn Mūsā al-Khwārizmi, noto in latino come Algoritmi, autore di opere pioneristiche nel campo dell’algebra e della trigonometria, che, tradotte nel corso del dodicesimo secolo, introdussero i numeri arabi in Occidente. Descrivendo l’algoritmo come l’elemento fondamentale della programmazione, gli informatici si proclamavano dunque discendenti di una storia gloriosa […]: “Vedete […] lavoriamo con astrazioni e teorie, proprio come i matematici!”.
Quest’autorappresentazione nascondeva però un inganno: l’algoritmo sarà anche l’essenza dell’informatica, ma non è esattamente un concetto scientifico. Un algoritmo è un sistema, come un impianto idraulico o una gerarchia militare, […] un artefatto umano, non una verità matematica».
Questo è il cuore del saggio.
La guerra all’intelligenza umana (la sostituzione del libero arbitrio con l’automatizzazione delle scelte) da parte della GAFA (Google, Apple, Facebook, Amazon) passa necessariamente per l’annientamento dell’autorialità, Foer lo dice subito, nel prologo. Pagina 15: «Oggi la produzione e il consumo della conoscenza stanno subendo una riorganizzazione simile a quella che mezzo secolo fa ha sconvolto il mondo del cibo […]. Intellettuali, scrittori indipendenti, giornalisti investigativi e romanzieri non di primo piano sono l’equivalente dei piccoli agricoltori, che hanno sempre faticato ma semplicemente non riescono a competere in questa economia rivoluzionaria».
Algoritmi: sulla strada dell’automatizzazione innescata dall’uomo
Il libro è diviso in tre sezioni: 1) il monopolio della mente, 2) un mondo senza mente, 3) riconquistare la mente. Fermo restando che gli obiettivi sono sempre gli stessi – il potere e il denaro -, nella prima sezione Foer, dopo avere illustrato in maniera esauriente le origini della rivoluzione dell’algoritmo nella controcultura americana negli anni ’60, ci fa capire come da una parte Mark Zuckerberg stia neutralizzando il libero arbitrio, mentre dall’altra Jeff Bezos stia distruggendo la conoscenza.
Il cammino umano può essere considerato un processo continuo verso l’automatizzazione. L’avanzata dell’automatizzazione è arrivata a ondate: prima l’automatizzazione del corpo umano (la schiavitù), poi delle cose (la macchina), infine del pensiero (l’online). «Bisogna rendere le parole meno umane e trasformarle in una componente della macchina», pagina 78; da quando ho letto questa frase, allungo lo sguardo al mio vecchio dizionario e vedo un cimitero. Pagina 84: «Le procedure che rendono possibile il pensiero meccanico vennero chiamate algoritmi. La loro essenza è estremamente lineare: i libri di testo li paragonano in genere alle ricette, ovvero una serie di passi precisi da seguire senza troppi ragionamenti. A differenza delle equazioni, che hanno un solo risultato corretto, gli algoritmi si limitano a registrare la procedura per risolvere un problema, senza dire nulla sulla destinazione a cui conducono questi passi».
L’algoritmo automatizza il pensiero, risolve le decisioni e le discussioni difficili, è una forma di addestramento della mente umana. E non solo, perché prevede anche il futuro. Quando le tue discussioni online, le tue chiacchierate o i tuoi spostamenti sono trasformati in algoritmi, gli algoritmi possono prevedere il tuo futuro. Un esempio: feste, amici, tabaccaio, dodici birre al supermercato, ecco che dopo un po’ ti giunge la notifica su come capire se stai avendo un attacco cardiaco.
Sappiano che Google dà molta importanza all’algoritmo; Mark Zuckerberg al contrario afferma che Facebook sotto questo profilo sia un’oasi di pace, ma poi si vanta dell’esistenza di sperimentazioni sui suoi utenti, pagina 93: «[…] Alcuni resoconti sono riusciti a varcare le porte dei suoi laboratori. Sappiamo, ad esempio, che Facebook desidera scoprire se le emozioni siano contagiose e che per realizzare questo esperimento ha tentato di manipolare la condizione psicologica dei suoi utenti [NB: affermazione fornita in nota]. Così ha eliminato le parole di senso positivo dai contenuti della sezione Notizie di un gruppo di utenti, e quelle negative dai contenuti di un altro gruppo. Ne è emerso che ogni gruppo scriveva post che riecheggiavano l’umore di quelli riformulati da Facebook. Questo studio è stato apertamente condannato perché considerato troppo invasivo, ma non è un caso insolito: come ha confessato un membro del team di scienza dei dati dell’azienda: “Tutti i membri del team possono eseguire dei test. Cerchiamo sempre di alterare i comportamenti delle persone” [NB: affermazione fornita in nota]».
È chiaro che questo potere è troppo grande per un’azienda privata; in base ai “mi piace” Facebook può capire orientamenti sessuali, situazioni sentimentali, che tipo di droga un utente usi. Pagina 94: «Il sogno di Zuckerberg è ottenere, analizzando questi dati, la rilevazione più importante di tutte: “Una legge matematica fondamentale alla base delle relazioni umane, che regola l’equilibrio delle persone e delle cose cui teniamo” [NB: affermazione fornita in nota]».
Facebook quindi condiziona le scelte degli utenti, Google invece decide mediante i click quale sia l’articolo più pertinente riguardo a un argomento: è la vittoria della “quantità” sulla “qualità”. Amazon completa questo mosaico del dominio totale sulle masse con la distruzione della conoscenza. Pagina 97: «Organizzare la conoscenza è un’attività antica, e coloro che se ne sono fatti carico nel corso dei secoli – bibliotecari e librai, ricercatori e archivisti – hanno imparato ad amare il proprio lavoro, quasi a venerarlo. Il loro codice deontologico li invitava a trattare il proprio carico come se da suo passaggio da una generazione all’altra dipendesse la sopravvivenza del mondo, le società tecnologiche non condividono affatto questa preoccupazione, anzi, hanno presieduto al collasso del valore economico della conoscenza, che ha fortemente indebolito quotidiani, riviste e editori, e di conseguenza hanno ridotto drasticamente la qualità stessa della conoscenza».
Conservazione della conoscenza e produzione di contenuti
Bezos nel 1994 era un pezzo grosso di un importante fondo d’investimento e capì che Internet avrebbe cambiato il mondo, che il mondo era agli inizi di una vera e propria esplosione di conoscenza, che il commercio online sarebbe stato il futuro. Anche il suo fondo d’investimento ne era certo, iniziarono pertanto a investire sui siti web per la creazione di un negozio virtuale in cui si vendesse di tutto. Tuttavia, era troppo presto, la gente ancora non era abituata all’idea di poter fare un acquisto online, c’era bisogno di un prodotto per iniziare, un qualcosa di speciale, che non si potesse restituire perché della taglia sbagliata, poi abbastanza resistente per il viaggio di trasporto, quindi che facilmente permettesse di guadagnare la fiducia dei consumatori. Ma, soprattutto, un prodotto che non richiedesse costi alti per la conservazione, qualcosa il cui settore potesse essere padroneggiato con pochi fondi e un’attività piccola, «senza bisogno di viaggi in giro per il mondo per rifornire il magazzino e con la possibilità di svolgere esperimenti a basso costo». Questo prodotto è il libro.
La conoscenza ha un prezzo e un mercato. I brevetti e diritti d’autore servono a tutelare il prezzo della conoscenza, se così non fosse crollerebbe tutto. Si può essere d’accordo o no, ma il sistema è questo, basti vedere cosa è accaduto al mercato della musica, ha rischiato di sparire: « …quello che una volta era un passatempo alternativo e amatoriale, la copia illegale di una proprietà intellettuale, era già diventata una pratica commerciale accettata. Siti come l’Huffington Post estrapolavano liberamente i paragrafi più interessanti dagli articoli di notizie, limitandosi ad aggiungere controvoglia un link al contenuto originale, Google scansionava tutti i libri che trovava e Apple diceva in una sua pubblicità “Rip. Mix. Burn – after all, it’s your music”».
Ve lo ricordate a scuola quello che vi copiava la versione? È tornato in grande stile, lo chiamano imprenditore… Be’, in fondo è sempre stato così, l’artista crea, l’imprenditore copia, può anche funzionare quando i due collaborano ma non è stato il caso della furbissima Apple, «…l’Ipod, Apple lanciò sul mercato un dispositivo che poteva contenere migliaia di brani digitalizzati, l’ideale per accumulare musica piratata, che all’epoca circolava liberamente. Steve Jobs avrebbe potuto facilmente rendere il suo prodotto inospitale per la musica scaricata illegalmente, ma all’inizio si rifiutò di programmare l’iPod in modo che bloccasse i contenuti privi di licenza. E mentre il dispositivo da lui ideato consentiva la pirateria, Jobs condannava a parole il furto digitale. Stava giocando d’astuzia: dopo aver contribuito a spingere sul baratro l’industria musicale, l’avrebbe salvata e ne sarebbe diventato il dominatore. Diciotto mesi dopo l’uscita dell’iPod, lanciò un negozio online, iTunes, che presto divenne il luogo in cui si poteva acquistare gran parte della musica in circolazione».
I contenuti gratuiti sono per le aziende Big Tech come la benzina a prezzo basso per l’industria tradizionale; dietro a motivazioni idealiste quale l’accesso libero alla conoscenza c’è in realtà una violenza del copione sul diritto d’autore altrui. Tutto ciò ha danneggiato gravemente artisti, intellettuali, mondo tradizionale dei mass media e ha inoltre creato danni collaterali che nessuno si aspettava: la dilagante disattenzione. Gli utenti non sono più attenti e l’unica maniera per accaparrarsi la loro attenzione è puntare sempre più sul sensazionalismo, sulle emozioni, a discapito della verità dei fatti. In questi anni si è imposta la cultura del complotto, la cosa più semplice in cui credere, manna per i pigri di mente, perché quando non si sa come funziona un sistema, ci aggrappa al complotto, è sostanzialmente un disastro culturale che avrà delle ripercussioni senza alcuna ombra di dubbio. La complessità non è più in grado di fare breccia, meglio un vitello d’oro che un’astrazione. La parte più interessante del saggio riguarda gli studi sull’Intelligenza Artificiale che per ovvie ragioni di spazio non riesco a riportare, ma la lascio alla vostra curiosità.
Sembra che il mostro futuro sia il non essere più homo sapiens…bensì “uomo inutile”.
