Eludere la tirannia dell’algoritmo
Non serve discutere se la diffusione delle tecnologie digitali è buona o cattiva. Vale la pena invece non sottovalutare ciò che distingue questo processo: la rapidità, la pervasività e, soprattutto, il rischio di delegare sempre più funzioni alle macchine, dimenticando che le relazioni passano attraverso i nostri corpi. Il problema del mondo algoritmico, spiega con molta lucidità Miguel Benasayag nel suo ultimo libro La tirannia dell’algoritmo (di cui qui è possibile leggere un paragrafo) è che non lascia spazio all’alterità, al conflitto, all’umano. Per questo solo i piccoli gruppi di resistenza, che decidono di agire qui e ora, hanno la possibilità di sottrarsi al dominio dell’algoritmo.
di Roberta Padovano e Daniela Portonero (*)
La tirannia dell’algoritmo è un libro di Miguel Benasayag da infilare nello zaino insieme a altri strumenti e attrezzi per percorrere il cammino di questa epoca. Non è utile leggerlo per ricavarne rapide argomentazioni circa l’essere pro o contro la digitalizzazione del mondo. Come spiega Benasayag in questo testo e in altri interventi, la digitalizzazione non è né buona né cattiva, è. È in atto e va compresa. Per farlo è necessario prima di tutto collocarla nel tempo e nello spazio.
In relazione alla storia della specie umana la digitalizzazione è la terza grande rivoluzione antropologica, dopo l’incontro con il linguaggio articolato e l’invenzione della scrittura. L’elemento chiave di queste svolte storiche è il linguaggio e il suo ruolo in relazione alla conoscenza.
Con la prima rivoluzione antropologica la conoscenza indiretta diventa quantitativamente più importante di quella diretta, ossia l’esperienza perde la sua centralità in virtù della possibilità di trasmissione attraverso il linguaggio. Rappresenta un primo momento di deterritorializzazione, poiché i corpi non hanno bisogno di esperire per conoscere. Con la seconda grande rivoluzione antropologica, che data 3.500 anni, si affaccia la possibilità di materializzare il pensiero attraverso la scrittura.
Dunque nel costituirsi della conoscenza, un’ulteriore lenta e progressiva riduzione dell’esperienza corporea e un aumento delle informazioni, un aumento di quanto perviene dalla conoscenza indiretta. Nel corso di alcune migliaia di anni le culture alfabetizzate contengono il 75-80 per cento di esperienza indiretta, contro il 60 per cento delle culture non alfabetizzate.
La terza rivoluzione antropologica
Con l’avvento della digitalizzazione – la terza rivoluzione antropologica – in trenta-quaranta anni il 95 per cento del sapere e della conoscenza che abbiamo del mondo e di noi stessi diventa indiretto. In questo veloce processo di deterritorializzazione il sapere indiretto non si aggiunge al sapere corporeo, lo sostituisce e lo cancella (Benasayag, Il cervello aumentato, l’uomo diminuito).
Gli studi condotti in ambito neurofisiologico dimostrano che l’utensile, il mezzo, modifica il suo utilizzatore. Il cervello viene modificato plasticamente in quanto le aree adibite a determinate funzioni, se non utilizzate, subiscono la colonizzazione delle aree con le funzioni dominanti.
I dati impressionanti della rivoluzione del digitale, che la distinguono dalle precedenti, sono la rapidità e la pervasività: trenta-quaranta anni e una diffusione mondiale.
Benasayag definisce un cattivo incontro quello tra la specie umana e il digitale. Perché? Il mondo dell’algoritmo arriva in un tempo in cui l’umanità vive una crisi epocale: è la crisi della fiducia nella funzione della razionalità. Con la seconda guerra mondiale si verifica la frattura irreparabile nella razionalità occidentale. Hiroshima, Auschwitz hanno creato un prima e un dopo nell’epoca della modernità. Questo non significa che prima non ci fossero stati eventi orribili, ma qui accade qualcosa di epocale, il crollo di una asse fondamentale. Crolla la convinzione che pensare bene conduca ad agire bene. Hiroshima, Auschwitz rivelano che si può pensare bene il male. Si spezza la convinzione che pensare bene conduca a pensare il bene e anche a agirlo.
Un secondo asse della modernità si frantuma a partire dalla seconda guerra mondiale: crolla la visione della storia con un verso, l’idea del futuro foriero di promesse, la visione vincente del progresso. La digitalizzazione arriva in un’epoca in cui la fede nel progresso sta per essere definitivamente soppiantata da quell’orizzonte di costante minaccia che si è dato come sempre più pervasivo fino ai giorni nostri: la minaccia del cambiamento climatico, la minaccia del terrorismo islamico, la minaccia delle pandemie.
Il rischio della delega
Tenendo conto di questo scenario oscuro e imprevedibile, è forse più comprensibile il fascino esercitato dall’algoritmo. Si presenta come un procedimento che risolve problemi attraverso un numero finito di passaggi, spiegabili, ripetibili, prevedibili. Sempre più funzioni possono essere delegate alle macchine, fino alla funzione stessa della razionalità perduta.
Questa umanità, orfana della fede nella razionalità e sotto costante minaccia di morte, trova nella delega alle macchine sempre più funzioni. L’algoritmo sembra offrire la possibilità di una comprensione completa, consistente e predittiva.
Tutto questo accade ed è promosso dalla convinzione del mondo della scienza che non vi sia differenza qualitativa tra il cervello umano e la macchina. La differenza che la scienza individua è unicamente quantitativa.
In La tirannia dell’algoritmo c’è un passaggio è molto importante per la teoria dell’agire: “Il linguaggio matematico, come il mondo della lingua in generale e della scrittura, cerca in effetti di far assomigliare il territorio alla carta. lo fa, però, senza negare del tutto la sua alterità rispetto al territorio, che continua a esistere in un rapporto di conflittualità con la carta. E tale dinamica determina le linee di non-compossibilità che retroagiscono per limitare e modificare la carta. Al contrario, nel mondo digitale, il principio del ‘tutto è informazione’ considera i territori come una semplice modalità di esistenza della carta. la violenza della digitalizzazione non risiede quindi in un qualche progetto di dominio, quanto piuttosto in quella negazione di tutte le forme di alterità e identità singolari che porta a una dimensione di pura astrazione”.
Dunque sì, il digitale ci modifica e l’ibridazione dell’umano con il digitale è un dato di fatto. Il problema però non è strettamente la modificazione, poiché in qualche modo sempre il mezzo modifica chi lo utilizza. Il problema è – oltre alla velocità e alla potenza – l’ignoranza degli effetti della modellizzazione digitale rispetto all’alterità. Nel mondo algoritmico non esiste l’alterità. Non c’è l’altro, non c’è l’umano. Ci sono unità di informazioni. Il fenomeno centrale della nostra epoca dunque non è se la macchina possa essere più o meno di aiuto al vivente o più o meno pericolosa. Il fenomeno centrale della nostra epoca ha a che fare con la modellizzazione demografica, economica, dell’educazione, della sanità e le sue conseguenze.
Assistiamo a due processi che si accompagnano e si alimentano. Il primo: il processo di delega agli algoritmi di funzioni, programmazioni, direzioni, decisioni da parte della macroeconomia e dei gestori politici. Il secondo: il rischio nella quotidianità degli esseri umani a livello mondiale, cioè la tendenza all’essere in coppia con il mondo digitale, che non è atto a promuovere la singolarità, l’alterità e la profondità del conflitto ma a risucchiare in un “tutto di informazione astratta”, riducendo progressivamente l’umano a un profilo privo di corpo, dematerializzato. Dislocato quindi nella sua possibilità e capacità di agire.
Solo i piccoli gruppi possono eludere la tirannia dell’algoritmo
Come scrive Régis Meyran nell’introduzione, Benasayag ritiene che solo i piccoli gruppi di resistenza, che decidono di agire qui e ora, potranno eludere la tirannia dell’algoritmo. Oggi agire significa agire contro la cancellazione della alterità, contro la cancellazione del conflitto.
Grazie per l’interessante recensione.