Tecnopolitica: il nostro cervello diventerà il campo di battaglia finale

Hannah Arendt spiegava che la democrazia non può funzionare se non si basa su una percezione condivisa della realtà, di fatti verificabili e confutabili nel dibattito democratico. Ma il nostro mondo è invece segnato dalla post-verità e dominato dall’alleanza organica tra Big State e Big Tech, comune sia agli USA sia alla Cina, che ha frammentato il corpo sociale in bolle che si escludono a vicenda. Siamo di fronte al pericolo che la civiltà democratica crolli e si ritorni a uno Stato hobbesiano di violenza primordiale. Un saggio, complesso e analitico, indaga la realtà magmatica plasmata dalla corsa accelerata imposta dalle ipertecnologie e propone di ripensare la democrazia e i suoi anticorpi perché c’è il rischio reale che gli sviluppi legati all’intelligenza artificiale (IA) sfuggano al controllo umano con conseguenze drammatiche.

Il ritorno di Trump alla Casa Bianca, con le sue fantasmagoriche dichiarazioni sulla Groenlandia e il Canale di Panama, ci ha fatto trascurare il fatto che con la nuova amministrazione siamo entrati in una nuova era, dominata dalla salda alleanza tra governi sempre più autoritari e le grandi imprese tecnologiche che sono in grado di controllare e dominare anche gli aspetti più intimi e personali delle nostre vite. Basta guardare la foto dell’inaugurazione di Trump, con tutto lo stato maggiore della Silicon Valley schierato in pompa magna, per capire che non si tratta di una distopia collocabile in un lontano futuro ma della realtà di oggi. Il saggio di Asma Mhalla, francese di origine tunisina, specializzata in politica e geopolitica della tecnologia, docente alla Columbia, a Sciences Po e all’École polytecnique, parla proprio di questo. Nonostante il libro sia stato scritto prima della rielezione di Trump, l’analisi riguarda un fenomeno in rigoglioso sviluppo dalla fine degli anni Novanta del secolo scorso e rimane perfettamente sintonizzata sugli sviluppi recenti.

Mhalla spiega che «nell’era della Tecnologia Totale pubblico e privato non sono più sempre separabili. Le Big Tech sono ormai l’infrastruttura dell’informazione di cui lo Stato ha bisogno per portare avanti la propria missione originaria. Se lo Stato esiste ancora come forma giuridica e legale, il suo funzionamento e la sua governance sono in fermento. La redistribuzione del potere e della potenza non si concretizza attraverso la scomparsa dello Stato ma, al contrario, attraverso la comparsa di un Leviatano a due teste: una economica, l’altra securitaria; la prima vettore di potere, la seconda vettore di potenza (tecnologica). Il nuovo Leviatano si articola intorno a tre aspetti: i dispositivi di potere sovrano (sicurezza e tecnosorveglianza della popolazione), gli strumenti di proiezione di potenza e guerra, gli orientamenti socio-economici e il ritorno di un nuovo “capitalismo politico”».

Ne rimarranno solo due

La cosa preoccupante è che questa dinamica accomuna sia le democrazie liberali (ma gli USA di Trump cominciano ad acquisire caratteristiche sempre più autoritarie) sia la Cina, le uniche due potenze che hanno le risorse per investire massicciamente nelle ricerche sulla IA, il fattore cruciale che sta plasmando il mondo di domani. L’autrice osserva correttamente che l’intelligenza artificiale sta diventando quello che è stata l’energia elettrica, un salto tecnologico che, in pochi decenni, ha radicalmente trasformato il mondo. La differenza è che nel caso della IA la ricerca è diventata una partita a due tra USA e Cina: tutto il resto del mondo, che non ha capito con quale velocità si stavano sviluppando i cambiamenti, può solo scegliere a quale delle due fonti abbeverarsi perché il gap esistente è, per ora, troppo vasto.

Mentre è perfettamente comprensibile che un Paese come la Cina, dominato capillarmente dalla dittatura del Partito comunista cinese, sia riuscito a imporre alla propria popolazione un disegno di controllo tecnologico autoritario, il processo in Occidente è più articolato e, per fortuna, non ancora concluso, anche se ha fatto enormi passi avanti verso il dominio della Tecnologia Totale (nella definizione di Mhalla). La frammentazione degli utenti in cluster da “microtarghettizzare”, l’iperpersonalizzazione di massa, l’atomizzazione dell’individuo, della società, dei contenuti e dell’informazione implicano il passaggio da società di masse indistinte a società di masse personalizzate.  Per Tim Berners-Lee, uno degli inventori del web, l’immensità di Internet si è via via ridotta a poche enclosures ben delimitate, configurando un web sotto controllo, orticelli privati che rafforzano i propri meccanismi interni, generando nuove soggettività e nuove norme da interiorizzare.

L’autrice ritiene che, contrariamente a quanto sostenuto da George Orwell in 1984, la «Tecnologia Totale non ha lo scopo di “ridurre la lingua all’osso” per “distruggere la possibilità stessa del pensiero crimine”, obiettivo del ministero della Verità orwelliano, ma ha bisogno che produciamo pensiero, chiacchiere virtuali in abbondanza, all’infinito. Pseudopensieri che magari ci affretteremo a far conoscere, è questo che conta. Questi micropensieri sono tutti dati monetizzabili, manipolabili da Big Tech e Big State». La Tecnologia Totale è livellante: tutto si equivale, il vero, il falso, il virtuale, il reale, l’essenziale, l’aneddotico. Sentiamo tutto, ma non ascoltiamo nulla. Leggiamo tutto, ma non memorizziamo nulla. Parliamo di tutto, ma non diciamo nulla. O quasi nulla. Il nuovo standard si fonda sulla polemica generalizzata e il dissenso assoluto.

Secondo Mhalla la «dimensione totalizzante si basa sul binomio “individuo- massa”. All’interno di questa coppia concettuale si annida un problema non da poco: la perdita di legame, non nel senso delle interazioni, né in quello sociologico delle “nuove socialità”, ma nel senso politico del termine. A tal proposito possiamo riprendere le analisi di Hannah Arendt, appropriate anche per il progetto di Tecnologia Totale: “La società di massa è appunto quel tipo di organizzazione che si determina automaticamente tra gli esseri umani ancora legati l’uno all’altro ma privi ormai di quel mondo un tempo comune a tutti”. Queste parole tratte da Il concetto di storia: nell’antichità e oggi risuonano con una gravità impressionante. Arendt evoca un concetto chiave: la “società di massa” come linfa vitale dei totalitarismi».

Nuove entità geopolitiche ibride

Nel vecchio mondo dei combustibili fossili c’erano le “sette sorelle” mentre oggi dominano i “Big Five”, Alphabet, Amazon, Microsoft, Apple e Meta. Per capire meglio che queste imprese non sono soltanto produttori di tecnologie avanzate ma vere e proprie entità politico-economiche globali ricordiamo che, alla fine del 2021, la capitalizzazione azionaria totale dei cinque giganti americani si avvicinava ai 10.000 miliardi di dollari, il che li rende la terza potenza economica mondiale (virtuale) subito dopo gli Stati Uniti (22.000 miliardi di dollari di PIL) e la Cina (16.000 miliardi). Nonostante siano imprese private, l’invasione russa dell’Ucraina ha dimostrato che Google, Microsoft, Amazon, X/Twitter e SpaceX sono diventate nuove entità geopolitiche ibride, che salvano gli archivi ucraini nelle zone occupate dai russi, permettono all’esercito di Kyiv di comunicare tramite i satelliti, si offrono come mediatori nelle contese internazionali o, come ha fatto Elon Musk, propongono che Taiwan diventi una regione amministrativa speciale sotto il controllo di Pechino.

Ovviamente, ci sono rivalità, differenze di visione e prospettive tra i vari attori tecnologi, ma anche scontri duri, come quelli avvenuti tra Elon Musk e Sam Altman, creatore di ChatGPT. Musk ha denunciato che ChatGPT comporterebbe l’insorgere di un rischio esistenziale per l’umanità, l’ormai famoso “rischio X”, quello della sua scomparsa per mano di superintelligenze autonome e malvagie. Atteggiandosi a veri e propri filosofi, Altman, Musk e Thiel (ha creato e poi venduto PayPal e oggi è CEO di Palantir Technologies, oltre ad aver “scoperto” e finanziato JD Vance, l’attuale vicepresidente USA) «rivendicano valori che possono somigliare a quelli dell’Illuminismo: la libertà individuale e la ragione come prerequisiti di ogni decisione, comprese quelle filantropiche, il progresso tecnico come soluzione ai nostri problemi, cammino universale verso il bene dei popoli. A uno sguardo più attento, però, i tecnoguru della Silicon Valley hanno un pensiero eterogeneo, un patchwork ibrido, ultraindividualizzato come loro».

L’intelligenza artificiale generativa, saldamente nelle mani dei Big Five, sta ridefinendo non solo la trasmissione delle informazioni che giungono al cittadino ma anche l’architettura dello stato democratico che, in una situazione di vuoto normativo, non possiede gli strumenti per intervenire. È autoevidente che chi controlla il flusso delle informazioni è in grado di influenzare gli elettori per cui diversi studiosi hanno iniziato a sollevare la questione del diritto all’integrità mentale, visto che le intelligenze artificiali generative hanno la capacità di costruire “universi falsi” basati su fonti difficili da tracciare e che talvolta si nutrono l’una dell’altra, siti mirror, contenuti fabbricati su misura per microtargeting, siti web, falsi account, bot industrializzati sui social network, deepfake e immagini artificiali, avatar e via dicendo. «Negli Stati Uniti -scrive Mhalla-, studi e comunità di ricercatori specializzati in neurotecnologie ed etica, tra cui l’iraniano-americana Nita Farahany, cominciano a organizzarsi per far valere questo nuovo diritto, il diritto alla nostra integrità mentale. Un nuovo tipo di libertà che, col tempo, potrebbe essere accompagnato da un’altra forma di sicurezza, la sicurezza cognitiva con tutte le questioni bioetiche e giuridiche annesse».

Come reagire

Il saggio, caratterizzato da un tono appassionato e percorso da una profonda pulsione etica, non punta soltanto ad analizzare le varie tessere del mosaico ma fa uno sforzo concettuale per contrappore allo strapotere di Big Tech e Big State un Big Citizen. Mhalla spiega che nella sua visione il «Big Citizen non è una fuga in avanti verso il gigantismo, l’altra faccia di un Leviatano folle, ovvero la dittatura del popolo, ma piuttosto un riequilibrio dei poteri e dei contropoteri, una riduzione dell’iperpotere attraverso la sua condivisione (o almeno la sua supervisione), una “moralizzazione” della coppia Big Tech-Big State. Per fare questo, dovremmo pensare a una “sovranità” allargata, a una co-governance transatlantica solidale. Un’Alleanza Tecnologica di nuova generazione cui il cittadino, il Big Citizen, parteciperebbe confrontandosi direttamente con gli altri due poli, Big Tech e Big State».

Nelle pagine seguenti, però, Mhalla ammette che il panorama politico interno degli USA è molto incerto quando scrive che «l’eventualità che dirigenti psicologicamente e politicamente instabili si trovino a guidare il Big State è più che ipotizzabile, considerata l’ultrapolarizzazione “demagogica”, “tribale”, con tendenze autoritarie della prima potenza mondiale. Seguendo questa ipotesi, emerge quasi subito il rischio non trascurabile di un crollo del sistema americano che potrebbe sfociare in una guerra civile di cui le Big Tech sarebbero attori, se non in parte artefici (ho già accennato alla deriva verso destra di stampo antidemocratico e libertarian di una parte della Silicon Valley)». L’autrice ritiene che si debba «riconoscere una volta per tutte la fine di ciò che chiamavamo “democrazia” nel senso in cui l’abbiamo intesa finora, ossia “democrazia di massa”. È evidente che la democrazia verticale, così come l’abbiamo pensata per tutto il XX secolo, non funziona più».

Questa nuova situazione va affrontata creando le precondizioni per armare cognitivamente il cittadino, garantendo le condizioni in cui possa sviluppare gli strumenti intellettuali che gli consentano un’autonomia di giudizio. Ma oltre alla questione dell’informazione è necessario ripensare lo spirito della nostra democrazia. L’autrice risponde che questo è possibile «guardando alla democrazia ateniese, che concepiva la cittadinanza solo nell’ibridazione tra civile e militare, come partecipazione all’assemblea del popolo e disponibilità a combattere». Da qui deriva la necessità di creare una nuova scuola che «prepari le generazioni future alle sfide tecnopolitiche, all’incrocio tra le tecnologie dell’ipervelocità e della simbiosi con gli aspetti filosofici, storici e geopolitici della minaccia. Si tratta di tenere sotto controllo i nuovi oggetti emergenti. Non bisogna esserne intimoriti, ma concentrarsi a decostruirne la tecnica e le implicazioni politiche. Molti filosofi l’hanno detto prima di me: non padroneggiare la tecnica moderna significa diventarne schiavi. Osservare, comprendere e “imparare a imparare” sono le condizioni per non essere estranei al proprio mondo».

Asma Mhalla
Tecnopolitica.
Come la tecnologia
ci rende soldati
ADD Editore
Pagine 276, 22 euro