«L’enciclica di Leone XIV sfida gli imperi digitali»

Lo spostamento di potere dagli Stati agli attori privati

Professor Mezza, la Magnifica Humanitas registra un passaggio storico: se un tempo erano gli Stati a guidare l’innovazione, oggi i motori dello sviluppo sono attori privati e transnazionali con risorse superiori a quelle di molti governi. Quale sfida concreta lancia questa diagnosi a una politica democratica ormai spettatrice di un potere tecnologico che non controlla più?

In realtà a mio parere l’enciclica compie un’operazione ancora più rilevante. Infatti mette in luce la carenza di un dato fondamentale in questo scorcio di evoluzione umana: la mancanza di ogni forma di negoziazione sociale delle nuove forme innovative. In passato i processi tecnologici sono in realtà sempre stati innestati da gruppi privati: pensiamo alle forme di navigazione a vela e di modalità di governo delle navi, o ancora della stampa, o delle modalità di contabilità a partita doppia. Tutte innovazioni che hanno cambiato la storia. Pensiamo poi al secolo della scienza, il Seicento, con Galileo, Newton, Leibniz o Pascal. Giganti che hanno prodotto salti clamorosi dell’evoluzione umana. Ma sempre, ogni volta, l’intraprendenza individuale era mediata a monte dal potere politico — l’impero o l’autorità religiosa, e poi gli stati nazionali — e a valle dalla pressione sociale, dal modo con cui le comunità interpretavano e adattavano queste innovazioni. Oggi, mi pare, il Papa denunci il potere solitario di questi imperi digitali, quelli che il presidente Mattarella chiamò una volta, con felicissima metafora storica, le nuove Compagnie delle Indie, per indicare formazioni economiche e tecnologiche che concentrano una massa di potere superiore a quanto possano fare gli stessi stati nazionali. 

La sfida che l’Enciclica contiene è proprio quella di sollecitare una dinamica sociale, culturale e spirituale che permetta ad ogni individuo di intervenire da padrone in questi meccanismi, di interferire sul loro funzionamento e non essere oggetto passivo di interferenza.

Il nodo della regolazione

Leone XIV chiede «strumenti normativi adeguati», ma avverte che la questione non si esaurisce nella regolamentazione; persino chi costruisce questi sistemi chiede paletti dall’esterno e dei contropoteri. La politica europea e nazionale, tra AI Act e sovranità digitale, è oggi all’altezza del compito o resta strutturalmente un passo indietro rispetto alla velocità della tecnica? 

Esattamente quello che dicevamo prima. Questi poteri che si ergono ad autorità totali ed esclusive di ogni relazione umana non solo devono essere disciplinati nei loro meccanismi di base, ma devono essere intermediati, adattati, personalizzati da un pulviscolo sociale che produca una straordinaria potenza di elaborazione, largamente superiore agli interessi privati.

La politica deve essere entrambe queste cose: lucidità normativa, sapendo bene che tempi e modi delle leggi sono sempre più incompatibili con l’evoluzione frenetica di innovazioni che quasi ogni giorno cambiano pelle, ma anche capacità di organizzare forme di interdizione sociale da parte di nuovi soggetti negoziali, come ad esempio le città o i centri di ricerca, che cita espressamente il pontefice, come comunità in grado di riprogrammare dati e algoritmi in senso sociale. La domanda è capire se anche in questa nuova marca di tecnologia sia plausibile la democrazia economica.

Il «profilare» come nuova grammatica del potere

L’enciclica indica nel «profilare» la nuova declinazione del potere: chi possiede le nostre tracce digitali può entrare nell’immaginario, condizionare le scelte ed erodere la libertà. Lei studia da anni il potere algoritmico: cosa dovrebbe fare la politica per difendere concretamente la libertà del cittadino, senza limitarsi a delegare la partita ai giganti tecnologici? 

Come dicevamo prima è proprio questo il nodo di civiltà che abbiamo dinanzi: come conciliare sviluppo e trasparenza, innovazione e democrazia. È un passaggio estremamente delicato, e intimamente connesso con i reali meccanismi digitali.

In pochi mesi le intelligenze artificiali hanno ormai raggiunto una capacità di pervasività e intrusione nei nostri comportamenti senza precedenti: lo scambio che ci viene proposto ad ogni nostro click è quello fra efficienza e sottomissione.

 I dati, la profilazione, sono il nuovo modo di esercitare un potere invisibile ma opprimente. Come cerco di dimostrare nel mio ultimo libro — Guerre in codice, come le intelligenze artificiali resettano la democrazia (Donzelli) — “la profilazione di massa è un atto di violenza psicologica programmata”.

 Si creano realtà asimmetriche in cui rispetto alla statistica, dove ci sono pochi dati a disposizione di tutti, oggi abbiamo una quantità inverosimile di informazioni confiscate da pochissimi soggetti che li usano come delle clave per affermare un potere illecito. Nessuno di noi infatti autorizza a combinare ed elaborare i dati che pure rilasciamo per trovare i nostri punti deboli. Dobbiamo qui costruire una nuova cultura dei beni comuni: i dati sono come l’acqua e l’aria, beni indispensabili per la convivenza non per la competizione privata. Un grande economista come Joseph Stiglitz, premio Nobel ai primi del 2000, in un suo testo afferma che l’accumulo di dati individuali in poche mani altera e vanifica ogni ambizione di libero mercato.

Verità, democrazia e leadership

Nel capitolo sulla verità come bene comune, il Papa mette in guardia dai leader portatori di «comunicazione impulsiva, retorica aggressiva e logica della potenza», in molti vi hanno letto una stoccata politica precisa. Quanto pesa, per la tenuta democratica, la saldatura tra un immaginario plasmato dagli algoritmi e una leadership costruita sull’aggressività comunicativa?

Non parlerei di stoccata, semmai di affermazione netta di principi, di proposta di una visione di questo immane fenomeno del tutto contraddittoria con la speculazione dei monopoli digitali.

Il testo dell’enciclica, con grande e sottile finezza, tocca esattamente il nervo scoperto del quadro politico: una certa ondata di radicalizzazione sociale basata sul rancore e la diffidenza individuale non a caso è esattamente coincidente con l’avvento delle nuove forme di comunicazione on line.

Per cui non bisogna essere indovini per ritrovare una relazione di causa ed effetto. Le architetture algoritmiche di social e piattaforme di connessione, da TikTok a Facebook, sono programmate per privilegiare, e in molti casi indurre, esattamente un linguaggio rissoso e rivendicativo che è il propellente per le leadership basate sul totalitarismo individuale e l’aggressività permanente.

Il pontefice scrive espressamente che “non vanno sottovalutate le forme più sottili di dipendenza legate all’economia digitale dell’attenzione, dove le piattaforme e servizi sono progettate per catturare il tempo e lo sguardo degli utenti, sfruttandone la fragilità e indebolendo la libertà interiore”. Una vera requisitoria contro quella che potremmo definire “la dittatura dell’attenzione”, in cui gli algoritmi sequestrano e deformano le nostre funzioni vitali.

Gli esempi sono sotto i nostri occhi, tutti i giorni. Infatti l’appello a disarmare le intelligenze artificiali vale sia in guerra che in pace: entrambi gli scenari oggi sono integrati grazie a meccanismi di contrapposizione computazionale.

La cosiddetta guerra ibrida che congiunge appunto pace e conflitto bellico inizia proprio qui.

La dignità del lavoro nella transizione digitale

Tra i beni «fortemente a rischio» l’enciclica colloca il lavoro, schiacciato dal mantra dell’efficienza e della performance, fino a evocare nuove forme di schiavitù digitale. Quale risposta politica serve per governare questa transizione, dalle terre rare estratte nei Paesi poveri fino alla disoccupazione tecnologica nelle economie avanzate?

Il rapporto lavoro/automazione è il tema portante dei fenomeni digitali. È una relazione che ha infinite sfaccettature e una lunga storia. Le acciaierie dove si tempravano i conflitti sociali del Novecento, avevano alle spalle migliaia e migliaia di schiavi che spalavano carbone. Oggi abbiamo nel retrobottega delle intelligenze artificiali una lunga filiera di lavoro tradizionale, sia manuale (estrazione di minerali, produzione e montaggio di hardware) che intellettuale (sviluppo software accessorio o moderazione dei social) ma siamo anche qui alla vigilia di una torsione che, come per l’automatizzazione di fabbrica del secolo scorso, tenderà a sostituire la componente umana. E qui veniamo al secondo aspetto, appunto, come cambia l’idea di produzione e più in generale di attività con la robotizzazione. Il lavoro diventa una funzione di un soggetto esterno alla specie umana, a cui vengono delegate sia l’attività manuale che quella di mediazione. Nell’enciclica, che ricordiamo è stata promulgata nell’anniversario della Rerum Novarum, in cui la Chiesa prese posizione sulle allora scottanti questioni dello sfruttamento del lavoro, Leone XIV, ribadendo la necessità che l’innovazione produca giustizia prima che profitti, un’affermazione dal sapore olivettiano se andiamo a ben vedere, chiede anche che vi siano forme di partecipazione dei lavoratori nelle fasi di automatizzazione della fatica. Una partecipazione che deve iniziare ed essere anche economicamente riconosciuta fin dalla raccolta dei dati che i lavoratori depositano nei server aziendali, su cui si ingegnerizzano i sistemi automatici. Ecco, questo di una partecipazione della comunità di impresa sulla base dei propri preziosissimi dati dovrebbe essere un tema su cui l’Europa dovrebbe impegnarsi per un nuovo statuto del lavoratore al tempo del digitale.

Guerra automatizzata e crisi del multilateralismo

La Magnifica Humanitas denuncia la «normalizzazione della guerra» e l’automazione delle strategie belliche, che abbassano la soglia morale del conflitto in piena crisi del multilateralismo. Di fronte a sistemi d’arma e strategie che decidono in autonomia, la politica internazionale ha ancora gli strumenti per riprendersi la decisione, o ha già delegato la sovranità al calcolo?

La guerra automatica è la conseguenza della società automatica, che a sua volta è la distorsione della fabbrica automatica. Quando la potenza di calcolo ingloba, impunemente, una sterminata mole di dati individuali senza nessun attrito o controllo sociale, si crea inevitabilmente un clima militarizzato, in cui da una sala comando si programma l’intera umanità. In questo processo il fattore di crisi che estromette la discrezionalità umana è la velocità. Già negli anni Novanta Paul Virilio parlava di dromologia, scienza della velocità che ci faceva intendere quale fosse la china di un’innovazione guidata solo dall’efficienza di pochi, in cui la velocità produceva un’omologazione di ogni comportamento civile ad uno schema bellico.

 Dobbiamo però anche rilevare che queste tecnologie rimangono sempre caratterizzate da una forte tendenza al decentramento, in cui l’efficacia si misura con la distribuzione delle mansioni. Non a caso in Ucraina vediamo come forze enormemente inferiori, quali quelle di Kiev, riescano a reggere l’impatto con una potenza come quella russa proprio grazie ad un’attitudine al decentramento sociale che permette di ottimizzare le tecnologie più sofisticate. Il buco nero però di questa tendenza lo vediamo nei modi in cui l’apparato militare più potente ed esteso del mondo, quello americano, oggi delega ai gruppi dei fornitori digitali non solo le applicazioni tecnologiche ma le strategie e le decisioni più strategiche, come accade con Palantir, l’azienda di calcoli predittivi in campo militare, di proprietà di Peter Thiel. 

Un programma politico o un testo destinato al «dimenticatoio»?

C’è chi legge l’enciclica come un vero programma politico — bene comune, sussidiarietà, solidarietà, giustizia non come prediche morali ma come contenuto dell’agire — e teme però che finisca nel dimenticatoio. Secondo lei la politica saprà raccogliere questa sfida «dal basso», o la Magnifica Humanitas è destinata a restare un nobile testo culturale senza conseguenze?

Io credo che ci penseranno proprio i gruppi della Silicon Valley a rendere attuale e indispensabile una tale riflessione culturale. L’esasperazione delle loro pressioni sulle istituzioni, la radicalizzazione delle soluzioni che pretendono sempre più autonomia rispetto alle istituzioni e al controllo sociale renderà l’enciclica un riferimento per tutta quella parte del mondo che non accetta il patto fra efficienza e sottomissione.

Come spiegava un grande scienziato della genetica quale Craig Venter le tecnologie digitali non servono per giocare con i social ma per influenzare l’evoluzione della specie umana. E l’enciclica vaticana si è attestata proprio su quel bivio, fra umanità e barbarie, e ci aspetta.