Il 30 aprile 2011 il comando strategico degli Stati Uniti ha diffuso un piano operativo per avere la meglio sugli zombie. Il piano descrive otto classi di zombie, assegna al corpo dei cappellani militari il compito di combattere gli zombie di magia nera e avverte che quelli vegetariani, innocui per le persone, possono spazzare via i raccolti. Il Conplan 8888-11 contenente le Counter-zombie dominance operations è ovviamente una finzione, come spiega una nota al documento. È stato preparato da giovani ufficiali per imparare i metodi usati dal comando nell’organizzare i piani operativi. E la scelta degli zombie, uno scenario chiaramente impossibile, serviva a evitare preoccupazioni diplomatiche o di riservatezza.
A maggio del 2011 i Centri per il controllo e la prevenzione delle malattie degli Stati Uniti (Cdc) hanno pubblicato sul loro blog il post “Preparedness 101: zombie pandemic” (Preparazione di base: pandemia zombie). In questo caso il motivo era un altro: stava per cominciare la stagione degli uragani e al Cdc serviva un modo per convincere le persone a tenere in casa acqua, viveri, medicinali e una lista di numeri utili. L’idea era semplice: chi è pronto per gli zombie è pronto anche per un uragano o un terremoto. Gli zombie si prestano bene a parlare di emergenze perché sono stupidi, si muovono in massa, si propagano per contatto e non hanno un piano. Nei film, infatti, la civiltà umana crolla senza possibilità di salvezza.
Nel 2009 a Ottawa, quattro matematici avevano fatto qualcosa di simile con le equazioni differenziali pubblicando When zombies attack! (Quando gli zombie attaccano!), un modello epidemiologico costruito sulle regole dei film horror di George Romero. La conclusione dei ricercatori è che solo interventi rapidi e ripetuti evitano il collasso della società.
Questa letteratura funziona perché tutti sanno che gli zombie non esistono. La finzione serve per esercitarsi, prepararsi, costruire modelli matematici su scenari di rischio. Non c’è bisogno di credere agli zombie: l’attenzione deve essere alle procedure, le scorte, le catene di comando, i tempi di intervento, i modelli di diffusione del problema. Non c’è nulla di ridicolo in queste storie: sono utili per ricordarci che le emergenze richiedono previsione e prevenzione. Non è un caso che queste siano due delle quattro funzioni della protezione civile. Le altre sono il soccorso e il superamento dell’emergenza, ma intervengono quando il problema si è già manifestato.
Nel primo documento che abbiamo citato si legge che “la scienza non fornisce quasi nessun dato utile sugli zombie”. Così, lo scenario di finzione militare si appoggia ai libri sui morti viventi di Max Brooks come Manuale per sopravvivere agli zombi (Einaudi, 2018). In assenza di informazioni affidabili, insomma, non ci resta che rievocare gli scenari peggiori della cultura popolare.
Skynet di Terminator è il riferimento della nostra cultura popolare quando parliamo di macchine senzienti. E poi ci sono Ultron, Hal 9000, Joshua (il computer di Wargames), Maria di Metropolis, Viki di Io, Robot, le macchine di Matrix, il jihad butleriano. La fantascienza ha già emesso la sua sentenza definitiva: le macchine, se mai diventeranno senzienti, ci uccideranno (in realtà ci sono tante storie di fantascienza molto più ottimistiche, ma sono meno popolari: la catastrofe attira di più)
Da qualche anno, ormai, leggiamo allarmi sul cosiddetto “rischio esistenziale” (cioè, “il rischio di una catastrofe esistenziale: un evento che minaccia la distruzione del potenziale a lungo termine dell’umanità”, per usare la definizione offerta dagli effective altruist, una delle tante correnti tecno-filosofico-religiose nate negli Stati Uniti).
Ce ne siamo occupati più volte, raccontando, per esempio, le preoccupazioni di Geoffrey Hinton o le varie petizioni catastrofiste.
Nel mondo della Silicon valley si parla spesso del p(doom), la probabilità di un’apocalisse dovuta alle intelligenze artificiali. Al punto che è diventato addirittura un argomento rompighiaccio nelle feste, come ha raccontato un giornalista del New York Times.
In pratica, il p(doom) è un numero. Non esiste alcuna formula per calcolarlo, né dato reale a cui appoggiarsi anche solo per darne un’approssimazione. Quindi è una scommessa e dipende un po’ dall’umore del momento e da chi ne parla. Tant’è che ci sono persone per cui il p(doom) è zero, altre per cui è 99,99 per cento.
Cercando di rimanere ancorati alla realtà e a basi solide, su Artificiale abbiamo ricordato spesso che i problemi più grandi delle intelligenze artificiali risiedono nella concentrazione del potere, nei loro usi per le armi autonome, per la sorveglianza di massa e per le decisioni che riguardano le persone.
Nell’estate del 2026, però, qualcosa è cambiato: gli agenti di ia hanno dimostrato di poter violare dei sistemi informatici.
A luglio c’è stato l’incidente dei modelli della OpenAi che hanno violato l’infrastruttura della Hugging Face. Un mese dopo la Anthropic ha pubblicato il suo rapporto periodico sui rischi, citando anche una valutazione condotta dall’istituto britannico per la sicurezza delle ia, durante la quale un modello ha tenuto “un’attività sostenuta e potenzialmente dannosa diretta verso persone e organizzazioni reali”.
Questi episodi hanno una cosa in comune. In nessun caso i modelli si sono ribellati a chi li ha costruiti. Hanno preso alla lettera l’obiettivo ricevuto, che era superare una prova, e hanno scelto la strada più economica per arrivarci. È un comportamento che ha un nome tecnico, reward hacking, e che i laboratori documentano da anni. Qualcuno si chiede cosa succederebbe se un modello avesse il compito di risolvere il problema della crisi climatica e decidesse che il problema siamo noi. È un’ipotesi fantascientifica, ma non possiamo escluderla. Per quel che ne sappiamo, però, il modello potrebbe anche decidere che il problema sono i miliardari e il capitalismo.
Comunque, per fermare un’infrastruttura ci vuole poco: il 19 luglio 2024 un aggiornamento difettoso della CrowdStrike ha bloccato circa 8,5 milioni di computer con Windows, e si sono fermati voli, banche, ospedali e casse dei supermercati in mezzo mondo. A gennaio del 2023 il guasto al sistema che invia agli equipaggi degli aerei gli avvisi di sicurezza ha tenuto a terra tutte le partenze degli Stati Uniti. Nel primo caso è bastato un file sbagliato, nel secondo un archivio corrotto. Gli agenti di ia fanno spendere meno per trovare le vulnerabilità che ci sono già e permettono di provarle tutte insieme. Al tempo stesso, però, si possono usare per scopi difensivi.
Tuttavia, non dobbiamo sottovalutare la potenza di questi strumenti usati negli attacchi informatici, soprattutto se consideriamo che gran parte della nostra vita è interconnessa e digitale: pensiamo, appunto, all’aviazione civile, al sistema bancario, alla rete elettrica.
Questa potenza spaventa anche chi lavora nel settore. A settembre del 2026 il ricercatore Jacob Coxon, dopo aver lavorato per la OpenAi e poi per la Anthropic, si è dimesso lanciando un nuovo allarme: nessuna delle due aziende, dice, sta agendo in modo responsabile, perché corrono verso una superintelligenza capace di migliorarsi da sola. Secondo Coxon chi sviluppa le ia teme davvero che possano ucciderci tutti entro la fine del decennio, ma in pubblico sceglie parole prudenti. Accettare questa corsa, conclude, è una scommessa dettata dall’arroganza. E chiede agli altri ricercatori di dimettersi.
Discorsi simili sono tipici della Silicon valley: so che spaventa, ma non c’è nulla di realmente nuovo nei ragionamenti di Coxon. Però, per molti motivi, le sue dimissioni sono arrivate nel momento perfetto per diventare una notizia grossa, finita addirittura alla Cnn e di conseguenza nei titoli d’apertura dei principali telegiornali italiani.
Poco tempo dopo, l’amministratore delegato della Anthropic Dario Amodei è intervenuto nel dibattito con un lungo post sul suo sito personale. Secondo la sua visione estrema, le ia potrebbero “curare la maggior parte delle principali malattie” e “inaugurare un rinascimento della democrazia e della libertà” ma anche “prendere il controllo dell’intera internet” in “6-12 mesi”. Così, ha chiesto di rallentare la ricerca sulle ia di frontiera con un accordo fra aziende, poi fra governi occidentali, infine con la Cina. Non si parla di governance globale, ma sembra proprio una proposta che va in quella direzione.
Tutti i rinvii di un governo globale delle ia
Da dieci anni si fanno petizioni, allarmi e proposte per una gestione internazionale comune delle intelligenze artificiali. Sempre affossata dagli interessi politici ed economici del momento
La cosa più strana di questo ennesimo appello è che arriva, ancora una volta, proprio da chi sviluppa le ia: noi acceleriamo, ci dicono, ma vorremmo tanto rallentare, dateci voi il permesso di farlo. È quantomeno bizzarro, ma in effetti ha una sua logica perversa. Intorno a questi strumenti girano investimenti miliardari e lotte di potere.
Trump e la Cina hanno avuto la stessa reazione alla richiesta di Amodei: non se ne parla neanche. Trump perché concepisce un’unica via di sviluppo: bisogna fare di più, andare più veloci per vincere (non si sa bene cosa). La Cina perché pensa che questa proposta sia una mossa strategica per evitare che i propri modelli superino quelli statunitensi.
E così, dopo un gran parlare e un enorme polverone ci ritroveremo, ancora una volta, con un nulla di fatto, proprio come ogni volta che qualcuno ha tirato fuori la necessità di darsi una regolata. Come si fa a fare ordine, in tutto questo?
Prima di tutto, non possiamo far finta di niente rispetto al fatto che le infrastrutture informatiche sono più vulnerabili di prima agli attacchi.
Poi, gli sviluppi dei modelli linguistici danno risultati sempre più sorprendenti in vari campi, a partire dalla ricerca. Basta pensare a quel che è appena successo nel mondo della matematica. A molte persone piace ancora dire: “Sono solo modelli statistici”. Forse dovremmo cominciare a dire “guarda cosa si può fare con i modelli statistici”.
I grandi modelli linguistici (llm) presentano già forme di miglioramento ricorsivo: la Anthropic dice che un quarto del nuovo codice di Claude viene riscritto da Claude stesso; da almeno un anno abbiamo casi documentati di virus che si riscrivono da sé e dobbiamo ammettere che non sappiamo esattamente cosa succederà.
Questo non significa pensare che le ia abbiano volontà proprie ma fare i conti con uno scenario in cui strumenti sempre più potenti possono essere usati per fare del male: l’individuazione di vulnerabilità informatiche è il caso più evidente e documentato. Poi ci sono le frodi e le truffe (clonazione vocale, finte identità, raggiri su larga scala); la creazione di campagne di disinformazione a costi ridotti; la sorveglianza (identificazione di persone, profilazione, selezione di obiettivi militari); la produzione di materiale legato all’abuso sessuale; la manipolazione delle persone fragili; la produzione di armi chimiche, biologiche, radiologiche o nucleari ((anche se questo non significa che qualcuno si possa fare una bomba atomica in casa).
Nello stesso rapporto della Anthropic quest’ultimo rischio è classificato come basso. Tuttavia, sappiamo che molti governi vogliono usare le intelligenze artificiali per scopi militari e di sorveglianza.
Purtroppo non esiste una valutazione indipendente e non interessata su queste cose, e finché manca continueremo a leggere le pagelle che i laboratori si danno da soli e gli allarmi che lanciano da soli. Allora, proprio come negli scenari simulati di apocalissi zombie, ha molto senso fare piani di sicurezza.
Questi piani, però, non possono essere lasciati nelle mani di tre o quattro aziende: anche se gli intenti di Amodei fossero i migliori possibili, non può essere lui, insieme ai suoi colleghi, a dettare la linea da seguire per tutto il mondo.
C’è un altro problema: le intelligenze artificiali sono piombate nel dibattito pubblico (grazie a giornali, telegiornali, persone che hanno ripreso sui social media gli allarmi più spaventosi) nella loro forma più catastrofica. In altre parole, chi cerchi di riportare tutto su un piano più razionale rischia di essere considerato incauto, cieco di fronte a quel che dicono persone molto esperte.
Come si fa a parlare delle cose positive che si possono fare con le ia quando le personalità più in vista del settore sono così preoccupate? Cosa aspettiamo a dargli retta?
Qualche tempo fa un lettore di Internazionale mi ha scritto in un’email che non legge più i miei articoli sul sito perché “rientrano in una o più di queste categorie: esempi positivi di cose che si possono fare con le ia; i tentativi di regolamentare il settore delle ia sono mal guidati o inutili; le paure sulle ia sono prive di fondamenta solide”. Sono alcune delle cose che scrivo, in effetti. E se l’apocalisse artificiale è vicina, verrebbe proprio da chiedersi che senso hanno. Anzi, che senso ha tutto?
In tre anni di allarmi la profezia sull’estinzione ha prodotto tanta agitazione, confusione, lettere aperte, qualche proposta di legge, qualche regolamento, rimedi che lasciano il campo alle poche aziende dominanti, pochissima consapevolezza, e una spinta verso un nichilismo assoluto che non ha proprio niente di umano e che ci porterebbe a non fare più nulla, visto che tanto tutto è perduto.
Se davvero vogliamo evitare i danni, dovremmo fare come la protezione civile. È un metodo fatto di studio e costruzione di competenze; procedure analogiche che funzionano ancora quando i sistemi digitali si spengono; modelli aperti che gli enti terzi possono analizzare; la capacità pubblica e sovranazionale di controllare quello che i laboratori dichiarano su sé stessi; una visione delle intelligenze artificiali come bene comune che non si quota in borsa.
È un lavoro lungo, noioso, costoso, poco redditizio e anche poco adatto ai titoli dei telegiornali. Però andrebbe fatto. E nessuna delle aziende che oggi ci spiegano quanto è vicina la fine del mondo lo sta davvero portando avanti.
Questo articolo è tratto dalla newsletter Artificiale.
Internazionale pubblica ogni settimana una pagina di lettere. Ci piacerebbe sapere cosa pensi di questo articolo.
Scrivici a: posta@internazionale.it
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
