AI e la pausa di riflessione, perchè Anthropic “ha ragione”

Perchè mettere un freno alla corsa dell’AI è una buona idea (e cosa servirebbe)

Fermiamo tutto, almeno per un po’. Questa volta la richiesta di una pausa di riflessione arriva da una fonte particolare: Anthropic, l’azienda che ha costruito uno dei modelli di intelligenza artificiale (AI) più avanzati al mondo. “Non è un blocco ideologico, un rifiuto luddista, ma un freno temporaneo per permettere alla società di capire cosa stiamo costruendo prima che sia troppo tardi. E io credo che abbiano ragione”. A dirlo a LaSalute di LaPresse è Francesco Branda, ricercatore dell’Università Campus Bio-Medico e socio della Società europea per l’etica e la politica dell’intelligenza artificiale (Sepai).

Per Branda “il punto non è solo il futuro ipotetico di macchine che si auto-migliorano all’infinito, ma il presente che già ci sta sfuggendo di mano. Abbiamo accelerato così tanto che non stiamo più guidando: stiamo reagendo. Ciò che colpisce è che l’allarme arriva proprio da chi il pedale lo schiaccia ogni giorno. Anthropic ammette che Claude scrive già l’80% per cento del proprio codice e che entro due anni potrebbe arrivare al 100%”. Un po’ come consegnare di fatto le chiavi del laboratorio a un assistente a cui solo ieri abbiamo insegnato a usare il cacciavite, dice lo scienziato italiano.

Chi ha paura dello stop sul cammino dell’AI

Eppure molti negli Stati Uniti si oppongono a qualsiasi rallentamento per paura della Cina, cadendo nella stessa trappola che ha trasformato la guerra fredda tecnologica in una corsa agli armamenti. “Solo che qui l’arma non è una bomba, ma un’intelligenza capace di progettare la prossima bomba da sola”, dice Branda.

Non serve attendere la superintelligenza per vedere danni reali. “Ne abbiamo già sotto gli occhi casi eclatanti. L’avvocato americano che ha usato ChatGPT per preparare una memoria difensiva e si è ritrovato a citare precedenti giudiziari inesistenti, con tanto di nomi di giudici inventati, è stato scoperto dal tribunale e ha distrutto la propria carriera. Air Canada è stata costretta a risarcire un cliente perché il suo chatbot aveva inventato una politica tariffaria favorevole, e il giudice ha stabilito che l’azienda è responsabile per le bugie del suo assistente automatico. I deepfake politici hanno già influenzato elezioni in Slovacchia e Indonesia con falsi audio e video manipolati in pochi minuti”, ricorda Branda.

Nessuno di questi incidenti richiede un’AI superiore a quella attuale, “ma solo che milioni di persone e istituzioni usino strumenti imperfetti come se fossero oracoli infallibili“.

I giovani e l’AI: l’automatizzazione del pensiero

“Ma il danno più silenzioso, e forse il più grave, è quello che stiamo infliggendo all’educazione dei giovani. L’intelligenza artificiale non sta solo automatizzando compiti, sta automatizzando il pensiero. Insegnanti di scuola superiore e università raccontano ovunque la stessa storia: studenti che consegnano saggi perfetti, grammaticalmente ineccepibili, ma che non sanno rispondere a una domanda banale sul loro stesso testo perché non lo hanno scritto loro. Hanno imparato a usare ChatGPT, ma non hanno imparato a ragionare. Perché dovrebbero, quando il sistema premia il risultato e non il processo, e l’AI dà il risultato in tre secondi?”.

Le conseguenze, per Branda e non solo, sono devastanti. “Si perde la capacità di argomentare, perché scrivere un testo aiuta a organizzare le idee: se l’AI scrive per te, tu non impari a distinguere una tesi solida da una fallace, ma a riconoscere frasi che suonano bene. Crolla l’onestà intellettuale, perché sempre più studenti considerano normale far fare i compiti all’AI, non come barare ma come ottimizzare, e quando un’intera generazione normalizza l’elusione dello sforzo cognitivo, cosa resta della ricerca, della scienza, delle professioni?”, si chiede lo scienziato.

Il sapere apparente

Non solo: si acuisce la disuguaglianza formativa. “Chi ha accesso ai modelli migliori produce output migliori senza essere più intelligente, creando una bolla di competenze apparenti che esploderà quando questi ragazzi entreranno nel mondo del lavoro senza aver mai veramente lottato con un problema complesso. I bambini di oggi interagiscono con assistenti vocali e chatbot prima ancora di imparare a scrivere”. Cosa significa crescere con una macchina che risponde sempre, che non si stanca, che non dice ‘non lo so’, ma piuttosto inventa? “Non lo sappiamo ancora, eppure stiamo facendo l’esperimento su scala globale senza alcun comitato etico”, scandisce Branda.

Ecco perché la richiesta di Anthropic “non è un’utopia, ma buon senso industriale. Rilasciamo modelli che allucinano, discriminano, vengono usati per deepfake, li chiamiamo ancora imperfetti ma li rendiamo disponibili a miliardi di utenti. Rallentare significa finalmente migliorare, addestrare le persone prima delle macchine, inserendo l’alfabetizzazione all’AI nei programmi scolastici prima che i bambini incontrino ChatGPT, non per paura ma per competenza. Insegnando cosa chiedere, come verificare, quando non fidarsi”, elenca Branda.

Un modello più piccolo ma onesto vale più di uno gigante che inventa

Per Branda servono “regole globali sulla trasparenza dell’auto-miglioramento: se un sistema inizia a riscrivere parti di sé, l’azienda deve segnalarlo, non possiamo scoprirlo dopo”. Non bisogna essere tecnofobi, precisa lo studioso: ormai l’uso dell’AI è quotidiano, ci aiuta a scrivere, tradurre, organizzare idee. “Ma proprio per questo dobbiamo riconoscerne i limiti e capirne la facilità con cui la abbracciamo prima come stampella, poi come protesi, poi come cervello esterno”.

“Allora la domanda è: abbiamo ancora il tempo, la lucidità e la volontà collettiva di mettere un freno prima che l’auto finisca nel burrone? Per la prima volta uno dei costruttori ha detto ad alta voce: forse stiamo andando troppo forte. Io dico: ascoltiamoli. Non per paura del futuro, ma per rispetto del presente, e dei giovani che stanno imparando, proprio ora, che pensare è facoltativo”, chiosa il ricercatore italiano.