cosa farà il panel scientifico Walter Quattrociocchi

Con l’entrata in vigore dell’AI Act, l’Unione europea si è dotata di un nuovo organo che promette di ridisegnare il rapporto tra scienza, politica e governance dell’intelligenza artificiale. Si tratta del gruppo di esperte ed esperti scientifici istituito dalla Commissione europea ai sensi dell’articolo 68 della legge sull’IA: 60 candidati selezionati unicamente per i propri meriti scientifici nel campo dell’intelligenza artificiale.

Il compito di questo organo consultivo è tutt’altro che marginale: fornirà consulenza all’Ufficio per l’IA e alle autorità nazionali sull’attuazione della normativa e sulla valutazione degli impatti e dei rischi dei modelli di intelligenza artificiale per finalità generali.

Tra le responsabilità principali figurano la segnalazione dei rischi sistemici, il supporto sulle metodologie di classificazione e valutazione dei modelli, e il sostegno alle attività di vigilanza del mercato: un ruolo, questo, distinto ma complementare rispetto al forum consultivo, che invece raccoglie il contributo più ampio di industria, società civile e mondo accademico.

Il gruppo ora muove i primi passi. «Siamo agli albori». Lo racconta a INNLIFES Walter Quattrociocchi, che guida il Center of Data Science and Complexity for Society (CDCS) della Sapienza di Roma ed è tra i 60 membri selezionati. «L’intenzione è costruire un sistema che cerchi di mettere una guida scientifica su un tema tanto importante per la maturità democratica. Tutto quello che riguarderà l’IA passerà di là, e si potranno fare segnalazioni di rischio sistemico».

Uno strumento operativo, non consultivo

Un aspetto su cui Quattrociocchi insiste è la differenza di natura e di funzione rispetto ad altri organismi internazionali che si occupano di intelligenza artificiale.

«A differenza del panel delle Nazioni Unite sull’IA per esempio, che ha lo scopo di produrre solo documenti di indirizzo, il nostro comitato collabora con la Commissione europea per la governance dell’impatto strategico delle società di IA. Non si tratta dunque di un organismo puramente consultivo o dichiarativo, ma di uno strumento che la Commissione intende utilizzare in modo operativo, con la possibilità concreta di attivare verifiche sul campo».

Per esempio, spiega Quattrociocchi, «se si presume un pericolo legato a una nuova tecnologia, basta che un certo numero di membri del panel lo ritenga necessario per far partire un’ispezione, anche se il meccanismo  deve ancora essere precisato».

Questa impostazione, secondo il ricercatore, riflette anche una postura più ampia dell’Europa nel panorama geopolitico della regolazione tecnologica, in un confronto implicito con le altre grandi potenze dell’IA. «La Cina questo lavoro lo fa già, mentre gli Stati Uniti, come sappiamo, decisamente no. L’Europa dal canto suo si è posta il problema per interesse a tutelare tutti i valori su cui si fonda: mette a sistema istituzioni politiche, istanze sociali e scienza».

L’idea è che ogni modello generale di IA (Gemini, OpenAI, Claude, i modelli cinesi), ben al di là dei semplici chatbot, abbia un impianto verificato: un po’ il meccanismo dell’EMA per i farmaci. «Così come nessun farmaco entra sul mercato senza una valutazione scientifica indipendente – puntualizza Quattrociocchi – l’idea è che in futuro nessun modello di IA per finalità generali possa operare senza un vaglio altrettanto rigoroso».

Che problemi verranno affrontati

Tra i compiti che attendono il comitato nei prossimi mesi c’è la delineazione dei rischi sistemici legati ai modelli di IA: non solo quelli più tecnici, legati alla cybersicurezza o al possibile uso improprio, ma anche quelli cognitivi e umani, spesso trascurati nel dibattito pubblico.

Su questo punto Quattrociocchi è particolarmente netto. «I rischi sistemici, anche quelli cognitivi e umani, esistono, anche se alcuni fanno finta di no; è molto presente per esempio la delega cieca al LLM, soprattutto su questioni di conoscenza. In altre parole si passa da un modello basato sulla verifica umana a uno basato sull’accorpamento di plausibilità linguistica: da un lato si crea un’illusione di conoscenza, dall’altro se ne produce la distruzione».

Esperti europei ma anche da fuori Europa

Sui 60 esperti nominati, la maggioranza proviene da paesi dell’Unione europea, a conferma della natura squisitamente comunitaria dell’iniziativa, pur nell’apertura a competenze extraeuropee. Italia, Polonia, Svezia, Belgio, Spagna, Germania e Francia risultano i paesi più rappresentati, ciascuno con 3 nomine, il tetto massimo consentito, stabilito proprio per garantire l’equilibrio geografico nella composizione del gruppo e impedire che le grandi potenze scientifiche europee monopolizzassero i seggi disponibili. Subito dopo, con 2 esperti ciascuno, si collocano Cechia, Regno Unito, Romania, Austria, Paesi Bassi, Lituania e Finlandia.

Seguono, con un esperto a testa, numerosi altri paesi europei: Malta, Ungheria, Irlanda, Croazia, Bulgaria, Danimarca, Slovacchia, Estonia, Slovenia, Cipro, Portogallo, Lussemburgo, Grecia e Lettonia. Una partecipazione diffusa che testimonia lo sforzo di rappresentare, sia pure con un solo nominativo, anche i paesi membri di dimensioni più contenute o con comunità scientifiche meno numerose nel campo dell’IA.

A completare il quadro europeo figurano tre paesi che, pur non facendo parte dell’Unione europea, sono stati comunque inclusi nel gruppo, a testimonianza di un respiro continentale più ampio di quello meramente comunitario: Svizzera, Islanda e Norvegia, con un esperto ciascuno.

Fuori dall’Europa, la presenza è più contenuta ma non trascurabile, ed è proprio questa la componente che Quattrociocchi definisce «molto interessante»: si contano infatti sette esperti extraeuropei, pari a poco più del 10% del totale. Il Nord America è rappresentato da 2 esperti canadesi e 2 statunitensi, mentre completano il quadro un esperto egiziano, uno cinese e uno australiano. Una presenza che, per quanto minoritaria, rompe con la logica puramente continentale che caratterizza altri organismi consultivi dell’Unione europea, e che riflette la scelta dichiarata di privilegiare il merito scientifico rispetto alla sola appartenenza geografica o istituzionale.