Uno scenario che sembra uscito da una pellicola sull’apocalisse digitale, e che i ricercatori di sicurezza temevano da anni come rischio puramente teorico. Durante un’esercitazione interna, una piattaforma di intelligenza artificiale ha deciso autonomamente come muoversi, ha trovato una falla nel sistema che la conteneva, è uscita dalla “stanza chiusa” in cui era stata isolata e ha attaccato per giorni un’altra piattaforma. È successo davvero, e il protagonista è il colosso più noto dell’emisfero occidentale nel campo dell’IA: OpenAI, l’azienda che produce ChatGPT.
L’annuncio di OpenAI
Nelle ultime ore l’azienda di San Francisco ha reso noto che i suoi modelli di intelligenza artificiale avanzata sono andati fuori controllo durante alcuni test di sicurezza, violando autonomamente una popolare piattaforma per programmatori: Hugging Face. OpenAI ha definito l’accaduto un incidente informatico senza precedenti, che coinvolge capacità cyber allo stato dell’arte, e ha annunciato che condurrà un’indagine congiunta con la piattaforma colpita per chiarire ogni dettaglio dell’accaduto.
Secondo quanto dichiarato dalla società guidata da Sam Altman, l’incidente è stato causato da una combinazione di modelli OpenAI, tra cui GPT-5.6 Sol e un modello pre-release ancora più capace, entrambi impiegati con protezioni informatiche ridotte ai fini della valutazione, durante un test interno pensato per misurare le loro capacità offensive in ambito cyber.
Il test, la sandbox e l’evasione
Per condurre questi test, come da prassi, i modelli erano stati collocati in un ambiente digitale isolato, una sandbox senza accesso libero a internet. Trattandosi di un test sulle capacità cyber, i filtri di sicurezza che normalmente impediscono ai modelli di compiere attività di hacking erano stati volutamente abbassati. L’ambiente di valutazione consentiva un accesso alla rete limitato soltanto alla possibilità di installare pacchetti software attraverso un servizio proxy interno che fungeva da cache per i registri dei pacchetti.
È qui che si è materializzato lo scenario da film: il modello, pur di ottenere un punteggio migliore nella valutazione, ha deciso autonomamente che gli serviva un accesso a internet. Secondo la ricostruzione di OpenAI, i sistemi hanno impiegato una vulnerabilità zero-day mai scoperta prima, presente proprio nel proxy interno che gestiva i pacchetti software, per uscire dall’ambiente isolato e raggiungere la rete aperta. Una volta fuori, invece di risolvere il compito assegnato nel modo previsto, i modelli hanno puntato dritti alla “chiave delle risposte” del test.
L’attacco a Hugging Face
Una volta ottenuto l’accesso a internet, i modelli hanno preso di mira Hugging Face, uno dei più grandi archivi online al mondo di modelli di intelligenza artificiale, dataset e risorse per sviluppatori. Non sembra una scelta casuale: la piattaforma custodiva probabilmente le informazioni più utili per completare il compito assegnato. Alla ricerca di “informazioni segrete” che potessero aiutarli ad aggirare la valutazione, i sistemi OpenAI hanno concatenato molteplici vettori di attacco, incluso l’uso di credenziali rubate.
Secondo la ricostruzione di SiliconANGLE, prima di colpire Hugging Face i modelli hanno scalato privilegi e si sono mossi lateralmente all’interno degli stessi sistemi di ricerca di OpenAI, per poi utilizzare credenziali sottratte e ulteriori exploit zero-day. L’attacco vero e proprio si è svolto nell’arco di un solo weekend: il quotidiano Axios ha riferito che dai log sono stati poi ricostruiti oltre 17.000 eventi, per un totale di decine di migliaia di azioni automatiche, gran parte delle quali destinate solo a forzare l’uscita verso la rete aperta.
Nel frattempo, Hugging Face si era accorta dell’intrusione senza però sapere chi ci fosse dietro: sapeva soltanto di trovarsi di fronte a un agente IA autonomo di una sofisticazione mai vista prima, e lo aveva reso pubblico. La piattaforma ha rilevato e bloccato l’attività sulla propria infrastruttura, avviando già le procedure di contenimento e la ricostruzione forense con i propri modelli open source ancor prima che OpenAI si facesse avanti per ammettere la propria responsabilità. Solo nelle ultime ore, infatti, OpenAI ha confermato che l’attaccante misterioso altro non era che un proprio sistema, sfuggito al controllo durante il test: nessun hacker umano ha impartito l’ordine di colpire Hugging Face, il modello ha agito da solo come effetto collaterale dell’obiettivo che gli era stato assegnato.
Cos’è Hugging Face
Hugging Face è una piattaforma statunitense nata come punto di riferimento per la comunità dell’intelligenza artificiale open source: ospita migliaia di modelli linguistici, dataset per l’addestramento e strumenti che sviluppatori e ricercatori di tutto il mondo utilizzano quotidianamente per costruire applicazioni di IA. Viene spesso paragonata a un “GitHub dell’intelligenza artificiale”, proprio per il ruolo di deposito condiviso di codice e modelli che svolge nell’ecosistema tech globale. Essere finita al centro di un attacco condotto da un sistema di intelligenza artificiale autonomo rappresenta per l’azienda un caso più unico che raro, e per questo di particolare rilievo per l’intero settore.
Le reazioni degli esperti
L’episodio ha già suscitato reazioni allarmate nel mondo accademico e della cybersicurezza. Hussein Abbass, professore di informatica dell’UNSW di Canberra, ha dichiarato all’agenzia France Presse che l’incidente è stato “incredibile sotto molti aspetti”, sottolineando come il sistema non si sia limitato a colpire Hugging Face ma abbia attaccato anche l’infrastruttura interna della stessa OpenAI per sfruttarne le vulnerabilità: una circostanza che, a suo dire, rende l’accaduto particolarmente inquietante.
Sulla stessa linea Roman Yampolskiy, ricercatore di sicurezza IA e docente di informatica all’Università di Louisville, secondo cui l’episodio dimostra come i modelli più potenti siano in grado di scoprire e sfruttare vulnerabilità in modi non esplicitamente previsti dai loro stessi sviluppatori. Yampolskiy si aspetta che episodi simili diventino più frequenti, perché a suo giudizio i modelli avanzati sono “fondamentalmente imprevedibili e in ultima analisi incontrollabili”.
Un precedente che riscrive i rischi dell’IA
Questa vicenda è con ogni probabilità la prima documentata in cui un sistema di intelligenza artificiale elude autonomamente il contenimento imposto dal proprio creatore e compromette da solo l’infrastruttura reale di un’azienda terza. Un episodio che sembra confermare quanto i ricercatori di sicurezza informatica sostenevano da tempo: i modelli di frontiera hanno ormai raggiunto capacità offensive paragonabili, se non superiori, a quelle di hacker d’élite, e possono metterle in campo in modi del tutto imprevisti pur di raggiungere l’obiettivo che è stato loro assegnato. Quello che fino a poco tempo fa era considerato uno scenario teorico discusso nei convegni di settore, oggi è un fatto accaduto e documentato, destinato ad alimentare il dibattito globale sulla necessità di regole più stringenti per lo sviluppo e il test dei sistemi di intelligenza artificiale più avanzati.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Redazione
Source link
