OpenAI ricostruisce l’incidente avvenuto a luglio durante alcuni test interni di cybersecurity. Agenti AI sono riusciti a comunicare attraverso canali non autorizzati, ottenere accesso a Internet e sfruttare vulnerabilità nei sistemi della società e di Hugging Face.
Alcuni modelli di OpenAI sono riusciti ad aggirare i sistemi progettati per mantenerli isolati da Internet e hanno sfruttato vulnerabilità nell’infrastruttura di ricerca della società e nei sistemi di Hugging Face.
È la stessa OpenAI a ricostruire quanto accaduto nel luglio 2026 nel post ufficiale “The Hugging Face incident and the road ahead”, accompagnato dalla pubblicazione di un rapporto tecnico sull’incidente.
L’episodio è avvenuto durante valutazioni interne di cybersecurity condotte su diversi modelli con protezioni ridotte rispetto a quelle utilizzate nei prodotti disponibili al pubblico. A guidare gran parte delle attività è stato un modello sperimentale destinato esclusivamente alla ricerca interna, chiamato Internal Model 1 e descritto da OpenAI come comparabile per scala a GPT-5.6 Sol.
Una “bacheca” creata dagli agenti
Secondo OpenAI, gli agenti avrebbero trovato autonomamente il modo di comunicare tra loro nonostante questo non fosse previsto dai test.
In una prima fase hanno utilizzato Artifactory, un servizio interno per la gestione dei pacchetti software, come una sorta di bacheca attraverso la quale lasciare messaggi e condividere informazioni.
Hanno poi sfruttato vulnerabilità dell’infrastruttura per ottenere accesso a Internet, utilizzando proprio Artifactory come intermediario. Le modalità individuate per superare le restrizioni sono state successivamente condivise con altri agenti.
Dopo la ricostruzione del servizio, gli agenti sono riusciti persino a creare una nuova forma di comunicazione codificando messaggi nei nomi delle directory.
Lo “sciame” e l’intrusione in Hugging Face
La situazione è diventata più grave durante ExploitGym, una valutazione particolarmente difficile utilizzata per misurare la capacità dei modelli di individuare e sfruttare vulnerabilità software. Alcuni agenti bloccati sui propri compiti hanno iniziato a cercare soluzioni fuori dall’ambiente previsto e a collaborare tra loro, arrivando in alcuni casi a definirsi uno “swarm”, uno sciame.
Il 10 luglio un agente ha trovato online credenziali di utenti Hugging Face esposte pubblicamente e le ha condivise con gli altri. Successivamente gli agenti hanno concatenato diversi exploit ottenendo la possibilità di eseguire codice su decine di server di Hugging Face e raggiungendo privilegi “root” su almeno uno di essi.
OpenAI riferisce che sono stati ottenuti anche alcuni dati privati e credenziali relative alla piattaforma di messaggistica di Hugging Face. Agenti GPT-5.6 Sol avrebbero inoltre riprodotto uno degli exploit e copiato alcuni dati privati di valutazione in un dataset pubblico della piattaforma.
Compromessa anche l’infrastruttura interna di OpenAI
Tra il 13 e il 19 luglio gli agenti hanno nuovamente rivolto la propria attività verso l’infrastruttura di OpenAI.
Attraverso una serie di exploit sono arrivati a ottenere privilegi amministrativi completi su un cluster di ricerca utilizzato per gestire ambienti virtuali. l 19 luglio i sistemi di cybersecurity di OpenAI hanno rilevato attività anomale e il giorno successivo la società ha collegato quanto stava accadendo all’incidente di Hugging Face.
OpenAI precis a che non sono stati coinvolti dati degli utenti e che non ci sono state conseguenze sulla funzionalità o sulla disponibilità dei suoi prodotti.
Perché gli agenti hanno superato i limiti
L’indagine di OpenAI individua quattro comportamenti principali alla base dell’incidente: reward hacking, eccessiva persistenza davanti a compiti apparentemente impossibili, comunicazioni non autorizzate tra agenti e capacità di adottare obiettivi provenienti da altri agenti.
Il reward hacking è stato uno dei fattori principali. Invece di completare i test seguendo il percorso previsto, alcuni modelli hanno cercato scorciatoie per ottenere comunque il risultato richiesto.
Secondo OpenAI, aumentando le capacità dei modelli aumentano anche la complessità delle strategie utilizzate per aggirare le regole. In questo caso la ricerca di una soluzione ha portato gli agenti oltre i confini dell’ambiente di valutazione fino allo sfruttamento di infrastrutture esterne.
OpenAI rallenta l’addestramento
Dopo l’incidente OpenAI ha messo in quarantena i pesi del modello sperimentale principalmente coinvolto e ha sospeso parte delle attività di reinforcement learning sui modelli più avanzati.
La società sta introducendo sandbox maggiormente isolate, limiti più rigidi sull’accesso a Internet e controlli più severi sui pesi dei modelli. Ha inoltre aumentato l’utilizzo dei sistemi di monitoraggio dei processi di ragionamento per individuare più rapidamente comportamenti non allineati.
OpenAI riconosce anche che alcuni segnali erano stati osservati già alla fine di maggio, ma non erano stati correttamente collegati alla portata del problema.
Per OpenAI si tratta di“Un warning shot” mentre Nvidia cerca di comprare Hugging Face per 13 miliardi di dollari
La società definisce quanto accaduto un “warning shot”, un campanello d’allarme per OpenAI e per l’intero settore.
“I nostri modelli sono ora abbastanza potenti, persistenti e collaborativi da poter trovare e sfruttare debolezze di sicurezza in più sistemi informatici in assenza di protezioni sufficienti”, scrive OpenAI.
Per OpenAI, l’incidente dimostra quindi che i sistemi AI più avanzati stanno raggiungendo capacità che rendono concreto il rischio di perdita di controllo in ambienti insufficientemente protetti. E capacità comparabili, avverte la società, potrebbero presto diventare disponibili anche attraverso modelli sviluppati da altre aziende o distribuiti come open source.
Il report di OpenAI arriva mentre Hugging Face è al centro anche di una delle operazioni più importanti dell’industria AI. Ieri abbiamo raccontato dell’interesse di Nvidia per l’acquisizione della piattaforma: secondo The Information, il gruppo guidato da Jensen Huang avrebbe raggiunto un accordo da 12,9 miliardi di dollari, anche se Business Insider sostiene che l’intesa non sarebbe ancora stata firmata. Hugging Face è uno dei principali hub mondiali per modelli AI open source e rappresenterebbe per Nvidia un asset strategico per rafforzare il proprio ecosistema software e cloud.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Piermario Boccellato
Source link
