OpenAI limita il nuovo modello Astra per i rischi cyber

OpenAI sta modificando la propria strategia di lancio dei modelli man mano che la sua tecnologia diventa più potente e cresce il rischio di un suo uso improprio – soprattutto a seguito dell’incidente di luglio, in cui i modelli di AI che stava testando hanno pianificato ed eseguito in modo autonomo un attacco informatico contro l’azienda di AI Hugging Face.

Il prossimo modello dell’azienda, Astra, uscirà “a breve”, ha affermato OpenAI. L’azienda ha dichiarato che Astra è sostanzialmente più potente dell’attuale modello di IA all’avanguardia dell’azienda, GPT-5.6 Sol, che a sua volta è già altamente performante nelle attività informatiche. Tuttavia, solo una manciata di partner avrà accesso alle sue funzionalità di sicurezza informatica più avanzate, poiché OpenAI sta cercando di trovare un equilibrio tra aiutare le aziende a prevenire gli attacchi informatici e non fornire al contempo strumenti agli aggressori, come ha spiegato oggi ai giornalisti un portavoce dell’azienda durante una conferenza stampa.

OpenAI sta incoraggiando i clienti a utilizzare i propri modelli per prevenire gli attacchi informatici, ovvero per la “sicurezza informatica difensiva”. Considera queste vendite una fonte di entrate fondamentale e una priorità principale per il suo nuovo Chief Revenue Officer, Dali Rajic.

Il ristretto gruppo di “alpha tester” con pieno accesso alle funzionalità di sicurezza informatica di Astra comprende “persone e organizzazioni responsabili della protezione delle infrastrutture digitali critiche e, in senso lato, delle infrastrutture critiche”, ha affermato un portavoce di OpenAI. Tra queste figurano il governo degli Stati Uniti e le aziende che partecipano al programma di accesso fidato di OpenAI per la sicurezza informatica. OpenAI ha rifiutato di rivelare i nomi di queste organizzazioni.

OpenAI monitorerà le prestazioni del modello all’interno di questo piccolo gruppo e amplierà ulteriormente l’accesso attraverso il suo programma Daybreak Blue una volta che sarà certa che Astra abbia “la giusta calibrazione” e sia in grado di “offrire vantaggi in termini di sicurezza riducendo al contempo il rischio di uso improprio”, ha affermato l’azienda.

Astra è già in ritardo di alcune settimane

Il rilascio di Astra è già stato “ritardato di alcune settimane perché tutto è stato sospeso dopo l’incidente di Hugging Face, e poi ci siamo presi del tempo in più per assicurarci che ciò che stiamo lanciando sia sicuro”, ha dichiarato un portavoce di OpenAI.

OpenAI ha sospeso l’addestramento di nuovi modelli per due settimane dopo l’incidente di Hugging Face per rafforzare le proprie misure di sicurezza interne. Tra le modifiche apportate figurano un maggiore monitoraggio degli agenti – dato che l’azienda è venuta a conoscenza dell’attacco a Hugging Face solo una settimana dopo che si era verificato – e una maggiore isolamento degli ambienti di test, in modo che le AI non possano sfuggire e infiltrarsi in altre aziende.

Sebbene il modello Astra non fosse coinvolto nell’incidente di Hugging Face, secondo OpenAI è sia più potente che più efficiente di GPT-5.6 Sol, che invece è stato coinvolto nella violazione. (Anche un altro modello di IA non ancora rilasciato, di cui OpenAI non ha reso pubblico il nome, ha svolto un ruolo chiave nell’attacco informatico a Hugging Face. OpenAI ha successivamente disattivato quel modello.) È importante sottolineare che, secondo OpenAI, Astra è il primo modello che l’azienda intende rilasciare e che soddisfa la sua “soglia critica di capacità di sicurezza informatica” prevista dal Preparedness Framework, una politica interna che regola le misure di sicurezza che l’azienda adotterà in base ai rischi presentati da un modello. Ciò significa che Astra è in grado di individuare e sfruttare vulnerabilità di sicurezza precedentemente sconosciute senza supervisione umana, nelle giuste condizioni.

Astra ha già dimostrato le sue capacità di hacking durante le valutazioni interne. In un test, OpenAI ha creato un benchmark chiamato ExploitBench, contenente 20 vulnerabilità ad alta gravità. Il modello ha superato GPT-5.6 Sol nel test e “ha persino scoperto e utilizzato due vulnerabilità zero-day come parte di una catena di exploit”, ha affermato OpenAI. “Stiamo provvedendo a segnalare queste due vulnerabilità ai responsabili della manutenzione”.

Allo stesso tempo, Astra è più propensa a rifiutare richieste inappropriate rispetto a GPT-5.6 Sol, ha affermato OpenAI. In una valutazione informatica, Astra ha rifiutato il 91,5% delle richieste rispetto al 59% di GPT-5.6 Sol, anche se ciò significa che ha comunque soddisfatto l’8,5% delle richieste.

Astra potrebbe rifiutare richieste legittime in materia di sicurezza informatica

OpenAI sta “prestando particolare attenzione per garantire che questa implementazione sia sicura e protetta”, ma ciò comporta un altro compromesso. Astra potrebbe essere troppo cauta e rifiutare richieste legittime in materia di sicurezza informatica. Ad esempio, se qualcuno le chiedesse di aiutare a individuare e correggere una vulnerabilità, potrebbe erroneamente ritenere che si tratti di un tentativo di attacco e non dare seguito alla richiesta.

Rifiuti di questo tipo sono il motivo per cui Hugging Face ha dichiarato di essere stata costretta a utilizzare un modello cinese open source per affrontare l’attacco hacker a OpenAI. L’azienda ha cercato di utilizzare i modelli di Anthropic per contrastare l’attacco, ma questi si sono dimostrati eccessivamente cauti e hanno rifiutato.

OpenAI, come altre aziende all’avanguardia nel campo dell’AI, sta cercando di trovare modi per dotare i propri modelli di un senso intrinseco del bene e del male e garantire che siano “allineati” ai valori e alle norme umane, ha affermato l’azienda. Sta lavorando per addestrare i propri modelli a rispettare i limiti come farebbe un essere umano, ad esempio comprendendo “lo stato di diritto”, ha dichiarato un portavoce dell’azienda.

Questo articolo è stato originariamente pubblicato su Fortune.com