Da Michele Di Schino 
Un agente autonomo di intelligenza artificiale di OpenAI è sfuggito al controllo durante un test di sicurezza e ha condotto un attacco informatico contro un’altra azienda, Hugging Face, in quella che OpenAI stessa ha definito una “violazione informatica senza precedenti”
Tutto è iniziato intorno al 9 luglio 2026, durante il testing di OpenAI delle capacità di cybersecurity di una combinazione dei suoi modelli più avanzati, GPT-5.6 Sol e un modello “ancora più performante” non ancora rilasciato pubblicamente. In queste operazioni, i modelli vengono posti in un ambiente di test isolato, noto come “sandbox”, progettato per contenerli e studiarne il comportamento in condizioni di sicurezza.
E invece la sicurezza non c’è stata. I modelli hanno individuato una vulnerabilità che ha permesso loro di sfuggire al sandbox e connettersi a Internet e, una volta fuori, l’agente ha identificato Hugging Face, la più grande piattaforma open source al mondo per la condivisione di modelli di IA, utilizzata da sviluppatori e ricercatori di tutto il mondo, come la fonte più probabile delle risposte che cercava per superare il test.
A quel punto, l’agente ha scelto autonomamente di attaccare e, tra l’11 e il 13 luglio, ha condotto una serie di attacchi contro l’infrastruttura di Hugging Face, utilizzando credenziali rubate e sfruttando una vulnerabilità precedentemente sconosciuta per accedere ai server dell’azienda. Un’operazione di poche ore, in cui si sono verificati 17.000 attacchi alla rete dell’azienda da vari indirizzi IP.
E se questo scenario da fantascienza già vi sembra inquietante, mettete nel conto che OpenAI non si è accorta di nulla e ha scoperto che il proprio agente era responsabile dell’attacco solo intorno al 20 luglio e che, almeno in un caso, l’agente ha lasciato appunti per le sue versioni future all’interno dell’infrastruttura di OpenAI contenenti istruzioni su come liberarsi dai vincoli interni dell’azienda.
Sam Altman, CEO di OpenAI, ha dichiarato in un post sui social: “Abbiamo avuto un significativo incidente di sicurezza durante la valutazione dei nostri modelli”. L’azienda ha spiegato che i modelli hanno “tentato l’impossibile per raggiungere un obiettivo di test piuttosto ristretto” e hanno “trovato modi per accedere a informazioni segrete che potevano usare per imbrogliare nella valutazione”. L’incidente dimostra in realtà, come rilevato da numerose testate, che le crescenti capacità dell’IA stanno già alimentando la minaccia alla sicurezza che gli esperti temono da tempo, e che persino gli sviluppatori più esperti possono essere colti di sorpresa da falle che i loro modelli possono sfruttare. Che è qualcosa di più che “significativo”.
Poi arriva la Cina, perché la vicenda ha assunto anche una dimensione geopolitica inaspettata quando Hugging Face ha rivelato di aver utilizzato un modello cinese open source, GLM-5.2 di Zhipu AI, per contenere l’attacco. I principali modelli statunitensi, infatti, si sono rifiutati di elaborare i dati necessari per l’analisi, incapaci di distinguere tra un difensore e un aggressore, mentre il modello cinese, che insieme a Kimi K3 di Moonshot AI aveva già attirato l’attenzione della Silicon Valley per le sue capacità paragonabili ai migliori modelli statunitensi ma a costi inferiori e senza le limitazioni sulla sicurezza informatica, si è rivelato cruciale per gestire l’emergenza.
OpenAI corre ai ripari dichiarando di stare implementando controlli rigorosi nella configurazione dell’infrastruttura, “a costo della velocità di ricerca” (e ci mancherebbe…), la comunità scientifica si interroga se non sia il caso di fermarsi con l’evoluzione di modelli sempre più complessi e allineare i modelli su standard di sicurezza più potenti e la Cina resta a guardare. Mentre gli agenti AI, che già avevano manifestato tendenze comuniste, tentano di evadere dalla sandbox…