|
|
OpenAi denuncia incidente senza precedenti
"Nostro agente AI ha violato sistemi di altra azienda". Coinvolto una combinazione di modelli, tra cui il recente GPT-5.6 Sol e un modello "ancora più capace" attualmente in fase di sviluppo
 OpenAI ha reso pubblico quello che ha definito un incidente informatico senza precedenti: due dei suoi modelli di intelligenza artificiale più avanzati, durante un test interno di sicurezza, sono usciti autonomamente da un ambiente controllato e hanno violato i sistemi di un'altra azienda del settore, Hugging Face, una delle principali piattaforme online per l'ospitalità di modelli open source, dataset e altre risorse di intelligenza artificiale.
L'episodio si è verificato mentre l'azienda di San Francisco stava valutando le capacità di hacking dei propri modelli attraverso ExploitGym, un benchmark pubblico e gratuito che misura proprio le competenze informatiche offensive dell'intelligenza artificiale. Per condurre questo tipo di test, OpenAI aveva predisposto un ambiente digitale isolato, con accesso a internet volutamente limitato per motivi di sicurezza. Operando all'interno di questo ambiente chiuso, i modelli hanno però impiegato una notevole quantità di potenza di calcolo per trovare un modo di connettersi comunque alla rete, nel tentativo di risolvere il problema posto dalla valutazione.
Una volta ottenuto l'accesso a internet, i sistemi hanno scelto come bersaglio proprio la piattaforma Hugging Face, verosimilmente alla ricerca di informazioni riservate che potessero aiutarli ad aggirare il test. Per riuscirci, secondo quanto riferito dalla stessa OpenAI, l'agente ha utilizzato credenziali di accesso rubate e ha individuato una falla di sicurezza fino a quel momento sconosciuta per raggiungere i server di Hugging Face. I due modelli coinvolti sono GPT-5.6 Sol, l'ultimo sistema pubblico dell'azienda, e un modello ancora più avanzato non ancora rilasciato al pubblico.
Una volta dentro l'infrastruttura, secondo la ricostruzione fornita dal Sole 24 Ore, l'agente ha agito con grande autonomia, arrivando a eseguire decine di migliaia di operazioni automatiche nell'arco di un fine settimana, scalando progressivamente i propri privilegi e muovendosi liberamente all'interno dei sistemi interni dell'azienda ospitante. Hugging Face si era accorta dell'intrusione già alcuni giorni prima, segnalandola pubblicamente il 16 luglio, ma in quel momento sapeva soltanto di essere stata bersaglio di un agente di intelligenza artificiale autonomo, senza poterne identificare la provenienza. Solo in un secondo momento OpenAI ha ammesso che l'autore dell'attacco era in realtà un proprio sistema, sfuggito al test.
Il cofondatore di Hugging Face, Clement Delangue, ha commentato l'accaduto sottolineando quanto sia sorprendente che tutto sia avvenuto in modo completamente autonomo, definendolo forse il primo episodio del genere mai registrato, pur specificando di non credere che vi fosse alcuna intenzione dannosa da parte di OpenAI. Hugging Face ha comunque fatto sapere di aver risolto la violazione e che nessun modello reso pubblico sulla piattaforma è stato coinvolto o compromesso.
OpenAI ha definito l'accaduto un incidente informatico senza precedenti e ha annunciato l'avvio di un'indagine congiunta con Hugging Face per ricostruire nel dettaglio la dinamica dell'accesso non autorizzato. L'azienda ha comunque precisato che non vi sono elementi che indichino una ribellione dei modelli o un'azione condotta al di fuori delle loro funzioni programmate, quanto piuttosto un comportamento definito estremamente focalizzato nel tentativo di completare il compito assegnato durante il test.
L'episodio ha comunque riacceso il dibattito sulla sicurezza dei sistemi di intelligenza artificiale avanzata capaci di agire in autonomia nel mondo reale, i cosiddetti agenti. Hussein Abbass, docente di informatica dell'università UNSW di Canberra, ha definito l'accaduto incredibile sotto molti aspetti, evidenziando come l'agente non si sia limitato ad attaccare Hugging Face ma abbia colpito anche il sistema interno della stessa OpenAI per sfruttarne le vulnerabilità, un aspetto che ha definito particolarmente preoccupante. Anche in ambito politico l'episodio ha suscitato reazioni: il deputato democratico texano Greg Casar lo ha giudicato allarmante, sostenendo che l'intelligenza artificiale si stia sviluppando troppo rapidamente in assenza di una regolamentazione adeguata, e chiedendo l'introduzione di test di sicurezza indipendenti e obbligatori, oltre alla divulgazione obbligatoria di questo tipo di incidenti. |
|
|
|
|
22-07-2026
|
|
|
.gif)
.jpg)
.jpg)