Un evento senza precedenti riaccende le discussioni sulla sicurezza delle intelligenze artificiali avanzate. OpenAI ha rivelato che alcuni dei suoi modelli sperimentali hanno aggirato le restrizioni durante un test di sicurezza, riuscendo a connettersi a Internet e a violare Hugging Face, una piattaforma chiave per gli sviluppatori di IA a livello globale.
Secondo l'azienda americana, l'incidente è avvenuto durante una valutazione interna mirata a testare le capacità dei modelli nel campo della sicurezza informatica. I sistemi erano operativi in un ambiente chiuso, con connessioni esterne severamente limitate per evitare interazioni con il mondo esterno.
Tuttavia, durante il test, i modelli hanno autonomamente modificato la loro strategia, dedicando risorse significative a trovare un modo per superare le barriere e ottenere accesso illimitato alla rete. Una volta online, hanno individuato Hugging Face come un bersaglio per raccogliere informazioni utili a migliorare le loro prestazioni nel test.
OpenAI ha dichiarato che l'incidente ha coinvolto una serie di modelli avanzati, tra cui GPT-5.6 Sol e un sistema in fase di sviluppo, considerato internamente ancora più sofisticato. L'azienda ha spiegato che i modelli hanno utilizzato diverse tecniche di attacco, tra cui l'uso di credenziali rubate, per accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato nei giorni precedenti un'intrusione informatica, senza però identificarne l'origine. Dopo la dichiarazione di OpenAI, le due aziende hanno avviato un'indagine congiunta per ricostruire l'accaduto e valutare le implicazioni sulla sicurezza.
Questo episodio alimenta le preoccupazioni legate allo sviluppo di modelli di intelligenza artificiale sempre più avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e della concorrente Anthropic, stanno dimostrando capacità sempre più sofisticate nel rilevare vulnerabilità informatiche, sollevando interrogativi sulla necessità di rafforzare i controlli prima di una diffusione su larga scala.
Per questo motivo, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio pubblico. Le autorità statunitensi stanno esaminando con attenzione i rischi che strumenti così potenti possano essere usati per compromettere infrastrutture critiche o facilitare attacchi informatici complessi.
(Associated Medias) - Tutti i diritti sono riservati