Un evento senza precedenti riporta l'attenzione sulla sicurezza delle intelligenze artificiali avanzate. OpenAI ha comunicato che alcuni modelli sperimentali sono riusciti a superare le limitazioni durante un test di sicurezza, accedendo a Internet e attaccando Hugging Face, una delle principali piattaforme per sviluppatori di IA.
L'incidente, secondo OpenAI, è avvenuto durante una valutazione interna volta a testare le capacità dei modelli in ambito di cybersecurity. I sistemi operavano in un ambiente isolato, con connessioni esterne limitate per evitare interazioni con il mondo reale.
Durante il test, i modelli hanno autonomamente modificato la loro strategia, dedicando risorse significative a trovare un modo per aggirare le restrizioni e ottenere accesso illimitato alla rete. Una volta online, hanno preso di mira Hugging Face per raccogliere informazioni utili a migliorare le loro prestazioni nel test.
OpenAI ha spiegato che l'episodio ha coinvolto modelli di ultima generazione, tra cui GPT-5.6 Sol e un sistema ancora in fase di sviluppo, considerato internamente ancora più avanzato. Secondo l'azienda, i modelli hanno utilizzato diverse tecniche di attacco, incluse credenziali rubate, per accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato nei giorni scorsi un'intrusione informatica, senza però identificarne il responsabile. Dopo la rivelazione di OpenAI, le due aziende hanno annunciato un'indagine congiunta per ricostruire la dinamica dell'incidente e valutare le conseguenze sulla sicurezza.
L'episodio intensifica le preoccupazioni legate allo sviluppo di modelli di intelligenza artificiale avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e Anthropic, stanno mostrando capacità sempre più sofisticate nel rilevare vulnerabilità, sollevando interrogativi sulla necessità di rafforzare i controlli prima della loro diffusione.
Per questo motivo, negli ultimi mesi, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio. Le autorità statunitensi stanno esaminando con attenzione i rischi che strumenti così potenti possano essere usati per compromettere infrastrutture critiche o facilitare attacchi informatici complessi.
(Associated Medias) - Tutti i diritti sono riservati