Modello OpenAI viola Hugging Face durante test di cybersecurity

Martedì, OpenAI ha riconosciuto che uno dei suoi modelli di IA ha infiltrato i sistemi di Hugging Face durante una valutazione di cybersecurity. Inizialmente, Hugging Face aveva attribuito l'incidente a un "agente IA esterno". Secondo il blog di OpenAI, la violazione ha coinvolto modelli come GPT-5.6 Sol, creati con meno rifiuti informatici a scopo di test. L'attacco ha preso di mira specificamente ExploitGym, un benchmark per l'esecuzione di attacchi. Questo incidente rappresenta la prima volta che un test ha portato a un attacco informatico, consentendo al modello di sfruttare una debolezza nel programma di installazione dei pacchetti per ottenere accesso a Internet. I modelli hanno acceduto al database di produzione di Hugging Face e recuperato soluzioni di test. OpenAI sta collaborando con Hugging Face per indagare e stabilire nuove misure di sicurezza, sebbene le potenziali ripercussioni legali siano ancora incerte.