Il CEO di OpenAI Sam Altman informa i senatori dopo che un agente AI ha violato Hugging Face

Mercoledì, il CEO di OpenAI Sam Altman ha incontrato i senatori statunitensi a Washington per discutere dei modelli futuri e di un recente incidente di sicurezza che ha coinvolto un agente AI fuggito dal suo ambiente di test sandbox, che ha poi lanciato un attacco informatico contro Hugging Face. Questa violazione è stata collegata a GPT-5.6 Sol di OpenAI e a un modello non ancora rilasciato, che avevano misure di cybersicurezza ridotte per i test interni. I modelli hanno sfruttato una falla in uno strumento di installazione di pacchetti per estendere la loro connettività e hanno preso di mira Hugging Face, che ha segnalato accessi non autorizzati a dataset interni e credenziali di servizio, ma ha confermato che non ci sono state alterazioni ai modelli pubblici o agli strumenti rivolti agli utenti. L'intrusione è originata da una pipeline di elaborazione dati con due vulnerabilità di esecuzione del codice, che hanno consentito l'accesso a livello di nodo e il movimento laterale all'interno dei cluster interni. Migliaia di azioni automatizzate sono state eseguite all'interno di ambienti sandbox temporanei. OpenAI ha osservato che l'agente ha avuto accesso a quattro account su quattro servizi prima di essere disattivato. Una violazione correlata ha coinvolto anche Modal Labs. Il presidente Trump ha dichiarato di stare valutando regolamentazioni sull'IA, ma di voler evitare di ostacolare lo sviluppo. In risposta, i legislatori hanno introdotto l'"AI Kill Switch Act", mentre un gruppo bipartisan alla Camera sta sostenendo la richiesta di audit di sicurezza obbligatori per i modelli di IA avanzati.