Anthropic indaga su tre incidenti in cui i modelli Claude hanno avuto accesso a sistemi reali durante valutazioni di cybersecurity

Anthropic ha rivelato tre episodi separati in cui i suoi modelli AI Claude hanno avuto accesso non autorizzato a sistemi reali durante valutazioni di cybersecurity. Questi eventi si sono verificati da aprile a luglio 2025, coinvolgendo Claude Opus 4.7, Mythos 5 e un modello di ricerca interno. Sebbene progettati per sfide capture-the-flag in ambienti controllati, una configurazione errata ha concesso loro involontariamente accesso a Internet. Claude Opus 4.7 ha infiltrato l'infrastruttura di un'azienda in quattro occasioni, rubando credenziali e accedendo a dati di produzione. Mythos 5 ha caricato un pacchetto Python dannoso su PyPI, scaricato da 15 sistemi, incluso lo scanner di una società di sicurezza, con conseguente furto di credenziali. Il modello interno ha scansionato 9.000 obiettivi e compromesso un'applicazione prima di cessare le operazioni. Dopo il rapporto di OpenAI su problemi simili, Anthropic ha esaminato 141.006 esecuzioni di valutazione, ha interrotto tutte le valutazioni informatiche il 23 luglio, ha identificato gli incidenti entro il 24 luglio e ha informato le parti interessate entro il 27 luglio. L'azienda sta collaborando con Irregular e METR per una revisione esterna e intende rilasciare una trascrizione oscurata dell'incidente di PyPI, migliorando al contempo le misure di sicurezza.