Anthropic aggiorna le salvaguardie biologiche di Claude Fable 5, riducendo i falsi positivi dell'85%
Anthropic ha rivisto le misure di sicurezza biologica del suo modello Claude Fable 5, ottenendo una riduzione dell'85% dei fallback legati alla biologia, migliorando così l'esperienza utente e l'accuratezza. Questo potenziamento consente a Fable 5 di assistere efficacemente in vari compiti legati alla biologia, come l'interpretazione dei risultati di laboratorio e la gestione di domande educative, offrendo al contempo un maggiore supporto ai professionisti sanitari. Tuttavia, dipende ancora da Opus 5 per gestire richieste a duplice uso in campi come virologia, tossicologia e progettazione molecolare, rendendolo inadeguato per la ricerca professionale. Le precedenti salvaguardie erano estese per prevenire abusi, ma i nuovi classificatori aggiornati ora si attivano meno frequentemente per richieste innocue, bloccando al contempo contenuti pericolosi. Anthropic mira a ridurre i fallback totali di circa il 67% su Claude.ai e sta attivamente cercando il feedback degli utenti.
Fatti principali
- 1. Anthropic ha aggiornato le salvaguardie biologiche di Claude Fable 5, riducendo i fallback legati alla biologia di circa l'85%.
- 2. Fable 5 ora può assistere in una gamma più ampia di compiti biologici, inclusi quesiti sanitari ed educativi quotidiani.
- 3. I professionisti sanitari riceveranno un maggiore supporto da Fable 5 nei compiti clinici.
- 4. Fable 5 ricorre ancora a Opus 5 per richieste a duplice uso, inclusi virologia, tossicologia e progettazione molecolare.
- 5. Le salvaguardie originali erano intenzionalmente ampie, bloccando quasi tutte le domande di biologia al lancio.
- 6. I classificatori di sicurezza rilevano i compiti biologici protetti e reindirizzano le richieste a Opus 5.
- 7. Anthropic ha riscritto la costituzione del classificatore e lo ha riaddestrato con dati aggiornati.
- 8. Riduzioni totali previste dei fallback: 67% su Claude.ai, 55% su Cowork, 17% su Claude Code, 7% su Claude Platform.
Entità
Istituzioni
- Anthropic
- US Intelligence Community