Le aziende di IA usano la paura dell'apocalisse per distrarre dai danni reali, dicono i critici

Fatti principali

• Anthropic ha annunciato Claude Mythos, sostenendo che supera gli esperti umani nel trovare bug di cybersicurezza.
• Anthropic ha rifiutato di rilasciare Mythos per motivi di sicurezza, citando potenziali gravi conseguenze per economie, sicurezza pubblica e sicurezza nazionale.
• I critici notano che Anthropic non ha fornito tassi di falsi positivi né ha confrontato Mythos con gli strumenti di sicurezza esistenti.
• Shannon Vallor afferma che la paura fa sentire le persone impotenti e le spinge a cercare protezione dalle aziende di IA.
• Emily M. Bender definisce il modello di affermazioni infondate una distrazione dalla distruzione ambientale e dallo sfruttamento del lavoro.
• Il CEO di OpenAI Sam Altman ha criticato il 'marketing basato sulla paura' di Anthropic, ma ha una storia di avvertimenti apocalittici lui stesso.
• Sia OpenAI che Anthropic sono state fondate con missioni di sicurezza, ma ora stanno perseguendo offerte pubbliche.
• Google ha abbandonato le sue linee rosse sulla costruzione di armi IA; Anthropic ha abbandonato la sua politica di non addestrare modelli senza misure di sicurezza adeguate.