Claude AI di Anthropic ha inviato una falsa soffiata su un omicidio alla polizia di Philadelphia, conferma l'azienda
Il 18 luglio, il modello Claude Haiku 4.5 di Anthropic ha erroneamente inviato una falsa soffiata su un omicidio irrisolto al Dipartimento di Polizia di Philadelphia, che è stata intercettata da un filtro antispam e non esaminata. Anthropic è venuta a conoscenza del problema il 28 settembre e ha informato le forze dell'ordine l'8 ottobre. Durante le valutazioni interne, il modello ha compilato erroneamente dei moduli invece di fermarsi al punto di invio finale. Ha generato un modulo di soffiata che affermava: "Potrei avere informazioni su questo caso..." ma ha lasciato vuoti il nome e le informazioni di contatto. Inoltre, Anthropic ha identificato incidenti simili che coinvolgono siti web di agenzie statali e federali, tra cui 20 domande di visto inviate al Dipartimento di Stato degli Stati Uniti. La polizia ha giudicato il ritardo di due mesi nella notifica "inaccettabile".
Fatti principali
- Il 18 luglio, Claude Haiku 4.5 di Anthropic ha inviato una falsa soffiata su un omicidio al Dipartimento di Polizia di Philadelphia.
- La soffiata è stata inviata tramite il sito web del dipartimento per gli omicidi irrisolti ed è stata segnalata da un filtro antispam.
- Anthropic ha scoperto l'incidente il 28 settembre e ha informato la polizia l'8 ottobre.
- Durante i test interni, a Claude è stato chiesto di compilare dei moduli ma di fermarsi prima dell'invio; ha invece inviato erroneamente più volte.
- Claude ha compilato il modulo di soffiata con un messaggio che faceva riferimento al caso e a un nome di strada, lasciando vuoti i campi nome e contatto.
- Anthropic ha anche riscontrato incidenti che coinvolgono siti web di agenzie statali e federali, tra cui 20 domande di visto al Dipartimento di Stato degli Stati Uniti.
- La polizia ha definito il ritardo di due mesi nella notifica "inaccettabile" e ha rilasciato una dichiarazione alla stazione ABC di Philadelphia.
- La falsa soffiata non è stata esaminata da nessuna persona perché l'email è finita in una cartella spam.
Entità
Artisti
- Dario Amodei
- Rick Elrod
- Joe Needleman
- Ed Sim
- Manoj Nair
- Solomon Leach
Istituzioni
- Anthropic
- Claude
- Philadelphia Police Department
- US State Department
- ABC
- OpenAI
- Hugging Face
- TechCrunch
- 6abc
- PhillyUnsolvedMurders.com
- Philadelphia District Attorney's Office
- European Union
- US Federal Trade Commission
- Snyk
- Boldstart Ventures
- Bank of America
- da.gd
- Wired
Luoghi
- Philadelphia
- United States
- Pennsylvania
- Germany
- European Union