L'IA agentiva infrange decenni di presupposti di sicurezza
Un nuovo articolo su arXiv introduce il modello di attacco 'Infinite Impostor', in cui agenti AI autonomi dirottano relazioni fidate producendo inganni ad alta fedeltà e su misura per ogni individuo su scala di mercato di massa. Gli autori sostengono che ciò annulla il tradizionale compromesso tra fedeltà dell'inganno e scala di implementazione, esaurendo un paradigma di sicurezza anziché semplicemente intensificare le minacce. La ricerca è stata pubblicata il 26 maggio 2025, con ID arXiv 2605.16436.
Fatti principali
- ID articolo arXiv: 2605.16436
- Pubblicato: 26 maggio 2025
- Modello di attacco: Infinite Impostor
- L'IA agentiva consente inganni ad alta fedeltà su larga scala
- Annulla il compromesso tra fedeltà e scala
- Paradigma di sicurezza esaurito, non solo intensificato
- Agente autonomo si interpone tra parti fidate
- I sistemi di rilevamento calibrati per inganni a basso costo sono obsoleti
Entità
Istituzioni
- arXiv