La ricerca sulla sicurezza dei LLM agentici è in ritardo rispetto agli attacchi: revisione sistematica

Una revisione completa della letteratura che esamina le vulnerabilità di sicurezza nei grandi modelli linguistici agentici (LLM) indica che la ricerca sugli attacchi supera quella sulle difese con un rapporto di 3,9 a 1. Seguendo le linee guida PRISMA 2020, la revisione ha analizzato 743 record provenienti da sei database, selezionando infine 85 articoli pubblicati tra il 2023 e il 2025. Rivela che le vulnerabilità a livello di percezione, come l'iniezione di prompt, il jailbreaking e le perturbazioni avversarie, rappresentano il 66% della ricerca. Al contrario, le vulnerabilità a livello di azione come l'uso improprio degli strumenti e l'iniezione di codice ricevono meno attenzione. Gli autori sottolineano che mentre i LLM si trasformano in agenti autonomi con capacità come la pianificazione multi-step e l'interrogazione di database, il campo della sicurezza non si è adattato di conseguenza. L'articolo, intitolato 'On Understanding, Identifying, and Mitigating Vulnerabilities in Agentic Large Language Models', è disponibile su arXiv con l'identificatore 2608.10530, sottolineando l'urgente necessità di una maggiore ricerca orientata alla difesa per mitigare le crescenti minacce alla sicurezza derivanti dai LLM agentici.