Revisione Sistematica Rivela Lacune nelle Garanzie di Sicurezza degli Agenti LLM

Una recente revisione sistematica che comprende 38 studi dal 2022 al 2026 indaga sulle garanzie di sicurezza per gli agenti basati su modelli linguistici di grandi dimensioni (LLM) impegnati in compiti irreversibili nel mondo reale, tra cui modifiche a database, interazioni API, gestione di file e uso autonomo di strumenti. Seguendo le linee guida PRISMA 2020, questa revisione ha raccolto studi da sei database accademici e mette in evidenza quattro risultati principali. Un problema significativo identificato è il collo di bottiglia della specifica, dove la traduzione dal linguaggio naturale a quello formale raggiunge solo una precisione semantica dal 24% al 35%, ostacolando la verifica a valle. Sebbene il monitoraggio a runtime emerga come il metodo di applicazione più sviluppato, riducendo le azioni non sicure dal 40% al 65% in ambienti controllati, la revisione sottolinea che nessun sistema attuale offre garanzie di sicurezza formalmente fondate e specifiche per il compito per i piani generati. La ricerca rimane frammentata tra specifica, verifica e applicazione, il che limita le intuizioni sui punti di forza e di debolezza delle metodologie attuali. La revisione è disponibile su arXiv con l'identificatore 2608.14590.