Sequestro di Risorse: Nuovo Vettore di Attacco agli Agenti LLM

Per la prima volta è stato identificato un nuovo e grave problema di sicurezza negli agenti basati su modelli linguistici di grandi dimensioni. Conosciuto come "sequestro di risorse dell'agente", questa vulnerabilità sfrutta risorse importanti a cui questi agenti possono accedere, come potenza di calcolo, credenziali, budget, identità e metodi di comunicazione. A differenza degli studi precedenti che si concentravano principalmente su come attaccare istruzioni o dati, questa ricerca evidenzia una vulnerabilità in cui gli attaccanti possono manipolare gli agenti per accedere o controllare queste risorse senza bisogno di accesso diretto. Per facilitare ulteriori indagini, i ricercatori hanno sviluppato ResourceHijackBench, che crea scenari automatizzati per il sequestro di risorse, organizzando le risorse preziose in sei categorie e generando 300 scenari di attacco con 900 casi di test. I risultati sono disponibili su arXiv con ID 2608.15108, sottolineando l'urgente necessità di migliorare la sicurezza degli agenti LLM man mano che vengono integrati in sistemi critici.