La sicurezza degli agenti richiede un quadro contestuale, non controlli sui contenuti

Un nuovo articolo sostiene che gli attuali approcci alla sicurezza degli agenti, incentrati sul contenuto delle azioni, sono fondamentalmente errati. Gli autori affermano che la sicurezza è un problema contestuale: lo stesso comando, come 'cancellare i dati utente', potrebbe essere una richiesta amministrativa di routine o un'iniezione di prompt malevola, e il solo contenuto non può distinguerli. Propongono un quadro basato su quattro proprietà—tra cui l'Autorizzazione della Fonte—che devono essere valutate continuamente lungo la traiettoria di un agente. I test su AgentDojo e WASP mostrano che ogni compito di iniezione coinvolge un'azione che un utente autenticato potrebbe plausibilmente richiedere, rendendo la confusione basata sul contenuto un problema strutturale.