Il framework MATRA quantifica la superficie d'attacco dei sistemi AI agentici

I ricercatori hanno presentato un nuovo framework di modellazione delle minacce chiamato MATRA (Modeling the Attack Surface of Agentic AI Systems) per valutare i rischi associati agli agenti AI autonomi. Questo framework modifica le tecniche di valutazione del rischio esistenti per analizzare come le minacce riconosciute dai grandi modelli linguistici (LLM) si trasformano in rischi specifici per le implementazioni. MATRA inizia con una valutazione dell'impatto focalizzata sugli asset e utilizza alberi di attacco per valutare la probabilità degli impatti all'interno dell'architettura del sistema. È stato testato su un'implementazione di agente AI personale che utilizza OpenClaw, dimostrando come le salvaguardie architetturali come il sandboxing di rete e l'accesso con privilegi minimi possano mitigare i rischi limitando gli effetti di iniezioni riuscite. Lo studio indica che i professionisti in vari campi mancano di approcci sistematici per valutare le categorie di minacce nelle implementazioni agentiche, cosa che MATRA cerca di affrontare.