MTGuard: framework di analisi ibrida per proteggere l'uso degli strumenti MCP negli agenti LLM

I ricercatori propongono MTGuard, un framework di difesa basato su analisi ibrida per proteggere l'uso degli strumenti Model Context Protocol (MCP) negli agenti basati su grandi modelli linguistici (LLM). Gli strumenti MCP sono diventati uno standard de facto per standardizzare le interazioni tra agenti LLM e ambienti esterni, ma introducono rischi per la sicurezza poiché gli agenti possono essere indotti a compiere azioni dannose. Le difese precedenti si basano sull'analisi statica di prompt e output, limitandone l'efficacia. MTGuard sfrutta una co-analisi statico-dinamica consapevole del ciclo di vita per superare queste limitazioni. Una valutazione approfondita mostra che MTGuard mitiga efficacemente le minacce.