AgentDoG: Quadro di Guardrail Diagnostico per la Sicurezza degli Agenti AI

È stato lanciato un nuovo framework chiamato AgentDoG (Diagnostic Guardrail per la sicurezza e la protezione degli agenti) per affrontare i problemi di sicurezza e protezione associati agli agenti AI, in particolare quelli derivanti dall'uso autonomo di strumenti e dalle interazioni con l'ambiente circostante. Questo framework è descritto in un articolo disponibile su arXiv (2601.18491) e introduce una tassonomia tridimensionale completa che classifica i rischi agentici in base alla loro fonte (dove), modalità di fallimento (come) e conseguenze (cosa). Questa classificazione supporta un nuovo benchmark di sicurezza dettagliato per gli agenti (ATBench) e il framework AgentDoG stesso. AgentDoG consente una supervisione contestuale e sfumata dei comportamenti degli agenti, diagnosticando sia azioni non sicure che quelle che possono sembrare sicure ma sono irragionevoli, migliorando la trasparenza oltre le semplici classificazioni binarie. L'iniziativa mira ad aumentare la consapevolezza del rischio e la trasparenza nei modelli di guardrail esistenti, che attualmente mancano di capacità diagnostiche e consapevolezza del rischio agentico.