Definizione dinamica delle capacità per agenti AI aziendali: un dataset sintetico e un'architettura a tre fonti di autorizzazione

Un nuovo articolo su arXiv (2607.22445) propone un principio dinamico del minimo privilegio per gli agenti AI aziendali, sostenendo che i set di credenziali statici al momento della configurazione creano privilegi eccessivi e ampliano la superficie di attacco. Gli autori delineano un'architettura a tre fonti composta da limiti basati sui ruoli, un classificatore del contesto dell'attività e divieti di combinazione derivati dalle politiche, formando una difesa proattiva a strati contro il disallineamento e l'abuso degli agenti LLM. L'architettura supporta sia modalità di implementazione coercitiva che di sola osservazione, con quest'ultima che registra richieste di autorizzazione incoerenti con il contesto dell'attività per produrre segnali comportamentali per la ricerca sul disallineamento. L'articolo sottolinea che la definizione delle capacità deve essere trattata come un meccanismo di prevenzione prima del rilevamento, poiché le credenziali assenti dal contesto di un agente non possono essere abusate indipendentemente dalla sofisticatezza del ragionamento o dell'evasione.