Catena Principale Agente: Un Framework per la Sicurezza della Delega in Sistemi AI Multi-Agente

Una recente sottomissione su arXiv (2608.15888) presenta la Catena Principale Agente (APC), un framework volto a migliorare la sicurezza della delega in sistemi AI multi-agente. Gli autori evidenziano una sfida critica di autorizzazione affrontata dagli agenti basati su LLM, che operano per conto degli utenti per utilizzare servizi cloud, invocare strumenti o coinvolgere altri agenti. All'inizio di una sessione, le autorizzazioni vengono stabilite ma rimangono invariate, portando a valutazioni indipendenti di ogni richiesta senza considerare le azioni precedenti. Questo scenario può portare gli agenti ad agire contro i loro compiti delegati o a combinare azioni consentite in risultati proibiti. Gli autori affermano che i rischi di injection di prompt sorgono solo se l'agente possiede l'autorità per eseguire tali azioni, inquadrando questo come un problema architetturale di autorizzazione. APC monitora il trasferimento dell'autorità delegata tra i principali, applicando sei controlli di autorizzazione per valutare le richieste rispetto allo stato della sessione accumulato, imponendo così limiti e budget delegati e garantendo la conformità con le azioni precedenti. Questo documento è ora accessibile su arXiv.