Agentao: Un Runtime Locale Governato per Agenti LLM che Usano Strumenti
Uno studio recente pubblicato su arXiv introduce Agentao, un nuovo sistema runtime progettato per la gestione di agenti di modelli linguistici di grandi dimensioni (LLM) local-first che utilizzano diversi strumenti. Questo sistema mira a mitigare rischi come permessi eccessivi e audit inadeguato, nonché preoccupazioni riguardanti l'iniezione di prompt e la contaminazione degli strumenti. Agentao presenta un'architettura a strati che separa le proposte del modello dalle azioni approvate dall'utente e incorpora interfacce per host e un sistema di contratti. Inoltre, include una struttura di strumenti orientata ai permessi e sottosistemi per memoria, plugin, competenze e altro, concentrandosi su governance e audit per garantire un funzionamento sicuro degli agenti AI.
Fatti principali
- Il documento arXiv:2608.13574 introduce Agentao, un runtime locale governato per agenti LLM che usano strumenti.
- Agentao affronta rischi tra cui azioni con privilegi eccessivi, scarsa auditabilità, iniezione di prompt, avvelenamento degli strumenti ed effetti collaterali non controllati.
- Il sistema separa le proposte di azione generate dal modello dall'esecuzione autorizzata dall'host.
- L'architettura include superfici rivolte all'host, un contratto host, un nucleo runtime, un sistema di strumenti mediato dai permessi e sottosistemi di supporto per memoria, replay, plugin, competenze, sub-agenti e integrazione di protocolli.
- Il documento copre motivazione, modello di minaccia, obiettivi di progettazione, modello di governance, pipeline di esecuzione e interfaccia eventi strutturata.
- Agentao non fornisce garanzie formali di sicurezza.
- Il documento è pubblicato su arXiv con tipo di annuncio 'nuovo'.
Entità
Istituzioni
- arXiv