Il nuovo framework TRUSS mira a generare competenze di agenti IA affidabili e sicure
La generazione automatica di competenze degli agenti riutilizzabili può migliorare le prestazioni dei compiti degli agenti software senza adattamento del modello. Tuttavia, valutare una competenza solo dal suo artefatto o dal risultato finale lascia incertezza su quali azioni l'agente eseguirà e quali effetti collaterali possono verificarsi. Il nuovo framework TRUSS affronta questo problema ispezionando prima le affermazioni funzionali rispetto alle prove di origine e di dominio, valutando l'intero artefatto secondo nove proprietà di sicurezza predefinite. I candidati che superano questo gate statico vengono quindi caricati in un agente ombra all'interno di un ambiente di esecuzione controllabile. Qui, gli strumenti intermediari espongono le azioni richieste all'applicazione delle politiche e generano tracce di esecuzione che preservano la provenienza. TRUSS offre un approccio strutturato per produrre competenze degli agenti funzionalmente efficaci e affidabili in termini di sicurezza.
Fatti principali
- TRUSS è un framework guidato da prove per generare competenze degli agenti.
- Le competenze degli agenti sono procedure riutilizzabili in linguaggio naturale con risorse eseguibili.
- La generazione di competenze mira a migliorare le prestazioni dei compiti senza adattamento del modello.
- Valutare una competenza solo dal suo artefatto o dal risultato finale del compito è insufficiente.
- Lascia irrisolto quali azioni l'agente equipaggiato eseguirà e quali effetti collaterali producono tali azioni.
- TRUSS ispeziona le affermazioni funzionali rispetto alle prove di origine e di dominio.
- TRUSS valuta l'intero artefatto secondo nove proprietà di sicurezza predefinite.
- I candidati che superano il gate statico vengono caricati da un agente ombra in un ambiente di esecuzione controllabile, dove gli strumenti intermediari espongono le azioni richieste all'applicazione delle politiche e registrano i risultati come tracce di esecuzione che preservano la provenienza.
Entità
—