Governance Runtime Aegis per IA Agentica: Provenienza Affidabile ed Esecuzione Fail-Closed
Aegis, un framework di governance progettato per l'IA agentica, è stato presentato in un articolo pubblicato su arXiv. Questo sistema affronta la sicurezza dell'IA supervisionando le conseguenze operative derivanti da modelli di IA agentica in grado di modificare file, inviare messaggi o alterare flussi di lavoro. Gli autori sostengono che la governance a livello di prompt sia insufficiente a causa della mancanza di confini di esecuzione. Aegis considera le uscite del modello come proposte di azione che richiedono la validazione da parte di un livello decisionale affidabile. Valuta tali proposte rispetto alle politiche correnti, risolve la provenienza lato server e previene l'invio di proposte non sicure. Alcuni casi sono sottoposti a una revisione di tipo senatoriale per l'approvazione non unilaterale. La valutazione ha utilizzato un dataset sandbox composto da cinque famiglie di esecuzione, 42 attività e 6.300 righe di dati. L'articolo è disponibile con identificativo 2608.16891v1.
Fatti principali
- Aegis è un sistema di governance runtime per l'IA agentica.
- Tratta le uscite del modello come proposte di azione soggette a un livello decisionale affidabile.
- Il sistema valuta le proposte rispetto allo stato delle politiche attive.
- La provenienza viene risolta lato server.
- In condizioni di incertezza, adotta una modalità fail-closed.
- Alcuni casi selezionati utilizzano un meccanismo di risoluzione in stile Senato, un percorso di autorizzazione non unilaterale basato sul quorum.
- La valutazione abbraccia cinque famiglie di esecuzione, 42 attività, tre condizioni e dieci ripetizioni per famiglia.
- L'articolo è su arXiv con identificativo 2608.16891v1.
Entità
—