CapSeal Architecture Introduce una Mediazione Sicura dei Segreti per gli Agenti AI
Quindi, c'è questo nuovo framework di sicurezza chiamato CapSeal che mira a risolvere come gli agenti AI gestiscono le credenziali sensibili. Di solito, questi agenti si affidano a segreti come chiavi API e credenziali SSH, ma il modo in cui sono attualmente configurati può portare a fughe attraverso variabili d'ambiente o file locali. Ciò crea rischi come l'iniezione di prompt e l'accesso non autorizzato ai dati perché questi agenti potrebbero esporre le stesse credenziali che utilizzano. CapSeal propone un sistema che limita l'accesso diretto ai segreti utilizzando un broker affidabile per invocazioni controllate. Include funzionalità come l'emissione di capacità e tracce di audit a prova di manomissione. È disponibile un prototipo realizzato in Rust e i dettagli sono pubblicati su arXiv con l'ID 2604.16762v1. L'obiettivo è migliorare la sicurezza per questi agenti.
Fatti principali
- 1. CapSeal è un'architettura di mediazione dei segreti sigillata per capacità per agenti AI.
- 2. Affronta le vulnerabilità di sicurezza nei modelli di distribuzione attuali che espongono direttamente i segreti.
- 3. Le vulnerabilità mirate includono iniezione di prompt, uso improprio degli strumenti ed esfiltrazione controllata dal modello.
- 4. Il sistema sostituisce l'accesso diretto ai segreti con invocazioni vincolate attraverso un broker affidabile locale.
- 5. I componenti includono emissione di capacità, esecuzione HTTP vincolata da schema e azioni SSH eseguite dal broker.
- 6. Le funzionalità di sicurezza comprendono legame di sessione anti-replay, valutazione delle politiche e tracce di audit a prova di manomissione.
- 7. È stato realizzato un prototipo in Rust con un adattatore orientato all'MCP.
- 8. Il documento di ricerca è disponibile su arXiv con l'identificatore 2604.16762v1.
Entità
Istituzioni
- arXiv