Nuovo Protocollo Affronta la Sicurezza dell'Uso Segreto nei Sistemi AI Agenti

Uno studio recente pubblicato su arXiv presenta il Secret-Use Delegation Protocol (SUDP), volto a mitigare i rischi per la sicurezza nei sistemi AI agenti che gestiscono segreti utente per API, servizi di messaggistica e piattaforme cloud. Attualmente, le interfacce bearer-secret autorizzano tramite esposizione, il che colloca un segreto riutilizzabile o un suo derivato in un'area controllabile dal modello, causando potenziali violazioni degli account a causa di iniezioni di prompt transitorie o compromissioni dal lato degli strumenti. Mentre le difese attuali affrontano aspetti come l'archiviazione sicura dei segreti e il monitoraggio in tempo reale, mancano di una specifica unificata per l'obbligo agente: consentire a un richiedente autonomo non fidato di eseguire azioni autorizzate dall'utente basate su segreti senza rivelare autorità riutilizzabile. Gli autori definiscono questa sfida come il problema dell'Uso Segreto da Parte dell'Agente (ASU) e categorizzano le proprietà di sicurezza, distinguendo tra obblighi strutturali e problemi di robustezza. Il documento è disponibile su arXiv con ID 2604.24920.