Continuità dell'Autorizzazione per Agenti AI in Evoluzione

Un recente articolo su arXiv (2607.23586) affronta le sfide di autorizzazione associate agli agenti AI longevi che si evolvono dopo il deployment. Questi agenti hanno la capacità di trattenere conoscenze, apprendere nuove competenze, adattare flussi di lavoro, delegare responsabilità e transitare attraverso diverse fasi, migliorando la loro adattabilità ma introducendo anche rischi quando agenti abilitati a strumenti interpretano erroneamente errori del modello o rispondono a injection di prompt con azioni esterne. Con una concessione attiva, l'autorità esercitata o il contesto possono discostarsi dalla valutazione iniziale dell'utente. Questa evoluzione può alterare gli effetti consentiti da una vecchia concessione e l'autorità necessaria per i compiti. Mentre le politiche attuali sugli strumenti limitano le azioni, non chiariscono quando una concessione rimane valida in mezzo a tali cambiamenti. L'articolo propone il concetto di continuità dell'autorizzazione, esplorando quando una concessione esistente è ancora applicabile, come l'autorità attiva potrebbe cambiare e i confini che devono rimanere fissi. Presenta un modello basato sullo stato che stabilisce un involucro di transizione per garantire la sicurezza.