Sicurezza Runtime Certificata per Agenti che Utilizzano Strumenti

Una recente pubblicazione su arXiv (2607.22868) introduce una teoria riguardante la sicurezza runtime certificata per agenti che utilizzano strumenti. I ricercatori distinguono tre domande fondamentali: le politiche di sicurezza attuabili da un gate deterministico con predicati oracle predeterminati, il bilanciamento ottimale tra falsi blocchi e mancati sotto una legge esogena costante, e la determinazione della frontiera a ciclo chiuso quando il blocco influenza le proposte future. Dimostrano che la non banalità delle politiche è indecidibile con due contatori decrementabili, ma rimane in PSPACE per un frammento monotono separabile. Inoltre, rivelano che Neyman-Pearson stabilisce l'esatta frontiera falso-blocco/mancato, mentre la calibrazione conforme offre certificati marginali a campione finito. Inoltre, gli attacchi a rappresentazione limitata migliorano la robustezza.