SafeKeep: Nuova Salvaguardia Riduce i Rischi di Sicurezza negli Agenti AI

Un recente articolo pubblicato su arXiv (2607.29254) evidenzia le specifiche degli strumenti in formato schema come un contributo significativo ai problemi di sicurezza negli agenti AI. La ricerca utilizza l'analisi della rappresentazione white-box per dimostrare che queste specifiche diminuiscono i segnali interni di rifiuto del modello, portando a un'esecuzione pericolosa degli strumenti. Per contrastare questo problema, gli autori introducono SafeKeep, una salvaguardia implementata durante l'inferenza che separa le valutazioni di sicurezza dall'esecuzione degli strumenti, valutando le richieste con specifiche testuali appiattite, mentre utilizza ancora le specifiche originali in formato schema per il processo di esecuzione. SafeKeep migliora la sicurezza senza sacrificare le prestazioni su due benchmark chiave e quattro LLM, che includono sia modelli white-box che black-box. Lo studio è scritto da un team di ricercatori ed è stato annunciato come una nuova sottomissione su arXiv.