Competenze come Artefatti Verificabili: Uno Schema di Fiducia per i Runtime degli Agenti LLM

Uno studio recente pubblicato su arXiv (2605.00424) sostiene che le competenze degli agenti – composte da istruzioni organizzate, script e riferimenti che potenziano i modelli linguistici di grandi dimensioni (LLM) senza alterarli – dovrebbero inizialmente essere considerate codice non fidato fino a quando non vengono validate. Il runtime responsabile del caricamento di queste competenze dovrebbe adottare un atteggiamento di scetticismo piuttosto che fare affidamento su firme, autorizzazioni o registri di origine per la fiducia. In assenza di verifica delle competenze, un meccanismo human-in-the-loop (HITL) deve attivarsi per ogni azione irreversibile, il che è impraticabile e porta ad approvazioni incontrollate su larga scala. Lo studio suggerisce che la verifica delle competenze dovrebbe essere un processo indipendente e controllato, consentendo all'HITL di intervenire solo per azioni prive di verifica. Ciò rispecchia le sfide affrontate dai gestori di pacchetti e dai sistemi operativi riguardo alle dichiarazioni sul comportamento dei contenuti e alle decisioni di fiducia a runtime.