LACUNA: Un Modello di Programmazione più Sicuro per Agenti LLM che Scrivono Codice

I ricercatori hanno introdotto LACUNA, un modello di programmazione progettato per agenti LLM che generano codice, affrontando i problemi di sicurezza che sorgono quando tale codice determina il comportamento a runtime. Questo modello colma il divario tra l'ambiente di runtime dell'agente e il codice che produce, consentendo al codice generato di influenzare le azioni a runtime garantendo al contempo la sicurezza attraverso chiamate tipizzate e type-checking. Ogni azione compiuta dall'agente è una chiamata tipizzata agent[T](task), in cui l'LLM inietta codice durante l'esecuzione, che viene poi sottoposto a type-checking rispetto al programma esistente prima dell'esecuzione. Trattando le azioni come un tutt'uno, il sistema evita fallimenti parziali e stati inconsistenti, cercando di migliorare l'espressività dell'agente senza sacrificare la sicurezza.