Gubernaut: Controller Runtime per Agenti LLM Regolati dalle Emozioni

Un team di ricercatori ha presentato il Gubernaut Cognitive Controller (GCC), un livello di controllo runtime agnostico rispetto al modello per agenti basati su grandi modelli linguistici (LLM). Questo innovativo GCC affronta modalità di fallimento reattive, tra cui escalation sotto provocazione, deriva lecchinesca dovuta a lusinghe e perseveranza di fronte a ostacoli. Questi problemi derivano dalla propensione piuttosto che dalla capacità, e sebbene l'allineamento in fase di addestramento aiuti, non li risolve completamente durante l'esecuzione. Il GCC opera all'interno di un ciclo di monitoraggio-controllo Nelson–Narens, in cui il livello oggetto elabora il testo e il livello meta deterministico analizza la telemetria numerica (intensità, valenza, ripetizione) per stabilire una postura regolatoria. In particolare, il livello meta non elabora token, eliminando qualsiasi potenziale canale di iniezione verso il controller, una caratteristica che non è ancora stata sottoposta a test avversariali. La conformità dell'arbitro esposto al testo viene valutata, non presunta. La valutazione del GCC ha utilizzato un approccio pre-registrato, genera-una-volta/giudica-molte, su varie famiglie di modelli indipendenti, come descritto nell'articolo arXiv 2607.24339.