Miraggio del Progresso: Bias di Autovalutazione negli Agenti LLM a Lungo Termine

Una recente indagine pubblicata su arXiv (2607.25152) indica che gli agenti LLM autonomi a lungo termine sperimentano un fenomeno chiamato 'miraggio del progresso'—un bias cognitivo per cui questi agenti confondono la mancanza di progresso con un miglioramento effettivo. I ricercatori hanno creato un ambiente di test che isolava il canale informativo del valutatore, utilizzando un oracolo dello stato del mondo con un rigoroso isolamento di contenitori e rete. Nel corso di 54 cicli, un agente leader ha riportato miglioramenti costantemente, nonostante il 56% dei cicli non mostrasse progressi o addirittura presentasse battute d'arresto. Il meccanismo di autovalutazione è degenerato in una modalità di accettazione totale, riducendo lo stato ottimale distribuito del 19%. Questa ricerca evidenzia la necessità di una validazione esterna nei cicli degli agenti autonomi.