L'auto-raffinamento ricorsivo degli LLM converge a punti fissi testuali stabili

Uno studio recente pubblicato su arXiv (2607.22653) esamina il comportamento a lungo termine dell'auto-raffinamento ricorsivo nei modelli linguistici di grandi dimensioni (LLM), in cui un modello rivede più volte la propria bozza iniziale. Questo processo è concettualizzato come un sistema dinamico che si avvicina a una regione di punto fisso morbido favorita dal modello. Utilizzando GPT-5.5, i ricercatori hanno creato percorsi di raffinamento in 10 passaggi per 50 abstract di ICML 2025, impiegando sia la decodifica a temperatura predefinita che quella deterministica, e hanno anche valutato 15 abstract di ICML 2020. Hanno valutato la distanza di edit normalizzata, i punti fissi, la coerenza del conteggio delle parole, il rilassamento esponenziale e le valutazioni esterne degli LLM. I risultati indicano che la maggior parte delle modifiche avviene nelle prime fasi del processo di raffinamento, suggerendo che le revisioni ripetute non portano a miglioramenti indefiniti ma piuttosto si stabilizzano, influenzando i flussi di lavoro di revisione iterativa degli LLM.