EVOLM: Modelli Linguistici Auto-Miglioranti tramite Rubriche Co-Evolute

Un nuovo metodo chiamato EVOLM consente ai modelli linguistici di auto-migliorarsi generando i propri criteri di valutazione. Gli attuali metodi di post-addestramento si basano su supervisione esterna—annotazioni umane, API proprietarie o modelli di ricompensa scalari—ciascuno con limiti intrinseci. Il giudizio umano non può superare le capacità umane, le API creano dipendenze e le ricompense verificabili si applicano solo a domini con risposte oggettive. EVOLM struttura la capacità valutativa del modello in rubriche discriminative esplicite, che fungono da segnali di addestramento. Il metodo alterna l'addestramento di un generatore di rubriche che produce criteri specifici per istanza ottimizzati per l'utilità discriminativa, e l'uso di tali rubriche per migliorare il modello. Questo approccio consente un auto-miglioramento che scala con il modello stesso, bypassando i limiti esterni. L'articolo è disponibile su arXiv con riferimento 2605.03871.