DRIFT: Nuovo framework AI per modelli linguistici auto-miglioranti

I ricercatori hanno presentato DRIFT, un framework per l'ottimizzazione delle politiche di auto-evoluzione online progettato per grandi modelli linguistici. Questo sistema innovativo facilita un auto-miglioramento stabile senza la necessità di una guida esperta esterna. Monitorando il progresso dell'apprendimento a livello di problema, DRIFT affronta le complessità dei compiti di ragionamento e adatta di conseguenza i suoi metodi di ottimizzazione. Impiega il Difficulty Routing per valutare lo stato di apprendimento del modello e distribuire strategicamente i segnali di auto-distillazione e apprendimento per rinforzo, mentre il Rhythm Gating ottimizza gli aggiornamenti delle politiche a livello di token. Questa metodologia mira a mitigare l'eccessiva ottimizzazione di problemi più semplici, la supervisione inadeguata di problemi più impegnativi e l'esplorazione limitata dei casi limite. Lo studio è disponibile su arXiv con identificatore 2606.30345.