One-Step-Train: Selezione Efficiente dei Dati per Modelli Multimodali

I ricercatori hanno presentato un nuovo approccio chiamato One-Step-Train (OST), che ridefinisce la selezione dei dati inquadrandola come una sfida di ottimizzazione incrementale per i grandi modelli multimodali (LMM). A differenza dei metodi precedenti, come LLM-as-a-Judge, che sono costosi e difficili da comprendere, OST valuta il valore aggiunto di ogni campione utilizzando un aggiornamento simulato a singolo passo con un proxy semplice. I test sulla serie Qwen su diversi benchmark di ragionamento matematico multimodale mostrano che OST raggiunge un'efficienza Pareto-ottimale. Concentrandosi sui primi 50 campioni, riduce i costi di addestramento del 43% e risparmia il 17% del tempo, superando il benchmark LLM-as-a-Judge di 1,8 punti, affrontando efficacemente il compromesso tra qualità e quantità nei dati sintetici.