Il Flow Matching Condizionale al Task Migliora l'Adattamento degli Embedding Testuali Multilingue

Un nuovo framework chiamato Task-Conditional Flow Matching (TCFM) è stato sviluppato dai ricercatori per migliorare i modelli di embedding testuali multilingue. A differenza degli approcci convenzionali che utilizzano un obiettivo di addestramento uniforme per vari compiti, TCFM applica strategicamente il Flow Matching specificamente ai compiti di traduzione, mentre opta per obiettivi più appropriati per il recupero, la classificazione e la classificazione di coppie. Inoltre, incorpora la preservazione della rappresentazione guidata dall'insegnante e un curriculum in tre fasi per facilitare un adattamento stabile. Quando testato sul Indic Massive Text Embedding Benchmark, TCFM ha dimostrato risultati all'avanguardia, migliorando significativamente la qualità degli embedding in molteplici compiti multilingue e mostrando versatilità tra diverse famiglie di modelli di embedding. Il codebase e i dataset saranno resi pubblicamente disponibili dopo l'accettazione dell'articolo. L'articolo può essere trovato su arXiv con l'identificatore 2608.05785.