Tunable MAGMAX consente un merging di modelli sensibile alle preferenze per l'apprendimento continuo
Un nuovo framework chiamato Tunable MAGMAX consente una gestione sensibile alle preferenze delle prestazioni specifiche del compito nell'apprendimento continuo (CL). Il CL prevede l'addestramento sequenziale di modelli su vari compiti, prevenendo al contempo il dimenticare catastrofico. Sebbene sviluppi recenti utilizzino grandi modelli pre-addestrati (LPM) e strategie di merging come MAGMAX, gli approcci attuali tendono a privilegiare le prestazioni medie, trascurando i contesti di implementazione e le preferenze degli utenti. Tunable MAGMAX offre un vettore di preferenza che regola quanti elementi vengono scelti da ciascun vettore di compito durante il processo di merging, adattando le prestazioni a specifici requisiti di implementazione. Inoltre, l'articolo introduce una tecnica automatica per selezionare il vettore di preferenza. Questa ricerca è disponibile su arXiv (2605.20803).
Fatti principali
- Tunable MAGMAX è un framework di merging di modelli per l'apprendimento continuo.
- Consente un controllo sensibile alle preferenze delle prestazioni specifiche del compito.
- Un vettore di preferenza controlla la selezione degli elementi da ciascun vettore di compito.
- Il metodo adatta le prestazioni del modello fuso per diverse esigenze di implementazione.
- Viene proposto un metodo automatico per la selezione del vettore di preferenza.
- L'articolo è pubblicato su arXiv con ID 2605.20803.
- L'apprendimento continuo mira ad addestrare modelli sequenzialmente su più compiti.
- I metodi esistenti non affrontano le diverse preferenze degli utenti.
Entità
Istituzioni
- arXiv