Il framework PrefMoE affronta il collasso delle preferenze di gruppo nei MLLM

Uno studio pubblicato su arXiv (2607.22603) presenta PrefMoE, un nuovo framework progettato per affrontare il collasso delle preferenze di gruppo nei modelli linguistici multimodali personalizzati (MLLM). Questo fenomeno si verifica quando i MLLM per più utenti diventano insensibili alle preferenze uniche, orientandosi invece verso scelte prevalenti a causa di segnali di preferenza diminuiti e di un'applicazione incoerente delle preferenze durante la generazione. Gli approcci attuali si concentrano sui dati a livello di profilo, trascurando la varietà delle preferenze degli utenti. PrefMoE distingue i dati di profilo stabili dagli elementi legati alle preferenze, scomponendo le preferenze in prototipi comuni e residui individuali. Mantiene questi residui individualizzati attraverso apprendimento sensibile allo squilibrio, aumento controfattuale di pseudo-utenti e decorrelazione dei residui, indirizzando i fattori di profilo e preferenza lungo percorsi di adattamento LoRA distinti. Esperimenti su vari framework MLLM mostrano miglioramenti significativi.