RoCo-ACE: Nuovo Metodo per l'Iniezione di Conoscenza negli MLLM

Un nuovo approccio chiamato RoCo-ACE è stato sviluppato dai ricercatori, incentrato sulla distillazione online condizionata dal rollout per iniettare conoscenza nei modelli linguistici multimodali di grandi dimensioni (MLLM). Questa tecnica aggiorna gli MLLM pre-addestrati con nuove informazioni fattuali o specifiche del dominio, ma l'integrazione di risposte autorevoli complete può portare a derive nei comportamenti non aggiornati. Per affrontare questo problema, la distillazione online si addestra su rollout generati dal modello, sebbene la distillazione tradizionale condizionata dal riferimento offra solo una supervisione di base, trascurando l'importanza dei token di rollout supportati dal riferimento e supervisionando indirettamente i fatti mancanti. RoCo-ACE migliora questo aspetto riallocando il peso della distillazione su questi token, mentre ACE introduce una correzione sparsa per gli ancoraggi autorevoli non inclusi nel rollout. Lo studio è stato testato in tre scenari di iniezione di conoscenza, sei benchmark di ritenzione e vari modelli di base. I risultati sono pubblicati su arXiv con l'identificatore 2607.24771.