PALoRA: Un framework in due fasi per l'iniezione di conoscenza nei LLM

Esiste un nuovo approccio chiamato PALoRA che cerca di risolvere il problema di mantenere sia flessibilità che stabilità nei modelli linguistici di grandi dimensioni, o LLM. Aiuta questi modelli a integrare la conoscenza in modo più efficace pur mantenendo buone capacità di ragionamento. L'idea nasce dalla consapevolezza che i dati importanti per il ragionamento sono in realtà distribuiti nelle matrici dei pesi dei percettroni multistrato, non solo nelle aree ovvie. In primo luogo, PALoRA addestra un esperto utilizzando il Singular Value Fine-Tuning su un dataset di ragionamento. Quindi utilizza il vettore di scaling derivato come riferimento stabile per trovare direzioni sensibili, il che aiuta a ridurre i conflitti durante l'aggiornamento della conoscenza fattuale. Puoi consultare i dettagli nel preprint arXiv 2605.24549.