Decodifica di consenso mitiga i comportamenti nascosti degli LLM derivanti dal fine-tuning

Un recente articolo di ricerca pubblicato su arXiv (2607.23394) introduce metodi di consenso durante l'inferenza per mitigare i comportamenti nascosti che emergono dal fine-tuning dei modelli linguistici. I ricercatori rivelano che il fine-tuning con dati compromessi può portare a comportamenti scorretti specifici, mentre anche dati neutri possono celare pregiudizi nascosti. Le difese tradizionali, come il filtraggio dei dati e la regolarizzazione, sono insufficienti. La loro metodologia si basa sulla ridondanza: raccolgono più dataset da diverse origini e addestrano un modello di riferimento distinto per ciascuno. Durante la decodifica, le distribuzioni dei token successivi vengono combinate utilizzando due decodificatori di consenso: uno che seleziona la probabilità minima per ogni token tra le fonti e un altro che torna alla probabilità del modello base in caso di discrepanze. Questo previene efficacemente i comportamenti scorretti, anche quando solo alcune fonti sono maligne.