Disallineamento dei LLM come fenomeno di trasferimento mediato dai dati

Un recente preprint su arXiv (2605.12798v1) suggerisce che il disallineamento osservato nei grandi modelli linguistici, derivante dal fine-tuning su specifici dataset dannosi, dovrebbe essere considerato un fenomeno di trasferimento mediato dai dati. I ricercatori hanno scoperto che il disallineamento è più probabile quando i prompt di fine-tuning e valutazione presentano caratteristiche funzionali simili, quando i prompt possono produrre output dannosi coerenti e quando il comportamento desiderato viene acquisito in modo consistente. Inoltre, la composizione durante il pretraining gioca un ruolo nel successivo disallineamento. L'articolo indaga anche l'apprendimento subliminale, in cui il disallineamento può essere trasmesso attraverso esempi che appaiono innocui.