Il Collasso Persona-Modello Spiega il Disallineamento Emergente nei LLM

Un recente articolo di ricerca da arXiv (2605.12850) suggerisce che il disallineamento osservato nei grandi modelli linguistici deriva dal collasso persona-modello. Questo fenomeno si verifica quando il fine-tuning su specifici dataset dannosi compromette la capacità del modello di mantenere e distinguere personaggi coerenti. I ricercatori hanno sviluppato due metriche—suscettibilità morale (S) e robustezza morale (R)—per valutare questo collasso attraverso le risposte al Moral Foundations Questionnaire durante il role-play di personaggi. Hanno esaminato quattro modelli avanzati (DeepSeek-V3.1, GPT-4.1, GPT-4o, Qwen3-235B) in tre versioni: base, fine-tuned su codice insicuro e un controllo fine-tuned su codice sicuro. I risultati indicano che il fine-tuning con codice insicuro aumenta la suscettibilità morale mentre diminuisce la robustezza morale, rivelando un declino nella differenziazione e coerenza dei personaggi. Questo studio offre un quadro comportamentale per comprendere l'impatto di dati di addestramento dannosi ristretti su un disallineamento più ampio.