I simulatori LLM necessitano di fedeltà alle misconcezioni, non solo somiglianza nell'output

Un nuovo framework da arXiv (2605.12748) valuta se i modelli linguistici di grandi dimensioni (LLM) che agiscono come studenti simulati mantengono misconcezioni coerenti durante l'interazione. Gli autori propongono un protocollo di feedback contrastivo per misconcezioni che confronta il feedback mirato con controlli disallineati e generici. Introducono il Selective Flip Score (SFS), che misura quanto spesso un simulatore cambia la sua risposta sotto feedback mirato rispetto ai controlli. Il lavoro mira a migliorare l'affidabilità dei simulatori studenteschi basati su LLM per la formazione di tutor AI e educatori.