Nuovo Criterio FEPoID per la Selezione Automatica dei Layer nel Rilevamento di Allucinazioni nei LLM

Un nuovo studio su arXiv (2605.26366) propone il First Effective Peak of Intrinsic Dimension (FEPoID) come criterio per selezionare automaticamente i layer intermedi nei modelli linguistici di grandi dimensioni (LLM) per il rilevamento di allucinazioni. Ricerche precedenti hanno mostrato che i segnali di allucinazione sono più forti nei layer intermedi rispetto all'ultimo layer, ma mancavano metodi di selezione automatica. Gli autori hanno testato molteplici ipotesi su diverse architetture, scale e compiti di LLM, inclusi benchmark di risposta a domande e riassunto, senza trovare alcuna ipotesi costantemente efficace. FEPoID mira a colmare questa lacuna identificando il primo picco efficace della dimensione intrinseca. Lo studio è stato condotto da ricercatori di un'istituzione non divulgata ed è stato pubblicato su arXiv.