La Diversità Neurale Riduce le Allucinazioni nei Modelli Linguistici
Un recente articolo pubblicato su arXiv (2510.20690) introduce il concetto di diversità neurale—rappresentazioni parallele decorrelate—come approccio sistematico per minimizzare le occorrenze di allucinazioni nei modelli linguistici mantenendo fissi parametri e limiti di dati. Questa ricerca presenta i primi bound formali sulla coda per la probabilità di allucinazione in modelli linguistici ensemble, reinterpretandola come un problema di affidabilità del secondo momento e spiegando il 94,3% della variabilità nell'affidabilità empirica tra diverse configurazioni parallele. Gli autori propongono ND-LoRA (Neural Diversity Low-Rank Adaptation), che integra adattatori LoRA paralleli con regolarizzazione Barlow Twins, ottenendo una riduzione delle allucinazioni fino al 25,6% (14,6% in media) senza compromettere l'accuratezza complessiva. Gli studi di ablazione indicano un effetto sinergico tra adattatori LoRA e regolarizzazione, mentre interventi causali confermano la neurodiversità come elemento mediatore chiave. L'articolo è accessibile su arXiv con l'identificatore 2510.20690, categorizzato come 'replace-cross'.
Fatti principali
- ID dell'articolo: arXiv:2510.20690
- Tipo di annuncio: replace-cross
- Propone la diversità neurale come meccanismo per ridurre le allucinazioni
- Fornisce i primi bound formali sulla coda per la probabilità di allucinazione in modelli linguistici ensemble
- Spiega il 94,3% della variazione dell'affidabilità empirica tra configurazioni parallele
- Introduce ND-LoRA (Neural Diversity Low-Rank Adaptation)
- Riduce le allucinazioni fino al 25,6% (14,6% in media)
- Le ablazioni mostrano un effetto sinergico di adattatori LoRA e regolarizzazione
Entità
Istituzioni
- arXiv