SERE: Recupero di Esempi Strutturali per Ridurre le Allucinazioni Causali nei LLM
I ricercatori propongono SERE, un framework di recupero di esempi strutturali per migliorare i Large Language Models (LLM) nell'Identificazione della Causalità degli Eventi (ECI). L'ECI richiede che i modelli determinino relazioni causali tra coppie di eventi, ma i LLM spesso sovrastimano la causalità a causa di bias, un fenomeno chiamato allucinazione causale. SERE sfrutta l'apprendimento few-shot recuperando esempi basati su tre metriche strutturali: Metrica del Percorso Concettuale tramite distanza di edit in ConceptNet, Metrica Sintattica tramite distanza di edit su alberi sintattici, e Filtraggio per Pattern Causali. Il framework mira a migliorare l'accuratezza dei LLM fornendo esempi strutturali rilevanti, riducendo la sovrastima. L'articolo è disponibile su arXiv con identificatore 2605.03701.
Fatti principali
- SERE è un framework di recupero di esempi strutturali per LLM nell'Identificazione della Causalità degli Eventi.
- L'ECI richiede che i modelli determinino relazioni causali tra coppie di eventi.
- I LLM spesso sovrastimano la causalità, causando allucinazione causale.
- SERE utilizza tre concetti strutturali: Metrica del Percorso Concettuale, Metrica Sintattica, Filtraggio per Pattern Causali.
- La Metrica del Percorso Concettuale misura la relazione concettuale tramite distanza di edit in ConceptNet.
- La Metrica Sintattica quantifica la similarità strutturale attraverso la distanza di edit su alberi sintattici.
- Il Filtraggio per Pattern Causali filtra gli esempi in base a pattern causali.
- L'articolo è pubblicato su arXiv con ID 2605.03701.
Entità
Istituzioni
- arXiv