Metodo di sensibilità al gradiente rileva allucinazioni ostinate nei LLM

I ricercatori propongono Embedding-Perturbed Gradient Sensitivity (EPGS) per rilevare 'allucinazioni ostinate' nei grandi modelli linguistici, dove i modelli sono sicuri ma sbagliati. Il metodo sfrutta la proprietà geometrica per cui i fatti robusti giacciono in minimi piatti mentre le allucinazioni ostinate occupano minimi acuti, supportati da memorizzazione fragile. EPGS perturba gli embedding di input con rumore gaussiano e misura il conseguente picco di magnitudo del gradiente, fungendo da proxy efficiente per lo spettro dell'Hessiano. Gli esperimenti mostrano che EPGS supera significativamente le baseline basate su entropia e rappresentazione nell'identificare errori fattuali ad alta confidenza.