FinGround rileva le allucinazioni finanziarie nei LLM tramite verifica atomica delle affermazioni

I ricercatori hanno introdotto FinGround, un approccio in tre fasi progettato per identificare e convalidare le inesattezze finanziarie nei grandi modelli linguistici. Mentre la scadenza dell'AI Act dell'UE per l'applicazione ad alto rischio si avvicina ad agosto 2026, i sistemi di IA finanziaria generano frequentemente metriche false, citazioni inventate e calcoli errati di cifre derivate, portando a potenziali problemi normativi. Gli attuali metodi di rilevamento delle allucinazioni non riescono a distinguere tra le affermazioni, con una conseguente mancanza del 43% degli errori computazionali che necessitano di verifica aritmetica rispetto a dati strutturati. Nella Fase 1, FinGround esegue un recupero ibrido consapevole della finanza di testo e tabelle. La Fase 2 suddivide le risposte in singole affermazioni classificate in una tassonomia finanziaria a sei tipi, verificate tramite strategie specifiche per tipo, inclusa la ricostruzione di formule. Infine, la Fase 3 rivede le affermazioni non supportate con citazioni a livello di paragrafo e cella di tabella, con l'obiettivo di separare il valore di verifica dalla qualità del recupero.