I Metodi di Quantificazione dell'Incertezza degli LLM Sono Solo Clustering Non Supervisionato

Un recente studio pubblicato su arXiv (2605.19220) sostiene che gli approcci convenzionali di quantificazione dell'incertezza (UQ) per i modelli linguistici di grandi dimensioni (LLM) sono intrinsecamente difettosi. I ricercatori affermano che queste tecniche funzionano come algoritmi di clustering non supervisionato, valutando la coerenza interna degli output del modello invece della loro accuratezza esterna. Questa classificazione errata porta a una mancanza di consapevolezza riguardo alle 'allucinazioni sicure', in cui i modelli generano risposte stabili ma errate con alta certezza. L'articolo evidenzia tre problemi significativi: una crisi di sensibilità agli iperparametri che compromette il deployment sicuro, un processo di valutazione interna che trascura gli errori e un senso di sicurezza fuorviante quando si utilizzano modelli con incertezza. I risultati indicano che i metodi UQ esistenti possono favorire una percezione ingannevole di sicurezza in applicazioni critiche.