TrAC: Un Nuovo Quadro per l'Efficiente Quantificazione dell'Incertezza nei LLM

Un nuovo articolo su arXiv (2608.00422) introduce la Trace-Conditioned Answer Consistency (TrAC), un quadro per la quantificazione dell'incertezza nei modelli linguistici di grandi dimensioni (LLM). Il metodo combina segnali attivi e passivi ancorati a una singola traccia di ragionamento completata, colmando una lacuna negli approcci esistenti. I metodi attuali rientrano in tre categorie: metodi passivi a traccia singola che utilizzano la confidenza a livello di token, metodi basati sul campionamento che confrontano più tracce a costo più elevato, e metodi attivi basati su prefissi che sondano tracce parziali. Nessuno di essi ri-elicità una risposta da una traccia completata per misurarne la coerenza. La componente attiva di TrAC, chiamata Prefix-Conditioned Answer Consistency, è progettata per migliorare l'efficienza e l'accuratezza nel rilevare risposte errate, aiutando nell'astensione, nella revisione umana e nell'allocazione adattiva delle risorse di calcolo. L'articolo è categorizzato come 'nuovo' ed è stato annunciato su arXiv.