Nuova Ricerca sull'IA Propone Punteggi di Informazione Stratificati per Risposte a Domande di LLM Più Affidabili

Un nuovo articolo di ricerca propone un framework di previsione conforme per i grandi modelli linguistici che utilizza rappresentazioni interne anziché statistiche a livello di output per migliorare l'affidabilità nelle attività di risposta alle domande. Il metodo introduce i punteggi di Informazione Stratificata, che misurano come il condizionamento sugli input rimodelli l'entropia predittiva attraverso diverse profondità del modello. Questi punteggi LI fungono da punteggi di non conformità all'interno di una pipeline conforme standard suddivisa. L'approccio dimostra migliori compromessi validità-efficienza rispetto ai metodi a livello testuale in benchmark sia di QA a risposta chiusa che a dominio aperto. I guadagni di prestazione più evidenti si verificano in condizioni di spostamento cross-dominio, dove le discrepanze calibrazione-distribuzione tipicamente indeboliscono i segnali di incertezza tradizionali. La ricerca affronta la crescente necessità di affidabilità man mano che gli LLM vengono implementati in contesti critici dove le metriche di incertezza a livello di output come probabilità dei token, entropia e autoconsistenza possono diventare fragili. L'articolo è stato annunciato su arXiv con identificatore 2604.16217v1 e classificato come annuncio incrociato.