Il criterio di decodificabilità prevede quando la selezione dello stato nascosto supera il voto di maggioranza nei LLM

Uno studio recente pubblicato su arXiv (2608.17124) presenta CASE (Correctness-Axis SElection), un combinatore di selezione dinamica progettato per modelli linguistici di grandi dimensioni. Questo approccio prevede l'addestramento di un gate lineare basato sullo stato nascosto dei token di risposta, consentendo la selezione del candidato con il punteggio più alto. I ricercatori affrontano un problema critico nella fusione delle informazioni al momento del test: l'integrazione di più risposte campionate, che tipicamente si basa sul voto di maggioranza. Dimostrano che questo metodo fallisce su domande complesse a causa di errori correlati tra le risposte campionate, portando spesso a selezioni errate. Come soluzione, propongono di utilizzare un segnale di correttezza dagli stati nascosti, sebbene la sua affidabilità sia incoerente. CASE introduce la 'decodificabilità', una metrica che classifica efficacemente le risposte corrette al di sopra di quelle errate, prevedendo scenari in cui la selezione dello stato nascosto supera il voto di maggioranza.