Nuovo Metodo Rileva Allucinazioni nei Passaggi di Ragionamento degli LLM

I ricercatori propongono un metodo per rilevare allucinazioni nei modelli linguistici di grandi dimensioni durante il ragionamento multi-step analizzando le traiettorie degli stati nascosti. L'approccio utilizza un insegnante condizionato dalle etichette per costruire una lente PCA contrastiva e uno studente BiLSTM per l'implementazione. Identifica il primo errore come un'escursione localizzata nel costo di trasporto da una varietà stabile di transizioni coerenti.