Nuova Ricerca Propone il Metodo di Potatura Greedy per Comprimere le Catene di Ragionamento dei LLM

Uno studio recente presenta la potatura greedy, una tecnica diagnostica progettata per comprimere le catene di ragionamento nei grandi modelli linguistici. Questo metodo colma una lacuna nella comprensione di se questi modelli codifichino il significato funzionale dei token per generare risposte. I metodi precedenti per abbreviare le catene di ragionamento si sono basati su campionamento probabilistico, euristiche o guida da modelli avanzati, fornendo una comprensione limitata della codifica interna. La potatura greedy impiega un processo di eliminazione che preserva la verosimiglianza, eliminando sistematicamente i token di ragionamento con impatto minimo sulla verosimiglianza del modello in base a un obiettivo definito, ottenendo catene di ragionamento di lunghezza controllata. Valutando il ragionamento potato all'interno di un framework di distillazione, i risultati indicano che gli studenti addestrati su queste catene potate superano una baseline che utilizza la supervisione di modelli di frontiera a lunghezze di ragionamento equivalenti. Il documento è accessibile su arXiv con l'identificatore 2601.03066v3.