Albero dei Pensieri come Ricerca Euristica Classica: Fondamenti Formali
C'è un nuovo articolo su arXiv, numero 2605.28566, che presenta un framework chiamato Tree-of-Thoughts, o ToT, specificamente per i modelli linguistici di grandi dimensioni. Gli autori sostengono che il metodo usuale di predire i token uno per uno è spesso limitato e impreciso. ToT crea uno spazio di ricerca più ampio che consente un ragionamento intermedio, aiutando a esplorare opzioni e a rivedere passaggi precedenti. Questo studio riunisce varie ricerche su ToT provenienti dall'elaborazione del linguaggio naturale e dalla pianificazione automatizzata in un sistema unificato. Collega il ragionamento dei LLM con componenti classiche di ricerca, come la rappresentazione dei pensieri, la generazione di nuovi prompt e la valutazione dei progressi. L'articolo esamina anche gli studi attuali in questo ambito.
Fatti principali
- Articolo arXiv 2605.28566
- Framework Tree-of-Thoughts (ToT)
- Modelli Linguistici di Grandi Dimensioni (LLM)
- La predizione auto-regressiva dei token è miope
- ToT crea uno spazio di ricerca sui passaggi di ragionamento
- Tassonomia unificata basata sulla ricerca euristica classica
- Rappresentazione dello stato, generazione dei successori, valutazione euristica
- Analizza i lavori esistenti nel contesto della tassonomia
Entità
Istituzioni
- arXiv