Il collo di bottiglia della pianificazione nei modelli del mondo latenti è l'obiettivo, non il predittore
Uno studio recente pubblicato su arXiv (2608.12959) contesta la convinzione che i fallimenti nella pianificazione a lungo termine nei modelli del mondo latenti siano dovuti a un declino dell'accuratezza delle previsioni. I ricercatori hanno replicato LeWorldModel nell'ambiente TwoRoom, concludendo che la limitazione principale risiede nella funzione obiettivo del pianificatore, non nelle prestazioni del predittore. Lo stato stimato dal predittore a 75 passi avanti è solo 0,189 volte più impreciso rispetto all'assunzione di un mondo statico, mentre la visione del pianificatore è limitata a 25 passi. La pianificazione tramite il metodo dell'entropia incrociata riduce la distanza latente al quadrato, che si allinea con la distanza reale a r = 0,426, saturando intorno alle 80 unità dell'arena e diminuendo oltre le 120 unità, indicando che allontanarsi dall'obiettivo può ridurre i costi. L'informazione rimane coerente: una sonda ridge recupera la posizione dall'embedding statico con R² 0,9922. Questo problema non è limitato a una singola reimplementazione; è evidente nei pesi rilasciati dagli autori e in quattro diverse configurazioni. L'articolo è accessibile all'indirizzo https://arxiv.org/abs/2608.12959.
Fatti principali
- L'articolo arXiv:2608.12959 sfida l'assunto che i fallimenti nella pianificazione a lungo orizzonte nei modelli del mondo latenti derivino dal degrado delle previsioni.
- La riproduzione di LeWorldModel su TwoRoom mostra che il vincolo vincolante è l'obiettivo del pianificatore, non il predittore.
- Lo stato immaginato dal predittore a 75 passi avanti è solo 0,189 volte più errato rispetto all'assunzione che il mondo si sia congelato.
- Il pianificatore non immagina mai oltre i 25 passi.
- La pianificazione con il metodo dell'entropia incrociata minimizza la distanza latente al quadrato, che traccia la distanza reale con r = 0,426.
- La distanza latente al quadrato satura a circa 80 unità dell'arena e diminuisce oltre le 120 unità.
- La sonda ridge recupera la posizione dall'embedding congelato con R² 0,9922.
- La patologia è presente nei pesi rilasciati dagli autori e in quattro configurazioni.
Entità
Istituzioni
- arXiv