Scienziato AI con Gusto: Nuovo Loop Previene la Deriva nella Ricerca sulla Navigazione dei Quadrupedi

Un recente preprint su arXiv (2608.07542) presenta uno Scienziato AI volto a mitigare la deriva nei cicli di ricerca autonomi. Questo sistema, basato sul framework autoresearch di Karpathy, si concentra sul miglioramento della generalizzazione nelle politiche di navigazione basate su simulazione per robot quadrupedi. Include tre caratteristiche essenziali: una scheda esperimento immutabile che collega le previsioni ai risultati all'interno di uno schema predefinito per evitare alterazioni retroattive delle ipotesi; subagenti specializzati confinati a compiti meccanici; e kkanbu, un oracolo di preferenze che rappresenta le preferenze di ricerca dell'utente come un grafo di conoscenza tipizzato, l'unico elemento autorizzato a fare valutazioni soggettive. Per esaminare l'influenza dell'oracolo, i ricercatori hanno eseguito lo stesso loop due volte su undici filoni di ricerca, con e senza kkanbu. Lo studio evidenzia il problema dei loop di ricerca guidati da LLM che tendono verso miglioramenti metrici locali invece di validare le ipotesi centrali, rendendolo significativo per i settori dell'IA e della tecnologia, specialmente quelli focalizzati sulla sperimentazione autonoma e sull'incorporazione di preferenze umane nei sistemi di IA.