PACE-Bench: Nuovo benchmark testa l'adattamento dell'IA a fisiche mutevoli
Un nuovo benchmark chiamato PACE-Bench (Physics Adaptation via Code Evolution) è stato sviluppato da ricercatori per valutare le capacità di recupero di agenti auto-evolventi quando affrontano condizioni di esecuzione mutevoli. Questo benchmark presenta 144 coppie di adattamento che collegano ambienti sorgente a ambienti target mutati in sei domini fisici, mantenendo tutti lo stesso obiettivo e la stessa interfaccia. Gli agenti devono adattare codice che funziona nella sorgente ma fallisce nel target, utilizzando feedback da una sandbox diagnostica entro un numero limitato di tentativi. Lo studio valuta dieci metodi auto-evolventi provenienti da quattro paradigmi, rivelando che il benchmark non è completamente saturo: Reflexion + Qwen3-14B raggiunge successo solo sul 35,9% delle coppie, mentre GPT-5.5 risolve il 66,7% del sottoinsieme Statics con il budget completo. Questa ricerca colma una lacuna nelle valutazioni attuali che di solito operano in condizioni statiche senza valutare il recupero. Ulteriori dettagli sono disponibili nell'articolo intitolato 'PACE-Bench: Benchmarking Physics Adaptation via Code Evolution in Dynamic Environments', accessibile su arXiv con l'identificatore 2608.14441.
Fatti principali
- PACE-Bench è un nuovo benchmark per testare l'adattamento di agenti auto-evolventi a fisiche mutevoli.
- Include 144 coppie di adattamento sorgente-target in sei domini fisici.
- Ogni coppia collega un ambiente sorgente a un ambiente target mutato con lo stesso obiettivo e interfaccia.
- Gli agenti devono adattare iterativamente un design guidato dal codice usando feedback da sandbox diagnostica entro un budget di tentativi limitato.
- Sono stati confrontati dieci metodi auto-evolventi provenienti da quattro paradigmi.
- Reflexion + Qwen3-14B ha successo solo sul 35,9% delle coppie complete del benchmark.
- GPT-5.5 risolve il 66,7% del sottoinsieme Statics con il budget completo.
- Il benchmark rimane lontano dall'essere saturo, indicando spazio per miglioramenti.
Entità
Istituzioni
- arXiv