HARBOR: Ottimizzazione Automatica dell'Harness per Agenti Linguistici a Lungo Orizzonte
Un nuovo studio su arXiv (2604.20938) suggerisce che le principali difficoltà affrontate dagli agenti linguistici a lungo orizzonte non provengono dai modelli stessi, ma dal framework di supporto—ciò che chiamano 'harness'. Questo harness include elementi come la compattazione del contesto, la cache degli strumenti, la memoria semantica e altro, che collegano il modello a un ambiente di esecuzione controllato. I ricercatori sostengono che la creazione di questo harness sia una sfida cruciale nell'apprendimento automatico. Hanno scoperto che le ricerche automatiche di configurazione portano a risultati più efficaci rispetto alle impostazioni manuali, specialmente quando si ha a che fare con spazi di flag più ampi. La loro soluzione di riferimento, HARBOR (Harness Axis-aligned Regularized Bayesian Optimization Routine), utilizza un metodo surrogato specifico e valuta su più livelli di fedeltà.
Fatti principali
- Articolo arXiv:2604.20938
- Titolo: HARBOR: Ottimizzazione Automatica dell'Harness
- Focus su agenti linguistici a lungo orizzonte
- L'harness include compattazione del contesto, cache degli strumenti, memoria semantica, riutilizzo della traiettoria, previsione speculativa degli strumenti
- Progettazione dell'harness inquadrata come problema ML di prima classe
- La ricerca automatica di configurazione supera l'impilamento manuale per spazi di flag ampi
- Formalizzazione come ottimizzazione bayesiana rumorosa vincolata
- Lo spazio di configurazione è a variabili miste e a costo eterogeneo
- I reward sono corretti per il cold-start
- Controllo di sicurezza tramite vincoli di probabilità a posteriori
- Solutore di riferimento chiamato HARBOR
- Utilizza surrogato SAAS additivo a blocchi e valutazione multi-fedeltà
Entità
Istituzioni
- arXiv