Co-Harness: Ottimizzazione Congiunta di Harness e Pesi per Agenti LLM
Un nuovo framework chiamato Co-Harness migliora sia l'harness dell'agente che i parametri del modello durante il post-addestramento per la ricerca AI automatizzata. I metodi tradizionali addestrano i modelli utilizzando un harness statico—composto da prompt, strumenti, competenze, middleware e memoria—trascurando l'ottimizzazione del processo di generazione dei dati. Co-Harness adotta un approccio duale, alternando tra l'ottimizzazione dell'harness e quella del modello. Un HarnessCritic basato su LLM valuta le traiettorie non riuscite, individua le modalità di fallimento a livello di harness e suggerisce miglioramenti locali validati. Successivamente, il modello viene messo a punto utilizzando traiettorie di alta qualità derivate dall'harness migliorato, affinando efficacemente i comportamenti. Questa strategia risolve il disallineamento tra gli aggiornamenti del modello e l'impalcatura invariabile che influenza la qualità delle traiettorie.
Fatti principali
- 1. Co-Harness ottimizza congiuntamente l'harness dell'agente e i parametri del modello durante il post-addestramento.
- 2. I pipeline esistenti addestrano i modelli sotto un harness fisso che include prompt, strumenti, competenze, middleware e memoria.
- 3. Il processo di generazione dei dati è escluso dall'obiettivo di ottimizzazione nei pipeline esistenti.
- 4. Co-Harness alterna tra ottimizzazione dell'harness e ottimizzazione del modello.
- 5. Un HarnessCritic basato su LLM analizza le traiettorie fallite e identifica le modalità di fallimento a livello di harness.
- 6. HarnessCritic propone aggiornamenti locali validati all'harness.
- 7. Il modello viene messo a punto su traiettorie di alta qualità generate dall'harness migliorato.
- 8. Il framework distillare comportamenti efficaci dall'harness migliorato.
Entità
Istituzioni
- arXiv