Erosione delle capacità negli agenti LLM auto-evolventi e un metodo di stabilizzazione
Un nuovo preprint su arXiv (2605.09315) rivela che gli agenti LLM auto-evolventi soffrono di erosione delle capacità: l'adattamento a nuovi compiti degrada le abilità precedentemente acquisite attraverso l'evoluzione del flusso di lavoro, delle competenze, del modello e della memoria. Gli autori propongono l'Evoluzione con Preservazione delle Capacità (CPE), un principio di stabilizzazione che limita la deriva distruttiva. Nell'evoluzione del flusso di lavoro, il CPE ha migliorato le prestazioni mantenute su compiti semplici, preservando al contempo l'adattamento.
Fatti principali
- Gli agenti LLM auto-evolventi possono perfezionare autonomamente i flussi di lavoro, accumulare competenze, auto-addestrarsi e mantenere una memoria persistente.
- L'auto-evoluzione è spesso non monotona, causando erosione delle capacità in tutti i principali canali evolutivi.
- L'erosione delle capacità si verifica nell'evoluzione del flusso di lavoro, delle competenze, del modello e della memoria.
- Il CPE (Evoluzione con Preservazione delle Capacità) è proposto come principio generale di stabilizzazione.
- Il CPE migliora la stabilità delle capacità mantenute, preservando al contempo le prestazioni di adattamento.
- Nell'evoluzione del flusso di lavoro, il CPE ha migliorato le prestazioni mantenute su compiti semplici.
- L'articolo è un preprint su arXiv con ID 2605.09315.
- La ricerca affronta una sfida fondamentale nell'adattamento lifelong degli agenti LLM.
Entità
Istituzioni
- arXiv