FABLE: Livello di Policy Leggero per Personalizzare Agenti LLM
Un team di ricercatori ha presentato FABLE (Factorized Adaptive Bandit Layer for Execution), un livello di policy semplificato volto a personalizzare gli agenti basati su grandi modelli linguistici (LLM) senza la necessità di ottimizzare il modello principale. Questo metodo considera la personalizzazione come un processo di apprendimento online che sviluppa una policy di esecuzione unica per ciascun utente basata su feedback scalari derivanti dalle azioni intraprese. FABLE funziona indipendentemente da un agente host potenzialmente opaco, scomponendo memoria, raccolta di informazioni e scelte di risposta in modo che il feedback possa influenzare queste decisioni. Filtra le azioni attraverso un insieme ammissibile predefinito prima dell'esplorazione e apprende preferenze residue specifiche dell'utente rispetto a una baseline stabile. Questa strategia affronta la difficoltà di adattare le scelte di esecuzione—come il recupero della memoria, l'uso di strumenti, domande di chiarimento e stili di risposta—ai singoli utenti. Ottimizzare modelli LLM distinti può essere costoso o impraticabile per sistemi proprietari, e i prompt e la memoria rivelano principalmente dati utente piuttosto che modificare le scelte di esecuzione basate sul feedback. L'articolo di ricerca è accessibile su arXiv con l'identificatore 2608.00215.
Fatti principali
- FABLE è un livello di policy leggero per personalizzare agenti LLM.
- Formula la personalizzazione come apprendimento online di una policy di esecuzione per utente.
- FABLE funziona con agenti host congelati, potenzialmente a scatola nera.
- Scompone le decisioni di memoria, acquisizione di informazioni e risposta.
- Il feedback aggiorna le scelte correlate tramite la scomposizione.
- Le azioni vengono filtrate attraverso un insieme ammissibile specificato esternamente prima dell'esplorazione.
- FABLE apprende preferenze residue specifiche dell'utente rispetto a una baseline fissa.
- L'articolo è disponibile su arXiv con ID 2608.00215.
Entità
Istituzioni
- arXiv