SkillSmith: Un Framework Compiler-Runtime per Competenze Efficienti degli Agenti LLM
SkillSmith è un nuovo framework proposto per ridurre la ridondanza nei sistemi di agenti basati su modelli linguistici di grandi dimensioni (LLM). Compila pacchetti di competenze offline in interfacce eseguibili minime estraendo confini operativi granulari. Ciò consente agli agenti di accedere dinamicamente solo ai componenti rilevanti in fase di esecuzione, minimizzando l'iniezione di contesto non necessaria e il ragionamento ridondante. Valutato sul benchmark SkillsBench, SkillSmith riduce l'uso di token nella fase di risoluzione. Il paper è disponibile su arXiv con ID 2605.15215.
Fatti principali
- SkillSmith è un framework compiler-runtime basato sui confini per sistemi di agenti LLM.
- Compila pacchetti di competenze offline in interfacce eseguibili minime.
- Estrae confini operativi granulari dalle competenze.
- Gli agenti accedono dinamicamente ed eseguono solo i componenti rilevanti in fase di esecuzione.
- Minimizza l'iniezione di contesto irrilevante e il ragionamento ripetuto specifico delle competenze.
- Valutato sul benchmark SkillsBench.
- SkillSmith riduce l'uso di token nella fase di risoluzione.
- Il paper è su arXiv con ID 2605.15215.
Entità
Istituzioni
- arXiv