LLMasTool Framework Utilizza Trasformazioni di Alberi Estratti dal Codice per la Ricerca di Architetture Neurali
Uno studio recente introduce LLMasTool, un framework gerarchico basato su alberi progettato per la Ricerca di Architetture Neurali (NAS) che considera i grandi modelli linguistici (LLM) come strumenti anziché agenti indipendenti. Questo metodo innovativo affronta le carenze delle tecniche NAS esistenti, che spesso si basano su spazi di ricerca meticolosamente progettati che limitano l'esplorazione. Al contrario, gli approcci agentici recenti che utilizzano LLM hanno avuto difficoltà a produrre architetture complesse e valide in modo coerente. LLMasTool può identificare automaticamente moduli riutilizzabili da qualsiasi codice sorgente e rappresenta architetture complete come alberi gerarchici, facilitando l'evoluzione attraverso trasformazioni affidabili degli alberi anziché la generazione diretta di codice. Questo crea un sistema robusto di evoluzione dei modelli che integra la ricerca algoritmica affidabile con le capacità degli LLM. I risultati sono stati condivisi su arXiv con l'identificatore 2604.16555v1, come sottomissione cross-type.
Fatti principali
- LLMasTool è un framework NAS gerarchico basato su alberi
- Tratta i grandi modelli linguistici come strumenti piuttosto che agenti autonomi
- Il metodo estrae automaticamente moduli riutilizzabili da codice sorgente arbitrario
- Le architetture complete sono rappresentate come alberi gerarchici
- L'evoluzione avviene attraverso trasformazioni affidabili degli alberi invece della generazione di codice
- Affronta il bias negli LLM attuali verso modelli ristretti derivanti dai dati di addestramento
- Pubblicato su arXiv con identificatore 2604.16555v1
- Collega la ricerca algoritmica affidabile con l'assistenza degli LLM
Entità
Istituzioni
- arXiv