AUTO: Ottimizzazione Strategica del Codice GPU Guidata da LLM
AUTO, un nuovo framework, utilizza grandi modelli linguistici (LLM) per semplificare l'ottimizzazione del design, in particolare in scenari in cui la definizione degli spazi di ricerca e dei parametri di progettazione presenta sfide. Questo framework distingue tra pianificazione ad alto livello, condotta da un agente Stratega, ed esecuzione a basso livello, gestita da agenti Implementatori concorrenti, che migliorano iterativamente i progetti utilizzando tecniche di esplorazione-sfruttamento. Applicato a tre compiti di ottimizzazione del codice GPU, AUTO supera il codice ottimizzato in laboratorio per la cinetica chimica fino a 1,74× per dimensioni del problema che raggiungono 10^5 celle e raggiunge fino al 94% delle prestazioni in doppia precisione di cuBLAS nella moltiplicazione di matrici. La ricerca è disponibile su arXiv con identificativo 2511.22651, categorizzata come replace-cross.
Fatti principali
- AUTO è un framework di ottimizzazione iterativa che utilizza il ragionamento LLM.
- Il framework separa un agente Stratega per la pianificazione da agenti Implementatori per l'esecuzione.
- AUTO utilizza strategie di esplorazione-sfruttamento per perfezionare i progetti.
- Testato su tre problemi di ottimizzazione del codice GPU.
- Per la cinetica chimica, AUTO supera il codice ottimizzato in laboratorio fino a 1,74×.
- Per la moltiplicazione di matrici, AUTO raggiunge fino al 94% delle prestazioni in doppia precisione di cuBLAS.
- L'articolo è su arXiv con ID 2511.22651.
- Il tipo di annuncio è replace-cross.
Entità
Istituzioni
- arXiv