KernelBrain: L'Agente AI Ottimizza i Kernel GPU con Ricerca Basata su Budget
Un nuovo progetto di ricerca ha introdotto KernelBrain, un sistema innovativo volto a migliorare i kernel GPU. Questa struttura utilizza tecniche come la mutazione guidata da LLM e l'allocazione adattiva delle risorse, insieme a valutazioni basate su policy e profilazione diagnostica. Testando molti candidati a basso costo, può concentrare più risorse sulle opzioni migliori, portando a una migliore qualità dei kernel e a ricerche più efficienti. In importanti compiti di generazione di kernel Triton, KernelBrain mostra miglioramenti delle prestazioni tra 0.88x e 6.72x rispetto a PyTorch, e può essere fino a 1.4x più veloce del miglior agente kernel, riducendo i tempi di ottimizzazione di quasi il 48%. Puoi leggere ulteriori informazioni su questo studio su arXiv, con ID di sottomissione 2608.02611, nella categoria Computer Science > Distributed, Parallel, and Cluster Computing.
Fatti principali
- KernelBrain combina mutazione guidata da LLM, allocazione adattiva delle risorse, valutazione basata su policy e diagnosi informata dal profiler.
- Seleziona i candidati con valutazione a basso costo e assegna budget di maggiore fedeltà ai sopravvissuti promettenti.
- Nei compiti di generazione di kernel Triton, raggiunge un'accelerazione da 0.88x a 6.72x rispetto a PyTorch.
- Raggiunge fino a 1.4x di accelerazione rispetto all'agente kernel all'avanguardia.
- Riduce i tempi di ottimizzazione fino al 48%.
- L'articolo è categorizzato sotto Computer Science > Distributed, Parallel, and Cluster Computing.
- L'ID di sottomissione arXiv è 2608.02611.
- Il sistema affronta violazioni di correttezza, misurazioni rumorose e stalli di ricerca precoci.
Entità
Istituzioni
- arXiv