Nuovo strumento rileva l'instabilità numerica negli operatori di deep learning
I ricercatori hanno introdotto il primo strumento software unificato che integra CESTAC per rilevare la stabilità numerica negli operatori di deep learning. Lo strumento consente la validazione numerica in un unico passaggio di calcolo, identifica le fonti di instabilità e fornisce monitoraggio durante l'addestramento e l'inferenza. La sua efficacia è stata verificata su operatori inquinati con instabilità iniettate in vari compiti. Il metodo mira a supportare lo sviluppo di kernel di calcolo numericamente stabili per un deep learning efficiente.
Fatti principali
- Primo strumento software unificato che integra CESTAC per il rilevamento della stabilità numerica negli operatori di deep learning.
- Consente la validazione numerica con un unico passaggio di calcolo.
- Rileva le fonti di instabilità numerica.
- Fornisce monitoraggio della stabilità numerica durante l'addestramento e l'inferenza del deep learning.
- Efficacia verificata su operatori inquinati con instabilità numeriche iniettate in vari compiti.
- Mira a supportare lo sviluppo di kernel di calcolo numericamente stabili.
- Critico per un addestramento e un'inferenza del deep learning numericamente stabili ed efficienti.
Entità
—