Chip Huawei utilizzati per affinare il modello DeepSeek: una pietra miliare per l'IA cinese
Ricercatori in Cina hanno raggiunto una pietra miliare significativa utilizzando processori Huawei per il post-training completo del modello di IA DeepSeek, che vanta 1,6 trilioni di parametri. Questo processo è stato eseguito su un cluster di calcolo dotato di oltre 1.000 chip Huawei Ascend 910, come riportato dal governo di Shenzhen. L'iniziativa ha coinvolto collaborazioni tra Huawei, il Shenzhen Loop Area Institute, il campus di Shenzhen dell'Harbin Institute of Technology e il Shenzhen Research Institute of Big Data. Questo progresso potenzia la potenza di calcolo locale e rappresenta un passo verso l'obiettivo cinese di una maggiore autosufficienza nella tecnologia dell'intelligenza artificiale.
Fatti principali
- Il modello più grande di DeepSeek ha 1,6 trilioni di parametri.
- Sono stati utilizzati almeno 1.000 chip Huawei Ascend 910.
- Il post-training completo dei parametri è stato condotto con successo.
- Il progetto è stato annunciato dal governo di Shenzhen venerdì.
- I collaboratori includono Huawei, Shenzhen Loop Area Institute, Harbin Institute of Technology (campus di Shenzhen) e Shenzhen Research Institute of Big Data.
- I produttori cinesi di chip hanno avuto difficoltà con l'addestramento dell'IA ma hanno avuto successo con l'inferenza.
- Il post-training perfeziona un modello per seguire istruzioni e regole di sicurezza.
- Il risultato mira a potenziare l'autosufficienza della Cina nell'IA.
Entità
Istituzioni
- Huawei
- DeepSeek
- Shenzhen Loop Area Institute
- Harbin Institute of Technology
- Shenzhen Research Institute of Big Data
- Shenzhen government
Luoghi
- China
- Shenzhen