Gli sviluppatori AI cinesi restano fedeli ai chip Nvidia a causa degli elevati costi di transizione

Nonostante i progressi nell'hardware domestico, gli sviluppatori AI cinesi continuano a dipendere dai chip Nvidia per l'addestramento di modelli linguistici di grandi dimensioni (LLM) a causa di significativi costi di transizione e sfide ingegneristiche. Un addetto ai lavori ha rivelato che l'uso dei chip Nvidia per l'addestramento degli LLM è ancora una pratica standard tra questi sviluppatori. L'ostacolo principale risiede nell'ecosistema software: la Compute Unified Device Architecture (CUDA) di Nvidia è lo standard industriale prevalente, mentre la Compute Architecture for Neural Networks (CANN) di Huawei Technologies richiede un'ampia riscrittura e ottimizzazione del codice. James Wang, uno sviluppatore di modelli AI presso un istituto di ricerca affiliato a un'università di Shanghai, ha sottolineato che gli attuali processi di addestramento sono costruiti attorno a CUDA, e adattarli per i chip Ascend di Huawei potrebbe aumentare tempi e costi di almeno il 50%. Questa dipendenza da Nvidia continua, nonostante le restrizioni all'esportazione degli Stati Uniti e le ambizioni della Cina per l'indipendenza dei semiconduttori.