在2025年度的華為云生態(tài)大會(huì)上，華為云計(jì)算迎來(lái)了一個(gè)重要的里程碑。華為常務(wù)董事兼云計(jì)算業(yè)務(wù)CEO張平安向與會(huì)者揭示了AI基礎(chǔ)設(shè)施的最新進(jìn)展，隆重推出了CloudMatrix 384超節(jié)點(diǎn)，并宣布該技術(shù)在蕪湖數(shù)據(jù)中心已成功實(shí)現(xiàn)規(guī)模化部署。
CloudMatrix 384超節(jié)點(diǎn)的推出，標(biāo)志著華為云在資源供給模式上的重大革新。這一創(chuàng)新技術(shù)實(shí)現(xiàn)了從服務(wù)器級(jí)向矩陣級(jí)的飛躍，以“高密”“高速”“高效”為核心優(yōu)勢(shì)，通過(guò)前沿的架構(gòu)設(shè)計(jì)，在算力、互聯(lián)帶寬以及內(nèi)存帶寬等多個(gè)維度上取得了領(lǐng)先優(yōu)勢(shì)。
華為云持續(xù)優(yōu)化昇騰AI云服務(wù)，目前該服務(wù)已全面適配超過(guò)160個(gè)第三方大模型，其中包括DeepSeek，為大型模型的訓(xùn)練和推理提供了強(qiáng)有力的支持，助力行業(yè)應(yīng)用迅速落地。華為云盤(pán)古大模型的應(yīng)用場(chǎng)景也在不斷拓展，現(xiàn)已覆蓋30多個(gè)行業(yè)、400多個(gè)具體場(chǎng)景，廣泛應(yīng)用于城市治理、智慧金融、醫(yī)療健康、氣象預(yù)測(cè)等領(lǐng)域。
與此同時(shí)，硅基流動(dòng)公司與華為云攜手，基于CloudMatrix 384超節(jié)點(diǎn)昇騰云服務(wù)和高性能推理框架SiliconLLM，正式上線了DeepSeek-R1服務(wù)。據(jù)硅基流動(dòng)介紹，該服務(wù)在保持單用戶20 TPS水平的同時(shí)，單卡Decode吞吐達(dá)到了1920 Tokens/s，性能表現(xiàn)媲美H100部署。經(jīng)過(guò)主流測(cè)試集的驗(yàn)證以及大規(guī)模線上盲測(cè)，昇騰算力部署下的DeepSeek-R1模型精度與官方版本保持一致。
