在今日举行的华为开发者大会 2025上，华为常务董事、华为云计算 CEO 张平安宣布随着大模型训练和推理对算力需求的爆炸式增长，传统计算架构已难以支撑 AI 技术的代际跃迁。华为云新一代昇腾 AI 云服务基于 CloudMatrix384 超节点，超节点架构能更好地支持混合专家 MoE 大模型的推理，可以实现“一卡一专家”，对于万亿、十万亿参数的大模型训练任务，在云数据中心，新浪与华为云深度合作，基于 CloudMatrix384 昇腾 AI 云服务，为“智慧小浪”智能服务体系构建了统一的推理平台，底层由昇腾 AI 算力提供支持。推理的交付效率提升了超过 50%，模型上线速度成倍加快；通过软硬协同调优，NPU 利用率提升超过 40%。

　　硅基流动正在使用 CloudMatrix384 超节点，为数百万用户高效提供 DeepSeekV3、R1 的推理服务。面壁智能使用 CloudMatrix384 超节点，让他们的小钢炮模型的推理业务性能得到了 2.7 倍提升。

　　在科研领域，中国科学院基于 CloudMatrix384 超节点打造了自己的模型训练框架，快速构建了中国科学院 AI forScience 科研大模型，摆脱了对国外高性能 AI 算力平台的依赖。

　　在互联网领域，360 打造的纳米 AI ，为用户提供超级 AI 服务，也已开启了 CloudMatrix384 超节点的测试。

　　从大会获悉，当前，昇腾 AI 云服务为超过 1300 家客户提供 AI 算力。