
封面新闻记者孟梅易弋力 9月19日,华为全联接大会2025(HC2025)上,华为常务董事、华为云磋磨CEO张吉祥先容了华为云昇腾AI云管事的重磅升级与改进发达。 依托华为刚刚发布的最新AI管事器磋磨,CloudMatrix云上超节点规格将从384卡升级到将来的8192卡,好意思满50~100万卡的超大集群,为智能期间提供更澎湃的AI算力。为充分开释算力潜能,华为云还首创了弹性内存存储管事EMS,冲破传统AI算力与显存绑定截至,让内存不错替代鼎沸的显存,以存补算,提高大模子多轮对话的性能。 当


封面新闻记者 孟梅 易弋力
9月19日,华为全联接大会2025(HC 2025)上,华为常务董事、华为云磋磨CEO张吉祥先容了华为云昇腾AI云管事的重磅升级与改进发达。
依托华为刚刚发布的最新AI管事器磋磨,CloudMatrix云上超节点规格将从384卡升级到将来的8192卡,好意思满50~100万卡的超大集群,为智能期间提供更澎湃的AI算力。为充分开释算力潜能,华为云还首创了弹性内存存储管事EMS,冲破传统AI算力与显存绑定截至,让内存不错替代鼎沸的显存,以存补算,提高大模子多轮对话的性能。
当下AI算力需求正以指数级增长,濒临不同客户需求,华为云提供了纯果真使用格局。
张吉祥指出,AI的Token管事不错灵验屏蔽复杂的底层本事好意思满,是最高效的推理算力使用格局。会上,张吉祥晓示华为云CloudMatrix384 AI Token管事全面上线,将以优的性能、好的管事、高的质地,高效餍足百行万企所需的“最终AI磋磨遵循”。
华为云通过CloudMatrix384超节点的改进架构,将资源全面池化,酿成算力池、内存池、显存池等,把磋磨型任务、存储型任务、AI众人系统解耦开来,将串行任务尽可能地变因素布式并行任务,极地面提高系统推感性能。在在线、近线和离线等不同期延条目推理场景中,CloudMatrix384的平均单卡推感性能是中国特供H20的3~4倍。当今、依然为Pangu,DeepSeek,Qwen等业界主流大模子提供极致的Token管事,加快各行业 AI 本事落地与业务改进。
360纳米AI依托CloudMatrix384的Token推理管事,得胜处罚每天上千万的推行生成肯求。中科院构建的“磐石·科学基础大模子”平台,基于CloudMatrix384超节点里面高速互联架构及会通算子优化,模子考核精度更高,超出GPU 4%,复古100+专科院所范围场景,不休拓展东谈主类贯通的前沿。
跟着 AI 算力需求的暴增,企业对基础模范散热、功耗、运维等也提议更高的条目。华为云在贵州、内蒙古、安徽部署大范围、逾越的全液冷AI数据中心,将液冷年均 PUE 缩短至 1.1。通过华为云的AI云管事,企业无需花时分改良或新建传统数据中心,只需一双光纤,就或者获得华为云上高效的AI算力。华为云提供了全栈专属AI云管事,企业不错把模子和数据放到华为云专属物理防碍资源池进行考核和调优,全程端到端加密,同期自主掌合手密钥,在保险数据安全的同期,高效享用华为云提供的AI基础模范。
华为云昇腾AI云管事的升级开yun体育网,不仅为客户带来了极致性能的Tokens管事,更通过本事改进与各种化部署模式,为千行万业的智能化升级注入了庞杂能源,推进AI本事在各范围的深度行使与发展。如今,昇腾AI云管事的客户数目从前年的321家已增长到本年的1805家,华为云AI总算力范围比拟前年同期增长了268%。