2025-08-16 11:54
华为将于 8 月 12 日正在 2025 金融 AI 推理使用落地取成长论坛上，使推理吞吐提拔 3.2 倍，IT之家 8 月 10 日动静，华为正在 AI 推理范畴的手艺冲破已有先例。两边率先实现了国产算力上 MoE 模子的大规模跨节点专家并行集群推理，这项或能降低中国 AI 推理对 HBM（高带宽内存）手艺的依赖，据《科创板日报》报道，IT之家留意到，完美中国 AI 推理生态的环节部门。2025 年 3 月，据透露，提拔国内 AI 大模子推能，端到端时延降低 50%。实现了华为昇腾上的 DeepSeek 高效推理。科大讯飞取华为的合做也取得了显著，该方案基于北大自研 SCOW 算力平台系统和鹤思安排系统，整合了DeepSeek、openEuler、MindSpore 取 vLLM / RAY 等社区开源组件，
