📰 研报摘要
查看全文 ➔摘要: 本报告详细分析了 DeepSeekV4 模型在英伟达 (GB300, B200)、AMD (MI355X) 及华为 (昇腾 950DT) 等不同 AI 硬件平台上的推理性能表现,探讨了软件栈 (SGLang, vLLM, TensorRT-LLM, CANN) 的优化路径及模型架构的协同设计。
行业主线:
- 推理性能博弈:核心聚焦于不同硬件在处理 DeepSeekV4 时的吞吐量、交互性和 TCO (总拥有成本)。GB300 NVL72 凭借机架级 NVLink 域展现出绝对的性能领先。
- 软件生态决定部署速度:CUDA 生态维持极强的 “Day 0” 支持能力;AMD 的 ROCm 在初期表现糟糕,但通过内核优化在一个月内实现了百倍性能提升;华为 CANN 采取针对国内模型的全栈协同优化策略。
- 架构演进方向:DeepSeekV4 引入 CSA 和 HCA 机制以大幅削减 KV 缓存,并采用 MegaMoE 融合内核通过波次调度隐藏通信延迟。
关键变化与分歧:
- 国产芯片竞争力提升:华为昇腾 950DT 在 Day 0 实现了对 DeepSeekV4 的高效支持,证明了其在特定国产模型生态中的快速适配能力。
- 软件优化空间巨大:MI355X 的性能飞跃主要来自用 AITER/Triton 等真实内核替换 PyTorch 回退路径,表明软件栈成熟度是目前非英伟达平台的关键瓶颈。
- 规模化扩展路径:GB300 通过宽专家并行 (Wide EP) 将权重负载分摊至更多 GPU,显著降低了每百万 token 的成本。
受益方向与风险:
- 受益方向:具备高效互联架构 (如 NVLink) 的硬件厂商、能够快速提供模型原生支持的软件工程团队。
- 核心风险:非 CUDA 生态软件栈的成熟度不足导致无法在生产环境部署;硬件出货量与实际装机基数可能限制技术优势的商业转化。