AI 单位经济效益：GPU vs. ASIC 与推理成本曲线分析

摘要： 本报告通过构建“推理成本曲线”量化分析 GPU 与 ASIC 在 AI 推理中的性能与成本动态，对比了 Nvidia、Broadcom (TPU)、AMD 及 Amazon (Trainium) 的竞争力，并探讨了计算、网络、内存及封装技术对成本降低的驱动作用。

行业主线：

1. GPU 与 ASIC 的成本竞争：分析显示 Google/Broadcom 的 TPU 在计算成本性能上正迅速缩小与 Nvidia GPU 的差距，TPU v7 的单 token 成本已接近或低于 Nvidia GB200 NVL72。
2. 技术瓶颈转移：由于计算 die 已接近光刻极限，未来的性能提升和成本降低将由网络、内存（如 HBM 和 NAND 闪存集成）及先进封装（如 TSMC CoWoS）技术驱动。

关键变化与分歧：

1. 护城河分析：尽管 ASIC 在原始计算成本上具有竞争力，但 Nvidia 凭借最快的上市时间 (Time to Market) 和 CUDA 软件生态护城河在企业级客户中仍保持绝对领导地位。
2. 估值压力：市场对 Nvidia 估值倍数的压力来自 ASIC 的成本追赶、高昂的资本支出以及 LLM 盈利能力尚未完全兑现。

受益方向与风险：

1. 受益方向：优先推荐 Broadcom（受益于 TPU 份额提升及领先的以太网网络能力）和 Nvidia（受益于全栈创新及训练市场的统治力）。
2. 核心风险：AI 基础设施支出放缓、竞争加剧导致市场份额侵蚀、以及由于竞争导致利润率下降。