Token 工厂:从“堆 GPU”到“榨 Token”行业专题研究

机构研报 行业研究 / 行业深度专题 申万: 计算机 寒武纪 (688256.SH)
🔒
登录解锁完整投研深度报告与行情联动: 免费查阅完整机构研报原件、音频转写、五维画像模型与异动监控
立即登录 / 免费注册

📰 研报摘要

查看全文

摘要: 本报告提出“Token 工厂”概念,认为 AI 基础设施的竞争逻辑正从单纯的 GPU 资源堆砌转向以 Token 吞吐量为核心的效率竞争,重点探讨 AI 系统软件栈对资源转化效率的决定性作用。

行业主线:

  1. 竞争逻辑转型:智算中心的核心指标由 GPU 数量转向 Token 生产效率(Token 吞吐量),旨在通过最大化单位 GPU 和功耗的 Token 产出,提升资本回报率(ROI)。
  2. 软件栈决定效率:覆盖调度平台、推理引擎、编译器和模型优化的 AI 系统软件栈是决定算力资源释放价值的核心,而非简单的硬件扩容。

关键变化与分歧:

  1. 调度粒度演进:调度系统正从传统的 GPU 级别向 Token 级别演进(如 Aegaeon 系统),通过动态共享 GPU 执行来降低资源浪费,提升有效吞吐量。
  2. 芯模协同趋势:行业形成自研专用芯片全链路协同和生态绑定深度适配两条路径,通过芯片与模型的协同设计提高 Token 产出效率。

受益方向与风险:

  1. 受益方向:具备先进调度系统能力、能够实现高效芯模协同的云厂商及芯片厂商。
  2. 核心风险:算力供给紧张导致资源不足;模型发展进度不及预期影响 Token 工厂的实际商业价值。