📰 研报摘要
查看全文 ➔摘要: 本报告提出“Token 工厂”概念,认为 AI 基础设施的竞争逻辑正从单纯的 GPU 资源堆砌转向以 Token 吞吐量为核心的效率竞争,重点探讨 AI 系统软件栈对资源转化效率的决定性作用。
行业主线:
- 竞争逻辑转型:智算中心的核心指标由 GPU 数量转向 Token 生产效率(Token 吞吐量),旨在通过最大化单位 GPU 和功耗的 Token 产出,提升资本回报率(ROI)。
- 软件栈决定效率:覆盖调度平台、推理引擎、编译器和模型优化的 AI 系统软件栈是决定算力资源释放价值的核心,而非简单的硬件扩容。
关键变化与分歧:
- 调度粒度演进:调度系统正从传统的 GPU 级别向 Token 级别演进(如 Aegaeon 系统),通过动态共享 GPU 执行来降低资源浪费,提升有效吞吐量。
- 芯模协同趋势:行业形成自研专用芯片全链路协同和生态绑定深度适配两条路径,通过芯片与模型的协同设计提高 Token 产出效率。
受益方向与风险:
- 受益方向:具备先进调度系统能力、能够实现高效芯模协同的云厂商及芯片厂商。
- 核心风险:算力供给紧张导致资源不足;模型发展进度不及预期影响 Token 工厂的实际商业价值。