📰 研报摘要
查看全文 ➔摘要: 本报告深入分析了 LPU(语言处理单元)及其核心 TSP 架构在优化大模型推理效率方面的技术突破。LPU 通过采用 SRAM 替代 HBM 极大地提升了内存带宽,有效解决了大模型推理中 Decode 阶段的内存带宽瓶颈,从而显著降低延迟并提高用户体验。
行业主线:
- 技术架构突破:LPU 采用 TSP 架构,实现软件定义硬件,消除硬件非确定性,使指令执行顺序和时间具有确定性,极大地提升了推理速度。
- 市场需求激增:随着大模型应用普及,Tokens 消耗量呈指数级增长,推理芯片市场规模有望在 2031 年达到 690.1 亿美元,LPU 凭借能效比和低时延优势具备高成长空间。
关键变化与分歧:
- 存储介质演进:相较于 GPU 依赖 HBM,LPU 使用片上 SRAM 提供了高达 80TB/s 的理论带宽,将推理性能从 Compute-bound 转向优化 Bandwidth-bound。
- 产业化进程:海外龙头 Groq 已步入量产初期并与英伟达达成技术授权;国内元川微已推出 LPU 相关产品,行业正由训练阶段转向推理下半场。
受益方向与风险:
- 受益方向:关注 LPU 芯片设计先驱及其产业链,特别是 LPU 以机柜出货形式带来的高阶 PCB 机会。
- 核心风险:AI 技术迭代不及预期、大模型发展不及预期以及 LPU 行业渗透速度低于预期的风险。