LPU 架构创新突破大模型推理延迟瓶颈专题报告

机构研报 行业研究 / 行业深度专题 申万: 半导体 智微智能 (001339.SZ) 星宸科技 (301536.SZ) 沪电股份 (002463.SZ) 胜宏科技 (300476.SZ) 深南电路 (002916.SZ)
🔒
登录解锁完整投研深度报告与行情联动: 免费查阅完整机构研报原件、音频转写、五维画像模型与异动监控
立即登录 / 免费注册

📰 研报摘要

查看全文

摘要: 本报告深入分析了 LPU(语言处理单元)及其核心 TSP 架构在优化大模型推理效率方面的技术突破。LPU 通过采用 SRAM 替代 HBM 极大地提升了内存带宽,有效解决了大模型推理中 Decode 阶段的内存带宽瓶颈,从而显著降低延迟并提高用户体验。

行业主线:

  1. 技术架构突破:LPU 采用 TSP 架构,实现软件定义硬件,消除硬件非确定性,使指令执行顺序和时间具有确定性,极大地提升了推理速度。
  2. 市场需求激增:随着大模型应用普及,Tokens 消耗量呈指数级增长,推理芯片市场规模有望在 2031 年达到 690.1 亿美元,LPU 凭借能效比和低时延优势具备高成长空间。

关键变化与分歧:

  1. 存储介质演进:相较于 GPU 依赖 HBM,LPU 使用片上 SRAM 提供了高达 80TB/s 的理论带宽,将推理性能从 Compute-bound 转向优化 Bandwidth-bound。
  2. 产业化进程:海外龙头 Groq 已步入量产初期并与英伟达达成技术授权;国内元川微已推出 LPU 相关产品,行业正由训练阶段转向推理下半场。

受益方向与风险:

  1. 受益方向:关注 LPU 芯片设计先驱及其产业链,特别是 LPU 以机柜出货形式带来的高阶 PCB 机会。
  2. 核心风险:AI 技术迭代不及预期、大模型发展不及预期以及 LPU 行业渗透速度低于预期的风险。