LPU 架构创新突破大模型推理延迟瓶颈专题研究

机构研报 行业研究 / 行业深度专题 申万: 半导体 智微智能 (001339.SZ) 星宸科技 (301536.SZ) 沪电股份 (002463.SZ) 胜宏科技 (300476.SZ) 深南电路 (002916.SZ)
🔒
登录解锁完整投研深度报告与行情联动: 免费查阅完整机构研报原件、音频转写、五维画像模型与异动监控
立即登录 / 免费注册

📰 研报摘要

查看全文

摘要: 本报告深入分析了面向大模型推理的 LPU(语言处理单元)及其核心 TSP 架构。LPU 通过软件定义硬件和采用 SRAM 替代 HBM,显著提升了内存带宽,有效解决了大模型推理在 Decode 阶段的延迟瓶颈,旨在提供极速的实时交互体验。随着 Token 消耗量的爆发式增长,AI 产业重心正由训练转向推理,LPU 凭借其能效比和低延迟优势,有望在推理芯片市场快速渗透。

行业主线:

  1. 技术路径突破:LPU 采用 TSP 架构消除硬件复杂性,实现指令执行的确定性,通过极高的片上内存带宽(约 80TB/s)降低大模型推理延迟。
  2. 市场空间广阔:全球推理 AI 芯片市场规模预计 2031 年将达到 690.1 亿美元,推理需求在 Agent 时代将持续高增长。

关键变化与分歧:

  1. 性能侧重转移:相比 GPU 擅长多用户高并发吞吐,LPU 更擅长单用户实时交互,在推理速度和成本上更具竞争力。
  2. 量产进程加速:海外 Groq 已步入量产初期并与英伟达签署技术许可协议;国内元川微等企业已推出基于 LPU 架构的产品。

受益方向与风险:

  1. 受益方向:关注 LPU 芯片设计及其带动的高端 PCB 机会,重点关注智微智能、星宸科技及英伟达 PCB 供应商。
  2. 核心风险:AI 技术迭代不及预期、大模型发展不及预期或 LPU 行业渗透率低于预期。