📰 研报摘要
查看全文 ➔摘要: 本报告探讨了 RAG(检索增强生成)架构如何通过为大模型提供“长期记忆”来驱动向量数据库的需求增长,并重点分析了向量数据库存储介质从 DRAM 参与检索向“全 SSD 存储架构”迁移的技术趋势及其经济可行性。
行业主线:
- RAG 驱动存储需求:企业级与个性化 RAG 需求的增长,使得向量数据库成为连接用户查询与外部知识的关键中枢,对存储介质的吞吐量和时延提出了更高要求。
- 架构演进(DRAM $\rightarrow$ SSD):存储介质正由内存参与检索转向全 SSD 架构。以 KIOXIA AiSAQ 为例,该方案在 10B 级向量规模下,比 DiskANN 具备 4-7 倍的成本优势,且消除了“冷启动”延迟。
- 新范式出现:火山引擎 TOS Vectors 采用多层级本地缓存协同架构,通过 DRAM、SSD 与远程对象存储的分层,在保证检索性能的同时大幅降低大规模向量存储的门槛。
关键变化与分歧:
- 成本与扩展性:全 SSD 存储架构解决了 DRAM 容量对向量数据库规模的限制,显著提升了 RAG 系统的规模化扩展能力和经济可行性。
- 响应延迟:新一代存储方案(如 AiSAQ)使租户始终处于激活状态,解决了传统方案中必须将数据从 SSD 加载到 DRAM 才会开始查询的延迟问题。
受益方向与风险:
- 受益方向:高带宽、大容量 SSD 产业链核心受益标的。
- 核心风险:AI 产业发展及需求不及预期;AI 服务器出货量不及预期;国产厂商技术和产品进展不及预期。