花旗：HBM 短缺倒逼 AI 芯片厂商从“纵向扩容”转向“横向扩展”

花旗研究报告指出，由于 HBM 持续短缺，AI 芯片厂商正在从追求单 GPU 内存容量最大化的“纵向扩容”（Scale-Up）转向通过增加 GPU 数量实现“横向扩展”（Scale-Out）。以 NVIDIA 的 Rubin Ultra 架构为例，其可能将配置从 12-Hi HBM4 调整为 8-Hi，旨在降低单 GPU 的 HBM 成本并缓解供应压力。尽管单 GPU 容量下降，但通过将单系统 GPU 数量从 72 扩展至 576，整体系统 HBM 容量预计将大幅提升 433%，达到 110.6TB。该趋势将增加对服务器 DDR5 和 eSSD 的存储需求，以卸载部分 KV-cache 存储压力。报告维持对韩国存储供应商的建设性评价。