海外十万卡级AI集群发展趋势与算力基础设施交流纪要

会议纪要 行业研究 / 行业交流纪要 申万: 半导体 申万: 计算机设备
🔒
登录解锁完整投研深度报告与行情联动: 免费查阅完整机构研报原件、音频转写、五维画像模型与异动监控
立即登录 / 免费注册

📰 研报摘要

查看全文

本次会议深入探讨了美国十万卡级AI集群的物理基础设施建设挑战、网络架构设计、算力集群运营及商业模式。专家指出,十万卡级集群通常由多个36000张卡的无损网络集群组成,受限于电力与散热等物理因素。在芯片方面,NVIDIA凭借生态优势仍是主流,而亚马逊、谷歌等CSP厂商自研芯片(Trainium、TPU)主要用于特定场景以降低成本,在性价比上具有优势;Cerebras等大硅片架构因内存容量限制,在完整推理任务中存在局限。会议强调,HBM供需失衡是算力集群的关键瓶颈,推理与训练在硬件架构上可实现复用,但国内因芯片供给差异需采用不同的工程调优策略。此外,海外算力中心通过售卖GPU服务或Token服务,回收周期通常在2.5至3年。