📰 研报摘要
查看全文 ➔本次会议深入探讨了美国十万卡级AI集群的物理基础设施建设挑战、网络架构设计、算力集群运营及商业模式。专家指出,十万卡级集群通常由多个36000张卡的无损网络集群组成,受限于电力与散热等物理因素。在芯片方面,NVIDIA凭借生态优势仍是主流,而亚马逊、谷歌等CSP厂商自研芯片(Trainium、TPU)主要用于特定场景以降低成本,在性价比上具有优势;Cerebras等大硅片架构因内存容量限制,在完整推理任务中存在局限。会议强调,HBM供需失衡是算力集群的关键瓶颈,推理与训练在硬件架构上可实现复用,但国内因芯片供给差异需采用不同的工程调优策略。此外,海外算力中心通过售卖GPU服务或Token服务,回收周期通常在2.5至3年。