AI 边缘推理趋势与 CDN 价值重估专家交流纪要

摘要： 本次会议深入探讨了 AI 算力从“中心化训练”向“边缘化推理”迁移的逻辑，重点分析了边缘推理在降低时延、优化成本及提升用户体验方面的核心价值，并以 Akamai 与 Anthropic 的合作为例阐述了 AI CDN 的商业模式及技术路径。

行业主线：

1. 推理需求成为主导：推理市场份额预计将达到 70%-80%，算力需求重心从追求极致性能的训练转向追求低时延、高效率的推理应用。
2. 边云共生架构：训练依赖中心化超算集群，而推理则向靠近用户的边缘侧迁移，最终形成“端-边-云”一体化结构。
3. 技术路径演进：PD 分离（Prefill 与 Decode 分离）成为核心趋势，将 Decode 阶段下放到边缘节点可极大降低骨干网带宽压力，提升 Token 流式输出的响应速度。

关键变化与分歧：

1. 资源价值重估：算力竞争逻辑从单纯的“显卡数量”转向“调度能力、电力成本与网络交付”的综合竞争。
2. 商业模式转变：由传统的基础设施租赁转向基于 Token 产出（Token 工厂）的计费模式，强调 SLA 保证与缓存命中率。

受益方向与风险：

1. 受益方向：具备全球分布式节点资源、强网络安全能力及调度经验的 CDN 厂商，以及国内原先从事云游戏、CDN 运营的平台型厂商。
2. 核心风险：边缘节点的用户数据安全隔离风险、跨地域监管政策差异、以及超大规模模型权重分发的流量压力。