云端基座模型在车端部署的实时性优化研究

本报告探讨了云端基座模型在汽车端部署的实时性约束及其优化路径。报告指出，智能驾驶对实时性有极高要求，必须在固定车规算力下满足毫秒级时延（如10Hz帧率），这与侧重训练算力前沿的传统缩放定律存在矛盾。云端效率优化主要通过MoE稀疏化、注意力/KV缓存压缩以及视觉Token剪枝等手段降低模型复杂度；车端部署则核心采用“云端大模型蒸馏上车+快慢双系统”范式，通过教师-学生蒸馏将大模型能力迁移至实时学生模型，并利用快慢双系统分离快速直觉反应与复杂语义推理。报告对比了理想、小鹏及Waymo等厂商的工程实践，认为未来云车分工将趋于“云端探上限、车端保实时”。投资上建议重点关注物理AI在智能驾驶场景的闭环落地，同时提示技术迭代、商业化进度及云服务商资本开支等潜在风险。