AI 实践中如何节约 Token 消耗及金融 AI 架构优化交流纪要

本次交流重点探讨了大模型在金融投研实践中降低 token 消耗的路径与 AI 架构优化。核心观点包括：通过构建智能路由系统实现端云协同，由本地小模型处理简单或脱敏任务，云端大模型处理复杂任务，以实现成本的精细化管理；在数据获取上，建议优先使用 JSON 结构化的 API 接口而非 MCP 模式以减少冗余消耗；在 RAG 场景中，利用 GraphRAG 建立逻辑图谱并配合本地小模型打标签索引，以解决复杂推理并提升检索精度。此外，讨论了 Kimi K3 等大模型的性能突破及其对行业的启示，强调在金融高容错率场景下，应采用 AI 与算法结合的校验模式及多模型交叉验证，实现人机协同。最后指出，AI 在非定量化领域的落地瓶颈在于缺乏统一的评测标准，且单纯的模型蒸馏无法替代面对动态市场的迭代与诊断能力。