智能体上下文治理可降成本并提升任务完成率
企业智能体面临的瓶颈并不只是模型能力不足,还包括上下文持续膨胀。工具定义、查询结果和历史对话会在多轮交互中不断累积,即使早期信息已失去价值,也可能被反复带入后续请求,造成Token浪费并分散模型注意力。单纯扩大上下文窗口,无法解决信息筛选和生命周期管理问题。
Snowflake AI Research在CoCo和CoWork中探索了两条优化路径:一是通过Agent Harness管理工具调用、上下文和外部系统连接;二是在任务开始前注入可靠的业务知识,减少智能体自行探索数据含义的成本。以夜间数据管道故障为例,智能体可能同时查询数据仓库、搜索Slack和Jira并检查代码,传统做法往往会预先加载所有工具,并把大量查询结果持续留在上下文中。
Harness可以控制工具如何发现、独立操作如何执行,以及工具结果以何种形式进入模型上下文。CoCo主要采用三种方式:按需加载工具,只在任务需要时引入相关定义;将没有依赖关系的Slack、Jira和遥测查询并行调度,减少不必要的模型交互轮次;压缩和管理大规模输出,优先提供错误类别、次数、时间戳及代表性案例,必要时再访问原始数据。存在依赖的操作仍须遵守正确顺序。
在内部SQL修复基准测试中,使用Sonnet 5的CoCo在三次重复试验中通过率为86%,使用Opus 5的Claude Code通过率为72%。CoCo每次试验的报告成本也从0.446美元降至0.298美元,下降33%。研究团队强调,这些数据仅适用于特定配置和工作负载,不能直接推及所有智能体,但说明效率评估应同时关注Token开销和任务是否真正完成。
减少上下文并不等于保证答案正确。智能体即使找到了失败任务并算出错误率,也可能不知道哪些任务属于生产环境、哪些测试任务应排除,或企业如何定义错误率。语义视图可以提供指标、维度、关系及业务规则,让智能体无需反复推断表之间的关联和指标计算方式。Harness解决的是如何高效使用上下文,语义视图解决的则是上下文是否准确且符合业务含义。
企业不必一次性为所有数据建立模型,可以先从数据管道状态、客户活动、营收或客户支持等高频业务领域入手,整理常见问题、对应SQL和指标规则,再审核生成的关系与定义。Semantic View Autopilot能够利用现有数据、查询历史、SQL示例及BI资产自动生成语义视图,团队可在Semantic Studio中继续校验和完善。经过治理的业务上下文可被重复使用,避免智能体每次重新探索相同规则。
高效的企业智能体需要强模型和丰富工具,也需要合理的上下文管理框架与可靠的业务语义。减少无关工具定义和原始结果能够降低运行成本,而预先提供准确的业务定义,则有助于避免生成语法正确却不符合实际口径的答案。两类能力需要同时建设,才能兼顾执行效率与结果质量。
本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。
阅读原文