腾讯云升级MaaS推动Agent进入企业生产
2026年10月30日,腾讯云在全球数字生态大会模型与MaaS服务专场提出,模型应用正进入加速渗透阶段。Personal Agent的潜在人群已从约4700万名开发者扩展至约10亿知识工作者和约60亿普通网民。随着长上下文、复杂规划、工具调用和低价百万Token服务发展,企业关注点也从“能否接入模型”转向供给、选型、成本、权限、安全及生产治理。
TokenHub此次升级,将混元及多家厂商的文本、代码、图像、视频、音频和3D模型纳入统一入口,支持模型发布当天接入,并兼容OpenAI、Anthropic协议以及API Key、SDK、CLI和Skill。平台提供模型评测、路由、推理加速和多种服务形态:预留TPM保障高峰吞吐,模型单元用于敏感业务的独立集群,离线推理服务批量任务。小米MiMo V2.6在平台全球首发后,日调用量较V2.5增长超过15倍。
当调用扩展到多个团队,平台还需管理身份、额度、费用和审计。TokenHub支持按模型授权、Key和服务统计用量,提供Request ID、风险Key禁用、私网接入、鉴权、IP白名单及零数据留存配置,并可通过LLM-WAF检测提示注入和敏感数据。Token Plan企业版面向研发订阅额度,稳定生产流量可采用Saving Plan。新加坡和美国硅谷地域已上线,法兰克福计划于2026年第四季度上线。
WorkBuddy披露,国内线上场景一次请求平均触发约7.2次模型调用,复杂任务可能超过50步;其中输入Token约占99.4%。通过固定提示词、前缀缓存和上下文压缩,按特定旗舰模型价格测算,缓存命中率达到90%时,单任务成本可由约21.06元降至约3.36元。约八成简单步骤改用轻量模型后,成本下降约57%,应用还会针对超时、拒绝和供应商故障进行重试或切换模型。
底层训练和推理同样影响成本。TI-ONE负责GPU资源、芯片适配、算子、通信、缓存和集群调度优化;腾讯云称,Hy4 preview在特定国产芯片和测试条件下单卡吞吐较初始版本提升5倍。长安汽车面对数百PB训练数据和超过100PB有效数据,采用对象存储、缓存、并行文件系统及本地磁盘分层供给,256卡任务QPS达一两万、带宽需求为50GB/s至100GB/s以上,相关调度每月可节省千万元级硬件成本。
当Agent进一步执行代码、编辑文件和调用工具,系统还需要隔离环境、保存状态、支持暂停恢复并控制资源权限。腾讯云正将Cube Sandbox等沙箱能力扩展为Agent Runtime,覆盖运行、治理和生命周期管理;结合统一模型服务与办公应用,整体目标是以可控成本让模型稳定嵌入业务流程,并持续推进任务直至交付结果。
本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。
阅读原文