快手商业场景落地智能互动Agent的三项实践
商业对话 Agent 的落地需要同时平衡效果、时延和成本。快手在相关实践中将核心问题归纳为动态知识库构建、用户模拟与 Agent 自进化,以及对话稀疏奖励下的成交归因:知识要答得准,系统要持续变好,还要让模型理解每轮交互对最终成交或问题解决的贡献。
在真实业务中,系统还受到四重约束。成本方面,商业场景请求量和 QPS 很高,数据也较敏感,直接调用外部 API 难以兼顾安全与费用;稳定性方面,开源模型可能存在时延高、思考模式难关闭和输出波动等问题;知识层面,直播和大促活动可能几分钟内变化,离线内容容易过时;此外,模型还必须持续适应新场景,避免长期使用后效果退化。
传统 FAQ、小模型和分类模型难以处理售后场景中的多轮追问、复杂规划及商品价格、物流、退货等工具调用。通用开源大模型虽然具备较强的世界知识能力,却缺少业务数据,回答未必能促进成交,而且一轮推理可能无法满足一至两秒的响应要求。因此,实践方向是使用业务数据训练自研模型,并围绕知识库、自进化和成交归因形成闭环。
知识库采用全域统一格式,信息来源包括人工客服对话、商品详情、商家维护内容、短视频和直播内容。系统将内容提取为 QA 对,并关联商品或店铺等 entity,再添加物流、商品等 intent 标签,以便检索、存储和更新。当前主要采用天级更新:模型比对新旧知识,处理冲突和重复,无法自动判断时交由人工复核。
为应对直播活动的实时变化,图片知识不再依赖大规模离线索引。用户提问时,系统直接取回商品下平均 20 至 30 张图片,在线筛选出一至两张相关图片,再交给模型推理。图片统一缩放到 224×224,在 patch size 为 28 时每张约产生 60 多个 token,全部图片约 1800 至 2000 个 token,检索耗时可控制在约 200 毫秒;若使用更大图片,耗时可能升至一秒,难以满足要求。
为降低缩放造成的文字模糊和语义损失,系统先用大图和 VCoT 生成教师表征,再训练低分辨率 student 模型进行向量对齐,并加入 srcc 对齐规则和强相关、相关、不相关三分类的 task 规则。推理时还会检测文字密集区域,裁剪拼接后再次分析,以保留关键商品信息。应用层则为知识条目编号,让模型输出编号替代冗长思考,同时设置知识优先级:较新的内容优先,人工待确认内容优先级较低,从而减少幻觉和知识冲突。后续自进化部分将继续围绕用户模拟、策略迭代及稀疏奖励分配展开。
本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。
阅读原文