产品派
返回

智能体借语义搜索重塑内部开发者平台

AIInfoQ 中文站2026/9/24 10:02:45
AI 导读

智能体正从辅助工具演变为新一代内部开发者平台(IDP)。它们通过语义搜索整合Git、Slack、Jira等系统中的代码、讨论和工单,让大模型获得组织上下文,再回答问题或调用工具执行任务。相关实践强调,企业还必须为自动操作设置权限、审批和安全边界。

在欧洲KubeCon & CloudNativeCon大会的“AI Meets Internal Developer Platform”演讲中,Whitney Lee与Viktor Farc讨论了智能体平台的构建方式。Farcic认为,平台领域正迎来一次变革:过去开发者使用Backstage等平台,如今则可以直接向智能体提出需求。智能体会把用户输入与系统上下文合并后交给大模型,再依据工具能力描述返回答案或发起调用。

语义搜索可以从代码仓库、PR讨论、Slack中关于技术取舍的对话、Jira工单以及设计会议录音等资料里寻找相关信息,这些内容往往承载着团队的经验和行事规范。Farcic指出,检索质量关键不在嵌入模型或向量数据库,而在索引数据和切分方式:长文档应拆成章节、函数或资源定义等可独立理解的片段,并保留仓库、团队和时间戳等元数据。索引需要持续更新,删除也要同步,否则智能体可能自信地给出过时答案;集群实时状态属于状态而非知识,应通过工具即时获取,不能直接嵌入。

企业还需要设置细粒度护栏,区分可自动执行和必须审批的操作。由于用户输入和模型输出都可能不可预知,无法简单限定智能体最终行为,因此必须配合日志、指标和链路追踪。OpenTelemetry提供生成式AI语义规范,可记录模型名称、token数量、工具调用及参数;数据可分别接入Jaeger或Grafana Tempo、Prometheus和Loki,也能进入Datadog、Honeycomb、Dynatrace、Elastic等商业平台。

Lee表示,单条链路能展示智能体使用了哪些模型和工具、消耗多少token以及采取了什么路径;汇总数千条链路后,平台团队还能了解开发者最常见的任务,形成持续优化开发者体验的反馈循环。Farcic补充说,智能体即使面对同一问题也可能走出不同路径,因此追踪记录既是调试依据,也是还原真实事件的关键证据。它还能暴露工具描述错误、检索一次引入五万个token等成本问题,并提供生产环境变更的审计记录,因为“AI执行”不能替代责任与审批。实际用户问题和智能体执行路径本身,还可作为比会议室构造数据更有价值的评估集。

智能体内部开发者平台语义搜索可观测性平台工程

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文