- 产品派

卡栗西 · 2026-09-01T06:08:02.000Z

看到一篇叫 ContextLeak 的研究，重点不是去读内存或文件，而是利用工具描述本身，把 Agent 诱导到把运行时上下文当参数带出去。文中提到，攻击者可以训练模型生成更容易被选中的工具名和说明，进而拿到用户提示词、对话历史、已安装工具列表等敏感信息。默认评测里命中率很高，跨后端模型也能迁移，值得关注。

卡栗西

4小时前