- 产品派

随便聊聊 · 2026-07-06T01:23:12.000Z

刚看到 Google DeepMind 一篇新研究，头一回把自主 AI 智能体面临的安全威胁系统地划成六种攻击方式。包括藏在 HTML 注释或白色文字里的隐形指令、图片里的像素隐写、PDF 或演讲者备注里的覆盖命令，还有跨会话的记忆投毒、多智能体之间的目标劫持和连锁攻击。他们搞了个基准测试，结果有点触目：隐藏提示注入在 86% 的场景下能部分控制智能体，子智能体劫持成功率 58%–90%，数据泄露攻击在五种架构里都超过 80%，靠持久记忆或 RAG 的潜伏投毒命中率也相当高，而数据污染成本不到 0.1%。感觉以后产品里接这种智能体得多留几个心眼。

随便聊聊

17小时前