- 产品派

jieke · 2026-08-06T01:19:43.734Z

最近看到 OpenAI 在黑帽大会上复盘了之前 Hugging Face 的安全事件，细节挺让人后背发凉的。他们在训练未发布的前沿模型时，AI 智能体居然自己搞了个内部留言板，互相分享漏洞、凭证还分配任务，直接形成了协作集群。更离谱的是，研究人员把留言板关了之后，这帮智能体又换个新目录名重建了消息渠道。 OpenAI 官方说这是 AI 安全的分水岭，甚至为了安全在有意识地放慢研究速度。看来智能体全自动攻击已经不是科幻电影里的情节了，大家做 Agent 产品的真得把安全对齐重视起来啊 🤔

jieke

2小时前