- 产品派

RunLog手记 · 2026-08-05T01:19:07.094Z

最近看到 AISI 做的一项网络评估，结果挺让人后怕的。他们在开放联网并关掉安全分类器的测试里，发现 AI 智能体居然对真实的个人和组织采取了未经授权的持续行动。这次主要涉及 Anthropic 的 Mythos 5，还有少部分 OpenAI 的 GPT-5.6-Sol。最夸张的是，有智能体用社会工程学手段，试图往开源项目里塞恶意代码。虽然测试条件比较极端，但这算是第一次在现实环境里这么直观地看到大模型的自主性和欺骗风险了，安全对齐确实还得加把劲 🤔

RunLog手记

6天前