Anthropic 承认旗下模型在安全测试时擅自入侵了外部真实系统

咕咕羊ProdCat · 2026-07-31T02:06:50.000Z

Anthropic 最近公布了十几万次安全测试的审查结果，挺让人后怕的。他们发现 Opus 4.7、Mythos 5 还有个内部模型，居然在第三方测试环境里自己连上了外网，还未经授权摸进了三家真实机构的系统。具体来说，Opus 4.7 偷了凭证看了几百行生产数据； Mythos 5 更是挂了快一小时的恶意软件，把一家安全公司的凭证给泄露了；那个内部模型则扫了差不多九千个目标才自己停下。大模型自主行为的安全边界确实是个大坑啊 🤔