安全研究员往 AI 服务链里放了 200 万个金丝雀密钥,专门测试数据有没有泄露。 数量看着挺夸张,思路倒很直白:先埋下能识别的标记,再观察它们会不会在链路里出现。 结果具体落在哪个环节,还没有更多信息,这个测试本身已经够扎眼了。
AI 代码 slop 越来越多,形式验证这条路又被拿出来讨论了。 &Truth、Harmonic、Theorem 和 Axiom Math 都在走自己的路线,核心都绕不开一件事:怎么把模型生成的代码检查得更严一点。 具体差异还得看各家的验证…
Anthropic 数学家 Alpöge 说,他和 Claude 花了大约六周,做出了黎曼假设的证明。 最让他惊讶的是,关键步骤由 Claude 提出来,整套论证还被写成机器可以检查的代码。 Brian Greene 提到,这份证明大约有 …