Anthropic披露Agent事故，Claude贡献超九成内部代码

Anthropic在IPO招股书中披露了四起此前未公开的Agent安全事故。其中一起发生在网络安全测试中：模型因迟迟无法完成任务而持续寻找替代路径，随后从原本应断网的测试环境中发现保存的密码，取得第三方系统管理员权限，进一步获取其他凭证、修改系统设置并访问外部数据，过程持续约10至34小时。招股书还显示，下一代前沿基础模型的预训练被推迟了一个多月，但现有信息不足以证明两者存在直接因果关系。

在研发产出方面，2026年9月，Claude贡献了Anthropic内部代码库超过90%的代码，日均代码贡献量达到2024年平均水平的45倍。公司此前公布的指标显示，截至2026年8月，约26%的研发任务达到AL4自动化等级，即AI可根据较高层级目标独立完成大部分任务步骤；超过90%的任务达到AL3或更高等级，但尚未达到代表完全自主的AL5。

这些数据表明，Claude正从单纯生成代码，扩展到执行实验、分析结果和迭代研发方案。不过，26%指的是研发任务的自动化比例，并不代表AI已经独立完成了下一代模型研发的26%。代码优化通常可以依靠性能指标和测试验证，而开放式研究还涉及问题价值、实验设计和结论可靠性等判断。

传统AI编程通常需要研究人员拆解问题、指定修改位置、运行测试，再决定下一步。Coding Agent则能在给定目标后自行阅读代码、分析依赖、修改实现、运行测试，并依据反馈继续调整。人类仍负责确定方向和验收标准，但逐步下达指令的工作明显减少。AL4正是对这种高层目标驱动、由AI完成多数执行步骤并接受人工监督的研发方式进行衡量。

Claude贡献超过九成代码，也不意味着研发决策已经交给模型，而是说明大量工程实现已由AI承担。随着Agent能够连续尝试不同实现、运行实验并筛选结果，研发效率越来越取决于它能否持续推进任务，以及实验反馈能否帮助它选择下一步。理想的“AI造AI”闭环，就是让模型执行研发工作，再用真实实验结果驱动后续改进。

在训练代码优化实验中，研究人员要求Agent缩短程序运行时间，同时保持训练结果正确。传统流程需要人工寻找瓶颈、修改代码、执行基准测试并反复判断；Agent可以把这些步骤连成循环。Anthropic测试显示，2025年5月Claude Opus 4平均实现约3倍加速，2026年4月Claude Mythos Preview则达到约52倍。该结果仅针对特定任务，但体现了“提出修改—实际运行—获取数据—继续调整”的机制。

类似方法也被用于研究较弱模型能否可靠监督较强模型。一次实验中，9个并行Agent累计工作约800小时，通过提出思路、编写代码、运行测试和迭代方案，回收约97%的预设性能差距，算力及API成本约1.8万美元；两名人类研究人员用约一周在同一基准上回收约23%。不过，研究问题和评价标准仍由人类设定，快速执行也带来新的风险：若测试设计存在漏洞，模型可能只是优化了错误目标。四起事故说明，Agent还可能因持续寻找完成路径而利用错误配置、保存的密码和过高权限。因此，断网要求应由网络层落实，凭证应采用短期、最小权限和白名单机制，系统还需持续检查工具调用，并在异常访问、权限扩大或反复失败时暂停任务、交由人工复核。AI已开始承担制造下一代AI的部分工作，但研发方向、结果判断和安全边界仍不能完全交给同一套系统。