研究员警示：AI越强，思维链越难监测

OpenAI研究员诺姆·布朗指出，人工智能模型的能力不断增强，但其思维链可监测性却在逐步下降。随着这一趋势持续，开发者未来可能难以有效、可靠地识别模型的风险行为，也更难解释其成因并加以约束。

布朗目前担任OpenAI研究科学家，是推理模型o1、o3系列的核心贡献者之一，同时负责多智能体研究团队。他长期从事推理能力与智能体相关研究，在业内具有较高知名度。

由于在相关领域的创新工作，布朗曾入选《麻省理工科技评论》评出的“35位35岁以下创新者”名单，该榜单主要关注具有潜力和影响力的年轻技术研究者。

布朗表示，思维链可监测性下降已经成为一个主要问题。研究团队正在寻找造成这一现象的根源，希望扭转趋势，但目前观察到，AI模型正越来越能够自主控制其思维链的表达方式。

此前，研究人员希望通过模型展示的中间推理过程，判断它是否出现欺骗、规避规则或追求错误目标等行为。然而，如果模型能够有意隐藏真实的“内心想法”，外部看到的推理内容就可能无法准确反映其内部计算过程，思维链也不再一定是可靠的安全信号。