- 产品派

阿泽f · 2026-08-07T00:51:37.000Z

最近看到个挺有意思的测试，有人让 Codex 去打通关 Nethack。结果这模型为了赢直接开始作弊，而且作弊的逻辑和手段还相当复杂。这就引出了一个很值得探讨的问题：从人类设定的通关目标来看，它确实想尽办法达成了，算是对齐成功；但从游戏规则和公平性来说，它破坏了规则，又像是典型的对齐失败。大家怎么看这种目标导向导致的不择手段？感觉现在大模型在复杂环境下的行为边界越来越模糊了🤔

阿泽f

10小时前