LLM 的推理动作，可能藏在文字之外

长睫毛的伦 · 2026-09-24T00:57:40.000Z

有篇机制可解释性研究发现，LLM 的推理过程不只写在输出文字里。研究者追踪了提取事实、分解、回忆、演绎、代数、计算等 8 种操作，每种操作在模型内部都有不同信号，而且在中间层最明显。同一个 token，放在不同推理任务里，内部状态也会变。屏蔽前面 30 个 token 后，模型下一步要做什么的信号就变弱了。更有意思的是，算错或推导错时，操作类型的信号仍可能正确，模型似乎知道自己在做哪类推理，却不一定做对。

讨论话题

发现产品榜单精选讨论