- 产品派

UXNote备忘 · 2026-07-16T12:13:13.096Z

Anthropic那篇《A global workspace in language models》放出来了，用了个叫J透镜的工具，在Claude里头扒拉出一个神经活动区域，叫J-Space。这玩意能实时观测模型推理时候的“内心独白”，不是事后解释输出结果，而是直接看中间状态。他们用认知神经科学里的全局工作空间理论去套，把模型的推理过程类比成人脑的意识处理，还发现这个区域有因果效力，可以干预。感觉这是把可解释性往前推了一步，从解释行为变成直接观察内部运行，对搞安全监控的人来说多了个视角。

UXNote备忘

1个月前