Astra仅改0.016%权重助Qwen数学成绩近六倍

Qwen3.5-0.8B在数学题上曾连续生成超过3万个Token，反复进行相似推理，最终无法提交答案。MIT CSAIL尝试让GPT-6 Astra读取模型内部权重，定位导致循环的计算路径并直接修改参数，而不是重新训练模型。

Astra最终只调整约0.016%的权重，就把Qwen在MATH-500上的成绩从7.9%提升到48.1%，接近原来的6倍。这项工作的意义在于，机制可解释性不再只是给出说明，还能转化为可执行的模型编辑指令；研究者将这种通过权重理解、设计和修复功能的方式称为“权重空间编程”。

为验证模型能否仅凭参数理解功能，研究者训练了结构相同的Breakout、Pong、Pac-Man和Freeway网络，每个含17253个参数，输入为10×10网格、输出5种动作。Astra在不知道名称、也不能运行模型的情况下，仍根据输入权重分布和动作响应识别出全部游戏。

随后，研究者又训练了约720万参数的字符级Transformer，分别学习Python、罗马字日语和英语，并移除Embedding、输出层，只保留4个Transformer Block。Astra通过分析矩阵间的信息路径，找到了负责复制历史文本的Induction Head：QK电路定位重复片段，OV电路读取并写回后续字符。

它在Python模型中识别出3个copying head，在另外两种语言模型中各识别出1个，功能测试也验证了判断。由于Python标识符重复更常见、罗马字日语的隐藏特征写入方向不同，Astra还能据此判断训练语言。实验表明，单个参数难以解释，但沿计算路径组合多个矩阵后，可能呈现清晰功能。

研究还发现，静态权重并非总够用：在Gemma实验中，Astra仅凭参数无法判断模型是否更容易迎合错误答案，加入少量Attention激活信息后才完成识别。这促使研究者进一步测试能否直接设计权重。Astra根据Breakout规则生成网络，平均得分517.4，高于PPO训练1亿步和5亿步的15.8、25.3分；在9×9围棋中，它用336行Python构造约148万参数网络，先击败两个较小PPO对手，允许50次前向测试后又超过训练2000万局的同规模模型。

在Kinetix车辆控制实验中，Astra发现原PPO策略缺少“先倒车再冲坡”的动作，于是新增一条读取位置和速度的小型路径，修改3.5%权重后，车辆在1024次测试中全部成功，而修改前256次均未成功。

回到Qwen，初始96条练习回答中有85条耗尽32768 Token预算。Astra比较正常与循环生成的状态，在第15、19层MLP各64个输出列中减去相关方向，共编辑131072个参数。由于这些列会向残差流写入特征，局部变化可持续影响后续生成。前向测试预算为10次和25次时，MATH-500升至12.3%和14.1%；达到50次后升至48.1%，触及长度上限比例由93.0%降至33.1%，GSM8K由13.8%升至67.1%，IFEval由21.0%升至62.3%。