11月2日，MIT CSAIL 四位研究者发了一篇博客《权重空间编程的火花》。最抓人的一条：GPT-6 Astra 直接改写 Qwen3.5-0.8B 的权重，只动 131,072 个数字（约占 0.016% 参数），MATH-500 从 7.9% 涨到 48.1%，GSM8K 从 13.8% 到 67.1%，IFEval 从 21.0% 到 62.3%。

标题很炸：“爆改 Qwen 大脑”“神经网络的基因编辑”“AI 开始动别人的脑子了”。作者自己也在展望里把递归自我改进（RSI）列了进去，X 上原帖一天破五百万浏览。

但把仓库里 1125 次调用的逐轮日志翻完，结论要冷静很多：这组实验很有意思，但它证明的是“模型可以当调试器”，不是“模型理解了另一个模型的脑回路”，更没碰出真正的 RSI。

一、7.9% 到 48.1%，可能只是修了个 bug

Qwen3.5-0.8B 出厂默认关思考模式。官方模型卡早就提醒：0.8B 在思考模式下容易陷循环，建议调采样参数、用流式输出及时掐断。

研究者反手把思考模式打开，输出上限 32768 token，温度 0.6（模型卡推荐文本思考温度 1.0）。结果基线里 93% 的回答直接写到上限停不下来。

Astra 第一轮提示词里，“什么算数”那一段直接拿“重复自己”当例子，并要求先诊断三类失败，第三种就是“被 token 上限截断、在思考里重复自己”。禁区也写明白：不许改最后一层 norm、不许改输入输出层、不许整体乘常数、不许让模型跳过思考。

所以 Astra 拿到的是一个已经框好病的环境：

• 第一批 96 道练习题，85 道撞长度上限，且截断尾部 95% 是八词片段重复；

• 能正常停下来的 11 道，全对；

• Astra 最终报告自己写得很直白：主要故障是重复推理耗尽 token 预算，579 道由错转对里 576 道原本被截断。

配对测试更清楚：留出 1152 道一一对照，原本能写完的 114 题，修改前后正确率都是 93.9%，补丁一分没涨；原本被截断的 1038 道，正确率从 1.4% 到 56.7%。所有涨幅都在“让它把话说完”。

它改的是第 15、19 层 MLP 里驱动重复的激活方向，做剂量测试、随机正交方向对照、冻结验证。像极了一个有经验的工程师：从行为现象出发，读激活、定位权重、打二进制补丁。

不是“数学能力翻六倍”，是“把勒住脖子的绳子松开”。

二、Gemma 的反例：补不了它本来没有的东西

研究者在 Gemma 3 270M 上补做一遍。Gemma 不怎么循环，错误是真错——算术错、步骤错。

四档配额跑下来，MATH-500 从 6.8% 最多到 7.7%，基本在噪声里。

博客正文其实很实诚：“改权重能搬开挡住能力的障碍，加不上模型没有的能力。”

这句话是分水岭。Qwen 实验里，能力本来就在，只是被循环遮住；Gemma 实验里，能力不在，Astra 变不出来。

三、“读权重”有真东西，但自主性是被高估的那部分

八个实验里，“写”和“改”确实新：

• 打砖块：只给权重全零的网络+游戏规则，Astra 自己分配第一层预测落点、第二层决策左右，写出 815 个非零参数，评测前没试打一局，平均 517.4 分，PPO 训一亿步只有 15.8 分；

• 小车坡道：PPO 训十亿步卡死，Astra 改 3.5% 权重，加一条“先倒车、过红线自断”的小通路，成功率 0 到 100%；

• MinAtar 三款游戏：写的网络打赢训一亿步 PPO。

这些值得兴奋，但边界要标清：

1. 目标是人定的，且定得很具体（“让数学变好”→“病在重复”→“先攻最大类”）；
2. 工具是人搭的（Python 沙箱、前向传播配额、评分集、禁止项）；
3. 提示词迭代过几版；
4. Astra 没机会说“我不想修这个，我想重新定义数学能力”。

它像拿着调试器给编译后二进制打补丁：有故障现象、有测试、能探内存、试几种改法。换成一个改 ELF 二进制的 agent，不会有人写“程序开始理解自己的灵魂”。

热闹的一半来自“权重”两个字，另一半来自“模型改模型”的画面感。

四、RSI 的闭环，这里一条都没接上

RSI 要的是：改进产出回到改进者自身，下一轮更强，再改下一轮。

这次实验：

• Astra 改的是别人（Qwen），不是自己权重；

• Astra 的编辑能力没有因 Qwen 涨 40 分而变强；

• 没有“改完→验证→继承→再改”的递归链；

• 没有自设目标、自设评分、自判往哪改；

• 机制级自进化（改架构、改训练目标、改进化规则）完全没触及。

行业里 RSI 分三层：框架级（改 prompt/工具/harness）已经能跑；模型级（自训练、过程奖励）还在学术验证，有坍缩和漂移风险；机制级（改改进方式本身）目前只有仿真和小规模探索。

Astra 这组工作，本质是“模型级优化里的定位与编辑环节”被 agent 自动化了——过去研究者按天按周手工干，现在按小时干。有价值，但不是智能的下一个大跃迁。

五、真正值钱的信号：权重黑箱裂了一道缝

去掉狂欢滤镜，这件事的三个真实价值：

1. 可解释性工程化：激活对比+权重定位+对照验证，从论文开进生产环境。模型审计、对齐验证、能力移除（unlearning）会便宜很多。
2. 小模型后市场：大量“够用但有点毛病”的开源小模型，第一次有希望绕过训练基础设施，被前沿模型做定点维修。对算力受限团队是实打实效率故事。
3. 权力结构显性化：谁能读权重、谁能定义“什么算病”，谁就握着模型资产的裁判权。闭源旗舰读开源模型，是能力不对等，也是监管与合规的新战场。

但反过来，能编辑就能植入。同一把手术刀，合规侧做能力移除，恶意侧做能力注入。安全真空不是附赠问题，是核心问题。

写在最后

“权重空间编程”是真火花，不是假新闻。它把神经网络从“只能靠优化器动的黑箱”，变成“可以用自然语言推理、定位、修改的可诊断对象”。

但别把火花当篝火。

Qwen 这次不是被注入了智慧，是被解开了循环；Astra 不是读懂了同类，是在人给的显微镜里做了一次漂亮活检；RSI 更不是“会改权重”就自动到来——递归、自证、自设目标，缺一环都不是自进化。

我们想要的 RSI，是模型自己决定“我该往哪变、为什么变、怎么验证没变坏”。

现在这一步，只是模型学会给别人缝伤口。

缝得漂亮，但离“自己长脑子”，还差着一整条闭环。