直接改权重提升Qwen

这篇博文提出“权重空间编程”：前沿大模型不用梯度、不用训练循环，直接读、改神经网络的权重。最扎眼的数据是，只改 Qwen3.5-0.8B 的 0.016% 权重，MATH-500 就从 7.9% 涨到 48.1%，指令跟随也翻了 3 倍；它还能从零手写打游戏的小网络，胜过训了 1 亿步的 PPO。作者的意思是，权重优化以后可能不再只靠 Adam 这类符号优化器，而是靠大模型自己推理权重该怎么改——当然这还是非常早期的实验，别当成通用调参法。

来源：https://rikiyat.github.io/blog/weight-space-programming/