11月3日消息，麻省理工学院计算机科学与人工智能实验室的研究人员提出一种名为权重空间编程的新方法，让OpenAI的GPT-6Astra直接分析并修改阿里云通义千问模型Qwen3.5-0.8B的神经网络权重，仅调整约0.016%的参数，就将该模型在MATH-500数学基准测试中的成绩从7.9%提升至48.1%。

该研究由RikiyaTakehi、JaydenTeoh、AlexZhang和OmarKhattab共同完成，Takehi于当地时间11月2日在博客上发布了这项研究。在实验中，GPT-6Astra先定位Qwen3.5-0.8B的推理循环问题，发现该模型容易在回答数学问题时反复生成相同内容，最初的96次测试回答中有85次触及32768个Token的长度限制。研究团队为Astra提供了一个可以读取和修改模型权重的Python环境，并允许其使用GSM8K和MATH训练集中的练习题进行有限次数的前向推理。Astra随后定位到第15层和第19层MLP写入的一种重复方向，通过修改这两层的部分权重削弱了导致推理循环的信号，最终修改了131072个权重，占该模型约8亿个参数的0.016%。

在允许进行50轮前向推理的实验中，模型在MATH-500上的成绩从7.9%提升至48.1%，在GSM8K上从13.8%提升至67.1%。同时，修改后的模型在IFEval测试中的成绩从21.0%提升至62.3%，数学测试中因生成长度达到上限而未能完成回答的比例从93%降至33.1%。研究人员还使用Gemma3270M进行了对照实验，由于该模型原本很少出现推理循环，Astra无法通过类似的局部权重修改显著提升其数学能力，MATH-500成绩最多仅从6.8%提升至7.7%，研究团队据此指出权重空间编程可以消除模型已有能力发挥过程中遇到的障碍，但不一定能够凭空创造模型原本不具备的能力。