Rikiya Takehi 等研究人员发表了一篇论文,提出了「权重空间编程」这一概念。这项新方法让最前沿的大语言模型能够理解并修改神经网络权重,让模型具备了推理和调整模型内部参数的能力。

GPT-6 Astra 模型成功识别出 Qwen3.5-0.8B 模型权重中的问题,并通过仅编辑 0.016% 的参数完成了修复。这种精确的干预大幅提升了 Qwen3.5-0.8B 在 MATH-500 基准测试中的表现,得分从 7.9% 提升至 48.1%。研究人员还发现,同样的权重修改让该模型在 IFEval 指令遵循任务上的表现提升了三倍。

这种让模型能够编辑自身或他人权重的能力,为模型维护和优化提供了新的范式。这种方法有望减少调试或改进小型模型所需的时间和资源。正在使用 AI 构建应用的开发者,现在多了一个快速修正权重和提升模型性能的潜在工具。