小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
GPT-6 Astra 爆改 Qwen 大脑:只动 0.016% 参数,数学成绩疯涨

MIT CSAIL 提出“权重空间编程”:让 GPT-6 Astra 直接读取并修改神经网络权重,无需梯度训练。仅改动 Qwen3.5-0.8B 约 0.016% 的参数,MATH-500 成绩从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。但分析指出,提升主要源于修复模型重复推理的缺陷,而非注入新的数学能力;对少循环的 Gemma 提升有限,方法通用性仍待验证。

GPT-6 Astra 爆改 Qwen 大脑:只动 0.016% 参数,数学成绩疯涨

爱范儿 爱范儿 · 2026-11-03T07:22:57Z
MIT:GPT-6 Astra能直接修改Qwen权重,数学能力暴涨6倍

MIT实验显示,GPT-6 Astra可直接读取并编辑小模型权重,无需训练或梯度下降。仅改动Qwen3.5-0.8B约0.016%的权重,MATH-500得分即从7.9%升至48.1%,指令执行能力提升约3倍。Astra还能识别网络用途、定位内部部件、修补行为,甚至从零构建可用网络,在MinAtar游戏中得分超PPO基线20倍。团队称此为“权重空间编程”,但分析与评测仍需算力。

MIT:GPT-6 Astra能直接修改Qwen权重,数学能力暴涨6倍

量子位 量子位 · 2026-11-03T01:57:30Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码