RSI三块关键拼图，MemT 1.0从模型层补上「记忆」
内容提要
记忆张量开源MemT 1.0系列，提出“记忆原生”路线：将经验编码为模型内部动态状态，通过训练学习写入、更新与读取，并让记忆分支参与计算。Nano为36B参数、激活3B，Flash达288B参数、激活17B。在SWE-bench等任务中表现接近文本经验且重复执行更可靠；11项记忆基准平均分47.0和50.6，居参数化记忆方法前二。该路线有望降低长上下文成本，并为持续学习与RSI补上经验承接环节。
延伸解读
记忆原生与外部记忆：互补而非替代
文章指出，MemT 1.0将经验编码为模型内部动态状态，通过训练学习写入、更新与读取，而外部记忆则依赖检索文本并塞回上下文。两者各有优劣：原生记忆在重复执行可靠性和平均成功率上接近文本经验，但精确删除、解释与溯源需额外机制；外部记忆便于检查，却在长历史细节召回上仍有优势。因此，二者并非非此即彼，协作分工可能带来更大收益。
性能提升的边界：接近文本经验，可靠性略优
在SWE-bench Verified的500项任务三次运行中，MemT-1.0-Nano关键断点平均成功率为69.73%，文本经验组为69.13%，无经验基线为66.07%；三次全部成功的任务比例从54.00%提升至62.80%，文本经验组为61.80%。多语言任务中，原生记忆组平均成功率63.56%，文本经验组63.00%。可见其表现与显式文本经验接近，优势主要体现在平均成功率和重复执行的可靠性上，而非全面超越。
成本与部署：长历史下的效率优势
文章给出具体数据：在同样128K长历史下，Nano的端到端推理速度约为完整上下文方案的1.86倍，每条轨迹的持久状态占用是完整上下文KV Cache的六十六分之一。这意味着长期会话的状态预算更容易估算，多个查询还可复用已构建的状态以分摊准备开销。对于企业重复工作流，经验复用有望减少返工，但文章也提醒，这并非任务质量一定优于外部记忆，而是在近似质量下更具成本控制潜力。
对RSI的意义：补上经验承接的第一块拼图
文章将RSI拆为记忆、反馈、验证与更新机制三块拼图，认为MemT 1.0探索的是经验承接与复用，即让有效结果得以延续。它验证了经验能通过原生记忆指导行动，从模型层面补上第一块。但文章也明确，这还只是初步计算实现，长期上限尚未证明，下一步需验证收益能否跨出当前训练分布，在更长交互和新任务中保持。因此，其RSI价值仍属理论层面的潜在收益。
Q&A
MemT 1.0提出的“记忆原生”是什么意思？
记忆原生是指将经验的保留、更新和调用做成模型可以学习的能力，把经验编码成模型内部的动态状态，通过训练学习如何写入、更新和读取，并让记忆分支参与后续计算。
MemT 1.0有哪些模型型号，参数规模分别是多少？
MemT 1.0包含两个型号：MemT-1.0-Nano总计36B参数、激活3B，基座为Qwen3.6-35B-A3B；MemT-1.0-Flash高达288B参数、激活17B，基座为经过进一步后训练的DeepSeek-V4-Flash。
MemT 1.0在SWE-bench任务上的表现如何？
在500项SWE-bench Verified任务中，MemT-1.0-Nano在关键断点的平均成功率为69.73%，无经验基线为66.07%，文本经验组为69.13%；三次全部成功的任务比例从无经验时的54.00%提高到62.80%，文本经验组为61.80%。在SWE-bench Multilingual任务中，原生记忆组平均成功率为63.56%，无经验组为60.00%，文本经验组为63.00%。
MemT 1.0如何实现记忆的写入、更新和读取？
写入时，隐状态经过投影生成记忆的键值，擦除、写入和遗忘门控共同调节已有矩阵中的关联；读取时，当前输入被映射为记忆查询，读出相关信息，再经归一化和输出门控参与后续生成。更新机制采用基于Gated DeltaNet-2的逐Token生成，并做了稳定化处理，在每一轮结束后触发，靠门控调整已有记忆关联，轮内则仍按Token顺序调整状态。
记忆原生相比外部记忆有哪些优势和不足？
优势包括：能力与文本经验接近，在平均成功率和重复执行可靠性上更有优势；能降低长上下文成本，在128K长历史下，Nano的端到端推理速度约为完整上下文方案的1.86倍，每条轨迹的持久状态占用是完整上下文KV Cache的六十六分之一。不足在于：精确删除、解释与恢复需要额外机制，而外部文本更方便检查和溯源；文本记忆系统在长历史的细节召回上整体仍有优势。
MemT 1.0与RSI（递归自我改进）有什么关系？
RSI有三块拼图：记忆、反馈、验证与更新机制。记忆让有效结果能够延续，后两者帮助判断哪些改变值得进入下一轮。MemT 1.0探索的正是经验承接与复用这一步，验证了经验能通过原生记忆指导行动，从模型层面补上了第一块，也是最重要的一块。
