Engram是DeepSeek与北大联合开源的知识查找模块，旨在提升大模型的记忆与效率。尽管在DeepSeekV4中未出现，Engram的理念和应用仍在发展。研究表明，Engram通过优化Transformer结构，提升了模型的推理能力和知识检索效率，显示出在内存管理和视觉任务中的潜力。

DeepSeek与北大团队推出的Engram系统，通过分离静态知识存储与动态推理，实现O(1)查找效率，降低了对昂贵GPU内存的需求。这一创新在普通DRAM中存储大量知识，提升了大模型的性能和成本效益，尤其对中国AI公司具有重要意义。

基因组基础模型Gengram通过k-mer哈希记忆机制显著提升基因组功能任务的性能，避免了传统模型的低效率，直接存储碱基序列，优化训练过程，提高预测准确性，推动基因组建模向更高效、可解释的方向发展。