跟着小螃蟹,看懂 AI 的知识与记忆 - 编程一生

跟着小螃蟹,看懂 AI 的知识与记忆 - 编程一生

💡 原文中文,约1300字,阅读约需3分钟。
📝

内容提要

文章以小螃蟹与机器人的对话为引,区分AI的“知识”与“记忆”:知识来自训练参数或检索资料,用于回答规则与事实;记忆则是应用层保存的任务状态与历史。短期记忆依赖当前上下文,长期记忆需经提取、保存、再读取。模型参数不等于个人记忆,普通对话不会自动修改参数。若记错,需更新状态、保留来源并允许纠正。

🔎

延伸解读

知识是资料,记忆是状态

文章用故事会场地变更的例子说明,知识回答“有哪些规则与事实”,记忆则保留“之前发生了什么、现在做到哪里”。场地开放规则属于知识,故事会改到室内、预约未完成属于任务状态。两者可能存放在同一数据库,但用途不同,不能混为一谈。

模型参数不等于个人记忆

训练或微调让模型参数形成语言模式与知识表示,但普通对话通常不会直接修改参数。下次还能“记得”你说的话,往往依赖应用保存的历史或记忆功能,而不是模型当场重新训练。技术资料中的“参数记忆”与应用层保存的个人经历、偏好和任务记录,机制并不相同。

长期记忆需要完整链路

跨会话可用的记忆需要持久保存机制。应用从历史对话、明确偏好、已确认事实和任务记录中提取信息,写入文件、数据库或记忆服务,再根据账号、任务或相关性读取到上下文,形成“提取→保存→读取→使用”的过程。只回复“记住了”并不够,要看产品是否真的保存并在需要时读回。

记错时要能更新与纠正

故事会从室外改到室内,需要更新当前状态,避免两个版本都被当成有效安排。重要记录应保留来源、时间和适用任务,并允许纠正或删除。预约是否成功,最好查业务系统中的确认记录,不能只凭模型一句“我记得”。这提醒读者关注记忆的更新机制和可验证来源。

❓

Q&A

AI的知识和记忆到底有什么区别?

知识回答“有哪些资料与规律”,来自训练参数或检索资料;记忆则帮助系统保留“之前发生了什么、现在做到哪里”,是应用层保存的任务状态与历史。两者用途不同,可以存在同一个数据库里。

大模型的知识是从哪里来的?会更新吗?

知识来自训练或微调形成的模型参数内部表示,通常不是按原文查书,可能答错或保留过时信息。当前信息可通过RAG从文件、数据库或接口检索获取,但这通常不改变模型参数,也不保证答案正确。

AI的短期记忆是怎么工作的?为什么有时它记不住之前的话?

短期记忆指当前任务可用的信息,如最近对话、系统指令、上传内容、工具结果等,由应用组织并放入本次模型调用的上下文。上下文窗口有容量限制,历史太长时应用可能截断、筛选或压缩,所以界面里还能翻到的内容不一定仍被完整送给模型。

怎么让AI真正记住跨对话的信息?

需要持久保存机制:应用从历史对话、明确偏好、已确认事实和任务记录中提取信息,写入文件、数据库或专门的记忆服务;下次根据账号、任务或相关性读取到上下文中,形成“提取→保存→读取→使用”的过程。只回复“记住了”不够,要看产品是否真的保存并在需要时读回。

模型参数里的知识算不算AI的个人记忆?

不算。参数中的知识有时被称为“参数记忆”,但它与应用保存的个人经历、偏好和任务记录机制不同。一次普通对话通常不会直接修改模型参数,下次还能记起你说的话,往往依赖应用提供的历史或记忆功能,而不是模型当场重新训练。

如果AI记错了信息,应该怎么处理?

需要更新当前状态,避免把新旧版本都当成有效安排;重要记录应保留来源、时间和适用任务,并允许纠正或删除。对于关键结果(如预约是否成功),最好查业务系统中的确认记录,不能只凭模型一句“我记得”。

🏷️

标签

➡️

继续阅读