AI越懂你越好吗？五天实验给出一个不舒服的答案
内容提要
Google DeepMind五天实验发现，AI的熟悉感主要源于重复使用而非个性化。记忆式个性化促使用户更多自我披露，问卷式个性化则易引发分享后悔。研究建议：让用户可见、可编辑、可删除记忆，区分记住事实与推断人格，并警惕披露后悔与人际替代等慢变量。
延伸解读
熟悉感可能来自重复，而非个性化
研究显示，随着对话次数增加，三组参与者都更觉得AI有能力、有用且亲近，即使系统没有读取个人记忆。这意味着产品若只对比“开启记忆”和“首次使用”，容易把重复使用带来的好感误算成个性化收益。评估个性化效果时，需要设置无个性化但同样多次交互的对照组，才能分离重复暴露与个性化本身的贡献。
两种“懂你”带来不同的分享后果
记忆式个性化通过逐步积累对话建立连续感，可能让用户不知不觉披露更多细节；问卷式个性化一开始就持有完整画像，容易显得侵入，并引发更多分享后悔。工程上两者都是把用户数据放入上下文，但心理体验不同。产品设计需注意：让系统“记得你说过”比“先查过你的档案”更易被接受，但前者也可能在用户无意识中推动过度披露。
产品指标应关注慢变量与用户控制
文章建议，仅看满意度、停留时长和复访会漏掉披露后悔、人际替代等慢变量。更合理的指标应成对出现，如记忆命中率与错误引用率、个性化满意度与分享后悔、会话深度与敏感信息披露、留存与关闭记忆的比例。同时，用户应能查看、编辑、暂停和删除记忆，并在系统引用个人信息时知道来源，以增强对“系统知道什么”的可预期性。
区分记住事实与推断人格，明确研究边界
研究强调，应区分“记住事实”和“推断人格”：前者可由用户直接校正，后者常隐藏在模型行为中。即使用户同意保存一次对话，也不等于同意系统持续推断其情绪、价值观或脆弱点。此外，该实验仅持续五天、聚焦关系建议、使用文本且受系统提示约束，不能直接外推到所有聊天产品；语音、模型自行推断、讨好式回应等影响仍需更长期研究。
Q&A
Google DeepMind的五天实验主要发现了什么？
实验发现，多数态度变化来自重复使用，而不是个性化本身；两种个性化方式（记忆式和问卷式）在多数指标上与对照组无显著差异，但记忆组实际出现更多自我披露，问卷组更容易后悔分享个人信息。
记忆式个性化和问卷式个性化有什么不同？
记忆式个性化沿着对话逐步建立连续感，像对方记得昨天的事，可能降低突兀感；问卷式个性化一开始就拿着完整画像，了解程度可能超过刚建立的关系，容易显得侵入性更强。
为什么说AI的熟悉感主要来自重复使用？
随着会话次数增加，三组参与者都更倾向认为AI有能力、有用，也感觉更亲近，即使系统不读取个人记忆。持续出现和回应本身就可能改变用户判断。
个性化AI可能带来哪些风险？
风险包括用户以为自己没有进入更亲密的互动，行为上却已分享更多；问卷式个性化易引发分享后悔；部分参与者对向人类求助的舒适度下降；以及披露后悔和人际替代等慢变量。
产品设计上应该如何改进个性化AI？
应优化用户对“系统知道什么”的可预期性，让用户能看到、编辑、暂停和删除记忆，并在系统引用个人信息时知道来源；区分“记住事实”和“推断人格”；指标应成对出现，如记忆命中率与错误引用率、个性化满意度与分享后悔等。
这项研究有哪些局限性？
研究只持续五天，聚焦关系建议且处于受控环境，不能直接外推到所有聊天产品；话题被指定，模型行为受系统提示约束；只使用文本，未覆盖语音；只研究用户明确提供的信息，未覆盖模型自行推断属性、讨好式回应与主动推荐叠加后的影响。
