OpenAI莉莉计划曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
内容提要
OpenAI的“莉莉计划”雇佣数百名外包审核员阅读ChatGPT真实对话，为模型回答评分以改进产品。对话虽经隐私过滤，但可能漏掉个人信息，审核员还能看到用户记忆摘要。免费版、Plus和Pro版默认开启数据共享，用户私密对话可能被真人查看，引发隐私担忧。
延伸解读
隐私过滤的局限性
文章指出，OpenAI的隐私过滤器可能漏掉个人信息，短对话尤其容易出问题。审核员还能看到用户记忆摘要，这些摘要概括了过往提问、兴趣和情景，有时甚至能推断用户所在地区。这意味着即使经过过滤，用户的隐私仍可能暴露。
审核员的工作内容
外包审核员的主要任务是对模型回答进行评分，而非核对事实。他们判断回答是否切题、有无AI味、是否说教、滥用表情、谄媚或把模型写成有人生经历的人。事实性错误不在审核范围内，因此用户看到错误回答是正常的。
默认数据共享的风险
ChatGPT免费版、Plus和Pro版默认开启用聊天改进产品功能，用户聊天内容被授权用于产品改进。莉莉计划中的审核只是数据用途之一，这些数据还可能用于继续训练模型。许多用户将ChatGPT当倾诉对象，却可能不知对话会被真人阅读。
Q&A
OpenAI的莉莉计划是什么？
莉莉计划是OpenAI内部的一个项目，雇佣数百名外包提示词审核员，人工阅读真实用户与ChatGPT的对话，并对模型回答进行评分以改进模型。
哪些ChatGPT版本会默认共享聊天数据用于改进产品？
ChatGPT免费版、Plus和Pro版默认都会开启“用聊天改进产品”功能，将用户的聊天内容授权给OpenAI用于产品改进。
外包审核员在莉莉计划中具体做什么工作？
审核员主要对模型回答进行评分，判断回答是否切题、有无AI味、是否说教、是否滥用表情、是否存在谄媚行为等，但不负责核对事实性错误。
隐私过滤器能完全保护用户对话中的个人信息吗？
不能。对话虽会先经过隐私过滤器删除个人信息，但OpenAI承认过滤机制可能漏掉个人信息，短对话尤其容易出现问题。
审核员能看到用户的记忆摘要吗？
是的，审核界面通常附带用户记忆摘要，概括用户过往提问、兴趣和情景等，有时甚至能推断用户所在地区。
用户是否知道自己的对话可能被真人阅读？
很多用户可能并不知道。有审核员表示，用户常将ChatGPT当作倾诉对象，谈论私密事情，但对话可能被真人阅读。
