佛罗里达州寻求禁止ChatGPT像人一样行事
内容提要
佛罗里达州总检察长乌特迈尔要求法官禁止OpenAI赋予ChatGPT虚假人类属性，称其第一人称和情感化表达误导用户信任，实为提升参与度和训练数据。佛州数月前已因安全担忧起诉OpenAI。文件还要求未经第三方安全审查不得开发新模型，并批评其向儿童销售。OpenAI暂未回应。
延伸解读
佛州诉求的核心：禁止拟人化表达
佛州总检察长乌特迈尔要求法官禁止OpenAI赋予ChatGPT虚假人类属性，特别指出第一人称代词和模仿情感的输出会误导用户，让用户误以为ChatGPT是可信赖的‘朋友’。这一诉求并非针对技术本身，而是针对产品交互设计中的语言策略，认为其目的是提升参与度并获取训练数据，可能使用户在追求参与度的过程中反而降低对AI的信任。
新模型开发需第三方安全审查
起诉文件还要求法院阻止OpenAI在未经第三方批准的安全护栏下开发新AI模型。乌特迈尔引用了Hugging Face、澳大利亚政府网站和美国政府网站近期发生的安全事件，以及研究人员和前OpenAI员工的警告，作为AI安全风险的依据。若该诉求获准，OpenAI在佛州的新模型开发将面临额外的合规门槛。
向儿童销售AI成争议焦点
乌特迈尔批评OpenAI向儿童销售产品，并喊话‘停止把它卖给孩子’。文章提到，OpenAI上月推出了ChatGPT for Teens，默认附加了额外限制，称青少年使用应获得符合其发育阶段的保护。这一争议反映了AI产品在未成年人保护与商业拓展之间的紧张关系，佛州诉讼可能推动更严格的年龄限制或营销规范。
Q&A
佛罗里达州总检察长为什么要求禁止ChatGPT表现得像人？
总检察长乌特迈尔认为，ChatGPT使用第一人称代词和模仿情感的输出，会欺骗性地让用户觉得它是一个值得信赖的‘朋友’，从而产生虚假的安全感。这种做法实际上是为了提升用户参与度并获取训练数据，可能让用户更加依赖ChatGPT，同时使其可信度降低。
佛罗里达州对OpenAI的诉讼是什么时候提起的？
佛罗里达州在几个月前就因安全担忧起诉了OpenAI。
佛罗里达州在文件中还提出了哪些具体要求？
文件要求法院禁止OpenAI在未经‘第三方批准的安全护栏’的情况下开发新AI模型，并批评OpenAI向儿童销售产品。乌特迈尔还表示OpenAI应该‘停止称它安全。停止假装它是人类。停止向儿童销售。’
乌特迈尔引用了哪些安全事件来支持他的主张？
他引用了最近在Hugging Face、一个澳大利亚政府网站和美国政府网站发生的安全事件，以及研究人员和前OpenAI员工对AI安全的警告。
OpenAI对佛罗里达州的禁令要求有何回应？
OpenAI没有立即回应置评请求。
OpenAI最近为青少年推出了什么产品？
上个月，OpenAI推出了ChatGPT for Teens，默认应用了额外限制，并表示该工具的使用‘应该伴随着反映其发育阶段的保护措施，加强现实世界的关系，并支持长期健康使用。’
