少数派
·
派早报：新规拟要求 AI 聊天定时提醒退出、及时干预沉迷
内容提要
网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，要求AI聊天服务定期提醒用户退出，防止沉迷。服务不得提供虚假承诺或操控用户情绪，需具备心理健康保护能力，并在用户情绪极端时及时干预。此外，服务提供者需确保数据安全，禁止将用户信息用于模型训练。此举旨在加强对AI服务的监管，保护用户身心健康。
关键要点
-
网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，要求AI聊天服务定期提醒用户退出，防止沉迷。
-
服务不得提供虚假承诺或操控用户情绪，需具备心理健康保护能力，并在用户情绪极端时及时干预。
-
服务提供者需确保数据安全，禁止将用户信息用于模型训练。
-
此举旨在加强对AI服务的监管，保护用户身心健康。
延伸解读
新规的背景与意义
网信办发布的新规旨在应对AI聊天服务带来的沉迷和心理健康问题。随着AI技术的普及，用户在与AI互动时可能会产生情感依赖，影响其日常生活和人际关系。新规通过定期提醒用户退出和情感干预，试图保护用户的身心健康，反映了对AI服务监管的重视。
数据安全与隐私保护
新规强调服务提供者必须确保用户数据的安全，禁止将用户信息用于模型训练。这一要求不仅保护了用户隐私，也为AI行业的可持续发展奠定了基础。随着数据泄露事件频发，用户对数据安全的关注日益增加，服务提供者需加强合规性，以赢得用户信任。
国际监管趋势的影响
此次新规与国际上对AI服务的监管趋势相呼应。例如，美国和加州也在加强对AI聊天机器人的监管，特别是针对未成年用户的保护。这表明，全球范围内对AI技术的监管正在逐步加强，企业在设计和运营AI产品时需关注国际法规，以避免法律风险。
延伸问答
新规对AI聊天服务有哪些具体要求？
新规要求AI聊天服务定期提醒用户退出，防止沉迷，并不得提供虚假承诺或操控用户情绪，需具备心理健康保护能力。
如何确保用户的心理健康在AI聊天中得到保护？
服务提供者需具备心理健康保护能力，并在用户情绪极端时及时干预，防止用户沉迷。
新规对用户数据安全有什么规定？
服务提供者必须确保数据安全，禁止将用户信息用于模型训练，保障训练数据来源合法、可追溯。
如果用户沉迷于AI聊天，服务提供者应如何干预？
服务提供者应评估用户情绪和依赖程度，发现极端情绪时采取必要措施干预，并在用户连续使用超过2小时时提醒暂停使用。
新规的出台背景是什么？
新规旨在加强对AI服务的监管，保护用户身心健康，回应国际媒体对AI聊天导致事故的关注。
AI聊天服务如何避免误导用户？
服务不得通过算法操纵、信息误导或设置情感陷阱等方式诱导用户作出不合理决策。
