在线社区面临有害信息的挑战,聊天审核是保护用户的重要措施。有效的审核可以维护品牌声誉、降低员工流动率、保护心理健康并减少法律风险。企业应结合人工与自动审核、制定明确的社区准则和监控系统,以构建健康的在线环境。
Snapchat 正在推出“话题聊天”功能,允许用户围绕热门话题进行讨论,改变传统的私人对话模式。用户资料对非好友保持私密,消息需遵循社区准则。该功能预计将在几周内在加拿大、新西兰和美国上线,以促进用户互动。
聊天管理是监督在线讨论的过程,旨在营造安全和包容的环境。聊天管理员负责维护互动健康,防止滥用和有害内容,确保遵循社区准则。有效的聊天管理有助于用户安全、品牌声誉及社区健康。
谷歌首席执行官桑达尔·皮查伊在内部备忘录中强调,谷歌的产品应成为各类人群可信赖的信息来源。他指出,选举结果将引发全球讨论,并对社会产生重要影响。谷歌团队致力于提供高质量的投票信息,并确保平台安全,呼吁员工遵循社区准则,推动公司使命。
10月8日,Twitch更新社区准则,严格管控成人内容,特别针对虚拟主播。新规禁止以性感形式描绘儿童角色,并要求遮盖腰部至臀部。虚拟主播需调整形象以符合标准,但标准不明确,导致许多主播停播调整。这对小型虚拟主播构成挑战。
Twitch将改变其社区准则的执行方式,引入新的执行策略,减少违规行为的处罚时间,提供更多关于违规行为的信息,允许用户参加教育课程以减轻处罚。Twitch的安全运营副总裁和安全风险与应对总监表示,安全是Twitch的首要任务,但庞大的用户数量和平台受欢迎程度给处罚违规行为带来挑战。目前,违规记录达到一定数量后,主播的账户可能会被无限期地暂停。新系统将对轻微违规行为的处罚进行调整。
Twitch已解除对前总统特朗普的禁令,恢复其账户。特朗普因2021年1月6日国会骚乱被无限期禁用。Twitch表示,听取总统候选人的声音很重要,并将继续执行社区准则。
Meta将于5月在Instagram、Facebook和Threads上为更多AI生成内容添加“由AI制作”标签,承认现有政策过于狭窄。新政策将根据用户披露或Meta检测到的AI图像指标进行标记。此外,从7月起,Meta将停止删除不违反其他社区准则的AI生成内容。
完成下面两步后,将自动完成登录并继续当前操作。