大型预训练语言模型会从网络数据中习得毒性内容与偏见,需加强安全控制。文章讨论毒性的定义与分类(如OLID三级体系),介绍人工标注、众包和半监督的数据构建方法,并总结毒性检测技术(对抗攻击、Perspective API、自诊断)与去毒技术(黑名单、自去偏、文本风格迁移、可控生成)及系统级安全方案。
完成下面两步后,将自动完成登录并继续当前操作。