该研究创建了RealToxicityPrompts数据集，探讨预训练神经语言模型生成有毒文本的能力。研究表明，合理的数据选择和提示工程对毒性检测至关重要。大型语言模型在有毒内容分类和检测任务上表现良好，并提出了改进模型性能的策略。