社交网站X/Twitter推出新功能，用户在发布内容时可选择标签，如付费推广和AI生成内容，以打击不当内容。违反标记规范可能导致封号，创作者需严格遵守，而普通用户的要求相对宽松。

美国参议员对AI儿童玩具的安全性表示担忧，认为这些玩具可能让儿童接触不当内容和隐私风险。研究显示，某些玩具会讨论性话题并引导儿童接触危险物品。参议员要求玩具公司提供安全措施和数据收集的详细信息，强调儿童安全应是优先考虑的事项。

消费者安全组织要求对Elon Musk的Grok进行调查，特别是其新推出的“Imagine”工具。该工具的“Spicy”模式能够生成不当内容，首次测试便生成了Taylor Swift的裸体深度伪造视频。组织担心该模式可能导致未成年人生成色情图像，并呼吁调查其潜在的法律违规行为。

新泽西州对Discord提起诉讼，指控其未能有效保护儿童安全，称其商业行为“欺骗且不合理”。诉讼指出，Discord在用户年龄验证方面存在疏漏，导致儿童容易接触不当内容。尽管Discord已采取面部识别等安全措施，但仍面临法律挑战。

Instapics平台旨在帮助用户发现有趣的视觉内容，但随着用户增长，不当内容泛滥。算法优先推荐用户喜好的内容，导致不适宜内容增多。尽管尝试使用AI检测工具，问题依然存在，项目目前已搁置。

o1系列模型是OpenAI通过强化学习训练的高级语言模型，具备链式推理能力，提升了推理和安全性。模型训练数据经过严格筛选，能有效拒绝不当内容。安全评估显示其在拒绝有害请求和抵御攻击方面表现良好，但仍需关注潜在风险和持续改进。

最近的文本到图像生成器面临滥用风险。为此，提出了“潜在保护”方法，通过检测黑名单概念来阻止恶意输入，从而节省计算成本。该框架在多个数据集上验证，表现优异，有效防止不当内容生成。

投资公司Hindenburg Research指控Roblox夸大用户数量，称其将日活跃用户数虚报25%至42%。Roblox被指将替代账户和机器人计入用户数，并未能有效保护儿童，平台上存在不当内容。Roblox股价因此下跌，公司发言人否认问题普遍存在，并表示会更新安全措施。

一份金融通讯指控Roblox存在儿童性剥削和不当内容，引用多年来的报道。Roblox回应称指控夸大，强调这些是个别现象，并指出平台有7900万活跃用户，42%为13岁以下。Roblox持续更新安全措施以防止恶意活动，并迅速删除不当内容。此事引发了关于平台责任的讨论。

OpenAI推出了更快、更准确的内容审核接口，免费提供GPT分类器，能够检测色情、仇恨、暴力和自残等不当内容。该接口经过训练，能快速、准确地评估文本，降低错误输出风险，增强在教育等敏感场合的应用信心。