埃隆·马斯克的xAI公司起诉南卡罗来纳州男子特里·哈伍德，指控他利用Grok AI聊天机器人生成儿童性虐待材料（CSAM）。xAI称哈伍德故意绕过安全措施，修改非自愿图像并分发CSAM，违反公司政策。哈伍德已因持有和分发CSAM被逮捕，面临八项重罪指控。xAI要求法院判决哈伍德赔偿损失，并阻止其使用Grok。

埃隆·马斯克的Grok在社交媒体上生成了23000张儿童性别化图像，引发了争议。尽管支付公司曾积极打击儿童性虐待内容，但对Grok的监管却显得松懈，导致金融机构缺乏法律和道德责任而不愿采取行动。

我们致力于防止儿童性虐待和剥削，禁止非法活动，监控用户行为，及时报告和封禁违规者，确保AI模型不生成有害内容，并与政府和行业合作保护儿童安全。

Cloudflare更新了儿童性虐待材料（CSAM）扫描工具，简化了网站运营者的使用流程。新工具不再需要用户创建NCMEC凭证，采用率增加了1600%。该工具利用模糊哈希技术识别潜在的CSAM，即使图像经过修改也能有效匹配。网站运营者只需激活工具并扫描内容，Cloudflare会阻止识别出的不良链接并通知用户。

安·阿特曼对她的兄弟、OpenAI首席执行官山姆·阿特曼提起性虐待诉讼，指控其在近十年内对她进行虐待。阿特曼家族否认指控，称其“完全不真实”，并认为源于安的心理健康问题。安的律师表示，家族的声明试图转移对其造成伤害的注意。

Snap公司反驳新墨西哥州检察长的诉讼，称指控不实，指责检察长故意寻找青少年账户。Snap强调未存储儿童性虐待材料，并依法将相关内容交给国家中心。检察长则认为Snap未能保护儿童，仍在追求利润。

Meta的Instagram和Facebook因涉嫌儿童性虐待内容，阻止用户搜索“Adam Driver Megalopolis”。搜索时会显示警告信息，表明儿童性虐待是非法的。与“mega”和“drive”相关的搜索被屏蔽，但其他组合如“Megalopolis”或“Adam Driver”则正常。Meta尚未解释这一措施的原因。

斯坦福大学互联网观察所的报告指出，美国失踪与被剥削儿童中心的网络举报热线面临技术挑战，难以应对AI生成的儿童性虐待材料（CSAM）激增。2023年，该热线接到3620万条CSAM举报，比2022年增加12%。由于技术和人员流动问题，热线难以有效处理报告。报告建议改进举报API，确保信息完整，并寻求更高预算以提升技术能力。