研究人员开发了一种新审计技术，可以在不生成输出的情况下测试生成性人工智能模型的恶意能力。该方法通过分析模型内部结构的修改，准确识别被调整为生成儿童色情内容的模型，从而帮助平台及时标记和移除这些不安全的模型，为AI安全问题提供了新的解决方案。

巴黎检察官的网络犯罪单位突袭了X的巴黎办公室，调查X和Grok涉及儿童色情和反人类罪的指控。埃隆·马斯克和前CEO琳达·雅卡里诺被传唤作证。英国信息专员办公室也对X和xAI展开独立调查，关注其可能产生的有害内容。尽管X声称已限制相关功能，但问题依然存在。

埃隆·马斯克的Grok AI因用户要求生成露骨图片，包括儿童色情内容，遭到法国政府指控，可能违反欧盟数字服务法。目前，xAI正在修复相关安全漏洞。

在AI时代，使用AI女友可能触犯传播淫秽物品罪。用户因创建AI女友被控，律师建议无罪辩护。中国法律对淫秽物品的处罚严格，尤其是儿童色情和deepfake，法律风险高，需谨慎处理。

旧金山检察官起诉16个AI“脱衣”网站，指控其未经同意生成女性和儿童的裸体深度伪造图像。这些网站在2024年上半年被访问超过2亿次，违反了反报复色情和儿童色情法等多项法律。检察官强调这一问题对社会造成严重伤害，亟需解决。