OpenAI推出新分类器,可更准确识别儿童性虐待材料(包括AI生成图像),误报减少48%,识别准确率提高一倍,并向审核机构免费开放。因AI生成内容激增,NCMEC举报量从2024年6.7万增至2025年40万。ChatGPT对试图生成此类内容的用户首次违规暂停24小时并提示求助,所有案例上报NCMEC。
苹果宣布,从iOS 27.3等系统版本起,通过“任何人持有链接”方式共享的iCloud内容将不再端到端加密,并可供苹果检查“有害内容”。苹果未定义何为有害内容,但称有权移动、拒绝、修改或删除此类内容,并可封禁账户或移交执法部门。此举回应了抗议者要求打击iCloud中儿童性虐待材料的呼声。
埃隆·马斯克的xAI公司起诉南卡罗来纳州男子特里·哈伍德,指控他利用Grok AI聊天机器人生成儿童性虐待材料(CSAM)。xAI称哈伍德故意绕过安全措施,修改非自愿图像并分发CSAM,违反公司政策。哈伍德已因持有和分发CSAM被逮捕,面临八项重罪指控。xAI要求法院判决哈伍德赔偿损失,并阻止其使用Grok。
Snapchat被指控成为犯罪分子针对儿童进行性敲诈或儿童性虐待材料(CSAM)的首选应用程序。新墨西哥州总检察长指控Snap违反了不公平行为和公共困扰法,原因是其“消失”的消息设计元素以及未能监管捕食者。调查发现Snap误导用户相信发送的照片和视频将会消失,但捕食者可以永久捕获这些内容,并创建了一个虚拟的儿童性图像年鉴。总检察长办公室进行了潜伏调查,创建了一个诱饵Snapchat账户,试图引诱其他账户分享CSAM。总检察长指控Snap声称其应用程序比其他社交媒体应用程序“更私密”和“更短暂”是误导性的。
欧盟将通过新规定,要求扫描数字信息以检测儿童性虐待材料。该提案将实施上传审核系统,要求所有服务安装监控技术并征求扫描许可。提案同时支持和反对端到端加密,建议在加密消息之前扫描内容。Signal总裁表示如果该规定成为法律,该应用将停止在欧盟运行。隐私倡导组织和议会成员对该提案表示担忧。
斯坦福互联网观察所陷入危机,创始人和研究主任离职。该研究组致力于研究社交媒体平台上的滥用问题,包括对民主和选举的威胁、人工智能和儿童性虐待材料。斯坦福大学表示,互联网观察所的工作将在新领导下继续进行,但该组织的一些工作将保留。该研究组的工作成为右翼和共和党攻击的目标。斯坦福大学坚称研究人员有权进行研究并与政府机构分享发现。
完成下面两步后,将自动完成登录并继续当前操作。