Three Tennessee teens are suing Elon Musk's xAI over claims that the company's Grok AI chatbot generated sexualized images and videos of themselves as minors, as reported earlier by The Washington...

西弗吉尼亚州起诉苹果，指控其允许儿童性虐待材料在iCloud传播。诉状称苹果放弃了CSAM检测系统，使iCloud成为此类材料的传播渠道。苹果曾计划推出该系统，但因隐私问题而停止。诉状还指出，苹果的CSAM报告数量远低于谷歌和Meta，认为其保护儿童的措施不足。

Cloudflare更新了儿童性虐待材料（CSAM）扫描工具，简化了网站运营者的使用流程。新工具不再需要用户创建NCMEC凭证，采用率增加了1600%。该工具利用模糊哈希技术识别潜在的CSAM，即使图像经过修改也能有效匹配。网站运营者只需激活工具并扫描内容，Cloudflare会阻止识别出的不良链接并通知用户。

Pornhub has settled with the Federal Trade Commission and the state of Utah over claims it “inflicted grave harm on children.” As part of the proposed settlement, Pornhub and its parent company,...

Snapchat被指控成为犯罪分子针对儿童进行性敲诈或儿童性虐待材料（CSAM）的首选应用程序。新墨西哥州总检察长指控Snap违反了不公平行为和公共困扰法，原因是其“消失”的消息设计元素以及未能监管捕食者。调查发现Snap误导用户相信发送的照片和视频将会消失，但捕食者可以永久捕获这些内容，并创建了一个虚拟的儿童性图像年鉴。总检察长办公室进行了潜伏调查，创建了一个诱饵Snapchat账户，试图引诱其他账户分享CSAM。总检察长指控Snap声称其应用程序比其他社交媒体应用程序“更私密”和“更短暂”是误导性的。

斯坦福互联网观察所的报告指出，美国国家失踪和被剥削儿童中心的网络举报中心需要改进技术以应对人工智能生成的儿童性虐待材料（CSAM）的激增。报告显示，网络举报中心难以处理大量举报电话，2023年收到的CSAM举报增长了12％。科技公司的内容审核人员流动性大，举报通常没有一致性。预算低导致难以留住员工。无法与外部数据源整合，无法跟上最新的技术创新。存储限制导致举报数据仅保存在服务器上90天。