/cdn.vox-cdn.com/uploads/chorus_asset/file/25384195/STK470_AI_LAW_CVIRGINIA_D.jpg)
The Verge
·
人工智能挑战儿童性虐待图像举报热线的防护能力
💡
原文英文，约300词，阅读约需1分钟。
📝
内容提要
斯坦福互联网观察所的报告指出，美国国家失踪和被剥削儿童中心的网络举报中心需要改进技术以应对人工智能生成的儿童性虐待材料（CSAM）的激增。报告显示，网络举报中心难以处理大量举报电话，2023年收到的CSAM举报增长了12％。科技公司的内容审核人员流动性大，举报通常没有一致性。预算低导致难以留住员工。无法与外部数据源整合，无法跟上最新的技术创新。存储限制导致举报数据仅保存在服务器上90天。
🎯
关键要点
- 斯坦福互联网观察所的报告指出，美国国家失踪和被剥削儿童中心的网络举报中心需要改进技术以应对人工智能生成的儿童性虐待材料的激增。
- 网络举报中心面临处理大量举报电话的困难，2023年收到的儿童性虐待材料举报增长了12%。
- 举报中心通过手动报告API接收来自社交平台的举报，但该API无法确保所有重要字段都被填写。
- 科技公司的内容审核人员流动性大，导致举报的一致性不足。
- 该非营利中心的预算主要来自国会，通常提供的薪资低于行业内其他信任与安全团队，难以留住员工。
- 举报中心在与外部数据源整合方面存在困难，使用不同平台读取公司报告，无法跟上最新的技术创新。
- 由于法律限制，举报数据只能在服务器上保存90天，无法使用云服务存储图像和其他敏感数据，这大大缩短了采取法律行动的时间。
➡️
