主要人工智能公司同意打击儿童虐待图像

📝

内容提要

主要人工智能公司如谷歌、Meta和OpenAI承诺打击儿童性虐待图像（CSAM），并在发布AI模型前进行评估。他们将审查训练数据以确保不含CSAM，并承诺对AI模型进行“压力测试”，以防生成此类图像。这些措施旨在减少CSAM的传播，保护儿童安全。

🔎

延伸解读

承诺的具体内容

签署原则的公司承诺审查AI训练数据，确保不含CSAM，并避免使用高风险数据集。他们还承诺对AI模型进行“压力测试”，确保不会生成CSAM图像，并在模型经过儿童安全评估后才发布。这些措施旨在从数据源头和模型输出两端限制CSAM的传播。

生成式AI带来的挑战

生成式AI增加了对深度伪造图像的担忧，包括在线假CSAM照片的传播。斯坦福大学研究人员在12月发布报告称，一个流行数据集包含CSAM图像的链接。此外，NCMEC运营的举报热线已难以处理大量CSAM内容，而AI生成的CSAM图像正迅速使其不堪重负。

非营利组织的观点

反儿童虐待非营利组织Thorn表示，AI图像生成可能妨碍识别受害者的努力，创造更多对CSAM的需求，允许新的方式伤害和再次伤害儿童，并使查找分享问题材料的信息变得更容易。Thorn与All Tech Is Human共同帮助制定了这些原则。

谷歌的额外举措

谷歌在博客文章中表示，除了承诺这些原则外，还增加了对NCMEC的广告资助以推广其倡议。谷歌信任与安全解决方案副总裁Susan Jasper在文章中说，支持这些活动可提高公众意识，并为人们提供识别和报告虐待的工具。

❓

Q&A

哪些主要人工智能公司承诺打击儿童性虐待图像？

主要人工智能公司包括谷歌、Meta和OpenAI等。

这些公司将如何确保其AI模型不生成儿童性虐待图像？

公司承诺对AI模型进行“压力测试”，确保其不会生成任何儿童性虐待图像，并在模型经过儿童安全评估后才发布。

为什么生成式AI引发了对深度伪造图像的担忧？

生成式AI增加了对在线假儿童性虐待图像（CSAM）照片传播的担忧。

反儿童虐待组织Thorn对AI图像生成的看法是什么？

Thorn表示，AI图像生成可能妨碍识别受害者的努力，并创造更多对CSAM的需求。

这些公司在打击儿童性虐待图像方面签署了什么原则？

公司签署了一套新原则，旨在限制CSAM的传播，确保训练数据集不包含CSAM，并避免使用高风险数据集。

谷歌在支持反儿童虐待活动方面采取了哪些措施？

谷歌增加了对国家失踪和被剥削儿童中心（NCMEC）的广告资助，以促进其倡议。

🏷️

标签

AI模型 CSAM 人工智能 儿童性虐待图像 数据审查