主要人工智能公司同意打击儿童虐待图像

主要人工智能公司如谷歌、Meta和OpenAI承诺审查其AI训练数据，以确保不含儿童性虐待材料（CSAM）。

这些公司签署了一套新原则，旨在限制CSAM的传播，确保训练数据集不包含CSAM，并避免使用高风险数据集。

公司承诺对AI模型进行“压力测试”，确保其不会生成任何CSAM图像，并在模型经过儿童安全评估后才发布。

研究表明，生成式AI增加了对深度伪造图像的担忧，包括在线假CSAM照片的传播。

反儿童虐待非营利组织Thorn表示，AI图像生成可能妨碍识别受害者的努力，并创造更多对CSAM的需求。