仅靠AI治理无法拯救我们
内容提要
文章讨论生成式AI治理，指出识别AI内容仅在能减少危害时有用，并需结合平台语境。AI检测面临技术复杂、算力昂贵和隐私问题；用AI判案会继承数据偏见，加剧司法不公；训练高质量模型常侵犯隐私；大语言模型无法真正理解语言。政府统一认证内容可能带来审查风险，应先明确“安全”的定义。
延伸解读
AI内容识别：目的与语境决定必要性
文章指出，识别AI生成内容本身不是目的，只有能减少危害时才有用。例如，YouTube上AI生成的色情内容，问题在于违反政策而非AI生成；但若深度伪造传播虚假信息，或AI生成特性使其更易逃避检测，则识别可能有助。因此，是否要求平台识别AI内容，需结合具体平台政策和语境，不能一概而论。
用AI检测AI：技术、成本与隐私的三重挑战
文章分析，用AI识别AI生成内容面临三大困难：技术复杂，误报漏报可能导致合法内容被审查或违规内容漏网；算力昂贵，训练大规模检测模型资源消耗巨大；隐私风险，识别常需分析用户元数据，可能侵犯隐私。此外，滥用检测具有对抗性，检测方法需不断更新。
AI司法：偏见继承与系统性问题转移
文章认为，生成式AI用于司法判决会继承训练数据中的偏见，可能导致歧视性结果。虽然人类法官也可能有偏见，但AI自动化会放大现有司法系统问题，并转移对不平等、大规模监禁、警察不当行为等根本改革的注意力。文章强调，不修复司法基础，技术只会强化现状，可能造成更多误判。
政府统一认证：审查风险与安全定义缺失
针对拜登行政令提议的水印和认证标准，文章担忧政府若控制内容真实性认定，将带来审查风险。互联网的民主化信息传播虽伴随虚假信息，但集中过滤不能消除风险，反而可能被政府或认证企业滥用。文章建议，应先明确“安全”的定义及保护对象，才能进行有效治理。
Q&A
平台是否应该要求识别和标记生成式AI内容？
识别生成式AI内容只有在能减轻危害时才有用。更关键的问题是：生成式AI内容带来了哪些新风险和潜在危害，然后如何减轻这些风险？如果这些新风险需要披露内容是否由AI生成，那么识别是必要的，但这需要根据平台和具体语境来考虑。
用AI检测AI生成的内容有哪些困难？
主要困难包括：技术复杂，用AI检测AI内容有很高的假阳性和假阴性，可能导致合法内容被审查或真正违规内容未被标记；计算成本高昂，大规模训练和开发检测模型资源密集；隐私问题，识别AI内容常需分析用户元数据，可能削弱隐私保护。
用生成式AI做法官或陪审团判案有什么问题？
生成式AI模型会继承训练数据中的偏见，如果训练数据将少数族裔与商店盗窃犯罪关联，可能导致歧视性结果。此外，在本身有缺陷的刑事司法系统中优先使用AI自动化，不仅会放大现有的系统性问题，还会转移解决根本问题的注意力和资源，可能导致更多误判。
训练高质量AI模型与数据隐私之间存在什么矛盾？
为了确保AI系统生成关键结果的可信度，需要大量具有代表性且高质量的训练数据，但获取这样的数据集很可能需要严重侵犯隐私。数据收集已被正常化为必要的恶，但很难预测数据将被使用的全部方式，可能导致用户画像和其他隐私问题。
大语言模型真的能理解语言吗？
不能。根据诺姆·乔姆斯基的观点，大语言模型有一个基本特性：它们对不可能的语言和可能的语言一样有效，无法区分。它们只是扫描大量数据，找到统计规律，然后预测下一个词。因此，从原理上讲，它们不能告诉我们任何关于语言和思维的东西。
政府统一认证AI内容可能带来什么风险？
政府统一认证内容可能带来审查风险。如果政府最终控制什么内容被认为是事实，就需要完全信任政府，但所有实体都有自己的利益。互联网最强大的作用之一是民主化信息的创造和传播，通过中央机构过滤内容并不能消除错误信息的风险，反而可能增加审查风险。
