关于深度伪造工具和负责任AI的政策提案
内容提要
GitHub提出了对其可接受使用政策的修改，以应对合成和篡改媒体工具用于非自愿亲密图像（NCII）和虚假信息的开发。该修改禁止鼓励或支持使用合成或篡改媒体进行这些目的的项目。GitHub旨在解决深度伪造技术的潜在危害，同时仍能支持合法用途。该平台重视代码的公开可用性，但也认识到防止有害内容的创作的必要性。该政策修改的公众评论将持续到5月20日。
延伸解读
政策修改的监管背景
GitHub此次政策修改并非孤立事件。文章指出，随着全球选举临近，AI生成的虚假信息（如深度伪造视频、图像和机器人电话）引发日益增长的担忧。同时，多起利用深度伪造技术生成非自愿亲密图像（NCII）的高调案件，已促使美国各州和联邦层面提出一系列立法提案。GitHub作为代码协作平台，主动调整政策以应对这些危害，反映了技术平台在监管压力下寻求自我规范的尝试。
与恶意软件政策的类比
GitHub在思考如何平衡安全与研究时，引用了此前对恶意软件政策的更新经验。当时GitHub禁止 actively harmful 项目，但允许为安全研究目的共享的双重用途内容。此次针对合成和篡改媒体工具的政策也采取类似思路：禁止那些设计用于、鼓励、推广、支持或建议将合成或篡改媒体用于创建NCII或虚假信息的项目，同时为合法研究保留空间。这种类比有助于理解GitHub的决策逻辑。
对开发者的实际影响
该政策修改将直接影响在GitHub上分享合成媒体工具的开发者。如果项目被判定为鼓励或支持将合成或篡改媒体用于NCII或虚假信息，可能被禁止。但GitHub强调，他们希望区分有害滥用与合法的双重或通用用途，并考虑对可能的滥用采取相称的回应。因此，从事相关研究的开发者需注意项目描述和用途声明，避免被误判为有害项目。
公众评论与参与方式
GitHub已开放公众评论期，持续30天，至5月20日结束。利益相关者可以在site-policy仓库中查看拟议的可接受使用政策补充内容，并提交评论。GitHub表示期待向更广泛的社区学习，并就这些重要议题进行互动。对于关心AI伦理、深度伪造治理或开源政策的读者，这是一个直接参与政策制定的机会。
Q&A
GitHub为什么要修改可接受使用政策？
GitHub修改政策是为了应对合成和篡改媒体工具的开发，特别是防止非自愿亲密图像和虚假信息的产生。
这项政策修改将如何影响代码的公开可用性？
政策修改可能会影响代码的公开可用性，GitHub希望在保护研究的同时，防止有害内容的创作。
公众评论期是什么时候？
公众评论期将持续到5月20日，欢迎各方参与讨论。
深度伪造技术带来了哪些潜在危害？
深度伪造技术可能被用于生成虚假信息和非自愿亲密图像，导致选举干扰和个人隐私侵犯。
GitHub如何平衡技术的合法用途与防止滥用？
GitHub希望通过制定政策来区分有害的滥用和合法的双重用途，同时采取适当的响应措施。
这项政策修改的公众反馈将如何处理？
GitHub将收集公众的反馈，并与社区合作不断更新和完善政策。
