The Verge
·
OpenAI推出了一个类似TikTok的深度伪造平台，真实与虚假难以分辨
内容提要
OpenAI推出了Sora 2，一个新的视频和音频生成系统，用户可以创建逼真的深度伪造视频，类似于TikTok。尽管有控制措施，但深度伪造仍存在潜在风险。
关键要点
-
OpenAI推出了Sora 2，一个新的视频和音频生成系统，用户可以创建逼真的深度伪造视频。
-
Sora 2被称为视频生成的“ChatGPT时刻”，用户可以通过社交媒体应用生成真实人物的视频。
-
Sora 2的音频生成与视频同步，支持多种语言的对话。
-
Sora社交应用类似于TikTok，用户可以生成与自己肖像相关的视频。
-
用户可以控制谁可以使用他们的肖像生成视频，并可以随时撤销权限或删除视频。
-
OpenAI为其产品提供了家长控制选项，允许家长管理青少年的使用权限。
-
Sora 2生成的视频有多种信号表明是AI生成的，包括元数据和动态水印。
-
公共人物的肖像只能在他们上传并同意使用的情况下生成。
-
OpenAI对生成内容进行了审核，以防止政策违规和版权问题。
-
Sora生成的内容可能会包含版权材料，除非权利持有人选择退出。
延伸解读
深度伪造的潜在风险
Sora 2的推出使得深度伪造技术更加普及，用户可以轻松生成逼真的视频。这种技术的广泛应用可能导致虚假信息的传播，尤其是在社交媒体上，用户需提高警惕，辨别内容的真实性。
肖像权与隐私保护
Sora 2允许用户控制谁可以使用他们的肖像生成视频，这在一定程度上保护了个人隐私。然而，用户仍需注意，若未及时撤销权限，可能会导致肖像被滥用。
家长控制的重要性
OpenAI为Sora 2提供了家长控制选项，允许家长管理青少年的使用权限。这一功能在当前深度伪造技术日益普及的背景下显得尤为重要，家长应积极利用这些工具来保护孩子的在线安全。
延伸问答
Sora 2是什么？
Sora 2是OpenAI推出的新的视频和音频生成系统，用户可以创建逼真的深度伪造视频。
Sora 2如何生成音频和视频？
Sora 2可以生成与视频同步的音频，包括多种语言的对话。
用户如何控制自己的肖像在Sora 2中的使用？
用户可以选择谁可以使用他们的肖像生成视频，并可以随时撤销权限或删除视频。
Sora 2的社交应用与TikTok有什么相似之处？
Sora的社交应用界面类似于TikTok，具有“为你推荐”的页面和垂直滚动的功能。
OpenAI如何防止Sora 2生成不当内容？
OpenAI对生成内容进行了审核，并限制公共人物的肖像只能在他们同意的情况下使用。
Sora 2生成的视频如何标识为AI生成？
每个视频都有多个信号表明是AI生成的，包括元数据和动态水印。
