探究不安全的视频生成
原文中文,约200字,阅读约需1分钟。发表于: 。通过使用视频生成模型生成包含不安全内容的视频,本研究旨在全面了解不安全视频生成的潜力和相关的防御机制,其中通过聚类和主题编码分析生成的视频,确定了 5 个不安全视频类别,并提出了一种新的名为潜变量防御(LVD)的方法来预防不安全视频的生成。
Sora的最新发展引起了对其安全风险的关注。T2VSafetyBench是一个新的基准,用于评估视频生成的安全性。强调了在生成AI时优先考虑视频安全的紧迫性。
通过使用视频生成模型生成包含不安全内容的视频,本研究旨在全面了解不安全视频生成的潜力和相关的防御机制,其中通过聚类和主题编码分析生成的视频,确定了 5 个不安全视频类别,并提出了一种新的名为潜变量防御(LVD)的方法来预防不安全视频的生成。
Sora的最新发展引起了对其安全风险的关注。T2VSafetyBench是一个新的基准,用于评估视频生成的安全性。强调了在生成AI时优先考虑视频安全的紧迫性。