TikTok的AI工具意外让用户将希特勒的言论放入付费演员的嘴中

📝

内容提要

TikTok的AI工具意外发布了一个内部版本，允许用户生成包含不当内容的视频，包括希特勒的言论。CNN发现后生成了多段不当视频。TikTok已关闭该版本并表示已解决技术错误，此事件引发了对数字内容创作滥用的担忧。

🔎

延伸解读

内部测试版与正式版的关键差异

TikTok意外发布的内部测试版数字头像工具，与正式版存在重要区别。正式版仅限拥有TikTok广告管理账户的用户使用，且生成内容受平台准则约束，并带有AI生成水印。而内部版允许任何个人账户访问，且缺乏这些限制，导致CNN能够生成包含希特勒言论等不当内容的视频，且视频无水印。这凸显了内部测试环境与公开版本在安全措施上的显著差距。

平台审核机制的有效性受质疑

尽管TikTok表示已解决技术错误，并称若CNN发布这些视频会被拒绝，但事件仍引发对平台审核能力的质疑。内部版工具在几天内允许极少数用户生成不当内容，且未触发拦截，说明审核机制可能存在漏洞。此外，CNN生成的视频没有水印，违反了TikTok自身政策，这让人担忧平台能否有效识别和阻止AI生成的有害内容。

数字头像工具滥用风险与行业警示

此次事件并非孤例，它反映了AI数字头像工具可能被滥用的普遍风险。即使TikTok关闭了内部版，用户仍可能寻找其他方式滥用正式版工具。文章指出，这让人质疑TikTok是否准备好应对此类滥用。对于整个行业而言，这提醒企业在推出AI生成工具时，需在测试阶段就严格限制访问权限，并确保安全措施与正式版一致，以防止类似漏洞。

❓

Q&A

TikTok的AI工具发生了什么意外？

TikTok意外发布了一个内部版本的AI数字头像工具，允许用户生成包含不当内容的视频。

CNN是如何发现TikTok的AI工具问题的？

CNN发现该工具后，生成了包含希特勒言论和其他不当信息的视频。

TikTok对此事件采取了什么措施？

TikTok已关闭该版本的工具，并表示已解决技术错误。

这个AI工具本应如何使用？

该工具本应仅限于拥有TikTok广告管理账户的用户使用。

CNN生成的视频有什么问题？

生成的视频没有水印，未能标明为AI生成内容，违反了TikTok的政策。

此事件引发了哪些担忧？

该事件引发了对数字内容创作滥用的担忧，质疑TikTok是否能有效防止类似事件的发生。

🏷️

标签

AI工具 TikTok ai 不当内容 希特勒 数字创作