The Verge ·

生成式AI深度伪造：廉价、简单，瞄准2024年选举

💡 原文英文，约500词，阅读约需2分钟。

📝

内容提要

本文讨论了AI在美国总统选举中加剧了虚假信息和谎言的问题，以及可能采取的措施。生成式AI使得撒谎更容易、更快速。虚假信息问题可能在2024年有更多细微差别，但言论自由和平台管理等问题仍然存在。

🔎

文章提到，一名魔术师仅用20分钟和1美元就制作了伪造的拜登机器人电话音频。这凸显了生成式AI如何使制造虚假音频变得简单且可扩展，从而让撒谎更容易、更快速。这种低成本、高效率的造假方式可能加剧选举中的虚假信息传播。

文章指出，Twitter在马斯克接管后几乎完全放弃了内容管理，导致虚假信息传播加剧。例如，泰勒·斯威夫特的虚假色情图像在X上广泛传播。这反映了主要平台在内容审核上的退缩，可能为2024年选举中的虚假信息创造更宽松的环境。

文章强调，打击虚假信息面临第一修正案对言论自由的保护，以及现有政策和平台管理辩论的复杂性。关于如何界定受保护的评论与恶意虚假信息、如何打击非自愿色情内容，这些争论仍在进行中，使得2024年的虚假信息问题可能更加复杂。

❓

生成式AI使得制造虚假音频变得简单且可扩展。例如，一个魔术师仅用20分钟和1美元就制作了假的拜登机器人电话音频，这说明了生成式AI让撒谎更容易、更快速。

2024年的虚假信息讨论可能会更加细致，但言论自由和平台管理的问题依然存在。此外，生成式AI的进步使得制造虚假内容更加容易和可扩展，而Twitter在马斯克接管后几乎完全放弃了内容管理，导致虚假信息传播加剧。

Twitter在马斯克接管后几乎完全放弃了内容管理，导致虚假信息传播加剧。例如，X平台成为泰勒·斯威夫特虚假色情图片传播最广的地方。

2016年选举中，Facebook上出现了俄罗斯的虚假信息宣传活动；2020年选举中，Twitter上关于亨特·拜登笔记本电脑的故事引发了反思，随后主要平台在1月6日袭击后封禁了唐纳德·特朗普。

打击虚假信息面临第一修正案的制约，以及关于如何最好地打击非自愿色情内容和恶意虚假信息的现有政策和平台管理辩论。

生成式AI可能被用于制造虚假音频，例如假的拜登机器人电话，以及传播非自愿色情内容，如泰勒·斯威夫特的虚假色情图片。

🏷️