Shuman Ghosemajumder explains how generative AI has transformed from a creative curiosity into a high-scale tool for disinformation and fraud. He shares insights on "Disinformation Automation,"...

本研究分析了文本到图像模型（T2I）带来的非自愿深度伪造风险，自2022年11月以来，该模型下载量接近1500万次，96%针对女性，强调了加强监管的必要性。

本研究提出了一种新机制，利用自适应音位池化技术解决语音深度伪造检测中的音位序列时间不一致问题，显著提升了检测准确性，实验结果优于现有技术。

合成媒体（Deepfakes）的出现带来了新的创作可能性，但也带来了伦理和安全风险。使用机器学习技术，特别是卷积神经网络，可以识别Deepfakes。法庭鉴定Deepfake技术涵盖了五个主要领域，包括检测、归因和识别、被动认证、在现实场景中的检测以及主动认证。本文综述了解决这些挑战的主要算法。

本文评估了多模态大型语言模型在事实检查中的能力与局限性，发现GPT-4V在识别恶意信息方面表现优越，但现有开源模型存在偏见。研究提出了FakeNewsGPT4用于检测假新闻，并探讨了大型语言模型对谣言检测技术的影响，强调在教育中平衡使用多模态模型的重要性。

StyleLipSync是一种基于风格的个性化唇形同步视频生成模型，可以从任意音频生成与身份无关的唇形同步视频。该模型通过引入姿态感知掩蔽和少量样本的唇形同步适应方法，生成准确的唇形同步视频，并增强个人特定的视觉信息。实验证明，该模型在零样本设置下也能增强看不见的面部特征。

越来越多的深度造假（deepfake）攻击正在显著重塑组织、金融机构、名人、政治人物甚至普通人的威胁格局。