本研究分析了文本到图像模型（T2I）带来的非自愿深度伪造风险，自2022年11月以来，该模型下载量接近1500万次，96%针对女性，强调了加强监管的必要性。

本研究提出了一种新机制，利用自适应音位池化技术解决语音深度伪造检测中的音位序列时间不一致问题，显著提升了检测准确性，实验结果优于现有技术。

Deepfakes是网络安全与数字取证领域中的挑战之一。研究人员发现，通过分析Deepfake图像中的离散余弦变换(DCT)的beta-AC系数，可以改善Deepfake检测器的泛化能力。使用特定的beta-AC系数组合可以有效分析生成模型留下的痕迹。

合成媒体（Deepfakes）的出现带来了新的创作可能性，但也带来了伦理和安全风险。使用机器学习技术，特别是卷积神经网络，可以识别Deepfakes。法庭鉴定Deepfake技术涵盖了五个主要领域，包括检测、归因和识别、被动认证、在现实场景中的检测以及主动认证。本文综述了解决这些挑战的主要算法。

Meta Places Smart Assistants Across Its Apps, Microsoft launches Phi-3, Deepfakes of Bollywood stars spark worries of AI meddling in India election, and more!

在大语言模型 (LLMs) 时代，假新闻检测器存在偏见，更容易将LLMs生成的内容标记为假新闻。为解决此问题，引入对抗训练与LLMs重写真实新闻相结合的缓解策略，提高检测准确性。发布了"GossipCop++"和"PolitiFact++"两个数据集，结合经人工验证的文章与LLMs生成的假新闻和真实新闻。

MIT CSAIL postdoc Nauman Dawalatabad explores ethical considerations, challenges in spear-phishing defense, and the optimistic future of AI-created voices across various sectors.

StyleLipSync是一种基于风格的个性化唇形同步视频生成模型，可以从任意音频生成与身份无关的唇形同步视频。该模型通过引入姿态感知掩蔽和少量样本的唇形同步适应方法，生成准确的唇形同步视频，并增强个人特定的视觉信息。实验证明，该模型在零样本设置下也能增强看不见的面部特征。

越来越多的深度造假（deepfake）攻击正在显著重塑组织、金融机构、名人、政治人物甚至普通人的威胁格局。