本研究探讨重放攻击对音频深伪造检测的影响。通过不同扬声器和麦克风播放及重新录制深伪音频，伪造样本在检测模型中表现得更为真实。引入ReplayDF数据集，分析六个开源检测模型的脆弱性，发现顶级模型的错误率从4.7%上升至18.2%。

本研究提出了一种音频视觉联合学习方法（MACB-DF），旨在解决多模态检测中的学习不平衡问题。该方法通过对比学习促进模态融合，实验结果表明在多个深度伪造数据集上达到了95.5%的准确率，并提升了跨数据集的泛化能力。

本研究提出了一种新方法，结合空间和语义信息，提升面部深伪检测的泛化能力。该方法通过特征正交分离策略，在Celeb-DF和DFDC数据集上分别提高了5%和7%的准确率，优于现有技术。

本研究分析了文本到图像模型（T2I）带来的非自愿深度伪造风险，自2022年11月以来，该模型下载量接近1500万次，96%针对女性，强调了加强监管的必要性。

本研究提出了一种名为CapsFake的多模态胶囊网络，用于检测指令驱动的深伪造图像。该技术通过结合视觉、文本和频谱信息，显著提高了检测准确率，比现有方法提升了20%。

本研究探讨了面部深伪检测的框架，分析了不同深伪生成器产生的伪影。提出了面部不一致伪影和上采样伪影的分类方法，并设计了数据级伪造框架，发现仅用这些伪影训练的分类器能有效泛化到未见过的深伪。

本研究探讨了多模态大型语言模型在深度伪造图像检测中的潜力，发现其在零样本情况下表现优于传统方法，显示了未来多模态推理整合的可能性。

本研究提出了一种名为“真相透镜”的无训练框架，旨在提升深度伪造检测的可解释性。通过将检测任务转化为视觉问答，并结合视觉语言模型，增强了对图像真实性的识别与解释能力，从而提高用户信任。

谋智基金会推出的Fakespot Deepfake Detector扩展程序可以检测AI生成的文本，但操作繁琐且缺乏盈利模式，可能难以持续。该工具需要用户手动选择文本进行检测，实用性存疑，目前仅支持Firefox浏览器。

香港警方破获一个利用Deepfake技术诈骗的团伙，该团伙一年内骗取3.6亿港元。诈骗方式包括冒充女性在社交平台上诱导受害者投资加密货币。成员多为高学历年轻人，利用深度伪造技术增加可信度，组织架构现代化，分工明确。受害者遍布香港、内地、台湾、新加坡和印尼。

英国人才中介数据泄露，数万零工工人的护照和签证信息被公开。肯尼亚呼吁加强网络安全投资，保护储蓄和信贷合作社免受网络威胁。美国西雅图学区遭网络攻击，上万学生停课两天。新加坡提出立法禁止选举中使用Deepfake。62款知名App完成个人信息收集使用合规整改。

韩国男性使用AI换脸技术制作淫秽视频，侵害近千人，涉及200多所学校。韩国女性在中国社交平台上发求助帖，引起全球媒体关注。Deepfake技术可将一张脸替换成另一张脸，逼真程度高。AI换脸技术被滥用，涉及色情内容和诈骗。AI技术的发展为网络安全带来挑战，需要采取相应的防护措施。

蚂蚁数科在外滩大会上展示了Deepfake攻防和智能标注技术，通过AI模型和机械臂识别真实照片，提高了标注效率。他们还提供数据加工和合成服务，通过AI提高数据价值和解决实际问题。业务包括云服务、AI服务和区块链服务。蚂蚁数科将AI能力与产业深度融合，解决实际问题。

Telegram首席执行官帕维尔·杜罗夫对自己被认为要为平台上他人发布的内容负责感到惊讶。他否认Telegram是无政府主义者的天堂，并承诺与韩国当局合作删除深度伪造色情内容。多个国家正在打击Telegram上的非法活动。杜罗夫被指控协助非法活动和传播儿童色情内容。

韩国N号房事件再次发生，这次是Deepfake，波及超过200所学校，其中10名受害者中有3人是未成年人。Deepfake技术已经进化到了“恐怖”阶段，包括声音克隆和唇形同步技术。韩国政府计划将Deepfake犯罪的刑期从5年提高到7年。科技企业正在开发AI工具来检测Deepfake。科学研究面临Deepfake带来的挑战，需要制定道德标准和开发检测工具。

Deep-Live-Cam是一个直播版Deepfake项目，可以实时换脸搞直播，无需专用硬件加速。该项目引发了网友热烈讨论，一些人认为效果好，但也有人担心真假难辨。AI换脸技术已经趋于照片级真实感，引发了对隐私和安全的担忧。已有人在开发深度伪造检测插件。