网络犯罪分子利用PDF附件进行钓鱼攻击，冒充微软和DocuSign等知名品牌，利用用户对PDF的信任。攻击者通过嵌入虚假内容和二维码，诱导受害者泄露凭证，活动遍布全球，尤其集中在美国。

网友通过“猫猫人质”威胁AI，成功减少了其编造文献的现象。尽管部分文献真实，但仍存在虚假内容。AI编造文献源于幻觉，依赖统计规律，提示词的道德约束效果有限。联网搜索是提高文献准确性的有效方法。

本研究提出了一种基于分割符合预测框架的方法，旨在减轻大型视觉语言模型在视觉问答任务中的虚假内容问题。该方法通过动态阈值标定和跨模态一致性验证，在用户定义的风险水平下构建具有统计保证的预测集，适用于医疗和自动化系统等安全关键领域。

本研究开发了Iffy-Or-Not（ION）浏览器扩展，旨在提升用户在社交平台上识别虚假内容的能力。研究发现，ION能够激发用户关注内容并提出启发性问题，但也存在用户适应性不足和潜在反效果的问题。

谷歌支持全球民主选举，确保选民获取可靠信息并保护平台安全。自2019年起，欧盟要求选举广告透明。新法规TTPA使谷歌决定在2025年10月前停止在欧盟投放政治广告，并在YouTube上禁止相关付费推广。谷歌将继续投资于提供权威信息和打击虚假内容。

本研究提出了不太可能的双字组概念，揭示了字节级BPE分词器在处理不熟悉标记时的脆弱性，增加了生成虚假内容的风险，影响了可信语言模型的开发。

本文综述了利用公共数据库和深度学习生成虚假内容的技术及其社会影响，重点讨论了DeepFake及其检测技术的进展与挑战，分析了不同类型的面部操纵技术，并强调了对深度伪造检测技术的持续研究，以应对其对社会的负面影响。

谷歌地图每月有超过10亿人使用，为了保持实用性和时效性，使用贡献内容帮助用户发现最好的餐厅或找到服务提供者。为了防止虚假内容发布，使用机器学习和专家分析师的帮助。通过机器学习减少不良内容，去年更新了模型，更快发现新的滥用趋势。移除欺诈图像，部署了新的机器学习模型分析视觉细节。