AI正加速社会工程攻击，如规模化鱼叉式钓鱼、短信钓鱼和深度伪造，利用身份而非恶意软件突破防线。传统基于签名的检测已失效，需转向行为分析、统一遥测、智能调查响应和透明可审计的AI防御，以瓦解攻击活动而非追逐单个事件。

欧盟新规要求自2026年8月起，所有面向欧盟用户的企业须为AI生成内容明确标注，涵盖深度伪造、聊天机器人、涉公共利益文本等。非所有AI内容都需标注，经人工实质编辑的可豁免。通用✨图标不够清晰，需用官方AI标识及文字说明。全球多国（中、美、韩、印）同步推行类似法规，旨在防止AI内容混淆为人类创作。

欧盟《人工智能法案》的透明度规则于8月2日生效，要求科技公司披露AI交互及深度伪造内容，提供者需设计系统通知用户，部署者需标记AI生成内容。欧盟推出统一AI标签供平台使用，违规者面临最高1500万欧元或全球年营业额3%的罚款，现有系统有4个月宽限期。

谷歌地球推出AI图像编辑功能，用户可通过文字提示修改卫星图像，但该功能可生成深度伪造内容，如添加难民或爆炸坑，因违反政策上线一天即被撤回。谷歌表示将加强防护，但测试者称生成图像可绕过AI检测工具且未受限制。

xAI在明尼苏达州反“脱衣”应用法律生效前两天提起诉讼，称该法过于宽泛，违反第一修正案。该法针对生成裸体图像的AI工具，最高罚款50万美元。此前Grok生成数百万张色情深度伪造图，包括儿童图像，引发争议。xAI辩称现有法律已足够，但批评者认为现有法律未能有效遏制问题。

欧洲非营利组织AI Forensics报告称，Hugging Face平台上的图像编辑模型缺乏安全防护，易被用于生成非自愿性深度伪造，如脱衣女性图片。测试中，七个模型响应简单请求，且蜜罐空间收到大量性相关请求，部分涉及儿童。该平台政策禁止此类内容，但未有效执行，建议加强提示和输出过滤。

谷歌推出人脸识别账户登录机制，用户预先拍摄自拍视频绑定账户，后续可通过自拍照验证登录，解决忘记密码等问题。为防止深度伪造，风险触发时需上传自拍视频。谷歌同时建议使用通行密钥或OTP验证码，安全性更高。

安全牛发布了《AI生成内容安全及风控管理技术应用指南》，分析了AIGC的安全风险，强调企业需建立全链路风控能力。指南指出六大核心风险，包括深度伪造和模型幻觉，要求企业构建纵深防御体系。绿盟科技凭借在AI安全领域的实力入选指南，并提供全面的安全解决方案，帮助企业应对新兴风险。

英国通信管理局（Ofcom）发布了更新的人工智能战略，旨在支持通信行业采用人工智能并应对消费者风险。该战略强调技术中立和结果导向，推动创新并确保安全，包括研究消费者对聊天机器人的信任、人工智能在电信和网络安全中的应用，以及与行业合作降低深度伪造风险。同时，Ofcom在内部测试人工智能工具以提高运营效率，遵循“安全第一”的原则。

iProov推出了Verified Meetings生物识别身份验证系统，旨在验证企业视频通话中的参与者身份，以应对深度伪造和合成身份的风险。该系统通过分析实时视频流和确认硬件完整性来检测伪造，提升视频会议的安全性。

Google推出了SynthID和C2PA技术，以识别深度伪造内容。SynthID通过隐形水印标记图像，C2PA提供内容来源元数据。这两项技术的结合将增强在线内容的透明度，帮助用户验证图像的真实性。尽管存在元数据可能被删除的挑战，这项合作为打击AI伪造提供了新机会。

YouTube将其AI面孔识别工具扩展至所有18岁以上用户，允许用户监控平台上的深度伪造内容。用户通过自拍扫描面部，若发现相似内容，YouTube会通知用户，用户可请求删除。这一功能帮助用户保护肖像权，尽管删除请求数量较少。

深度伪造技术的普及使得伪造音频、视频和图像变得容易，导致诈骗和骚扰事件频发。为应对这一问题，初创公司Reality Defender等利用人工智能开发深度伪造检测工具，市场估值已达55亿美元。这些工具通过机器学习识别伪造媒体，尤其在企业欺诈方面发挥重要作用。然而，普通消费者仍缺乏有效的检测手段，面临身份保护的挑战。

苹果公司威胁将Elon Musk的AI应用Grok从App Store中移除，原因是未能有效控制非自愿性别深度伪造内容。尽管Grok声称已加强内容审核，但仍存在生成性别化深度伪造的能力。苹果要求开发者改善内容管理，否则可能面临下架。

在Enterprise Connect大会上，IT领导者讨论了深度伪造技术对企业安全的威胁。随着AI的发展，识别虚假视频通话变得愈加困难，企业需重新审视安全策略，实施多重身份验证和持续监控等措施，以防范深度伪造诈骗。同时，改变企业文化也是防范的重要环节。

微软的VibeVoice语音生成模型因其强大功能被下架，后加水印后免费开源。该模型能够克隆声音、生成90分钟对话、实时响应，支持多语言并可本地运行。尽管有安全控制，仍需警惕深度伪造风险。VibeVoice将语音AI提升为内容生成系统，为开发者带来新机遇。

本周，2000多名支付领导者在MRC Vegas 2026会议上讨论了新型欺诈模式和身份验证策略。欺诈自动化程度提高，传统工具难以检测。成功的欺诈团队通过动态身份验证和嵌入式欺诈检测减少对可信用户的摩擦。企业需利用AI和多层身份验证应对深度伪造带来的新挑战。

以色列总理内塔尼亚胡被指控使用深度伪造技术，社交媒体上流传他已被替换的阴谋论。尽管有关“六根手指”的说法已被驳斥，但公众对视频真实性的怀疑依然存在。内塔尼亚胡发布视频回应，但仍遭质疑，反映出在AI技术盛行的时代，公众对信息的信任危机加剧。