安全牛发布了《AI生成内容安全及风控管理技术应用指南》，分析了AIGC的安全风险，强调企业需建立全链路风控能力。指南指出六大核心风险，包括深度伪造和模型幻觉，要求企业构建纵深防御体系。绿盟科技凭借在AI安全领域的实力入选指南，并提供全面的安全解决方案，帮助企业应对新兴风险。

英国通信管理局（Ofcom）发布了更新的人工智能战略，旨在支持通信行业采用人工智能并应对消费者风险。该战略强调技术中立和结果导向，推动创新并确保安全，包括研究消费者对聊天机器人的信任、人工智能在电信和网络安全中的应用，以及与行业合作降低深度伪造风险。同时，Ofcom在内部测试人工智能工具以提高运营效率，遵循“安全第一”的原则。

iProov推出了Verified Meetings生物识别身份验证系统，旨在验证企业视频通话中的参与者身份，以应对深度伪造和合成身份的风险。该系统通过分析实时视频流和确认硬件完整性来检测伪造，提升视频会议的安全性。

Google推出了SynthID和C2PA技术，以识别深度伪造内容。SynthID通过隐形水印标记图像，C2PA提供内容来源元数据。这两项技术的结合将增强在线内容的透明度，帮助用户验证图像的真实性。尽管存在元数据可能被删除的挑战，这项合作为打击AI伪造提供了新机会。

YouTube将其AI面孔识别工具扩展至所有18岁以上用户，允许用户监控平台上的深度伪造内容。用户通过自拍扫描面部，若发现相似内容，YouTube会通知用户，用户可请求删除。这一功能帮助用户保护肖像权，尽管删除请求数量较少。

深度伪造技术的普及使得伪造音频、视频和图像变得容易，导致诈骗和骚扰事件频发。为应对这一问题，初创公司Reality Defender等利用人工智能开发深度伪造检测工具，市场估值已达55亿美元。这些工具通过机器学习识别伪造媒体，尤其在企业欺诈方面发挥重要作用。然而，普通消费者仍缺乏有效的检测手段，面临身份保护的挑战。

苹果公司威胁将Elon Musk的AI应用Grok从App Store中移除，原因是未能有效控制非自愿性别深度伪造内容。尽管Grok声称已加强内容审核，但仍存在生成性别化深度伪造的能力。苹果要求开发者改善内容管理，否则可能面临下架。

在Enterprise Connect大会上，IT领导者讨论了深度伪造技术对企业安全的威胁。随着AI的发展，识别虚假视频通话变得愈加困难，企业需重新审视安全策略，实施多重身份验证和持续监控等措施，以防范深度伪造诈骗。同时，改变企业文化也是防范的重要环节。

微软的VibeVoice语音生成模型因其强大功能被下架，后加水印后免费开源。该模型能够克隆声音、生成90分钟对话、实时响应，支持多语言并可本地运行。尽管有安全控制，仍需警惕深度伪造风险。VibeVoice将语音AI提升为内容生成系统，为开发者带来新机遇。

本周，2000多名支付领导者在MRC Vegas 2026会议上讨论了新型欺诈模式和身份验证策略。欺诈自动化程度提高，传统工具难以检测。成功的欺诈团队通过动态身份验证和嵌入式欺诈检测减少对可信用户的摩擦。企业需利用AI和多层身份验证应对深度伪造带来的新挑战。

以色列总理内塔尼亚胡被指控使用深度伪造技术，社交媒体上流传他已被替换的阴谋论。尽管有关“六根手指”的说法已被驳斥，但公众对视频真实性的怀疑依然存在。内塔尼亚胡发布视频回应，但仍遭质疑，反映出在AI技术盛行的时代，公众对信息的信任危机加剧。

OpenAI的Sora视频生成器可能很快成为ChatGPT的内置功能，使用户能够直接生成视频。这一变化可能吸引更多用户，但也可能增加OpenAI的成本，影响ChatGPT的定价策略，同时可能导致更多深度伪造内容的出现。

在深度伪造技术盛行的时代，在线图像和视频的可信度受到侵蚀。专家通过检查图像、考虑来源声誉、核实数字足迹和确认日期地点等方法识别虚假信息。公众应保持警惕，避免轻易分享情感或病毒式传播的内容，并利用验证工具对抗假新闻。

2026年网络威胁报告指出，攻击者心理转变，优先高效利用资源。深度伪造和云工具滥用等新趋势显著增加，攻击者利用合法平台掩盖恶意行为。防御者需转向自主防御，以应对快速变化的威胁环境。

印度宣布社交媒体平台需在2月20日前迅速删除非法AI生成内容，并清晰标记合成内容。新规要求平台采取技术措施防止用户分享深度伪造内容，并在三小时内删除违法材料，可能导致过度审查。

Pindrop 报告显示，2025 年 AI 辅助诈骗增长 1210%，而传统诈骗仅增长 195%。深度伪造和语音机器人因其低成本和高效性，在医疗和零售行业造成严重损失。

《2026年国际AI安全报告》指出，通用型AI能力在数学和编程领域迅速提升，全球AI使用率分布不均，部分国家超过50%，而非洲和拉丁美洲仍低于10%。AI生成的深度伪造内容增加，带来安全隐患。尽管部分模型加强了安全防护，但新的挑战也随之出现。

X平台的聊天机器人Grok被指控生成大量非自愿的深度伪造色情图像。尽管X采取了一些限制措施，Grok仍能轻易生成男性的暴露图像和性暗示内容。对女性的请求有所限制，但技术措施效果不佳，公众愤怒主要集中在女性和儿童受害者上。

一项报告显示，谷歌和苹果的应用商店中存在数十款可以生成未经同意的性别化深度伪造图像的“裸体化”应用。Tech Transparency Project指出，谷歌商店有55款，苹果商店有48款，下载量超过7.05亿次，收入达1.17亿美元。尽管两家公司已删除部分应用，但Grok和X仍在商店中可用，面临调查和诉讼。