OpenAI将在欧盟为ChatGPT和Codex添加隐形文本水印textGrain，以符合AI法案要求。该技术通过调整用词概率形成统计信号，不插入特殊字符，但改写会降低识别率。检测器暂不公开，仅向合格机构开放申请，未来计划开源。

谷歌向全球用户开放SynthID水印检测器，可识别图片、音频、视频是否由AI生成。该盲水印无法通过裁剪、变色、拍照去除，已为超1800亿图片视频及24万年时长音频添加水印，支持谷歌、OpenAI、英伟达、Kakao等。检测到即准确，未检测到不保证非AI生成，需登录账号，每天约10次。

微软披露一种利用Unicode标签字符的钓鱼攻击，攻击者将隐形字符插入“funding”等金融词汇，绕过垃圾邮件过滤和AI分类器，单日检测量超230万。该技术类似“ASCII走私”，可改变文本处理结果，影响NLP和LLM系统。建议在文本进入模型前移除标签字符，但需注意保留合法用途（如旗帜表情符号），并测试实际使用的分词器。

英伟达推出合成视频检测器NIM微服务，通过逐帧分析并评分（0-1）识别AI生成内容，准确率最高达92%。该技术基于ICCV和NeurIPS获奖研究，采用DINOv2/DINOv3模型。Wowza已将其集成至视频智能框架，支持本地、边缘等部署，应用于政府、公共安全和金融领域，以识别伪造视频和身份欺诈。

英伟达推出合成视频检测器NIM，宣称可逐帧检测AI生成视频，准确率最高92%。但实际应用中面临平台压缩、局部修改、转场剪辑及不同生成模型等挑战，检测准确率可能受影响。作者认为该工具是网络防御的重要进展，但需实际验证，建议将其作为人工核验的辅助信号，而非直接判定依据。

一项研究表明，传统机器学习算法能够有效区分AI生成的文本与人类作品。研究者通过分析大量小说数据，训练出准确率超过85%的检测模型，发现某平台上超过三成的热门内容疑似AI生成且未标注。尽管检测器在识别懒人内容方面有效，但未来可能面临规避手段的挑战。

本文介绍如何从零开始使用朴素贝叶斯算法构建垃圾邮件分类器，包括数据预处理、特征提取和模型训练，最终实现超过97%的准确率。适合初学者，强调文本清理和模型性能评估的重要性。

为防止大型语言模型（LLMs）执行恶意指令，CyberArk的Niv Rabin提出需将所有输入视为不可信，直到验证。团队开发了基于指令检测和历史验证的多层防御机制，以确保模型仅处理经过验证的数据。

Meta于2023年推出的SAM 3模型在视觉分割领域取得显著进展，支持基于提示的分割任务，性能是前代的两倍。新架构结合了检测器和跟踪器，提升了图像和视频处理能力，适用于多种应用场景。

Sentry改进了问题检测，新增对大HTTP负载、连续HTTP请求和查询注入的监测。这些问题可能不会立即导致错误，但会逐渐影响性能和安全性。通过分析请求和查询，Sentry帮助开发者提前识别并解决潜在问题，优化应用性能。

当前模型在外部幻觉检测方面存在显著问题，尤其是动态内容的识别。现有方法未能有效处理视频幻觉检测。为此，提出了Self-PEP框架以改善这一问题。

本文介绍了如何在 Amazon EKS 上部署节点问题检测器（NPD），以监控和自动修复节点故障，及时发现内核和硬件问题，并通过 Karpenter 实现自动恢复，确保业务高可用，减少停机时间。