谷歌威胁情报组发现，威胁行为者利用AI进行信息收集、制作网络钓鱼诈骗和开发恶意软件。虽然尚未发现针对前沿模型的直接攻击，但模型提取攻击已得到缓解。谷歌发布报告，说明观察结果及采取的行动，包括禁用相关账户以打击恶意活动。

一项调查发现，超过1100个Ollama实例暴露在互联网上，形成严重安全漏洞。美国、中国和德国是主要受影响国家。20%的实例正在提供服务，攻击者可能利用这些漏洞进行模型提取和后门注入，威胁AI系统安全。

对抗训练提高模型韧性但成本高，随机平滑和形式验证有局限。投毒攻击影响性能，需要数据清洗和鲁棒性训练。隐私攻击威胁用户隐私，差分隐私提供保护但影响准确性。模型提取攻击需防范，设计安全AI系统仍需努力。

本文综述嵌入式神经网络的安全威胁与容错研究：通过故障注入评估控制流修改对CNN推理完整性的影响；利用错误攻击实现模型提取，可恢复90%以上显著位；介绍激光缺陷注入对Cortex-M微控制器的比特翻转攻击及敏感位模拟筛选方法；提出误差模拟框架，函数错误模拟准确率约99%，较TensorFI提速44至63倍；RescueSNN采用故障感知映射提升脉冲神经网络容错性；并探讨模拟神经元故障注入导致分类精度下降85.65%的问题及相应防御策略。

该文汇总多项深度学习研究，涵盖黑盒模型提取、自主系统DNN安全属性形式化验证与运行时监视器生成、框架计算差异对预测准确度的影响、AI系统数据分布与不确定性分析、深度迁移学习语音识别综述、社会科学NLP数据集自动生成假设、深度学习库使用趋势调查、AI/ML开发支持与数据增强、不确定性估计工具包比较（推荐Pyro等）以及贝叶斯无标签预训练模型选择方法。