谷歌威胁情报组发现，威胁行为者利用AI进行信息收集、制作网络钓鱼诈骗和开发恶意软件。虽然尚未发现针对前沿模型的直接攻击，但模型提取攻击已得到缓解。谷歌发布报告，说明观察结果及采取的行动，包括禁用相关账户以打击恶意活动。

一项调查发现，超过1100个Ollama实例暴露在互联网上，形成严重安全漏洞。美国、中国和德国是主要受影响国家。20%的实例正在提供服务，攻击者可能利用这些漏洞进行模型提取和后门注入，威胁AI系统安全。

对抗训练提高模型韧性但成本高，随机平滑和形式验证有局限。投毒攻击影响性能，需要数据清洗和鲁棒性训练。隐私攻击威胁用户隐私，差分隐私提供保护但影响准确性。模型提取攻击需防范，设计安全AI系统仍需努力。