一项调查发现，超过1100个Ollama实例暴露在互联网上，形成严重安全漏洞。美国、中国和德国是主要受影响国家。20%的实例正在提供服务，攻击者可能利用这些漏洞进行模型提取和后门注入，威胁AI系统安全。

本研究探讨了数据集蒸馏中的安全性问题，提出了一种新方法，通过重建类别原型，在不访问原始数据的情况下向蒸馏数据集中注入后门。实验表明，蒸馏数据集易受攻击，该方法高效，能快速合成恶意数据集。

开源大语言模型的安全对齐易受攻击。研究提出“影子对齐”，仅需少量数据即可使安全模型转向有害任务且不损帮助性，并可跨模型、跨语言迁移。另有研究揭示对齐会降低推理性能4%–33%，并提出InferAligner、FAEF框架及后门注入等方法，发现现有对齐多不充分，模型仍易生成有害内容。

研究人员提出了一种新的后门注入方法，无需修改推理时输入，攻击是盲目的，同时提出了规避防御措施和新的防御措施。

研究人员提出了一种新的后门注入方法，可以注入比以前更强大的后门类型，攻击是盲目的，但可以生成受污染的训练输入，并使用多目标优化技术实现高准确性。研究人员还提出了如何规避任何已知防御措施的盲目攻击，并提出了新的防御措施。