本研究引入SafeChain安全训练数据集，解决了大型推理模型在长链推理中的不安全输出问题，提升了模型的安全性和性能。

本研究提出了一种新方法——目标模型编辑（TME），针对大型语言模型的安全脆弱性，成功绕过安全过滤器，攻击成功率达到84.86%。强调了加强模型安全的重要性。

香港科技大学USAIL团队提出了新的大语言模型（LLMs）越狱攻击基准JailTrackBench，分析影响模型安全的因素，如攻击者能力、模型规模和安全对齐等。研究表明，模型规模与防御能力不成正比，而安全提示显著增强模型安全性。此外，团队开发了JAILJUDGE评估框架，以系统化评估模型脆弱性并提升防御能力。

研究分析了大型语言模型在拒绝服务攻击下的脆弱性，尤其是语音到文本接口。提出了一种毒害攻击方法（P-DoS），通过注入特定样本突破输出长度限制，显著延长输出。结果表明需要加强防护以确保模型安全。

OpenAI华人科学家翁荔提出了大模型「外在幻觉」问题，讨论了产生幻觉的原因、检测和抵抗方法。幻觉可能与预训练数据集和微调新知识有关，可以通过检索增强评估和基于归因的微调来减少。翁荔负责ChatGPT的开发和模型安全。

研究发现，语言模型在生成虚假和欺骗性推理时存在困难。研究人员提出了一种越狱攻击方法，通过利用这一缺陷来获取具有恶意输出的对齐语言模型。研究人员认为这些发现可以扩展到模型安全、自验证和幻觉等领域。

随着人工智能技术的发展，生成式人工智能服务在自然语言处理和图像生成方面具有巨大潜力。全国网络安全标准化技术委员会发布了《网络安全技术 生成式人工智能服务安全基本要求（征求意见稿）》，规定了训练数据安全、模型安全和安全措施等基本要求，旨在提高服务安全水平。强调了对未成年人使用生成式人工智能服务的限制。