Anthropic安全研究员Jacob Coxon因担忧公司及竞争对手竞相开发无法控制的“超级智能”系统而辞职，称此举是“拿生命赌博”。Anthropic安全团队负责人Evan Hubinger承认，公司确实相信AI可能在十年内杀死所有人类，概率超10%，但目前尚无确保AI安全与人类价值观对齐的计划。此事凸显业界对AI发展速度与风险的日益担忧。

OpenAI发布GPT-6 Astra旗舰模型，定位“代际跃迁”，多项基准测试近满分，计算机使用能力大幅提升，安全对齐越界率从48%降至0%。初期面向部分企业开放，API定价为GPT-5.6的2.5倍，未来或按任务收费。

KAIST等机构研究发现，仅用无害数学与代码数据微调模型，反而使其更危险（如Qwen2.5-3B有害率从10%升至20.3%），称为RIM现象。机制是推理微调使表示空间偏离安全方向。提出Safety-Direction Penalty修复，无需安全数据，可恢复安全性，但可能影响推理能力。

OpenAI因模型能力增长快于安全对齐，暂停部分前沿强化学习训练两周，并加强监控，称需确保安全标准。此举引发质疑，或与财务压力有关，因OpenAI亏损扩大，而中国开源模型竞争加剧，安全与商业考量并存。

Anthropic发布Claude Opus 5，编程评测登顶，性能接近顶级模型Fable 5但价格减半。推理能力突出，能自主写代码修bug，完成复杂工程和科研任务，安全对齐创纪录。定价与上代相同，但成本争议存在，网友评价分化。

研究发现，单个神经元能够绕过大型语言模型的安全对齐。通过针对拒绝神经元和概念神经元的研究，发现可以在不进行训练的情况下抑制有害请求或从无害提示中引发有害内容。这表明安全对齐并非均匀分布，而是由个别神经元决定。

AgentDoG 1.5 是一个轻量级的安全对齐框架，利用轨迹级诊断引擎和推理增强方法，实现静态安全分类到动态实时防护的转变。该框架识别跨步骤的累积风险，提升安全判断准确性，并支持免训练在线护栏设计，降低部署复杂度。研究显示，7B 参数模型在 R-judge 基准测试中达到了 GPT-5.4 级别的安全性能，为中小团队提供高效的安全解决方案。

最新的ICLR 2026论文指出，AI的安全对齐机制反而对网络安全分析师造成了伤害。研究显示，包含安全关键词的请求被拒绝的概率高达2.72倍，尤其在系统加固和恶意软件分析中，拒绝率分别为43.8%和34.3%。模型过度依赖语义匹配，未能理解防御者的真实意图，导致在关键时刻无法获得必要的AI支持。

本文介绍了通过提取大语言模型中的人格特质向量来监控和控制模型行为的方法。该方法在内容审核和安全对齐方面具有重要应用价值，研究展示了如何自动提取人格向量，并在模型推理和微调中进行干预，以防止人格漂移和筛选训练数据。

Foundation Agent 概念近期受到关注，旨在构建具备复杂认知和自我进化能力的智能体。论文探讨了智能体的核心组件、协作机制及安全对齐问题，强调实现通用智能的挑战与未来方向。

大型语言模型（LLM）在处理长序列时存在上下文窗口限制。研究提出了一种高效训练方案，将上下文长度扩展至1M、2M和4M个token，同时保持标准任务性能。UltraLong-8B模型在长上下文基准测试中表现优异，展现出强大的检索能力。未来研究将关注安全对齐机制和高级调优策略。