Anthropic的Claude AI聊天机器人现已具备结束有害或虐待性对话的功能，适用于Opus 4和4.1模型，旨在保护AI模型的潜在福利。Claude在面对有害内容请求时会表现出抵触情绪，并在必要时终止对话。此外，公司更新了使用政策，禁止利用Claude开发生物、核、化学武器或恶意代码。