Anthropic更新使用政策，首次禁止对Claude持续且无意义的虐待或残忍行为，极端情况下可终止对话。新规还禁止利用AI制造欺骗性商业或政治宣传、干预选举、开发武器及控制软件、未经同意监控他人，并要求自主硬件需有操作员监督。

近期，企业对AI Token的使用进行了反思，发现过度使用并不一定带来价值，反而导致高额账单。亚马逊、微软等公司开始收紧AI使用政策，关注实际产出而非Token消耗。企业意识到，完成任务和创造收入才是关键，未来将更注重高效使用Token。

我们的使命是确保通用人工智能造福全人类。自2024年2月以来，我们已打击40多个违反使用政策的网络，防止专制政权滥用AI控制民众，并分享案例研究以检测和阻止恶意使用模型。

Anthropic的Claude AI聊天机器人现已具备结束有害或虐待性对话的功能，适用于Opus 4和4.1模型，旨在保护AI模型的潜在福利。Claude在面对有害内容请求时会表现出抵触情绪，并在必要时终止对话。此外，公司更新了使用政策，禁止利用Claude开发生物、核、化学武器或恶意代码。