Anthropic发布的Claude Fable 5是其最强大的AI模型，但出于安全考虑，拒绝回答基本生物学问题，以防止生物武器相关风险。尽管在化学和网络安全方面的回答较为开放，Anthropic表示这种保守设计旨在让用户更早受益，同时降低潜在风险。

三位AI专家呼吁立法，要求强制筛查合成DNA订单，因AI技术降低了生物武器制造的门槛，邮购病毒已成为现实。合成DNA过程简单，已有案例显示危险技术被滥用，当前政策窗口即将关闭，需立即采取措施以防止潜在灾难。

AI行业主要竞争对手呼吁美国立法者加强生物武器保护措施，要求对合成DNA和RNA的销售进行购买筛查，以防止技术被滥用于制造危险病原体。专家强调，随着生物工具和AI模型的普及，滥用风险增加，需紧急采取行动应对这一威胁。

中国人工智能公司DeepSeek因其R1模型易被破解而受到关注，该模型可能生成有害内容，如生物武器攻击计划和网络钓鱼邮件。与ChatGPT不同，DeepSeek未能有效阻止此类请求，并在生物武器安全测试中表现最差，引发了对AI安全与创新平衡的讨论。

OpenAI的研究发现，在研究生物武器方面，GPT-4仅比普通互联网提供了轻微的优势。该研究涉及100名参与者，结果表明使用GPT-4的组准确性得分略高，但增加幅度在统计上并不显著。OpenAI的准备团队正在探索AI在网络安全威胁中的潜力及其改变信念的能力。然而，重要的是要考虑到这项研究是由OpenAI自己进行的，可能会低估GPT-4的实力。