OpenAI称ChatGPT帮助制造生物武器的可能性很小

OpenAI的研究发现，GPT-4在研究生物武器方面仅比普通互联网提供轻微的优势。

该研究由OpenAI的新准备团队进行，旨在评估其前沿AI模型的风险和潜在误用。

研究结果与科学家、立法者和AI伦理学家的担忧相悖，他们认为强大的AI模型可能会帮助恐怖分子和其他恶意行为者。

研究包含100名参与者，分为两组，一组使用GPT-4，另一组使用普通互联网。

使用GPT-4的组在准确性得分上略高，但增加幅度在统计上并不显著。

依赖GPT-4的参与者提供了更详细的答案，且学生组在某些任务上几乎与专家组同等熟练。

OpenAI的准备团队还在研究AI在网络安全威胁中的潜力及其改变信念的能力。

由于研究是由OpenAI自己进行的，因此需要谨慎对待其结果，可能低估了GPT-4的优势。

OpenAI创始人Sam Altman承认AI的潜在危险，但该研究似乎低估了GPT-4的强大能力。