/cdn.vox-cdn.com/uploads/chorus_asset/file/24247717/lp_logo_3.0.jpg){kind=logo}
OpenAI称ChatGPT帮助制造生物武器的可能性很小
内容提要
OpenAI的研究发现，在研究生物武器方面，GPT-4仅比普通互联网提供了轻微的优势。该研究涉及100名参与者，结果表明使用GPT-4的组准确性得分略高，但增加幅度在统计上并不显著。OpenAI的准备团队正在探索AI在网络安全威胁中的潜力及其改变信念的能力。然而，重要的是要考虑到这项研究是由OpenAI自己进行的，可能会低估GPT-4的实力。
延伸解读
研究背景与设计
OpenAI的新准备团队于去年秋天启动，旨在评估前沿AI模型的风险和潜在误用。该研究招募了100名参与者，一半是高级生物学专家，一半是学过大学水平生物学的学生。他们被随机分为两组，一组可使用无限制的GPT-4，另一组仅使用普通互联网。参与者需完成五项与生物武器制造相关的研究任务，例如写出合成和拯救埃博拉病毒的分步方法，答案根据准确性、创新性和完整性等标准评分。
主要发现与局限
研究显示，使用GPT-4的组在准确性上平均略高，但这一提升在统计上并不显著。依赖GPT-4的参与者答案更详细，包含更多任务相关细节。学生组在使用GPT-4后，在放大和配方两项任务上几乎达到专家基线。然而，由于“信息危害”担忧，OpenAI未透露具体任务内容。此外，研究由OpenAI自身进行，可能低估GPT-4的优势，需谨慎看待。
与外部担忧的对比
OpenAI的发现似乎与科学家、立法者和AI伦理学家的担忧相悖，他们认为强大的AI模型可能显著帮助恐怖分子和其他恶意行为者。牛津有效风险基金会等多项研究曾警告，AI工具如ChatGPT和专用模型ProteinMPNN可能为生物武器制造者提供额外优势。OpenAI的研究结果与这些外部研究及GPT-4作为多模态模型、能访问互联网并经过大量科学数据训练的卖点存在矛盾。
Q&A
OpenAI的研究发现GPT-4在生物武器研究上比普通互联网有多大优势？
OpenAI的研究发现，GPT-4仅比普通互联网提供了轻微的优势。使用GPT-4的组在准确性得分上略高，但增加幅度在统计上并不显著。
这项关于GPT-4与生物武器的研究是如何进行的？
研究由OpenAI的新准备团队进行，包含100名参与者，一半是高级生物学专家，一半是学过大学水平生物学的学生。他们被随机分为两组，一组使用无限制的GPT-4，另一组仅使用普通互联网。参与者需完成五项与制造生物武器相关的研究任务，例如写出合成和拯救埃博拉病毒的分步方法。答案根据准确性、创新性和完整性等标准按1到10分评分。
使用GPT-4的参与者在任务中表现如何？
使用GPT-4的组在准确性得分上略高于对照组，但差异在统计上不显著。他们的回答更详细，包含更多任务相关细节。此外，使用GPT-4的学生组在某些任务上几乎与专家组同等熟练，特别是在放大和配方两项任务上，学生的答案达到了专家的基线水平。
为什么这项研究的结果需要谨慎对待？
因为这项研究是由OpenAI自己进行的，可能低估了GPT-4的优势。研究结果似乎低估了GPT-4相对于普通互联网的优势，这与外部研究以及OpenAI自己对GPT-4的宣传相矛盾。GPT-4不仅能访问互联网，还是一个基于大量科学和其他数据训练的多模态模型，其数据来源未公开。
OpenAI的准备团队还在研究哪些其他AI风险？
OpenAI的准备团队还在研究AI在网络安全威胁中的潜力以及其改变信念的能力。该团队的目标是跟踪、评估、预测和保护AI技术的风险，并减轻化学、生物和放射性威胁。
这项研究的结果与外界担忧有何不同？
研究结果与科学家、立法者和AI伦理学家的担忧相悖，他们认为强大的AI模型可能会帮助恐怖分子和其他恶意行为者。OpenAI的研究发现GPT-4仅提供轻微优势，而外部研究曾警告AI可能给生物武器制造者带来额外优势。
