本研究分析了基础模型在识别新型化学、生物、辐射和核威胁方面的不足,发现不同模型在专家提示下的推理能力存在差异,强调了监测新模型能力的重要性。
OpenAI用100名生物专家和学生测试GPT-4对生物威胁创建的助益。结果显示,联网加GPT-4仅带来轻微提升:专家准确度提高0.88分、学生0.25分(满分10),完整性也有小幅提升,但均无统计显著性。研究强调信息获取只是威胁创建的一环,需更多研究界定风险阈值。
我们正在评估大型语言模型(LLM)在制造生物威胁方面的风险。研究表明,GPT-4在生物威胁创建的准确性提升有限,需进一步探讨。
完成下面两步后,将自动完成登录并继续当前操作。