OpenAI 发布开放权重 LLM:gpt-oss-120B(可在电脑上运行)和 gpt-oss-20B(可在手机上运行)

OpenAI 发布开放权重 LLM:gpt-oss-120B(可在电脑上运行)和 gpt-oss-20B(可在手机上运行)

💡 原文中文,约1900字,阅读约需5分钟。
📝

内容提要

OpenAI 发布了两个开放权重语言模型:GPT-OSS-120b 和 GPT-OSS-20b,允许用户下载和微调。这一举措推动了 AI 领域的透明性和定制化,支持本地推理,确保数据隐私,适用于多种设备,促进本地 AI 创新。

🎯

关键要点

  • OpenAI 发布了两个开放权重语言模型:GPT-OSS-120b 和 GPT-OSS-20b。
  • 用户可以下载、检查、微调并在自己的硬件上运行这些模型。
  • 此次发布推动了 AI 领域的透明性和定制化,支持本地推理,确保数据隐私。
  • GPT-OSS-120b 具有 1170 亿个参数,适合高端 GPU,性能达到 OpenAI o4-mini 的水平。
  • GPT-OSS-20b 具有 210 亿个参数,适合消费级笔记本电脑,性能介于 o3-mini 和 o4-mini 之间。
  • 两种模型均采用混合专家架构,具有高效的内存占用和推理速度。
  • 企业可以本地部署模型,确保数据隐私和合规性,告别云 AI 的黑盒。
  • 开发者可以自由修改、微调和扩展模型,没有 API 限制和 SaaS 费用。
  • 模型在 Hugging Face 和 Ollama 等平台上可用,下载和部署非常迅速。
  • OpenAI 的 GPT-OSS 是一次号召,鼓励创客、研究人员和企业社区进行创新和发展。

延伸问答

GPT-OSS-120b 和 GPT-OSS-20b 有什么区别?

GPT-OSS-120b 具有 1170 亿个参数,适合高端 GPU,而 GPT-OSS-20b 具有 210 亿个参数,适合消费级笔记本电脑。

如何下载和使用 OpenAI 的开放权重模型?

用户可以在 Hugging Face 和 Ollama 等平台上下载这些模型,部署过程非常迅速。

这两个模型如何确保数据隐私?

企业可以本地部署模型,确保数据隐私和合规性,避免使用云 AI 的黑盒。

GPT-OSS-20b 适合哪些设备使用?

GPT-OSS-20b 可以在消费级笔记本电脑和智能手机上运行,支持低延迟的本地推理。

开放权重模型对开发者有什么好处?

开发者可以自由修改、微调和扩展模型,没有 API 限制和 SaaS 费用,完全控制延迟和成本。

OpenAI 发布这些模型的意义是什么?

此次发布推动了 AI 领域的透明性和定制化,鼓励创客、研究人员和企业进行创新和发展。

➡️

继续阅读