NVIDIA Blog
·
OpenAI的新开源模型在NVIDIA GeForce RTX和RTX PRO GPU上实现本地加速
💡
原文英文，约800词，阅读约需3分钟。
📝
内容提要
NVIDIA与OpenAI合作推出优化的开源gpt-oss模型，支持RTX AI PC，适用于网页搜索和研究，性能可达每秒256个token，开发者可通过Ollama等工具轻松使用，推动AI创新。
🎯
关键要点
- NVIDIA与OpenAI合作推出优化的开源gpt-oss模型，支持RTX AI PC。
- 新模型支持网页搜索、深入研究等智能应用，性能可达每秒256个token。
- 开发者可通过Ollama等工具轻松使用这些模型，推动AI创新。
- gpt-oss-20b和gpt-oss-120b是灵活的开源推理模型，支持链式思维能力和可调推理努力水平。
- 这些模型支持最长131,072的上下文长度，适合网页搜索、编码辅助和文档理解等任务。
- Ollama应用程序为RTX AI PC提供了简单的模型测试方式，支持24GB VRAM的GPU。
- Ollama优化了RTX性能，用户可轻松与模型进行对话，支持PDF和文本文件。
- 开发者还可以通过命令行接口或SDK使用Ollama，增强应用程序和工作流程。
- NVIDIA与开源社区合作，优化性能，支持多种应用和框架。
- Windows开发者可通过Microsoft AI Foundry Local访问OpenAI的新模型，集成到工作流程中。
- 这些开源模型的发布标志着AI创新的新阶段，鼓励开发者在Windows应用中添加推理能力。
❓
延伸问答
OpenAI的新开源模型有哪些主要特点？
新开源模型包括gpt-oss-20b和gpt-oss-120b，支持链式思维能力和可调推理努力水平，最长支持131,072的上下文长度。
如何在NVIDIA RTX AI PC上使用Ollama测试这些模型？
用户只需安装Ollama应用，选择模型并发送消息，无需额外配置即可实现最佳性能。
这些模型适合哪些应用场景？
这些模型适合网页搜索、编码辅助、文档理解和深入研究等任务。
NVIDIA与OpenAI的合作有什么意义？
这次合作推动了开源软件的创新，强化了美国在AI技术领域的领导地位。
Ollama应用程序有哪些新功能？
Ollama支持PDF和文本文件聊天，提供多模态支持和可定制的上下文长度。
开发者如何通过命令行接口使用这些模型？
开发者可以通过命令行接口或SDK调用模型，增强应用程序和工作流程。
➡️
