携手共辉煌:Google的Gemma在NVIDIA GPU上优化运行
原文英文,约400词,阅读约需2分钟。发表于: 。NVIDIA, in collaboration with Google, today launched optimizations across all NVIDIA AI platforms for Gemma — Google’s state-of-the-art new lightweight 2 billion– and 7 billion-parameter open...
NVIDIA与Google合作,优化了Gemma,一种轻量级的开放语言模型。Gemma可以在任何地方运行,降低成本,加快领域特定用例的创新工作。开发人员可以在全球超过1亿台NVIDIA RTX GPU的高性能AI PC上运行Gemma。企业开发人员可以利用NVIDIA的工具生态系统,对Gemma进行微调并在生产应用中部署优化模型。Chat with RTX是一款NVIDIA技术演示,提供在本地RTX Windows PC上生成AI功能的检索增强生成和TensorRT-LLM软件。用户可以通过将本地文件与大型语言模型连接来个性化聊天机器人。