Gemma，遇见NIM：NVIDIA与Google DeepMind合作推动大型语言模型创新
内容提要
NVIDIA和Google在Google I/O '24上宣布了三个新的合作项目，旨在帮助开发者更轻松地创建AI应用。合作包括优化三个新模型Gemma 2、PaliGemma和RecurrentGemma的性能和效率。他们还宣布，开源GPU dataframe库RAPIDS cuDF现在支持Google Colab，使开发者能够加速数据分析。此外，他们还宣布了关于Firebase Genkit的合作，使应用开发者能够将生成式AI模型集成到他们的Web和移动应用中。NVIDIA和Google Cloud的合作旨在推动AI在多个领域的发展。
延伸解读
模型优化与部署的协同
NVIDIA与Google合作，利用TensorRT-LLM优化了Gemma 2、PaliGemma和RecurrentGemma三个模型。这些模型基于Gemini的研究技术，分别针对不同场景：Gemma 2面向广泛用例，PaliGemma专注视觉语言任务，RecurrentGemma则擅长长序列文本生成。优化后，模型将通过NVIDIA NIM推理微服务提供，简化大规模部署，开发者可立即通过预览API体验。
数据分析的GPU加速
RAPIDS cuDF现在默认支持Google Colab，使每月千万用户能无需修改代码就将pandas工作流加速最高50倍。随着数据量增长，CPU处理5-10GB数据可能耗时数分钟，而cuDF能在GPU上无缝加速适用操作，并在不适用时回退到CPU，从而提升探索性分析和生产数据管道的效率。
生成式AI集成到应用
通过Firebase Genkit合作，应用开发者能轻松将Gemma等生成式AI模型集成到Web和移动应用中，实现自定义内容、语义搜索和问答。开发者可使用JavaScript构建应用，并先在本地RTX GPU上开发，再无缝迁移到Google Cloud基础设施，这降低了AI应用开发的门槛。
Q&A
NVIDIA和Google的合作项目有哪些主要内容？
主要内容包括优化Gemma 2、PaliGemma和RecurrentGemma三个新模型的性能和效率，以及支持RAPIDS cuDF在Google Colab上的使用。
Gemma 2模型的特点是什么？
Gemma 2是新一代Gemma模型，具有突破性的性能和效率，适用于广泛的使用场景。
PaliGemma模型主要用于哪些任务？
PaliGemma主要用于图像和短视频的描述、视觉问答、理解图像中的文本、物体检测和物体分割等视觉语言任务。
RAPIDS cuDF在Google Colab上的作用是什么？
RAPIDS cuDF可以加速pandas代码在GPU上的执行，帮助开发者加速数据分析，提升数据处理效率。
Firebase Genkit合作对应用开发者有什么帮助？
Firebase Genkit使应用开发者能够轻松将生成式AI模型集成到Web和移动应用中，提供定制内容和语义搜索功能。
NVIDIA NIM推理微服务的作用是什么？
NVIDIA NIM推理微服务简化了AI模型的大规模部署，支持Gemma系列模型的预览API。
