前沿AI模型现已可供外带

顶尖AI公司推出可在本地数据中心运行的大型语言模型，改变了以往仅能在云端使用的局面。

谷歌的Gemini模型现可在私有服务器上安装，以满足企业的安全和合规需求。

Cohere提供可定制的模型，帮助企业内部部署AI，减少对云的依赖。

许多公司希望放弃云服务，将工作负载迁回内部，以降低成本和提高安全性。

专有AI模型在内部硬件上运行的概念相对较新，OpenAI和Anthropic尚未具备此能力。

谷歌将Gemini从TPU移植到GPU，扩大了其市场覆盖面，增强了竞争力。

Cohere允许在多个硬件提供商之间进行选择，提供硬件灵活性。

企业希望在自己的系统中使用AI模型，以满足安全和合规要求。

内部模型通常是大型语言模型的受限版本，专注于推理。

客户可以使用自己的数据自定义本地模型，并通过API集成机器学习工作流。

谷歌与Nvidia合作，提供安全的计算堆栈，保护数据和模型的知识产权。