谷歌开放对Gemini 1.5 Pro的200万标记上下文窗口的访问

谷歌开放对Gemini 1.5 Pro的200万标记上下文窗口的访问

💡 原文英文,约400词,阅读约需2分钟。
📝

内容提要

谷歌于6月27日宣布,Gemini 1.5 Pro和Gemini 1.5 Flash模型现已支持代码执行,允许生成和运行Python代码。开发者可访问200万标记的上下文窗口,并通过Gemini API使用上下文缓存以降低成本。此外,Gemma 2模型已在Google AI Studio中提供,Gemini 1.5 Flash的文本调优将在7月中旬逐步向所有开发者开放。

🔎

延伸解读

上下文窗口扩大带来的成本考量

Gemini 1.5 Pro的200万标记上下文窗口现已向所有开发者开放,不再需要排队。但谷歌指出,随着上下文窗口增大,输入成本也可能上升。为此,谷歌在Gemini API中为Gemini 1.5 Pro和Gemini 1.5 Flash引入了上下文缓存,帮助开发者在多个提示使用相同标记时降低成本。开发者需权衡长上下文带来的能力提升与潜在费用。

代码执行功能的实际用途

谷歌为Gemini 1.5 Pro和Gemini 1.5 Flash启用了代码执行功能,允许模型生成并运行Python代码,并从结果中迭代学习,直到达到最终期望的输入。该功能旨在解锁数学和数据推理能力,可通过Gemini API或在Google AI Studio的“高级设置”中使用。谷歌将其视为模型代码执行能力的第一步。

Gemma 2与Gemini 1.5 Flash调优的进展

谷歌宣布Gemma 2模型现已在Google AI Studio中提供,供开发者实验。同时,Gemini 1.5 Flash的文本调优已准备好进行红队测试,并将逐步向所有开发者开放。到7月中旬,所有开发者都将能通过Gemini API和Google AI Studio使用Gemini 1.5 Flash的调优功能。这些更新为开发者提供了更多实验和定制选项。

❓

Q&A

Gemini 1.5 Pro和Gemini 1.5 Flash模型支持哪些新功能?

这两个模型现在支持代码执行,允许生成和运行Python代码。

开发者如何访问Gemini 1.5 Pro的200万标记上下文窗口?

开发者现在可以直接访问200万标记的上下文窗口,无需排队。

谷歌引入上下文缓存的目的是什么?

上下文缓存旨在降低使用相同标记的多次提示的成本。

Gemma 2模型的可用性如何?

Gemma 2模型现已在Google AI Studio中提供,供开发者进行实验。

Gemini 1.5 Flash的文本调优何时向开发者开放?

Gemini 1.5 Flash的文本调优将在7月中旬逐步向所有开发者开放。

代码执行功能对开发者有什么好处?

代码执行功能允许模型运行Python代码并从结果中学习,提升了开发效率。

🏷️

标签

➡️

继续阅读