Thinking Machines 的 Inkling Small 现已在 AI Gateway 上线
内容提要
Thinking Machines 推出 Inkling Small 模型，现已在 AI Gateway 上线。该模型体积约为大型模型四分之一，性能相当，计算量更少，支持音频、图像推理及可控思考力度。它可编程裁剪缩放图像，适合文档图表处理，并兼容零数据保留，成本高效，适合编码和工具使用。
延伸解读
模型定位与适用场景
Inkling Small 是 Thinking Machines 推出的轻量级模型，体积约为大型模型的四分之一，但性能接近，且计算量更少。它支持音频、图像推理，并能程序化裁剪缩放图像，特别适合处理文档和图表中细节较小的视觉任务。对于编码和工具使用场景，它也被视为成本高效的选择。
可控思考力度与成本权衡
该模型提供可控的思考力度，用户可以在最小到最大推理之间调整，以在质量、成本和延迟之间进行权衡。这意味着开发者可以根据具体任务需求灵活配置，例如在简单任务上使用较低思考力度以降低成本，在复杂推理上使用较高力度以提升准确性。
数据隐私与零保留特性
Inkling Small 兼容零数据保留（Zero Data Retention），用户可以在仪表盘中团队级开启，或通过请求参数 zeroDataRetention: true 单独启用。启用后，AI Gateway 仅路由到会在每次请求后删除提示和响应的提供商，这为对数据隐私有严格要求的应用提供了保障。
Q&A
Inkling Small 模型与大型模型相比有何特点？
Inkling Small 体积约为大型模型的四分之一，但性能相当，且每次任务所需的计算量更少。
Inkling Small 支持哪些类型的推理？
它支持音频和图像的本地推理，以及可控的思考力度，从最小到最大推理。
Inkling Small 如何处理视觉任务？
它可以编程方式裁剪、缩放和检查图像，特别适合处理文档和图表中细节较小的部分。
如何在 AI SDK 中使用 Inkling Small？
在 AI SDK 中，将模型设置为 'thinkingmachines/inkling-small'，例如：const result = streamText({ model: 'thinkingmachines/inkling-small', prompt: '...' });
Inkling Small 是否支持零数据保留？如何启用？
是的，它兼容零数据保留。可以在仪表盘中团队范围内启用，或在每个请求中设置 zeroDataRetention: true，AI Gateway 会仅路由到在请求后删除提示和响应的提供商。
Inkling Small 在编码和工具使用方面有何优势？
它是编码和工具使用工作流中成本高效的选择，可以通过运行 vercel ai-gateway coding-agents setup 连接编码代理，并在代理的模型配置中选择 thinkingmachines/inkling-small。
AI Gateway 对使用 Inkling Small 的定价如何？
AI Gateway 反映提供商定价，不加价，也不对推理收取平台费，包括 BYOK 请求。
