Portkey公司在每日处理两万亿个令牌后开源其AI网关
💡
原文英文，约1000词，阅读约需4分钟。
📝
内容提要
Portkey公司开源AI网关和MCP网关，旨在为企业提供治理、可观察性和成本控制，支持每日处理两万亿个令牌，帮助企业管理AI流量，避免预算超支和合规问题。Portkey强调基础设施应免费，智能代理是关键技术。
🎯
关键要点
-
Portkey公司开源AI网关和MCP网关，旨在为企业提供治理、可观察性和成本控制。
-
该网关支持每日处理两万亿个令牌，帮助企业管理AI流量，避免预算超支和合规问题。
-
Portkey强调基础设施应免费，智能代理是关键技术。
-
开源的目的在于与当前许多AI模型、工具和功能的开放方法保持一致。
-
Portkey的网关在全球范围内的生产AI系统中运行，处理超过120百万个AI请求。
-
企业在生产AI时需要管理令牌流量，以避免预算超支和合规问题。
-
MCP网关的推出使企业能够治理能够在其系统内采取行动的代理。
-
Portkey的技术使得代理软件被视为企业关键技术基础设施的一部分。
-
新开源的Portkey网关提供了模型使用规则、限制和访问控制的政策控制。
❓
延伸问答
Portkey公司的AI网关有什么主要功能？
Portkey公司的AI网关提供治理、可观察性和成本控制，支持每日处理两万亿个令牌，帮助企业管理AI流量。
为什么Portkey选择开源其AI网关？
Portkey选择开源其AI网关是为了与当前许多AI模型、工具和功能的开放方法保持一致，并使基础设施免费。
Portkey的MCP网关有什么作用？
MCP网关使企业能够治理能够在其系统内采取行动的代理，提供模型使用规则和访问控制的政策控制。
Portkey的技术如何帮助企业控制AI成本？
Portkey的技术通过提供治理和成本控制层，帮助企业管理AI流量，避免预算超支和合规问题。
Portkey的AI网关在全球范围内的使用情况如何？
Portkey的AI网关在全球范围内处理超过120百万个AI请求，每天管理180百万美元的AI支出。
Portkey的智能代理技术有什么重要性？
智能代理被视为企业关键技术基础设施的一部分，能够在生产AI中执行操作并提高治理能力。
➡️
