AI Gateway 允许用户根据成本、首次令牌时间(TTFT)或吞吐量(TPS)对模型提供者进行排序,以优化请求,选择最低成本或最低延迟的提供者。排序在请求时计算,并支持与其他路由选项结合使用,确保高效处理。
Apache SeaTunnel中的Embedding转换插件将文本数据转换为向量表示,支持多种模型提供者和API集成。本文介绍了插件的配置选项,如模型提供者、API密钥和自定义配置,旨在帮助读者在实际项目中应用这些概念。
完成下面两步后,将自动完成登录并继续当前操作。