Arize AI和LlamaIndex推出联合平台以评估LLM应用
内容提要
Arize AI和LlamaIndex推出了一个名为LlamaTrace的联合产品，这是Arize OSS Phoenix的托管版本。该平台旨在通过将数据与AI框架连接起来，加速生成式AI的开发。它提供了LLM跟踪和可观察性功能，允许AI工程师记录跟踪、持久化数据集、运行实验和分享见解。该解决方案可通过LlamaIndex或Arize账户获得。Arize AI是一家总部位于加州伯克利的AI可观察性和LLM评估平台。
延伸解读
LlamaTrace 的定位与核心价值
LlamaTrace 是 Arize OSS Phoenix 的托管版本，旨在通过连接数据与生成式 AI 来加速开发。它提供 LLM 跟踪和可观察性功能，允许 AI 工程师记录跟踪、持久化数据集、运行实验和分享见解。该平台基于开源，并提供完全托管的在线持久部署选项，适合不想自托管的团队。
解决生产化挑战的途径
文章指出，许多团队在将现代 LLM 系统（具有多层抽象）投入实际应用时面临技术挑战。LlamaTrace 通过持久化 AI 开发期间生成的应用遥测数据，帮助团队更好地实验、迭代和协作，从而减少将生成式 AI 部署到生产中的时间，并确保其适用于关键业务用例。
行业合作与生态整合
Arize AI 和 LlamaIndex 的合作结合了双方在 AI 可观察性和数据框架方面的专长。LlamaTrace 原生兼容 LlamaIndex 和 Arize 生态系统，可通过 LlamaIndex 或 Arize 账户访问。这一合作旨在推动现代 LLMOps 发展，并拓宽生成式 AI 在各行业的采用。
Q&A
LlamaTrace是什么？
LlamaTrace是Arize AI和LlamaIndex推出的联合产品，是Arize OSS Phoenix的托管版本，旨在加速生成式AI的开发。
LlamaTrace如何帮助AI工程师？
LlamaTrace提供LLM跟踪和可观察性功能，允许AI工程师记录跟踪、持久化数据集、运行实验和分享见解。
使用LlamaTrace需要什么账户？
LlamaTrace可以通过LlamaIndex或Arize账户访问。
LlamaTrace的目标是什么？
LlamaTrace的目标是减少将生成式AI部署到生产中的时间，并确保其适用于关键业务用例。
LlamaTrace的基础是什么？
LlamaTrace的基础是开源的Arize Phoenix OSS，提供完全托管的在线持久部署选项。
Arize AI的主要业务是什么？
Arize AI专注于AI可观察性和LLM评估，帮助团队在生产中交付和维护更成功的AI。
