LlamaIndex 更新 — 2023年8月1日
内容提要
LlamaIndex更新了文档，推出了数据代理和LlamaIndex.TS等新功能，提升了查询能力和API集成。新模型Claude 2.0和Llama2的支持增强了系统性能，并与多个数据库和工具集成，提供丰富的教程和网络研讨会，促进社区发展。
延伸解读
数据代理：降低复杂API集成门槛
LlamaIndex 推出的数据代理功能，结合了 AI 代理与数据，并提供了超过 15 种工具规格。其中与 Zapier 自然语言 API 的合作，将复杂的第三方 API 转化为单一自然语言参数，显著降低了代理处理多参数 API 的认知负担。此外，数据代理还能自动与 OpenAPI 规范定义的 API 交互，并处理大型 API 规范的索引与加载，这为开发者集成外部服务提供了更便捷的路径。
ContextChatEngine：缓解对话幻觉的机制
针对对话代理容易产生幻觉的问题，LlamaIndex 推出了 ContextChatEngine。该功能确保每次用户交互时都检索上下文，并将检索到的上下文作为系统消息前置，从而为模型提供实时依据。它兼容所有 ReAct 和 OpenAI Function 代理类型，这一设计在不改变代理类型的前提下，增强了对话的准确性和可靠性。
模型与数据库生态的快速扩展
LlamaIndex 在模型支持上实现了对 Claude 2.0 和 Llama2 的 Day 1 兼容，并提供了在 Replicate 上对 Llama2 的最佳集成。同时，它支持超过 20 种向量数据库，并发布了对比表帮助用户选择。此外，与 Chroma v0.4.0 的 Day 1 兼容以及对 Kùzudb 的集成，进一步简化了数据库操作和知识图谱的存储与查询。
基准测试与评估能力的增强
LlamaIndex 新增了对 BEIR 信息检索基准的支持，用户可定义自定义检索器、应用向量索引或重排序步骤，并利用 BEIR 数据集评估方法。同时，集成了 HotpotQA 基准，用于测试 LLM 的多跳推理能力。在代理任务基准中，Llama2 代理在 ReAct 循环中能适当使用工具，但 13B 和 70B 模型均表现出避免拨打电话号码的局限，这提示了当前 AI 的能力边界。
Q&A
LlamaIndex的新功能有哪些？
LlamaIndex推出了数据代理、LlamaIndex.TS、ContextChatEngine等新功能，提升了查询能力和API集成。
LlamaIndex.TS是什么？
LlamaIndex.TS是一个轻量级的Typescript包，简化了文档解析和上下文窗口限制的处理。
LlamaIndex如何增强查询能力？
通过推出数据代理功能，结合AI代理与数据，LlamaIndex增强了查询能力，支持多种数据应用。
LlamaIndex支持哪些模型？
LlamaIndex支持Claude 2.0和Llama2模型，增强了系统性能。
LlamaIndex的文档更新了哪些内容？
文档更新包括更清晰的高层概念、详细模块指南和全面的API参考。
LlamaIndex如何促进社区发展？
LlamaIndex通过提供丰富的教程和网络研讨会，促进社区发展，帮助用户更好地使用该平台。
