数据代理
内容提要
LlamaIndex推出了基于大型语言模型的数据代理，这些代理能够智能地执行数据读取和写入任务，自动搜索和检索数据，调用外部服务API，并存储对话历史。新功能包括通用代理/工具抽象和包含15个以上工具的LlamaHub工具库，旨在增强与数据的交互能力。
延伸解读
数据代理与查询引擎的适用场景
文章指出，数据代理和查询引擎均可用于搜索和检索，但各有侧重。查询引擎允许用户定义受约束或不受约束的工作流，例如通过NLStructStoreQueryEngine实现文本到SQL的转换，或使用路由器模块决定语义搜索或摘要。而代理循环默认不受约束，能基于任意工具集进行推理，提供开箱即用的高级搜索能力，但可能不够可靠。因此，若使用代理进行搜索，需谨慎选择LLM和工具集。
工具抽象的设计特点
LlamaIndex的工具抽象包括基础工具、函数工具、查询引擎工具和工具规格。基础工具定义通用接口，可接受任意参数并返回ToolOutput容器。函数工具能将任何Python函数转换为工具，并自动推断函数模式。工具规格则代表完整的API规范，可转换为工具列表，支持读写操作，如Slack工具规格可读取消息和发送消息。这种设计保留了工具接口的通用性，以适应未来代理的迭代。
实用工具解决上下文窗口限制
针对API返回大量数据可能超出LLM上下文窗口的问题，LlamaIndex提供了实用工具。OnDemandLoaderTool可将任何数据加载器转换为工具，在单次调用中完成加载、索引和查询。LoadAndSearchToolSpec则包装现有工具，生成加载和搜索两个工具，先加载数据并索引，再通过搜索工具查询。这些工具帮助代理高效处理大规模数据，避免令牌浪费。
Q&A
LlamaIndex的数据代理有什么主要功能？
LlamaIndex的数据代理能够智能执行数据读取和写入任务，自动搜索和检索不同类型的数据，并调用外部服务API。
LlamaHub工具库包含哪些工具？
LlamaHub工具库包含15个以上的工具，如Gmail、Google日历、SQL等，旨在增强代理的功能。
如何创建一个复杂的服务交互？
用户可以通过定义工具规格来创建复杂的服务交互，而不仅仅是单一任务的工具。
数据代理的核心组件是什么？
数据代理的核心组件包括推理循环和工具抽象，允许与外部服务API进行交互。
LlamaIndex如何处理API请求返回的大量数据？
LlamaIndex提供实用工具，帮助处理API请求返回的大量数据，避免超出上下文窗口限制。
数据代理与现有代理框架有什么不同？
数据代理设计旨在有效索引、查询和检索数据，同时提供丰富且易于理解的API接口，区别于其他代理框架。
