内容提要
LinkedIn构建了认知记忆代理,为招聘助手提供个性化状态。该系统采用四层记忆结构(对话、情景、程序、语义),以树状结构存储偏好,支持增量更新,避免GraphRAG的高成本。它通过智能检索、冲突解决和访问控制,在低延迟下提供新鲜、准确的记忆,并计划优化记忆抽象和评估归因。
延伸解读
四层记忆结构的设计逻辑
LinkedIn的认知记忆代理采用对话、情景、程序、语义四层记忆结构,分别处理短期交互、具体活动、用户行为模式及跨会话的聚合偏好。这种分层设计旨在平衡信息的时效性、具体性和可追溯性,同时为不同应用场景提供灵活的定制空间。
从GraphRAG到树状结构的工程权衡
团队最初使用GraphRAG构建长期记忆,但发现其重建索引成本高、延迟大,难以满足LinkedIn的规模需求。转而采用树状层次结构,支持增量更新,仅需更新相关分支,显著降低计算开销。这一选择体现了在复杂AI系统中,针对特定场景优化架构的重要性。
记忆系统的检索与冲突处理
系统通过智能检索区分标准查询和动态查询,利用分层记忆和时序检索减少上下文膨胀。对于偏好冲突,采用优先级策略解决,但尚未引入动态权重。未来计划探索基于用户重复表达的加权机制,以进一步提升个性化准确性。
隐私与访问控制的实现
为确保数据安全,系统实施多租户隔离,每个应用拥有独立数据存储,并通过用户凭证验证访问权限。记忆以树状结构标记所有者,确保用户只能访问授权信息。这种设计在提供个性化体验的同时,防止了跨用户或跨应用的数据泄露。
Q&A
LinkedIn的认知记忆代理是什么?
LinkedIn的认知记忆代理是一个为招聘助手提供个性化状态的系统,它管理记忆的整个生命周期,包括理解、检索、组织、更新和上下文相关性,以实现深度个性化。
LinkedIn认知记忆代理的四层记忆结构是什么?
四层记忆结构包括:对话记忆(最近交互)、情景记忆(时间查询和来源)、程序记忆(用户完成任务的方式)和语义记忆(跨会话聚合的用户偏好)。
为什么LinkedIn放弃GraphRAG而采用树状结构记忆?
GraphRAG速度慢且成本高,因为它需要大量LLM调用来识别节点间链接并重建索引。树状结构支持增量更新,只需更新相关分支,从而降低成本并提高效率。
LinkedIn如何确保记忆的准确性和新鲜度?
通过智能检索层,它知道记忆的更新时间,并应用冲突解决策略来优先处理最新信息。此外,使用过期策略(如超过6个月或1年的数据)和记忆压缩来保持记忆的新鲜和代表性。
LinkedIn如何保证记忆数据的安全和隐私?
通过多租户隔离,每个应用有独立的数据存储;基于用户登录凭证进行访问控制,确保用户只能访问自己的记忆;在记忆层次结构中标记所有者,并在工作流中传递正确的凭证。
LinkedIn如何优化记忆检索的延迟?
采用并行规划而非顺序规划,减少LLM调用;对简单查询跳过复杂推理;使用结构化输出限制token数量;利用前缀缓存和分块预填充等推理优化。
LinkedIn认知记忆代理的未来发展方向是什么?
未来方向包括:改进记忆抽象(如虚拟文件系统)、增强评估和归因能力、动态识别会话边界、优化端到端流程,以及提供更细粒度的用户控制(如忘记或添加偏好)。