内容提要
文章讨论了如何通过AI引擎优化(AEO)系统跟踪和分析编码代理的搜索与响应行为。Vercel开发了沙箱环境以支持不同CLI的编码代理,确保安全执行和统一日志记录。通过四个阶段的归一化处理,解决了不同代理输出格式的问题,从而优化内容以满足编码代理需求。
关键要点
-
AI改变了人们获取信息的方式,企业需要理解大型语言模型(LLMs)如何搜索和总结其网站内容。
-
Vercel正在构建AI引擎优化(AEO)系统,以跟踪模型如何发现、解释和引用Vercel及其网站。
-
最初的原型仅关注标准聊天模型,但很快意识到需要跟踪编码代理以获得完整的可见性。
-
编码代理的行为与标准模型大相径庭,许多用户在终端或IDE中与AI交互,搜索行为在20%的提示中发生。
-
测量编码代理的AEO需要不同于模型测试的方法,编码代理在项目中运行,期望完整的开发环境。
-
Vercel Sandbox通过提供短暂的Linux MicroVM解决了执行隔离和可观察性的问题。
-
每个代理运行遵循相同的六步生命周期,包括创建沙箱、安装CLI、注入凭证、运行代理、捕获记录和拆除沙箱。
-
代理的生命周期可以通过简单的配置对象定义,添加新代理只需添加新条目。
-
使用AI Gateway集中管理成本和日志,代理在沙箱中通过环境变量与其提供者的基本URL进行交互。
-
每个代理生成的原始记录格式不同,构建了四阶段的归一化层以解决这一问题。
-
第一阶段是捕获转录,第二阶段是解析工具名称和消息结构,第三阶段是丰富数据,第四阶段是汇总和品牌提取。
-
整个管道作为Vercel工作流运行,针对标记为“代理”类型的提示并行处理所有配置的代理。
-
编码代理在网络搜索中贡献了相当大的流量,早期测试显示编码代理约20%的时间执行搜索。
-
代理的建议与模型响应不同,通常嵌入在输出中,而不仅仅是以散文形式提及。
-
转录格式混乱,早期构建归一化层避免了不断的破坏。
-
相同的品牌提取管道适用于模型和代理,关键在于获取代理运行、捕获其行为并将其标准化。
延伸解读
编码代理的独特性
编码代理与标准聊天模型的行为差异显著,尤其是在用户交互和搜索行为上。许多用户在终端或IDE中与AI交互,导致编码代理在20%的提示中执行搜索。这种行为的复杂性要求企业在优化内容时,必须考虑编码代理的特定需求和使用场景。
归一化处理的重要性
由于不同编码代理生成的转录格式各异,构建四阶段的归一化层显得尤为重要。这一过程不仅解决了格式混乱的问题,还确保了数据能够顺利进入品牌提取管道。早期建立这一层可以有效避免后续的频繁破坏,提升系统的稳定性。
Vercel Sandbox的优势
Vercel Sandbox通过提供短暂的Linux MicroVM,解决了执行隔离和可观察性的问题。这种设计允许每个代理在独立的环境中运行,确保安全性和资源管理的高效性。对于开发者而言,这种灵活的沙箱环境能够加速开发和测试过程。
延伸问答
什么是AI引擎优化(AEO)系统?
AI引擎优化(AEO)系统用于跟踪和分析编码代理的搜索与响应行为,帮助企业理解大型语言模型如何处理其网站内容。
Vercel是如何解决编码代理的执行隔离和可观察性问题的?
Vercel通过提供短暂的Linux MicroVM(沙箱)来解决执行隔离和可观察性问题,确保每个代理在独立环境中运行。
编码代理的生命周期包括哪些步骤?
编码代理的生命周期包括创建沙箱、安装CLI、注入凭证、运行代理、捕获记录和拆除沙箱六个步骤。
如何处理不同编码代理生成的转录格式?
通过构建四阶段的归一化层,分别进行转录捕获、解析工具名称和消息结构、丰富数据以及汇总和品牌提取,解决不同格式的问题。
编码代理在搜索行为中占据了多大的比例?
早期测试显示,编码代理在约20%的提示中执行搜索,表明它们在网络搜索中贡献了相当大的流量。
Vercel如何集中管理编码代理的成本和日志?
Vercel使用AI Gateway集中管理成本和日志,通过环境变量将所有LLM调用路由到AI Gateway,从而实现统一的日志记录和费用跟踪。