内容提要
Elastic DevRel 九月通讯:jina-ocr-v1 上线,单模型支持版面、表格、公式及百种语言;Elastic CLI 进入技术预览,统一管理各 API 并保障凭证安全;预计算知识指标让智能体省 93% token、延迟降至三分之一;APM 新增 LLM 调用追踪;安全实验室用 Cursor 钩子审计 1100 台机器、1300 万次工具调用。
延伸解读
jina-ocr-v1 的架构与性能优势
jina-ocr-v1 采用混合专家设计,总参数 3.4B,推理时仅激活 570M,实现了小模型的速度与成本。在 olmOCR-bench 上得分 83.4,为活跃参数少于 600M 的模型中最优;在 OmniDocBench 上得分 91.14,超过 GPT-5.2 的 86.59。其布局感知解析能正确处理多栏、表格、公式和手写内容,并支持 100 多种语言,适合复杂文档处理场景。
Elastic CLI 为智能体操作提供安全护栏
Elastic CLI 技术预览版统一了 Elasticsearch、Kibana 和 Cloud API 的命令行接口,强调一致性与安全性。凭证存储在操作系统钥匙串中,避免泄露;支持允许/阻止列表控制命令权限;所有输入在发送前进行 JSON Schema 验证;破坏性命令需确认或 --yes 标志。这些特性使其成为智能体安全执行操作的理想传输层,Agent Skills 已基于它重建。
预计算知识指标大幅降低智能体成本
通过一次性批处理提取知识指标(KI)并存入 AI 索引,智能体查询时仅检索 KI 而非全文,从而减少 token 消耗和延迟。测试显示,相比标准 RAG,token 使用量从 386,187 降至 27,625(节省 93%),延迟从 44.86 秒降至 15.22 秒。该方法兼容 LangChain、Elastic Agent Builder 和 Claude Code,无需修改智能体框架。
审计 AI 编码代理的实践与发现
Elastic 安全实验室利用 Cursor 钩子收集了 1,100 多台机器上的 1,300 万次工具调用事件,通过 Elastic Agent 发送到 Elasticsearch。数据表明文件读取与 shell 命令比例约为 4:1,且超过 300 个 MCP 服务器中 86% 仅连接一两人,便于风险评估。钩子默认仅观察不阻断,但可配置为阻断以添加审批门,类似机制也适用于 Claude Code 等代理。
Q&A
jina-ocr-v1 是什么?它和传统 OCR 有什么区别?
jina-ocr-v1 是 Elastic Inference Service 中提供的端到端文档解析器,能一次性将扫描页、文档照片、幻灯片和手写笔记转换为结构化 Markdown。与传统 OCR 不同,它先理解页面布局再按人类阅读顺序读取,因此能正确处理多栏、侧边栏和混合内容页面;表格输出为 HTML,数学公式输出为 LaTeX,嵌入图片中的文字会被识别但不输出。
jina-ocr-v1 的性能和语言支持怎么样?
jina-ocr-v1 总参数量 34 亿,采用混合专家设计,推理时仅激活 5.7 亿参数,因此运行成本和速度相当于 5.7 亿参数模型。在 olmOCR-bench 上得分 83.4,是活跃参数少于 6 亿的模型中最高分;在 OmniDocBench 上得分 91.14,超过 GPT-5.2 的 86.59。它支持 100 多种语言,包括阿拉伯语、中文、日语、韩语、泰语、印地语、希腊语、西里尔语、土耳其语、捷克语等,并能一次处理混合语言页面。
Elastic CLI 是什么?它如何保障凭证安全?
Elastic CLI 是技术预览版工具,通过一次安装为所有公共 Elasticsearch、Kibana 和 Elastic Cloud API 提供统一命令行入口。它使用 JSON 输入输出、请求前进行 schema 验证,失败时返回非零退出码。凭证安全方面,运行 elastic config context add 会将 API 密钥写入操作系统钥匙串(macOS Keychain、Linux Secret Service 或 Windows Credential Manager),配置文件中只保留 $(keychain:...) 引用,密钥不会出现在 shell 历史或 LLM 对话记录中。
预计算知识指标(KI)如何帮助智能体减少 token 消耗和延迟?
预计算知识指标通过一次性批处理将文档语料转换为紧凑的 Knowledge Indicator(包含标题、摘要、实体列表、可回答问题等),存入 Elasticsearch AI Index。智能体回答问题时,对 KI 索引执行 BM25 和语义混合搜索,上下文中不再包含完整文档。在一个维基百科查询测试中,标准 RAG 使用 386,187 个 token、延迟 44.86 秒,而使用 KI 仅用 27,625 个 token、延迟 15.22 秒,token 减少 93%,延迟降至三分之一,答案质量相当。
Elastic APM 新增的 LLM 调用追踪功能有哪些亮点?
Elastic APM 现在将 LLM 调用显示为 trace waterfall 中的正式 span,并新增 GenAI 标签页,可查看系统提示、输入消息和模型响应,每个字段都有复制按钮。token 数量以徽章形式显示在每个 GenAI span 行上,便于快速识别哪个调用消耗最多 token。该功能遵循 OpenTelemetry GenAI 语义约定(v1.37.0+),支持 OpenAI、Anthropic、AWS Bedrock 等任何 OTel 插桩的提供商,无需 Kibana 配置,目前在 Serverless 上技术预览,Stack 9.6 即将支持。
Elastic Security Labs 如何审计 AI 编码代理?发现了什么?
Elastic Security Labs 利用 Cursor 内置钩子构建了轻量级审计方案:一个 280 行无依赖的 bash 脚本在钩子触发时捕获结构化 JSON 事件,再通过 Elastic Agent 发送到 Elasticsearch。在 1,100 多台机器上收集了 1,300 万个事件。数据显示文件读取与 shell 命令的比例约为 4:1,代理大部分时间在读取代码库;出现了 300 多个不同的 MCP 服务器,其中 86% 仅连接一两个人,便于清点和风险评估。该方案默认仅观察不阻止,但支持阻塞钩子以添加审批门控。