内容提要
qOntology开源版v1.1.3新增长文档分窗抽取、异常窗口重试和任务续跑功能。作者建议接入生产前重点测试:任务记录能否追溯窗口所用原文与提示词、结果写入是否幂等以防重复候选、系统能否区分超时与内容解析错误、续跑时提示词变更如何处理。候选数据须经结构校验与内容审核,不可直接覆盖正式库,并建议先做故障演练再扩大批量。
延伸解读
任务记录:窗口级可追溯是维护基础
文章强调,分窗抽取后必须能追溯每个窗口使用的原文版本、提示词和结果落库状态。这不仅是调试需要,更是故障恢复时解释数据来源的依据。如果任务记录缺失,续跑时可能无法判断哪些窗口已完成、哪些需重做,导致重复调用或遗漏。接入前应检查系统是否提供窗口粒度的日志,而非仅任务整体状态。
幂等写入:防止重试产生重复候选
重试机制可能因进程退出导致窗口重复执行。若结果写入没有幂等约束,同一窗口可能生成多份候选数据。文章提醒,先标记完成再保存结果也可能留下“成功但无数据”的窗口。因此,测试时应模拟写入中断,验证候选是否重复、状态是否一致。数据一致性需独立于重试按钮检查。
失败分类:超时与解析错误应区别处理
网络超时适合重试,但内容解析错误原样重跑可能无效。文章建议接入前故意构造格式混乱文本和模拟超时,观察系统能否区分两类失败。若不能区分,坏窗口会反复占用工作进程,拖累正常任务。至少应能查询失败原因并支持人工终止任务,避免无效重试消耗资源。
续跑与提示词变更:固定配置或另开任务
续跑时若中途更改提示词,前后窗口规则不一致,拼接结果难以比较。文章倾向于一次任务固定处理配置;确需换规则则另开任务并保留旧结果。这能避免省了重跑成本却失去结果解释依据。接入前应测试续跑时提示词变更的处理逻辑,确保任务配置的稳定性。
Q&A
qOntology v1.1.3 更新了哪些与长文档抽取相关的功能?
qOntology 开源版 v1.1.3 新增长文档分窗抽取、异常窗口重试和任务续跑功能,并调整了四轮抽取提示词和候选数据校验规则。
长文档抽取任务失败后,为什么不能简单重跑整个文档?
长文档和批量任务重跑会导致重复调用费用和排队时间增加,因此需要分窗重试和续跑机制来减少浪费。
接入生产前,如何确保任务记录能追溯每个窗口的原文和提示词?
需要检查任务记录是否明确记录了每个窗口使用的原文版本、提示词版本以及结果是否落库,以便恢复时能找到。
结果写入没有幂等约束可能导致什么问题?
如果结果写入没有幂等约束,队列重投时窗口可能重复执行,生成重复候选;先标记完成再保存结果也可能留下无数据的窗口。
如何区分网络超时和文档内容解析错误?
接入前应故意准备格式混乱的文本并模拟调用超时,观察系统能否区分两种失败,并允许人工停掉任务。
续跑时如果中途修改了提示词,应该如何处理?
建议一次任务固定处理配置;如需更换规则,应另开一次任务并保留旧结果供核对,避免前后规则不一致导致结果难以比较。
候选数据通过校验后,能否直接覆盖正式库?
不能。结构校验和内容审核应分开,候选数据需结合文本核对实体和关系,尤其不能直接覆盖人工维护的记录。
小团队试用时,建议先做哪些故障演练?
拿一份可人工核对的长文档,跑到中途主动终止再恢复,检查已完成窗口是否重复执行、候选是否重复、审核记录是否可追溯。