AI 智创简报:《arXiv 封禁编造引用,投稿前引用回查成了代跑生意》

AI 智创简报:《arXiv 封禁编造引用,投稿前引用回查成了代跑生意》

💡 原文中文,约2200字,阅读约需6分钟。
📝

内容提要

文章讨论AI生成参考文献的“幻觉”问题及引用验真服务机会:某博士后80条参考文献中6条由Copilot编造,arXiv已对编造引用实施一年封禁;Casetext、Amazon等多件专利布局引用可验证性检测,2026年相关精确语族仅5件;现有开源工具免费但商品化极早,交付层空白。可开展逐条回查服务,输出真、查无、元数据不符、已撤稿四色报告,按散单、机构订阅、咨询报告阶梯收费,并需防范收录缺口导致的误判。

🔎

延伸解读

专利布局已先行,但精确语族仅5件

文章实测显示,宽语族“references + language model + verif”史上约2万件,而精确语族“citation hallucination”等仅5件,其中3件正是文中列举的Casetext、Stone & Ink Archive、成都汇能博友等主体。这说明“生成内容与出处逐条可验证”已被法律AI公司、云厂商、档案公司等写入权利要求,但专门针对引用幻觉的专利仍很稀疏。读者需注意,两句检索式覆盖范围不同,只能并排看规模,不能相除算增长率。

开源工具免费在前,交付层才是空白

refchecker、opendraft、bibtex-verifier等MIT开源工具已免费提供引用核查能力,npm上2026年10至11月上线的商业MCP封装月下载仅数百量级,商品化极早期。文章判断,一个人做的不是工具,而是服务层:抽取引用后走OpenAlex、Crossref Polite Pool和撤稿标记逐条回查,输出四色带时间戳报告。这意味着竞争壁垒不在检测算法,而在交付速度与机构合同。

收费阶梯有据,但C端付费意愿未证明

文章给出从散单每篇30至50元、代投机构每篇10至20元月结,到科研诚信专员或图书馆年度订阅3000至8000元、咨询报告每份300至800元的阶梯。需求溢出场景包括被EY假引用事故点到的咨询公司。但反方证据同样明确:独立产品Referentia上HN仅3分,C端付费意愿尚未证明。读者应把机构订阅和咨询报告视为更现实的收入来源,而非默认个人用户会买单。

收录缺口是误判风险,未命中必须转人工

文章特别提示,OpenAlex等数据库存在收录缺口,会把真实引用误判为“查无此文”。因此四色报告中的未命中项不能直接下结论,必须转人工复核并在报告中注明。这一限制直接影响服务可信度:若把数据库覆盖不足当成作者造假,反而会损害机构客户关系。工具层还可能被MIT开源白牌化,长期只能靠交付速度与机构合同锁住客户。

❓

Q&A

arXiv对编造引用有什么处罚规定?

arXiv已对编造引用出台封禁1年的新规,该信息于2026年5月14日在HN获得659分讨论。

AI编造参考文献的案例有多严重?

一名给Elsevier子刊返修的博士后,80条参考文献中有6条是Copilot补写的,被审稿人点出2条引用查无此文。此外,EY假引用事故(HN 326分)也波及咨询公司,报告对外交付前无人逐条验过出处。

引用回查服务具体怎么做?输出什么结果?

从BibTeX/Word抽取引用,走OpenAlex(免费无key)+ Crossref Polite Pool + 撤稿标记(is_retracted实测91,576条)逐条回查,输出真/查无此文/元数据不匹配/已撤稿四色带时间戳报告。

引用验真服务的收费模式是怎样的?

阶梯收费:散单报告¥30-50/篇建案例 → 代投机构¥10-20/篇月结 → 科研诚信专员/图书馆年度订阅¥3,000-8,000 → 咨询报告线¥300-800/份(EY事故已把需求溢出到企业报告场景)。

做引用回查服务有哪些风险?

主要风险有两个:一是收录缺口会把真引用误判为“查无”,未命中项必须转人工并在报告注明;二是工具层会被MIT开源白牌化,只能靠交付速度与机构合同锁客户。此外,独立产品Referentia上HN仅3分,C端付费意愿未证明。

引用验真领域的专利布局情况如何?

精确语族“citation hallucination”等史上仅5件,其中3件为Casetext(US12505299B2,幻觉检测)、Stone & Ink Archive(US12645555B1,fail-closed一致性层)、成都汇能博友等(CN122175015A,留一法消融RAG引用验真)。另有Amazon(US12531820B2,知识图谱辅助)和个人发明人Vijay Madisetti同族专利。五类主体在21个月内各自走到授权或公开。

现有开源引用验真工具和商业产品处于什么阶段?

开源工具已很拥挤:refchecker ★577、opendraft ★535、bibtex-verifier ★145,全部MIT免费。npm上5个2026年10-11月上线的商业MCP封装月下载仅数百量级(citeguard 219),商品化极早期,交付物层空白。

🏷️

标签

➡️

继续阅读