基于子字符串匹配的超长文本识别

💡 原文中文,约1900字,阅读约需5分钟。
📝

内容提要

本文探讨了场景文本识别(STR)的新方法,包括无关文本长度的识别技术LISTER、基于LSTM的文档翻译集成和半监督学习方法SemiMTR。这些方法旨在提高OCR质量和识别性能,尤其是在复杂场景中。研究表明,自监督学习和大规模数据集能显著提升模型的鲁棒性和准确性。

🔎

延伸解读

长文本识别:从短文本到任意长度的技术演进

文章指出,现有场景文本识别方法大多只适用于短文本或已知长度的文本,缺乏识别长文本或进行长度推断的能力。为此,LISTER 通过邻居解码器和特征增强模块实现长度无关识别;LOMO 则针对传统 CNN 感受野和简单形状描述的不足,引入直接回归器、迭代细化模块和形状表达模块处理长文本和任意形状文本。这些方法共同推动 STR 向更灵活的文本长度适应方向发展。

半监督与自监督:利用未标注数据提升鲁棒性

SemiMTR 将自监督学习和监督学习结合在单一阶段,利用视觉模型预训练和语言模型微调,并在每个模态应用连续性正则化,在多个基准上取得最新成果。另一项半监督方法从视觉和语义两方面融合单词级一致性正则化,使用最短路径对齐和强化学习优化语义相似性,优于现有方法。这些工作表明,半监督和自监督策略能有效利用未标注数据,提升模型在真实场景中的鲁棒性。

性能饱和与真实场景挑战:Union14M 的启示

文章重新评估了 STR 的六个常用基准,发现性能饱和趋势:13 个代表性模型中,仅 2.91% 的基准图像无法准确识别。但作者认为这主要由于基准挑战性低,掩盖了潜在问题。为此,他们构建了大规模真实数据集 Union14M,包含 400 万张带标签和 1000 万张未标记图像。实验显示,13 个模型在 400 万张有标签图像上平均准确率仅 66.53%,表明 STR 在真实场景中仍面临许多挑战,远未解决。

多模态与视频文本识别:新方法拓展应用边界

Levenshtein OCR 基于 Vision-Language Transformer,通过交叉模态融合和逐步近似 ground truth,实现并行解码、动态长度变化和良好可解释性,在标准基准上达到最新水平。GoMatching 则通过集中训练、重新评分头和长短期匹配模块,提升视频文本识别性能,同时在图像文本识别任务上保持强劲表现。这些方法展示了多模态融合和视频场景对 STR 的拓展价值。

❓

Q&A

什么是 LISTER 方法,它解决了什么问题?

LISTER 是一种长度无关的场景文本识别方法,旨在解决长文本识别的问题。

WordLenSpotter 是什么,它的功能是什么?

WordLenSpotter 是一种新型单词长度感知检测器,增强了网络捕捉长尾分布特征的能力。

SemiMTR 方法是如何结合自监督学习和监督学习的?

SemiMTR 方法通过单一阶段结合自监督学习和监督学习,扩展了多模态场景文本识别的应用。

LOMO 方法如何改善传统场景文本检测的不足?

LOMO 方法通过直接回归器、迭代细化模块和形状表达模块,解决了传统方法在处理长文本时的不足。

Levenshtein OCR 的主要优势是什么?

Levenshtein OCR 利用交叉模态 Transformer 实现动态长度变化和良好的可解释性,表现出色。

如何通过自监督学习提高场景文本识别的鲁棒性?

通过自监督预训练利用未标记图像,可以显著提高场景文本识别模型在真实场景中的鲁棒性。

🏷️

标签

➡️

继续阅读