Enhancing Lexicon-Based Text Embeddings with Large Language Models

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种基于大型语言模型的词典嵌入方法(LENS),该方法通过词元嵌入聚类和双向注意力机制,解决了传统模型在词元化冗余和单向注意力方面的不足,并在大规模文本嵌入基准测试中表现优于密集嵌入。

🏷️

标签

➡️

继续阅读