元任务提示引发大型语言模型的嵌入
原文约400字/词,阅读约需1分钟。发表于: 。通过使用一种新的无监督嵌入方法,MetaEOL,我们能够从大型语言模型(LLMs)中生成高质量的句子嵌入,而不需要模型微调或任务特定的工程处理。使用元任务提示,MetaEOL 通过一系列精心设计的提示引导 LLMs...
通过使用新的无监督嵌入方法MetaEOL,可以从大型语言模型中生成高质量的句子嵌入。MetaEOL通过元任务提示引导语言模型生成嵌入,处理多个表示方面。实验结果显示,从各种元任务得到的嵌入在语义文本相似性测试中表现出竞争力,并在下游任务中表现优异。这种方法提供了一种多用途、节约资源的嵌入提取方法。