发现困扰预训练语言模型的具有挑战性的隐喻
内容提要
该文综述隐喻计算研究，涵盖：预训练模型中间层可编码泛化隐喻知识；大模型与扩散模型协作生成视觉隐喻；多任务框架缓解中文隐喻生成数据稀缺；MIPVU与CoMeta支持多语种隐喻检测；思维导向提示提升隐喻释义；语境特征对识别至关重要；GPT-4能解释新颖诗歌隐喻，评估优于大学生；基准测试显示大模型隐喻理解接近人类水平。
延伸解读
隐喻知识在模型中的编码与泛化
文章指出，预训练语言模型的中间层主要编码了隐喻性知识，且这种知识在多语言和多数据集上具有泛化性。这意味着模型并非仅记忆表面模式，而是内化了可迁移的隐喻表示。对于研究者而言，这提示在分析模型能力时，中间层可能比最终输出更具信息量；对于应用者，跨语言隐喻任务或许能受益于这种共享表示，减少对大量标注数据的依赖。
多模态与多任务协作的生成路径
文章提到两种生成思路：一是用大语言模型与扩散模型协作，从语言隐喻生成视觉隐喻，并经插图师评估前景看好；二是用多任务框架结合自训练与隐喻鉴别，缓解中文命名隐喻生成的数据稀缺问题。这些方法表明，隐喻生成正从纯文本向多模态扩展，且通过任务协作和自训练，可以在数据不足时仍保持可读性与创造性。
评估表现与现存局限
文章显示，GPT-4在解释塞尔维亚诗歌新颖隐喻时，其解释被盲审评为优于大学生，且未显现接触过这些隐喻的迹象；基准测试也表明大模型隐喻理解接近人类水平。但文章同时指出，现有模型理解非字面短语仍有提升空间，且最大模型在生成设置中虽接近人类性能，却需要仔细的多次提示。这说明能力提升与提示敏感性并存。
Q&A
预训练语言模型中的隐喻知识主要编码在哪些层？
研究显示，预训练语言模型的中间层主要包含了隐喻性知识，并且这种知识在多语言和多数据集中具有泛化性。
如何利用大语言模型和扩散模型生成视觉隐喻？
研究提出一种使用大型语言模型（LLM）与扩散模型的人工智能协作框架，旨在从语言隐喻中生成视觉隐喻，以便于传达含蓄含义并进行陈述。经过插图师的评估证明，这种协作模型的前景看好。
中文隐喻生成面临数据稀缺问题，有什么解决方案？
本文介绍了一个多任务隐喻生成框架，包括自我训练和隐喻鉴别机制，用于解决中文命名隐喻生成的数据稀缺性问题。实验结果表明，与基准模型相比，该模型可以生成具有更好可读性和创造性的隐喻，即使训练数据不充足。
MIPVU和CoMeta数据集在隐喻检测中有什么作用？
研究通过使用MIPVU方法并创建CoMeta数据集，提出了一种进行隐喻检测的具有竞争力的多语种和单语种大型语言模型的方法，同时在英语和西班牙语之间进行了跨语言实验。
思维导向提示如何提升隐喻释义？
本文使用思维导向提示将概率模型结构引入了大型语言模型的上下文学习中，以推断潜在变量并选择合适的隐喻释义，从而改进了模型的模仿能力。
GPT-4在解释新颖诗歌隐喻方面表现如何？
通过评估GPT-4在解释塞尔维亚诗歌中提取的新颖文学隐喻时所提供的自然语言解释能力，它未展现出之前接触过这些隐喻的迹象，但提供了详细而深刻的解释，被盲审的人员将GPT-4生成的隐喻解释评为优于来自一组大学生的解释，这些结果表明GPT-4等大语言模型已经获得了解释复杂新颖隐喻的新兴能力。
