基于意图的提示校准：通过合成边界案例增强提示优化
内容提要
该文综述自动提示工程研究，涵盖元提示、贪婪与遗传算法、Prompt Space等方法，可提升大语言模型在推理、临床NLP等任务上的表现，并探讨视觉语言模型提示工程、声明性提示及APE等进展。
延伸解读
自动提示工程的主要方法
文章综述了多种自动提示工程方法，包括元提示、贪婪算法、遗传算法、Prompt Space、APE和PRewrite等。这些方法旨在通过自动搜索或生成提示来提升大语言模型在推理、临床NLP等任务上的表现。其中，贪婪算法和遗传算法在搜索效率上表现出优越性，而Prompt Space利用文本嵌入构建提示空间，提供了理论基础。APE则通过自动生成候选提示并选择最佳提示来优化性能。
跨领域应用与模型差异
提示工程的应用已扩展到视觉语言模型和临床NLP等领域。在视觉语言模型上，研究涵盖了多模式到文本生成、图像-文本匹配和文本-图像生成三类模型，并比较了提示在视觉语言模型、语言模型和视觉模型中的异同。在临床NLP中，针对临床意义消除、生物医学证据提取等五个任务，评估了多种提示类型在GPT-3.5、BARD和LLAMA2上的性能，并提出了新见解和指南。
声明性提示工程与混合方法
文章提出了一种声明性提示工程方法，将大语言模型视为众包工作者，借鉴声明性众包文献的思想，包括多种提示策略、确保内部一致性和探索混合LLM-非LLM方法。这种方法使提示工程过程更加有原则，并在排序、实体解析和插补等初步案例研究中展示了优势。这为提示工程提供了新的思路，即结合传统众包和LLM的优势。
Q&A
自动提示工程中常用的搜索算法有哪些？效果如何？
文章提到贪婪算法和遗传算法在搜索效率方面具有优越性，并引入了两种利用搜索历史增强搜索算法效果的新技术。在Big Bench Hard的八个任务中实现了平均9.2%的准确度提升。
Prompt Space方法是什么？它解决了什么问题？
Prompt Space是一种利用文本嵌入来获取基向量并构建表示所有提示的空间的新方法，解决了当前方法缺乏理论基础的问题，在十个公共推理基准上取得了显著优异表现，为在LLMs中进行简单而有效提示的选择提供了理论框架。
自动提示工程师（APE）是如何工作的？效果怎么样？
APE通过搜索一组精心设计的自动生成的提示中的最佳提示来优化指令，以解决NLP任务中的性能问题。在24个任务中，APE方法使性能提高，并在19个任务中的性能甚至好于人类注释者生成的指令。
提示工程在临床自然语言处理中有哪些应用？
文章对五个临床自然语言处理任务（临床意义消除、生物医学证据提取、共指消解、药物状态提取和药物属性提取）的提示工程进行了实验研究，评估了多种提示类型在GPT-3.5、BARD和LLAMA2上的性能，并提出了新见解和指南。
视觉-语言模型的提示工程研究包括哪些内容？
文章系统概述了在三种类型的视觉-语言模型上的提示工程前沿研究，包括多模式到文本生成模型、图像-文本匹配模型和文本-图像生成模型，总结了模型概要、提示方法、基于提示的应用以及相关的责任和完整性问题，并讨论了与语言模型和视觉模型的共同点和差异。
声明性提示工程是什么？它有什么优势？
声明性提示工程将LLM视为众包工作者，借鉴声明性众包文献的思想，包括多种提示策略、确保内部一致性和探索混合LLM-非LLM方法，使提示工程过程更加有原则。在排序、实体解析和插补方面的初步案例研究展示了其优势。
