无监督多项选择问题回答
内容提要
该文综述无监督问答研究，利用生成模型合成训练数据、伪数据和模板生成问题，提升多项选择题与抽取式问答性能，在RACE、SQuAD等基准上媲美监督方法，并降低标注成本。
延伸解读
无监督问答的实用价值
文章指出，无监督方法能利用生成模型合成训练数据，在RACE、SQuAD等基准上媲美监督方法，同时降低标注成本。这意味着在标注资源有限的实际场景中，无监督问答技术可作为一种高性价比的替代方案，尤其适合快速构建原型或冷启动项目。
技术路径的多样性
文章综述了多种无监督问答技术，包括合成训练数据、伪数据训练、模板生成问题、语义相似性选择答案等。这些方法各有侧重，例如DiverseQA强调数据构建与增强，GenMC利用生成提示提升多项选择准确性。读者可根据任务类型和数据条件选择合适路径。
性能与局限
尽管无监督方法在部分基准上达到监督水平，但文章也提到其性能受限于合成数据质量。例如，使用合成数据训练的CQA系统表现接近人工标注数据，但仍有差距。此外，方法多针对特定数据集验证，跨领域泛化能力仍需进一步检验。
Q&A
无监督多项选择题回答（MCQA）的基本原理是什么？
MCQA模型知道某些选择的正确概率比其他选择更高，从非常基本的知识开始，利用这种概率差异进行回答。
无监督方法在哪些数据集上取得了与监督方法相当的性能？
在RACE上胜过基准方法，在MC500上与一些监督学习方法相当；在SQuAD v1上验证并优于过去的监督学习方法；在SQuAD数据集上F1分数相对提高14%，答案为命名实体时提高20%。
有哪些具体技术用于生成合成训练数据以训练无监督QA模型？
包括利用生成模型合成训练数据、伪数据和模板生成问题；使用不匹配的语料库训练NMT模型作为cloze-to-natural question translator；对相关检索到的句子应用简单模板生成问题；以及DiverseQA方法的数据构建、增强和去噪滤波。
无监督QA相比监督学习有哪些优势？
降低标注成本，无需大量人工标注数据，同时能在多个基准数据集上达到与监督方法相当的性能。
SEQA方法是如何工作的？
SEQA使用生成模型先产生一组可能的答案，然后基于这些可能的答案和问题在语义上的相似性来选择正确的答案，在无监督情况下对四个基准数据集实验验证了有效性和健壮性。
GenMC算法是什么？它有什么效果？
GenMC是一种基于文本生成模型的算法，通过生成提示信息来提高多项选择题的准确性，在多项选择题上的表现优于传统文本生成模型。
AGenT Zero方法有什么特点？
AGenT Zero是一个仅使用预训练模型构成的pipeline，不需要fine-tuning，通过围绕问题上下文的改述来生成多项选择题，最大限度地减少了问题生成的数据获取成本，适用于高数据获取成本情景。
