这篇EMNLP2023论文研究了大语言模型在搜索排序中的表现,提出了一种直接输出段落排序组合的方案,并使用蒸馏技术将GPT-4的排序能力转移到更小的模型上。实验结果显示,GPT-4在TREC和BEIR数据集上表现优异,使用GPT-4对由ChatGPT重排序的段落进行重新排序的方法取得了良好结果。
阿里云人工智能平台PAI的多篇论文入选EMNLP2023,展示了中国人工智能技术在国际上的竞争力。其中包括BeautifulPrompt算法、垂直领域知识预训练语言模型、CogTree算法和X-STA算法。这些研究成果已在阿里云PAI产品中应用,为客户提供AI模型训练服务。
阿里云PAI与华东师范大学合作在EMNLP2023发表了基于认知理论的CogTree生成式语言模型,通过模仿人类认知过程提升大模型的解题准确度,为轻量化大模型的复杂任务推理提供解决方案。CogTree通过双系统迭代生成推理树,增强大模型的推理能力。在逻辑推理和数学问题上,CogTree的回答准确率明显提升。源代码将贡献在EasyNLP开源框架中。
阿里云PAI与华东师范大学合作在EMNLP2023发表了关于垂直领域预训练语言模型的论文。他们提出了一种通过双曲空间和对比学习来增强上下文语言表示的框架,解决了垂直领域知识稀疏的问题。模型在金融和医疗领域的下游任务上表现良好。
阿里云与华南理工大学合作在EMNLP2023上发表了BeautifulPrompt深度生成模型,通过简单图片描述生成高质量提示词,提升文生图模型生成图像的美观度。算法通过微调低质量和高质量提示,并采用强化学习和视觉信号反馈技术,最大化生成提示的奖励值。该研究探索了为深度生成模型提供提示的提示工程领域,并将源代码贡献给EasyNLP开源框架。
完成下面两步后,将自动完成登录并继续当前操作。