本研究分析了六个生成性大型语言模型在道德困境中的伦理推理表现,发现它们在伦理逻辑上保持一致,主要侧重于理性和结果导向,但在微调和后训练方面存在显著差异。
本研究提出了一个新的基准,评估生成性大型语言模型在丹麦语中的能力,称为“丹麦语言文化能力”。实验结果表明,该基准能够有效区分模型性能,并揭示模型在丹麦语适应中的一致性因素。
本文介绍了一种无监督域提示蒸馏框架PromptKD,旨在通过未标记的领域图像将教师模型的知识转移到轻量级目标模型。该方法利用少量提示符令牌实现生成性语言模型的知识转移,实验结果显示其性能达到最先进水平。此外,提出的广义领域提示学习(GDPL)框架能够在特定领域中有效转移视觉识别能力,减少对数据和资源的需求,推动可持续的视觉语言模型研究。
研究人员提出了一种名为PromptKD的方法,通过添加少量的提示符令牌并仅调整提示来实现学生友好的知识转移。实验结果表明,PromptKD在性能上达到了最先进水平,并且只添加了教师参数的0.0007%作为提示。这种方法有效地减轻了曝光偏差,提高了性能。
完成下面两步后,将自动完成登录并继续当前操作。