Step-Back Profiling: 提取用户历史信息以个性化科学写作
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本文介绍了个性化对于自然语言理解和生成的重要性,并引入了LaMP基准测试,用于训练和评估生成个性化输出的语言模型。LaMP包含多样化语言任务和每个用户配置文件的多个条目,提供全面评估框架。还提出了检索增强方法,从用户配置文件中检索个性化项,构造大型语言模型的个性化提示。基线零-shot和微调模型结果表明,利用配置文件增强的LM优于不考虑配置文件信息的同类。
🎯
关键要点
- 个性化在自然语言理解和生成中至关重要。
- 引入了LaMP基准测试,用于训练和评估生成个性化输出的语言模型。
- LaMP包含多样化语言任务和每个用户配置文件的多个条目,提供全面评估框架。
- LaMP由七个个性化任务组成,包括三个分类任务和四个文本生成任务。
- 提出了一种检索增强方法,从用户配置文件中检索个性化项,构造个性化提示。
- 基线零-shot和微调模型结果表明,利用配置文件增强的语言模型优于不考虑配置文件信息的同类。
➡️