BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 -

带参数化内存注入的个性化 LLM 响应生成

本研究提出了一种使用参数高效微调和贝叶斯优化搜索策略的记忆注入方法来实现大型语言模型的个性化响应生成 (MiLP)。

本文介绍了个性化对于自然语言理解和生成的重要性,并引入了LaMP基准测试,用于训练和评估生成个性化输出的语言模型。LaMP包含多样化语言任务和每个用户配置文件的多个条目,提供全面评估框架。还提出了检索增强方法,从用户配置文件中检索个性化项,构造大型语言模型的个性化提示。基线和微调模型结果表明,利用配置文件增强的LM优于不考虑配置文件信息的同类模型。

LaMP基准测试 llm 个性化 内存 生成 自然语言理解 语言模型

相关推荐 去reddit讨论