小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

GrIPS是一种无梯度搜索方法,能够有效提升大型语言模型在分类任务中的表现。研究提出了多种基于Prompt Tuning的技术,如Instance-wise Prompt Tuning和Promptagator,显著提高了检索性能和泛化能力。此外,ControlRetriever和INTER数据集的引入进一步增强了模型在信息检索任务中的能力。

Promptriever:可像语言模型一样被提示的指令训练检索模型

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-17T00:00:00Z

本文探讨了不同微调方法对大型语言模型(LLMs)泛化能力的影响。研究表明,prompt-tuning 在自然语言理解任务中优于 fine-tuning,尤其在处理细粒度概念时表现更佳。此外,提出了预细调方法,通过多任务学习提升模型性能和样本效率。

基于通用表征的微调网络解决未知认知任务

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-06-27T00:00:00Z

FedPrompt是一种结合prompt tuning和联邦学习的新方法,可提高FL方法的效率并保护数据隐私。该方法使用模型拆解聚合的方式,减小了通信成本,同时在IID和Non-IID数据分布上保证准确性,并在实验中证明了其可靠性。

具有群组感知提示调整的异构联邦学习

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-10-27T00:00:00Z

FedPrompt是一种结合了prompt tuning和federated learning的新方法,以提高FL方法的效率并保护数据隐私。该方法使用模型拆解聚合的方式来使用prompt tuning,减小了通信成本,同时在IID和Non-IID数据分布上保证准确性,并在实验中证明了其可靠性。

具有参数高效的提示调整和自适应优化的大规模语言模型联合学习

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-10-23T00:00:00Z

本文介绍了Prompt Tuning参数微调方法,比较了T5和RoBERTa模型的对抗鲁棒性。研究发现,对特定任务进行微调的提示可以迁移到相同类型的任务,但对于对抗性数据的鲁棒性较低,其中T5的鲁棒性高于RoBERTa。同时,T5中确定的技能神经元对对抗性数据具有预测性,而RoBERTa则不然。研究得出结论,对抗性鲁棒性可能与模型在对抗性数据上激活相关技能神经元的能力有关。

关于提示调整中技能神经元与稳健性的关系

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-09-21T00:00:00Z

该论文提出了DPT作为针对区分性PLMs的prompt tuning框架,实验表明DPT在全集和低资源环境下都能显著提高性能,并解决了调整大型PLMs中的不稳定问题。

优化预训练语言模型加速专题投资

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-09-21T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码