小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

上海交通大学研究团队开发了一种小样本学习方法,能够提升蛋白质突变效果预测性能。该方法通过元学习构建辅助任务并训练蛋白质语言模型,成功将其转移到目标任务上。研究成果将在线上直播中分享。

学术分享|无惧数据匮乏!上海交大博士后周子宜详解蛋白质语言模型的小样本学习方法 FSFP...

HyperAI超神经
HyperAI超神经 · 2024-09-05T03:15:20Z

本文介绍了一种基于表示学习的强化学习辅助任务发现方法,通过生成和保留高效用的辅助任务来提高数据效率。研究表明,辅助任务的表示学习在复杂环境中有利,显著改善强化学习性能。该方法通过自监督学习和未来预测,优化样本复杂度,推动多任务强化学习的发展。

自我预测何时有帮助?理解增强学习中的辅助任务

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-25T00:00:00Z

在多任务学习中,一个任务的学习对其他任务的性能贡献较低。我们研究了这个问题,并在输入重建的背景下进行了评估。实验结果显示,辅助任务的性能有显著改进,基本任务的性能也得到了改善。这表明我们的方法产生了更简单、更兼容的表示。

朝着任务兼容性可压缩表示

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-16T00:00:00Z

AuxiLearn是一种基于隐式微分的新框架,解决了多任务学习中设计有用的辅助任务和损失函数组合的挑战。它能够学习任务之间的非线性交互,并生成有意义的新辅助任务。在图像分割和低数据情况下学习属性等多个任务和领域中,AuxiLearn表现出比竞争方法更出色的性能。

$α$VIL:学习如何为多任务学习利用辅助任务

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-13T00:00:00Z

利用神经架构搜索的方法,在主任务推理成本不变的前提下,通过利用独立辅助任务的额外辅助标签来提高主任务性能。使用柔性的非对称结构对主任务和辅助任务进行训练和推理,通过演化网络中的主到辅助连接,在主任务推理过程中去除这些连接的单任务推理成本。在NYU v2、CityScapes和Taskonomy数据集上进行了实验,验证了其有希望的性能。

Aux-NAS: 利用辅助标签的极低额外推理成本

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-09T00:00:00Z

强化学习中的辅助任务对于复杂环境有益,学习环境动态性胜于预测奖励。这些洞察将帮助其他研究人员更好地利用表示学习解决问题。

辅助奖励生成与过渡距离表示学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-12T00:00:00Z

强化学习中的辅助任务对于复杂环境有益,学习环境动态性胜于预测奖励。这些洞察将帮助其他研究人员更好地利用表示学习解决问题。

提升长延迟强化学习与辅助短延迟任务

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-05T00:00:00Z

本文回顾了图神经网络在Tabular Data Learning中的应用,并指出了潜在关联性和特征间数值的不足。对GNNs在构建图结构和表示学习方面进行了分类,并讨论了辅助任务和实际应用领域。未来研究方向包括推动GNNs在TDL中的创新。

图神经网络在表格数据学习中的应用:一项包含分类和发展方向的调查

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-01-04T00:00:00Z
目标检测综述

本文综述了基于点体素、基于范围和基于锚点的三维目标检测方法,分别利用点和体素特征、范围图像和锚点进行检测。辅助任务如语义分割、交集并集预测、对象形状补全和对象部分估计可以提高性能。集成更多感知任务到现有管道中是有希望的。

目标检测综述

Sekyoro的博客小屋
Sekyoro的博客小屋 · 2023-12-22T11:38:36Z

本文介绍了一种基于层级注意力双向LSTM网络的主题分割器,通过添加辅助任务和自注意力来建模上下文,超过了SOTA方法,在领域转移和多语言场景中表现出鲁棒性和有效性。

ContextSeg:通过注意力查询上下文的草图语义分割

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-11-28T00:00:00Z

本文比较了辅助任务在强化学习中的应用,发现对于维度和复杂度较高的环境,辅助任务的表示学习是有利的,学习环境动态性胜于预测奖励。

比较强化学习表征学习的辅助任务

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-06T00:00:00Z

该论文提出了一种使用隐式空间地图的目标导航方法,通过transformer递归更新隐式地图,并通过辅助任务训练模型。该方法在挑战性的MP3D数据集上表现优于最先进方法,并在HM3D数据集上具有良好的泛化能力。研究人员成功地在真实机器人上部署了该模型,并只使用了几个真实世界的演示就实现了令人鼓舞的目标导航结果。

递归隐式地图的目标导航

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-08-10T00:00:00Z

生成式人工智能,如LLM,解决辅助任务和交互方式的问题。辅助任务包括信息查找、代码生成和转换,交互方式包括聊天界面和命令行界面。模型属性包括训练方式、大小、上下文窗口和过滤器。工具示例有GitHub Copilot、ChatGPT等。聊天互动和代码编辑器中的在线辅助是目前最常用的。未来改进包括模型大小、训练方式和微调。开源模型领域也在发展。

当前大语言模型工具链生态简介 - martinfowler

极道
极道 · 2023-07-27T00:21:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码