小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

上海交通大学研究团队开发了一种小样本学习方法,能够提升蛋白质突变效果预测性能。该方法通过元学习构建辅助任务并训练蛋白质语言模型,成功将其转移到目标任务上。研究成果将在线上直播中分享。

学术分享|无惧数据匮乏!上海交大博士后周子宜详解蛋白质语言模型的小样本学习方法 FSFP...

HyperAI超神经 HyperAI超神经 · 2024-09-05T03:15:20Z

本文介绍了一种基于表示学习的强化学习辅助任务发现方法,通过生成和保留高效用的辅助任务来提高数据效率。研究表明,辅助任务的表示学习在复杂环境中有利,显著改善强化学习性能。该方法通过自监督学习和未来预测,优化样本复杂度,推动多任务强化学习的发展。

自我预测何时有帮助?理解增强学习中的辅助任务

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-06-25T00:00:00Z

本文探讨了强化学习中的辅助任务及其对学习效率的影响,强调历史表征学习的重要性。研究表明,辅助任务能有效提高复杂环境中的学习表现,尤其是在处理长时间历史时。此外,提出了利用生成模型和自回归表示的新方法和框架,显著提升了代理的学习效率和性能。

使用合成观测学习未来表示以提高效率的强化学习

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-05-20T00:00:00Z

本文介绍了AuxiLearn框架,旨在优化多任务学习中的辅助任务设计与组合。该框架能够在已知或未知辅助任务的情况下,学习有效的目标函数,并在图像分割等任务中表现优于竞争方法。此外,研究提出了自动调整辅助任务权重的方法,以减少主任务的数据需求,提升模型性能和泛化能力。

$α$VIL:学习如何为多任务学习利用辅助任务

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-05-13T00:00:00Z

本文介绍了AuxiLearn框架,旨在解决多任务学习中的辅助任务设计与损失函数组合问题。该框架能够在已知或未知辅助任务的情况下,学习有效的网络结构,提升图像分割等任务的性能。研究表明,AuxiLearn在多个数据集上优于现有方法,展示了辅助任务在提高模型泛化能力和训练效率方面的重要性。

Aux-NAS: 利用辅助标签的极低额外推理成本

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-05-09T00:00:00Z

强化学习中的辅助任务对于复杂环境有益,学习环境动态性胜于预测奖励。这些洞察将帮助其他研究人员更好地利用表示学习解决问题。

辅助奖励生成与过渡距离表示学习

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-12T00:00:00Z

强化学习中的辅助任务对于复杂环境有益,学习环境动态性胜于预测奖励。这些洞察将帮助其他研究人员更好地利用表示学习解决问题。

提升长延迟强化学习与辅助短延迟任务

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-05T00:00:00Z

本文回顾了图神经网络在Tabular Data Learning中的应用,并指出了潜在关联性和特征间数值的不足。对GNNs在构建图结构和表示学习方面进行了分类,并讨论了辅助任务和实际应用领域。未来研究方向包括推动GNNs在TDL中的创新。

图神经网络在表格数据学习中的应用:一项包含分类和发展方向的调查

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-01-04T00:00:00Z
目标检测综述

本文综述了基于点体素、基于范围和基于锚点的三维目标检测方法,分别利用点和体素特征、范围图像和锚点进行检测。辅助任务如语义分割、交集并集预测、对象形状补全和对象部分估计可以提高性能。集成更多感知任务到现有管道中是有希望的。

目标检测综述

Sekyoro的博客小屋 Sekyoro的博客小屋 · 2023-12-22T11:38:36Z

本文介绍了一种基于层级注意力双向LSTM网络的主题分割器,通过添加辅助任务和自注意力来建模上下文,超过了SOTA方法,在领域转移和多语言场景中表现出鲁棒性和有效性。

ContextSeg:通过注意力查询上下文的草图语义分割

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-11-28T00:00:00Z

本文比较了辅助任务在强化学习中的应用,发现对于维度和复杂度较高的环境,辅助任务的表示学习是有利的,学习环境动态性胜于预测奖励。

比较强化学习表征学习的辅助任务

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-10-06T00:00:00Z

该论文提出了一种使用隐式空间地图的目标导航方法,通过transformer递归更新隐式地图,并通过辅助任务训练模型。该方法在挑战性的MP3D数据集上表现优于最先进方法,并在HM3D数据集上具有良好的泛化能力。研究人员成功地在真实机器人上部署了该模型,并只使用了几个真实世界的演示就实现了令人鼓舞的目标导航结果。

递归隐式地图的目标导航

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-08-10T00:00:00Z

生成式人工智能,如LLM,解决辅助任务和交互方式的问题。辅助任务包括信息查找、代码生成和转换,交互方式包括聊天界面和命令行界面。模型属性包括训练方式、大小、上下文窗口和过滤器。工具示例有GitHub Copilot、ChatGPT等。聊天互动和代码编辑器中的在线辅助是目前最常用的。未来改进包括模型大小、训练方式和微调。开源模型领域也在发展。

当前大语言模型工具链生态简介 - martinfowler

极道 极道 · 2023-07-27T00:21:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码