融合词汇和句法知识的无监督跨语言迁移
本文提出了一种名为 “Lexicon-Syntax 增强多语言 BERT” 的新框架,该框架结合了词汇和句法知识,并通过多种技术增强其学习能力,在零样本跨语言传递的任务中取得了优异的成绩。
本文提出了一种生成模型,通过结构化的正则先验利用标记源数据和未标记目标数据联合学习源模型和目标模型的参数来解决跨语言迁移的问题。该方法在10种语言中获得了平均5.2%和8.3%的绝对改善。
标签
无监督
相关的文章:探索无监督方法在不同领域的应用研究,包括磁敏感成像、超声心动图、异常检测、域自适应、姿势估计、放射学图像、时间动作定位、对象发现和图神经架构搜索等。
BriefGPT - AI 论文速递 -
本文提出了一种名为 “Lexicon-Syntax 增强多语言 BERT” 的新框架,该框架结合了词汇和句法知识,并通过多种技术增强其学习能力,在零样本跨语言传递的任务中取得了优异的成绩。
本文提出了一种生成模型,通过结构化的正则先验利用标记源数据和未标记目标数据联合学习源模型和目标模型的参数来解决跨语言迁移的问题。该方法在10种语言中获得了平均5.2%和8.3%的绝对改善。
BriefGPT - AI 论文速递 -
本研究提出了一种基于常识原型的检测器(CPD),用于无监督的三维物体检测,通过构建高质量边界框和密集点的常识原型以及利用大小先验和几何知识改进了低质量伪标签,有效提高了检测性能。CPD 在多个数据集上取得了优于现有方法的结果,使其与全监督检测器非常接近,展示了该方法的重要性。
本文介绍了一种在自动驾驶场景中进行无监督对象检测的方法,通过点聚类、时间一致性、CNN 的平移等性质以及自我监督来改进算法。该方法能够在稀疏、远距离区域进行检测,并通过迭代自我训练不断改进。实验证明该方法在 PandaSet 和 Argoverse 2 Sensor 数据集上的性能优于无监督基线,展示了自我监督与对象先验相结合的潜力。
BriefGPT - AI 论文速递 -
本文提出了一个简单而有效的框架 G3AD,它引入了两个辅助网络和相关性约束来保护 GNN 免受不一致信息编码的影响。此外,G3AD 还引入了一个自适应缓存模块,以防止 GNN 仅重构包含异常的观察数据。大量实验证明,我们提出的 G3AD 在合成数据集和实际数据集上均能优于 17 个最先进的方法。
该研究提出了一种基于动态图的无监督生成式异常检测方法(GADY),用于检测行为明显偏离图和时间信息内观察到的规范的实体。实验证明,GADY在三个现实世界数据集上明显优于先前的方法。
BriefGPT - AI 论文速递 -
通过将马尔可夫随机场神经架构搜索(MRF-NAS)与自训练无监督域适应(UDA)结合为单一框架,本研究在有限的计算预算下为土地覆盖映射任务搜索出高效且有效的轻量级神经网络,该网络在 OpenEarthMap 和 FLAIR#1 这两个近期数据集上表现出了令人满意的性能。
深度学习在多个领域表现优异,但仅依靠标记数据训练模型不能保证在目标领域仍有出色表现。无监督域自适应通过利用源领域标记数据和目标领域未标记数据解决该问题,并在自然图像处理、自然语言处理等领域取得令人期待的结果。该文比较了该领域方法和应用,强调了当前方法的不足和未来研究方向。
BriefGPT - AI 论文速递 -
通过使用未标注的数据和模式定义,我们开发了一种新方法来构建一个完全无监督的面向任务的对话系统,该系统可以在迭代中通过期望最大化方法逐渐改进伪标签,并利用这些标签来训练一个端到端的对话代理,其在 MultiWOZ 基准测试上的成功率超过了强大的 GPT-3.5 基准的两倍。
通过使用未标注的数据和模式定义,研究人员开发了一种新方法来构建无监督的对话系统。该系统通过迭代改进伪标签,并利用这些标签训练一个端到端的对话代理。该对话代理在MultiWOZ基准测试中的成功率超过了GPT-3.5基准的两倍。
BriefGPT - AI 论文速递 -
最近的深度学习模型,如 ChatGPT,利用反向传播算法展示出令人瞩目的性能。然而,生物大脑过程与反向传播算法之间的差异被注意到。为了解决这个问题,出现了纯正向传播算法,它只通过前向传递来训练深度学习模型。尽管由于必须使用特殊的输入和损失函数等局限性,纯正向传播算法不能取代反向传播,但它在反向传播难以使用的特殊情况下具有潜在的有用性。为了解决这个局限并验证可用性,我们提出了一种无监督的纯正向传播算法。使用无监督学习模型可以使用通常的损失函数和输入进行训练,没有限制。通过这种方法,我们实现了稳定的学习,并能够在不同的数据集和任务中实现多功能的应用。从可用性的角度来看,考虑到纯正向传播算法的特点和所提方法的优势,我们预计它在需要在物理分布环境中单独训练深度学习层的场景中实际应用,如联合学习。
最近的深度学习模型展示出令人瞩目的性能,但与生物大脑过程存在差异。为了解决这个问题,出现了纯正向传播算法,它只通过前向传递来训练深度学习模型。我们提出了一种无监督的纯正向传播算法,通过这种方法实现了稳定的学习,并能够在不同的数据集和任务中实现多功能的应用。预计纯正向传播算法在需要在物理分布环境中单独训练深度学习层的场景中实际应用。
BriefGPT - AI 论文速递 -
uTRAND 是一种深度学习技术的框架,通过将异常轨迹预测问题从像素空间转移到语义拓扑领域,检测和跟踪交通摄像头中各种类型的交通代理。通过将交叉口视为基于补丁的图形,该框架能够在没有昂贵手工分类的情况下学习和建模交通代理的正常行为,并且能够制定简单规则以便于人类解释异常轨迹。在真实环境中收集的异常轨迹数据集上,uTRAND 在性能和可解释性方面都优于其他先进方法。
BriefGPT - AI 论文速递 -
通过使用语言模型以增强未监督异常检测的解释性,我们能够构建一个包含问题和答案的数据集,并提出一种新的多图像视觉问答框架来应对异常检测,其中融合了多样的特征融合策略以增强视觉知识提取。
这篇论文探讨了医学成像中的异常检测方法,使用混合概率分布来取得准确性与计算需求的平衡,并介绍了一个在线方法来解决大数据量下的内存使用问题。以帕金森病患者脑部扫描为例进行了验证。
BriefGPT - AI 论文速递 -
我们提出了一种无监督的贝叶斯训练方法,用于学习具有固定噪声数据集的凸神经网络正则化器,基于双马尔可夫链估计方法。与经典的有监督对抗性正则化方法相比,我们在自然图像高斯去卷积和泊松降噪任务上展示了接近的性能。
本文回顾了无监督深度学习在图像处理中的应用,介绍了基于最优运输和凸分析的学习方案,循环一致性模型和学习对抗规则化方法。此外,还概述了加速图像逆问题求解的学习优化算法和无监督训练方案,并总结了相关无监督学习框架。
BriefGPT - AI 论文速递 -
该研究论文引入了一种创新的无监督波段选择框架,通过注意机制和自编码器实现基于重建的波段选择,将高光谱成像与 LiDAR 数据进行融合,以提高分类准确性和性能。
本研究提出了一种新的端到端网络,无需后处理,实现了显著且有效的性能水平。
热榜 Top10
标签 Top100
全部ai 语言模型 神经网络 llm linux 开源 微软 .net python 数据集 人工智能 google 算法 apple 扩散模型 安全 机器学习 苹果 java 深度学习 android rust 建模 postgresql 游戏 漏洞 机器人 ios 谷歌 mysql windows openai c# spring 函数 大模型 开发者 api gpt 教程 github chatgpt 数据库 卷积 microsoft windows 11 web nvidia mongodb 强化学习 内存 iphone 浏览器 docker 插件 security cloud 编码器 sql 基准测试 wordpress 大语言模型 程序员 黑客 联邦学习 欧盟 总结 无监督 mac postgres 解决方案 流量 入门 c++ sora generative ai 点云 工程师 一致性 重建 spring boot 视图 swift pdf 接口 网络安全 redis 单片机 硬件 visual studio git 前端 多智能体 容器 面试 kubernetes 源码 存储 马斯克 cve
赞助商
我也要赞助推荐或自荐