小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究批判性审视了图机器学习中的常见信念,如过度平滑、过度挤压、同质性与异质性二元论及长范围任务。通过反例,旨在澄清这些误解,促进深入讨论。

Oversmoothing, Oversquashing, Heterophily, Long-Range, and More: Unveiling Common Beliefs in Graph Learning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-21T00:00:00Z

本文探讨了图神经网络(GNN)中的过度平滑问题及其解决方案,提出了新的归一化层PairNorm和节点归一化技术NodeNorm。研究表明,合理的初始化和架构选择能显著提升GNN性能,并提出ATNPA框架以总结现有方法,为未来研究指明方向。

通过信息化权重初始化减少图神经网络的过平滑

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-31T00:00:00Z

本文探讨了图神经网络(GNN)中的过度平滑问题及其解决方案,提出了新归一化层GraphNormv2和ATNPA框架。研究表明,当GNN层数超过8-10时,性能会下降,主要由于可训练性问题。通过理论分析和实验,提出限制梯度流的上界可以提升GNN的可训练性,为深度图模型的构建提供新思路。

控制图神经网络中的梯度过平滑与扩展

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-07T00:00:00Z

本文提出了图随机神经网络框架GRAND,通过随机传播策略增强图数据,优化未标记节点的预测一致性。实验结果表明,该方法在半监督节点分类中优于现有的图神经网络,缓解了过度平滑和非鲁棒性问题,展现了更好的泛化能力。

GB-RVFL:随机神经网络与颗粒球计算的融合

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-25T00:00:00Z

本文介绍了多种图卷积网络(GCN)的改进方法,如Scattering GCN和Simple Contrastive Graph Clustering,旨在解决节点分类中的过度平滑问题并提升分类性能。研究表明,这些新方法在多个基准数据集上表现优越,具有实际应用价值。

TSC:一个简单的反过度平滑的双向约束

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-06T00:00:00Z

本文探讨了图神经网络中的过度平滑问题,提出了新的卷积核 GCN+,并通过数学分析和实验验证了其在节点分类任务中的优越性能。同时,研究分析了不同模型的收敛过程,提出了 DropEdge 方法以缓解过平滑现象,并引入了基于多尺度热核的图神经网络 (MHKG),展示了其在处理图数据时的优势。

平滑与逼近的桥梁:图神经网络过度平滑的理论洞见

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-01T00:00:00Z

本文探讨了图神经网络中的过度平滑问题,并提出了多种解决方案,如改进的GCN训练技巧、Scattering GCN方法和DropEdge技术,以提高节点分类性能和泛化能力。研究表明,合理的模型结构和训练方法能有效缓解过度平滑现象,增强图卷积网络的表达能力和鲁棒性。

图神经网络并非总是过度平滑

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-04T00:00:00Z

本文探讨了图神经网络(GNNs)在分子动力学和动态图建模中的应用,提出了新的框架和方法以解决现有模型的过度平滑和可扩展性问题,并总结了通过连续动态学改进GNNs的方式,提出了多个未来研究方向。

学习图上的粗粒度动力学

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-15T00:00:00Z

本文介绍了Kuramoto图神经网络(KuramotoGNN),一种新型深度图神经网络,旨在减轻过度平滑现象。通过Kuramoto模型,KuramotoGNN利用频率同步替代相位同步,防止节点特征收敛。实验证明其在多项图深度学习任务中优于传统GNN,具有广泛的应用潜力。

基于流形的 Kuramoto 振子和群集的几何信息机器学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-15T00:00:00Z

本研究提出了一种参数化方法,用于控制Transformer模型的频谱,避免过度平滑输入,提高表达能力。该方法在更多层次、更少数据点和受损数据的训练情况下仍然有效。

Transformer 过度平滑的真相

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-01-09T00:00:00Z

本研究从拓扑学角度理解深度图神经网络中的过度平滑和过度挤压问题,并提出了基于Ricci曲率边界的SJLR算法,以减轻这两个问题的影响并更好地理解它们。

基于曲率的图神经网络中的汇聚

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-08-31T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码