刘子鸣将于2023年9月加入清华大学人工智能学院担任助理教授,研究领域为物理学与人工智能的交叉。他提出的KAN网络提升了神经网络的可解释性。刘子鸣在MIT攻读博士期间与Max Tegmark合作,KAN的设计基于Kolmogorov-Arnold定理,受到广泛关注。
刘子鸣将于2023年9月加入清华大学人工智能学院担任助理教授,研究重点为KAN(Kolmogorov-Arnold Networks),该模型在神经网络可解释性方面优于传统多层感知机(MLP)。他在MIT攻读博士期间与Max Tegmark合作,致力于提升神经网络的可解释性,研究风格结合理论与实验,关注科学与人工智能的交叉领域。
机器之心数据服务现已上线,提供高效稳定的数据获取服务,简化数据爬取流程。
本研究提出了一种X-KAN方法,通过基于进化规则的机器学习优化多个局部Kolmogorov-Arnold网络,克服了现有神经网络在处理复杂或不连续函数时的局限性。实验结果表明,X-KAN在函数逼近精度上显著优于传统方法,特别适用于复杂函数结构。
本研究提出DAE-KAN框架,将Kolmogorov-Arnold网络与物理信息神经网络结合,以有效解决高阶微分代数方程的问题,显著提升计算精度和泛化能力。
本研究针对现有的MLP-Mixer在图像特征提取中的不足,提出了一种新型的KAN-Mixers架构,利用Kolmogorov-Arnold Network (KAN)作为主要层。通过在Fashion-MNIST和CIFAR-10数据集上的评估,KAN-Mixers在分类任务中超过了传统的MLP、MLP-Mixer和KAN模型,显示出其在准确性和可解释性上的潜力。
本研究针对传统多层感知器和科尔莫哥洛夫-阿诺德网络在函数逼近中的性能限制,提出了基于Cauchy积分激活函数的一层神经网络架构XNet。通过理论分析,XNet能够实现任意阶多项式收敛,实验证明其在函数逼近和强化学习中显著降低了逼近误差并加快了训练速度,为科学计算和人工智能应用提供了更高效的架构。
本研究提出了一种新颖的分层Kolmogorov-Arnold网络(HKAN)架构,解决了现有KAN依赖反向传播的问题。HKAN通过随机学习优化参数,采用线性回归简化计算,展现出与KAN相当或更优的准确性和稳定性。
本研究提出KM-UNet,结合Kolmogorov-Arnold网络与状态空间模型,解决了传统卷积神经网络在长距离依赖建模及变换器模型计算复杂性的问题。实验结果表明,KM-UNet在医学图像分割中表现优异,提供了高效且可解释的新基线。
本研究提出Kolmogorov-Arnold网络(KAN)用于高保真语音增强,实验结果表明其在提升语音质量方面表现优异,且对模型规模和运算量影响较小,显示出KAN的潜力。
本研究提出FLORA数据集,包含4,330对时尚服装与文本描述,旨在解决服装设计中缺乏专业数据集的问题。通过在FLORA上细调生成模型,可以显著提升从文本生成时尚设计图像的能力,推动时尚设计与AI的融合。
2024年谷歌博士奖学金公布,共85名获奖者,涵盖算法、健康、机器智能等13个研究方向,旨在支持优秀年轻学者攻读博士学位并与谷歌导师合作。
本研究探讨Kolmogorov-Arnold网络中的不确定性量化,特别是高阶ReLU KAN,以提升贝叶斯方法的计算效率。该方法普适,能同时获取认识性和随机性不确定性,适用于其他基函数,并通过测试验证了其识别功能依赖关系的能力。
研究比较了Kolmogorov-Arnold网络(KAN)和多层感知机(MLP)的表达和近似能力。结果表明,虽然两者能力相近,但KAN在处理高频成分时具有更低的谱偏差和更高的效率,可能为科学计算提供更好的长期解决方案。
本研究提出了一种改进的双通道U-Net模型,结合KAN网络提升特征捕捉能力,在医学图像分割中表现出色,具有应用潜力。
设计隐私保护深度学习模型是挑战,同态加密(HE)是有前景的方法,可以解耦模型所有者和数据所有者。研究者引入多项式变换器,并提供使用HE进行安全推断的示例。模型在性能上与传统方法相当,填补了变换器之间的差距,突出了HE的可行性。还评估了模型的稳定性,并进行了消融实验。
SPEAK是一种一次性Talking Head Generation框架,通过情感和姿势控制实现与一般Talking Face Generation的区别。该方法采用IRFD方法将人脸特征解耦为三个潜在空间,并设计了一个面部编辑模块,将语音内容和面部潜在编码修改为单一的潜在空间。实验表明,该方法可以生成逼真说话角色。
本研究提出了一种KAN-Block方法,基于Kolmogorov-Arnold网络,用于低光图像增强。实验证明该方法在处理复杂非线性关系时表现优异。
本研究针对自动说话人验证系统(ASV)在面对深度伪造音频时的脆弱性问题,提出了一种新颖的AASIST3架构。通过增强现有AASIST框架,结合Kolmogorov-Arnold网络及其他技术,本方法在性能上实现了超过两倍的提升,显著增强了合成语音的检测能力,提高了ASV系统的安全性。
GINN-LP是一种可解释的神经网络,以多元Laurent多项式的形式发现数据集的潜在方程。它在SRBench基准数据集的子集上优于现有的符号回归方法。将GINN-LP与高性能符号回归方法相结合,相比最佳竞争对手,方程发现的绝对改进率达到7.1%。
完成下面两步后,将自动完成登录并继续当前操作。