小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

该研究提出了一种迭代的图神经网络框架,解决了现有方法在凸优化中的可行性保证问题。实验结果显示,该方法在解的质量和可行性上优于现有神经基线,并在某些情况下速度超过了最先进的求解器。

A Method for Provably Solving Convex Optimization Problems with Graph Neural Networks

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-04T00:00:00Z
通过懒惰算法实现私密在线学习

我们研究了私密在线学习问题,提出了一种新方法,将懒惰在线学习算法转化为私密算法。该方法应用于差分隐私的在线预测和凸优化,显著改善了高隐私情况下的后悔界限,证明了这些速率对低切换私密算法是最优的。

通过懒惰算法实现私密在线学习

Apple Machine Learning Research
Apple Machine Learning Research · 2024-11-20T00:00:00Z

本研究提出了一种新的GA-Planes模型,旨在解决隐式神经表示训练中的非凸优化问题。该模型通过凸优化进行训练,能够有效结合多种特征,并在2D和3D体积拟合任务中表现优越,具有显著的内存效率和可优化性。

Geometric Algebra Planes: Convex Implicit Neural Volumes

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-20T00:00:00Z

本文研究了聚类问题,提出了基于凸优化的聚类方法、k-median目标函数的解决方案以及层次聚类的优化。实验结果表明,这些方法在聚类效果和效率上具有优势,尤其是在处理复杂数据集时表现突出。

最小化聚类感知范数目标的聚类

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-31T00:00:00Z

本研究提出了一种新颖的原始-对偶算法,用于解决数据驱动的变分重建框架中的优化问题。该算法通过重构问题,消除网络的嵌套结构,将其转化为可高效求解的凸优化问题。实验结果表明,该方法在速度和稳定性上优于传统的次梯度方法。

A Primal-Dual Algorithm for Image Reconstruction with Input Convex Neural Networks

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-16T00:00:00Z

本研究提出了一种新型蒸馏技术,利用凸优化压缩大型深度神经网络,适用于资源有限的边缘设备。该方法无需微调,并在数据稀缺情况下保持原始性能,提升了模型在边缘设备上的应用潜力。

Convex Distillation: Efficient Compression of Deep Networks through Convex Optimization

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

本研究提出了一种基于条件梯度算法的优化模型,适用于线性和非线性凸优化问题。该算法具有线性收敛速度和良好的遗憾保证,能够有效解决大规模优化问题,并在复杂学习任务中表现出高效性。数值实验验证了其优越性能。

单循环确定性与随机内部点算法用于非线性约束优化

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-29T00:00:00Z

本研究解决了差分隐私框架下凸优化问题的次优速率问题,通过剪裁和迭代更新方法改进了梯度估计器的尾部特性,实现了最优的DP优化速率,匹配了现有的最小最大下界,表明差分隐私下随机凸优化的理论极限是可达的。

重尾数据下的差分隐私随机优化:朝向最优速率

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-19T00:00:00Z

本文介绍了将随机算法应用于Clifford几何代数,推广到超复向量空间的方法。该方法在机器学习中有多种应用,包括通过凸优化训练神经网络到全局最优。研究人员还探索了几何代数和现代人工智能技术的交叉点,特别是在大型语言模型中的嵌入应用。通过比较传统方法和基于凸优化的新方法进行鲁棒的转移学习分析,研究人员测试了不同嵌入和文本分类数据集以及一系列超参数设置的凸优化传输学习方法。结果表明,凸优化和几何代数提高了大型语言模型的性能,提供了更稳定和可靠的传输学习方法。

有序地凸几何规划

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-07T00:00:00Z

本文提出了可扩展且快速的算法解决鲁棒PCA问题,即恢复具有未知损坏的低秩矩阵。通过优化核范数和l1范数的组合实现凸优化解决该问题,并利用增广拉格朗日乘数法解决凸问题。新算法比先前的Robust PCA算法快五倍以上,达到更高精度,存储/内存需求更少,并证明了不精确增广拉格朗日乘数法全局收敛的必要和充分条件。

ALMA: 基于数学的一种方法,用于确定广义 LASSO 问题的调整参数,及其在 MRI 中的应用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-27T00:00:00Z

该研究探讨了利用随机重排来压缩有限和函数的算法,Random Reshuffling。该算法在凸优化和非凸优化中很有实用性,并且比随机梯度下降更快。研究者通过理论和实验表明,新的方差类型为RR的卓越性能提供了额外的理论依据。同时,他们还展示了Shuffle-Once算法的快速收敛性,并提出了适用于非强凸和非凸目标的多种算法。他们的理论优于现有文献,并揭示了不同类型的随机变量可能在某些情况下产生更大的影响。

随机重排的高概率保证

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-11-20T00:00:00Z

本文提出了一种基于梯度的凸优化算法,设计了具有最强收敛保证的加速优化算法,进一步扩展到一类非凸函数,并在基准数据集上验证了其优异性能。算法可以均匀地控制逃离非退化鞍点所需的时间。

通过梯度流学习高斯多指标模型

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-30T00:00:00Z

该研究解决了任意关联函数的凸优化问题,并展示了相对于基本DP-SGD的可证明改进。通过解析表达式,绕开了优化噪声关联矩阵的半正定程序的立方复杂性。实验验证了理论。

矩阵机制的隐私放大

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-24T00:00:00Z

该文介绍了一种新的过滤方法,使用交通测度、凸优化和概率图模型的思想来产生高维度下的坚韧的集成近似过滤分布。该方法可被理解为集成卡尔曼滤波器(EnKF)的自然推广,使用随机或确定性耦合来进行非线性更新。该框架在混沌区域的 Lorenz-96 模型的挑战配置下实现了最先进的跟踪性能。

精确的非线性状态估计

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-17T00:00:00Z

该研究提出了一种基于特殊正交群的同步问题的凸优化方法,通过谱松弛或半定规划来近似最小二乘解,具有类似于 Max-Cut 的近似算法。在特定噪声模型下证明了其稳定性。

稳健的单次旋转平均重新审视

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-09-11T00:00:00Z

该论文提出了一种基于Poincaré ball模型的统一框架,用于构建可伸缩、简单的超几何线性分类器,并给出了凸优化的解决方案。该算法在合成数据集和真实数据集上表现准确率高。

双曲随机森林

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-08-25T00:00:00Z

本文介绍了一种新的非均匀光滑条件下的优化方法,通过限制沿轨迹的梯度,获得更强的凸优化和非凸优化问题的结果。证明了(随机)梯度下降和 Nesterov 加速梯度法在这种光滑条件下的收敛率,不需要梯度剪裁,并允许在随机场景中的有界方差的重尾噪声。

标准梯度全部

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-08-10T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码