小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI

本文探讨了流形上的最速下降问题,提出了对偶梯度下降法。通过分析核范数梯度,作者将约束优化问题转化为最小化目标函数,从而计算流形上的优化方向。

流形上的最速下降:5. 对偶梯度下降

科学空间|Scientific Spaces 科学空间|Scientific Spaces · 2025-11-03T02:22:00Z

本文探讨了约束优化中“最速下降方向”与梯度的关系,强调不同范数对最速下降方向的影响。通过分析SGD在超球面上的应用,提出了“最小作用量原理”,并讨论了在约束条件下的参数更新优化方法。

流形上的最速下降:1. SGD + 超球面

科学空间|Scientific Spaces 科学空间|Scientific Spaces · 2025-08-01T02:32:00Z

本研究提出了一种新方法——Frank-Wolfe合并(FW-Merging),旨在解决多任务学习中模型合并的适应性和扩展性问题。FW-Merging通过约束优化显著提高了合并的准确性和稳定性,实验结果表明其在多个模型合并中表现优异,且内存开销保持恒定,具有潜在应用价值。

FW Merging: Extending Model Merging Using Frank-Wolfe Optimization

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-03-16T00:00:00Z

本研究探讨了自动提示工程的优化,解决了手动提示工程的局限性。通过将提示优化形式化为最大化问题,建立了基础框架,系统性组织了优化方法,揭示了约束优化和面向代理的提示设计的潜力。

A Survey of Automatic Prompt Engineering: An Optimization Perspective

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-02-17T00:00:00Z

本研究提出了一种新方法,将可解释机器学习中的预测解释任务视为约束优化问题,从而生成模型无关的解释。实证结果表明,该方法在多个数据集上优于现有的启发式方法Anchors。

Learning Model-Agnostic Explanations via Constraint Programming

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-11-13T00:00:00Z

本研究分析了视频多模态大语言模型在视觉上下文表示上的不足。通过将任务转化为约束优化问题,研究了帧和标记选择对性能的影响。结果显示,提出的方法与实验结果一致,具有应用潜力。

探索视频中的视觉上下文表示设计空间

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-17T00:00:00Z

本研究提出了FlipGuard,一种约束优化方法,旨在解决大语言模型在偏好一致性方面的更新回退问题。实验结果表明,FlipGuard有效减轻了更新回归,同时保持了知识保留和整体表现。

FlipGuard: Defending Preference Consistency against Update Regression through Constrained Optimization

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-10-01T00:00:00Z

本文探讨了机器学习在约束优化问题中的应用,介绍了结合神经网络的优化加速、Branch & Learn框架和Primal-Dual Learning等新方法。这些方法显著提高了求解效率和精度,展示了在大规模优化问题中的潜力。

自监督学习的约束优化迭代求解器

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-12T00:00:00Z

本文探讨了机器学习在符号计算和约束优化中的应用,特别是支持向量机在变量排序和问题实例识别中的优势。研究表明,机器学习超越了传统启发式算法,有效提高了求解效率和准确性。结合深度学习和可解释AI技术,机器学习为符号计算提供了新的视角,推动了该领域的发展。

基于机器学习的cvc5中量词选择

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-08-26T00:00:00Z

本研究提出了一种基于悲观值迭代的离线强化学习方法,结合数据自举和约束优化,解决样本复杂度和次优性问题。同时,探讨了鲁棒离线强化学习中的函数逼近困难,并提出利用人类反馈的算法,以优化查询复杂度和样本效率。

离线强化学习中基于示例的最优订单界限与偏好反馈

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-06-18T00:00:00Z

本文提出了一种新颖的框架,将约束优化与深度学习结合,设计了神经辅助算法以最大化网络切片的资源利用率。该算法在不同场景下表现出优越的服务质量和泛化性能,显著提高了资源利用率并降低了延迟。

学习切割 Wi-Fi 网络:一种状态增强的原对偶方法

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-05-09T00:00:00Z

该文综述了多种强化学习安全与效率方法:利用专家演示约束智能体行为以确保安全探索;通过群体引导、引导网络和离线学习提升稀疏奖励下的表现;引入人类在环、守护者干预及约束优化,兼顾探索与安全,并在离散、连续及机器人任务中验证有效性。

增强强化学习智能体与本地指导

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-21T00:00:00Z

本文综述在线凸优化(OCO)的研究进展,涵盖分散式D-OCO算法(降低遗憾界并证明下界)、随机约束算法在数据中心调度中的应用、基于历史损失建模的记忆容量量化、相对Lipschitz与强凸性研究、拟阵约束下的子模最大化、约束OCO向凸-凹优化的转化、对抗时变约束算法、任意延迟非平稳OCO、连续次模函数的Frank-Wolfe变体,以及带切换成本的有限信息OCO竞争比分析。

利用可行集的曲率在在线凸优化中获得快速速率

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-20T00:00:00Z

该文综述贝叶斯优化研究进展,涵盖噪声约束优化、未知约束通用框架、成本约束建模为CMDP、深度学习框架、自动调整搜索空间、因果贝叶斯优化及高斯过程约束熵搜索等方法,应用于超参数调优、神经网络训练和过程系统设计等领域。

贝叶斯优化中的边界探索和未知物理约束

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-12T00:00:00Z

本文综述在线线性规划与资源分配研究,提出基于学习的在线算法,在近似预言机下改进复杂度并获得常数遗憾界;利用鲁棒估计为强化学习提供遗憾上界;针对未知分布与敌对分布设计统一算法;研究线性动态系统的在线控制与二次控制,实现O(√T)遗憾;并给出长期约束优化的次线性遗憾算法。

解耦学习与决策:用一阶方法突破在线资源分配中的 $O (√T)$ 障碍

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-11T00:00:00Z

该文综述安全强化学习方法,涵盖风险预防训练、概率安全约束、Lyapunov稳定性、模型预测控制与迁移学习,旨在引导智能体安全探索并规避不安全状态,在机器人仿真和连续控制任务中兼顾安全性、学习效率与控制性能。

强化学习与集成模型预测安全认证

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-06T00:00:00Z

本文综述了利用拉格朗日对偶与原始-对偶学习求解约束优化的多项研究。PDL通过自监督模仿增广拉格朗日轨迹,约束违规极小;DIPL与DSL学习对偶可行解并提供质量证明;DeepLDE保证可行性与收敛。这些方法还应用于SLAM、最优潮流、持续学习和背包问题,兼顾效率与可行性。

对偶 Lagrangian 学习用于锥优化

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-05T00:00:00Z

该文综述了机器学习与优化结合的多项研究,包括:用对数障碍项替代二次惩罚训练神经网络求解优化问题;提出自监督原始-对偶学习PDL逼近约束优化最优解;针对交流最优潮流采用凸松弛与对偶架构;提出内点策略优化IPO处理累积约束强化学习;结合混合整数规划的Neural Diving与Neural Branching;加速半定规划内点法;用凸优化与双层优化实现神经符号端到端学习;零阶内点法求解约束马尔可夫决策;以及双层规划的半无限多项式转化与半定松弛求解。

双内点优化学习

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-02-04T00:00:00Z

本文综述约束条件下上下文赌博机的研究进展,涵盖预算与时间限制、资源消耗、背包约束、公平性约束及半参数非线性混淆等问题;OPLB、UCB-ALP等算法实现近最优或对数级后悔界,部分工作给出下界与模拟结果,并将相关技术推广至拍卖等战略场景。

带阶段约束的情境强化学习

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-01-15T00:00:00Z

本文综述了拉格朗日方法在多领域的扩展应用:将欧几里得情形推广到黎曼流形约束优化;提出新乘数更新法以解决安全强化学习中的超调振荡;用于图像恢复约束问题;提出“代理拉格朗日”处理非凸非可微分类约束;用笛卡尔坐标加乘子提升精度与数据效率百倍;以随机增广拉格朗日正则化深度网络;用图神经网络预测乘子加速分支定界;提出无模型学习框架处理未知目标与约束;用增广拉格朗日结合小批量训练提升效率;借对偶框架改进背包问题的约束满足。

在无限维希尔伯特空间中学习一些玩具约束优化问题的解决方案

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-01-02T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码