小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文探讨了流形上的最速下降问题,提出了对偶梯度下降法。通过分析核范数梯度,作者将约束优化问题转化为最小化目标函数,从而计算流形上的优化方向。

流形上的最速下降:5. 对偶梯度下降

科学空间|Scientific Spaces
科学空间|Scientific Spaces · 2025-11-03T02:22:00Z

本文探讨了约束优化中“最速下降方向”与梯度的关系,强调不同范数对最速下降方向的影响。通过分析SGD在超球面上的应用,提出了“最小作用量原理”,并讨论了在约束条件下的参数更新优化方法。

流形上的最速下降:1. SGD + 超球面

科学空间|Scientific Spaces
科学空间|Scientific Spaces · 2025-08-01T02:32:00Z

本研究提出了一种新方法——Frank-Wolfe合并(FW-Merging),旨在解决多任务学习中模型合并的适应性和扩展性问题。FW-Merging通过约束优化显著提高了合并的准确性和稳定性,实验结果表明其在多个模型合并中表现优异,且内存开销保持恒定,具有潜在应用价值。

FW Merging: Extending Model Merging Using Frank-Wolfe Optimization

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-16T00:00:00Z

本研究探讨了自动提示工程的优化,解决了手动提示工程的局限性。通过将提示优化形式化为最大化问题,建立了基础框架,系统性组织了优化方法,揭示了约束优化和面向代理的提示设计的潜力。

A Survey of Automatic Prompt Engineering: An Optimization Perspective

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-17T00:00:00Z

本研究提出了一种新方法,将可解释机器学习中的预测解释任务视为约束优化问题,从而生成模型无关的解释。实证结果表明,该方法在多个数据集上优于现有的启发式方法Anchors。

Learning Model-Agnostic Explanations via Constraint Programming

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-13T00:00:00Z

本研究分析了视频多模态大语言模型在视觉上下文表示上的不足。通过将任务转化为约束优化问题,研究了帧和标记选择对性能的影响。结果显示,提出的方法与实验结果一致,具有应用潜力。

探索视频中的视觉上下文表示设计空间

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-17T00:00:00Z

本研究提出了FlipGuard,一种约束优化方法,旨在解决大语言模型在偏好一致性方面的更新回退问题。实验结果表明,FlipGuard有效减轻了更新回归,同时保持了知识保留和整体表现。

FlipGuard: Defending Preference Consistency against Update Regression through Constrained Optimization

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-01T00:00:00Z

本文探讨了机器学习在约束优化问题中的应用,介绍了结合神经网络的优化加速、Branch & Learn框架和Primal-Dual Learning等新方法。这些方法显著提高了求解效率和精度,展示了在大规模优化问题中的潜力。

自监督学习的约束优化迭代求解器

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-12T00:00:00Z

本文探讨了机器学习在符号计算和约束优化中的应用,特别是支持向量机在变量排序和问题实例识别中的优势。研究表明,机器学习超越了传统启发式算法,有效提高了求解效率和准确性。结合深度学习和可解释AI技术,机器学习为符号计算提供了新的视角,推动了该领域的发展。

基于机器学习的cvc5中量词选择

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-26T00:00:00Z

本研究提出了一种基于悲观值迭代的离线强化学习方法,结合数据自举和约束优化,解决样本复杂度和次优性问题。同时,探讨了鲁棒离线强化学习中的函数逼近困难,并提出利用人类反馈的算法,以优化查询复杂度和样本效率。

离线强化学习中基于示例的最优订单界限与偏好反馈

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-18T00:00:00Z

本文提出了一种新颖的框架,将约束优化与深度学习结合,设计了神经辅助算法以最大化网络切片的资源利用率。该算法在不同场景下表现出优越的服务质量和泛化性能,显著提高了资源利用率并降低了延迟。

学习切割 Wi-Fi 网络:一种状态增强的原对偶方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-09T00:00:00Z

本文介绍了一种通过约束优化观点,在多样性和质量之间权衡的方法,成功地在一个本地导航任务中训练出的策略转移到了实际的四足机器人 Solo12 上,展示了多样的机敏行为和成功的障碍物穿越。

通过人类反馈实现多样性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-10T00:00:00Z

DDG是一种处理机器学习模型泛化问题的方法,采用基于约束的优化形式,以有限维参数化和经验逼近的方式进行简化,并提出了一种基于原始对偶算法来实现表示分离和域泛化的方法。

面向领域泛化的领域特定特征解缠

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-04T00:00:00Z

本文介绍了交替方向乘子法(ADMM)及其在约束优化中的应用。ADMM通过将原问题分解为两个块,利用增强拉格朗日函数进行优化。文中阐述了对偶上升法和乘子法的选择及其在求解约束优化问题中的重要性。ADMM的步骤包括交替最小化变量和更新拉格朗日乘子,提供了一种有效的求解方法。

交替方向乘子法简介

Xihan Li
Xihan Li · 2019-12-17T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码