小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate

ICML 2025 Oral!北大和腾讯优图破解AI生成图像检测泛化难题:正交子空间分解

机器之心
机器之心 · 2025-07-12T13:38:36Z

本研究分析了大语言模型在安全对齐方面的脆弱性,指出模型的安全行为受到广泛学习动态的影响,挑战了安全对齐独立几何方向的假设,并强调了在持续训练中保持对齐的重要性。

安全子空间并不独立:一个微调案例研究

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-20T00:00:00Z

本研究提出HRLFS方法,利用大型语言模型提取特征,解决强化学习在复杂数据集中的特征选择效率低的问题,从而提升机器学习性能并优化计算时间。

理解、划分与征服:通过多智能体层次强化学习进行特征子空间探索

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-24T00:00:00Z

本研究提出了近视子空间理论(MST)和V-GAN生成方法,以解决高维表数据中的异常检测和子空间选择问题。实验结果表明,V-GAN生成的子空间显著提高了分类性能,验证了其有效性。

用于高维数据异常检测的对抗子空间生成

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-10T00:00:00Z

该研究提出了一种新的持续全细调方案,解决大型语言模型的灾难性遗忘问题。通过自适应奇异值分解,动态识别低秩参数子空间,减少干扰,显著提升模型的准确性和语言能力保留。

塑造子空间:大型语言模型的约束全细调以实现持续学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-09T00:00:00Z

本文提出SQuat方法,解决键值缓存量化中的误差累积问题。该方法通过查询张量生成子空间,确保量化后的键与原始键正交,从而减小误差对注意力机制的影响。实验结果表明,SQuat在内存占用和处理能力上优于现有算法。

子空间正交的键值缓存量化

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-31T00:00:00Z

本研究解决了模型定制中获取多样化和高质量数据的困难问题。提出的TreeSynth框架通过递归划分数据空间,实现对合成数据的全面和多样化生成。实验结果显示,TreeSynth在数据多样性和下游任务表现上均优于现有方法,具有显著的改善效果。

TreeSynth:通过树导向子空间划分从零开始合成多样化数据

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-21T00:00:00Z

本研究提出了一种新方法CS-ReFT,旨在解决大型语言模型在多任务适应中的交叉技能干扰问题。该方法通过学习正交子空间变换,提升了多任务指令执行能力,并在AlpacaEval基准测试中表现优异。

适应性大型语言模型的组合子空间表示微调

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-13T00:00:00Z

本研究解决了大语言模型(LLM)在对抗性操作下的脆弱性问题,特别是通过提示注入攻击绕过安全机制生成有害内容的风险。我们提出了一种新颖的方法,通过提取隐藏激活状态,识别安全与被监狱化状态之间的潜在子空间,并通过扰动向量诱导模型向监狱化状态转变,从而实现预防性防御的可能性。

探测大语言模型中的潜在子空间以增强人工智能安全性:识别和操控对抗状态

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-12T00:00:00Z

本研究解决了大型语言模型微调中存在的参数高效性不足的问题,尤其是在低秩适应方法的限制下。通过提出一种新的子空间反卷积微调方法(DCFT),研究者们展示了如何通过调整内核大小来动态控制参数,突破了秩一分解的局限性,并在大量实验中验证了该方法比传统LoRA更具参数效率,降低了8倍参数同时保持良好的性能。

通过子空间反卷积实现大型语言模型的参数高效微调

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-03T00:00:00Z

本研究提出了一种新方法,针对多保护属性下的偏见检测问题,将其重新定义为测度空间中的点到子空间问题,展示了高效的子抽样能力,具有重要的实际应用价值。

子样本点到子空间距离的偏见检测样本复杂性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-04T00:00:00Z

本研究解决了现有方法在复杂风格适应上的不足和高计算成本的问题,提出了一种通过表示编辑生成风格化大型语言模型(LLM)响应的新方法DRESS。该方法利用LLM的超参数特性,解耦模型表示空间中的风格相关子空间,动态调整风格控制,从而在保持语义完整性的同时实现风格忠实度。研究结果显示,DRESS在风格化对话代理的开发上具有重要的应用价值。

通过风格子空间编辑高效的风格化问答:DRESS的提出

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-24T00:00:00Z

本文提出了一种基于子空间隐式神经表示的重建框架,解决了传统心脏运动磁共振成像在时间分辨率和动态捕捉方面的问题,显著提升了图像质量和高分辨率成像的诊断能力。

实时心脏运动磁共振成像的子空间隐式神经表示

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-17T00:00:00Z

潜在扩散模型在医学图像合成中应用广泛,但存在患者数据记忆化问题,可能导致隐私泄露。研究显示,CT、MRI和X射线数据集中分别有41.7%、19.6%和32.6%的记忆化现象。增加训练数据和数据增强可减少记忆化,而过度训练则会加剧。建议在开放数据共享前评估合成数据的记忆化影响。

利用再识别揭示视频扩散模型中的隐含子空间

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-07T00:00:00Z

本研究针对矩阵分解在流形学习中的挑战,提出了一种子空间约束的二次矩阵分解模型,旨在联合学习关键的低维结构。通过交替最小化方法解决该模型,实验结果表明,所提模型在捕捉核心低维结构方面超越了现有方法,显示出其鲁棒性和有效性。

子空间约束的二次矩阵分解:算法与应用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-07T00:00:00Z

本研究提出了一种新颖的子空间扩散模型(Sub-DM),有效解决了MRI重建中扩散模型收敛速度慢的问题,显著提升了重建速度和质量,具有较大的应用潜力。

Sub-DM:具有正交分解的子空间扩散模型用于MRI重建

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-06T00:00:00Z

本研究探讨生成模型在样本数据子空间内的合成能力,提出正交子空间分解网络(OSDNet),有效分解速度场,确保生成样本的相似性和多样性。

流匹配模型如何在样本数据子空间中记忆和概括

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-31T00:00:00Z

FlexLoRA是一种用于大语言模型微调的方案,通过动态调整LoRA等级和奇异值分解(SVD)优化权重,提升异构客户端资源的利用。在1600多个客户端的实验中,FlexLoRA使联邦全局模型在NLP任务上平均提升3.1%。该方法与现有LoRA联邦学习方法无缝集成,提供可扩展的隐私保护调整路径。

为什么选择梯度子空间?识别和缓解大语言模型联邦微调中LoRA的瓶颈

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-30T00:00:00Z

本研究提出了一种新水印技术“浅层扩散”,旨在解决AI生成内容中的误信息和版权问题。该方法通过低维子空间嵌入隐形水印,显著提升了水印的可检测性和数据一致性,优于现有技术。

浅层扩散:通过低维子空间在扩散模型中实现稳健且隐形的水印技术

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-28T00:00:00Z

研究比较了低秩适应(LoRA)与全精调在编程和数学领域的表现。结果表明,LoRA在大多数情况下性能不如全精调,但其正则化效果更佳,能够保持基础模型的多样性。全精调的扰动比LoRA高10-100倍,解释了性能差异。最后,提出了LoRA精调的最佳实践建议。

带有子空间正则化的受控低秩适应,用于大语言模型的持续训练

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-22T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码