小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
减少灌输以容纳更多:训练数据修剪提升事实记忆能力

本文探讨了大语言模型(LLMs)在记忆事实知识方面的挑战,并提出通过训练数据修剪来提高事实准确性。研究表明,当训练数据中的信息量超过模型容量时,事实准确性会下降。作者提出了一种基于训练损失的数据选择方案,能够有效提升模型的事实记忆能力,甚至使小模型的表现接近大模型。

减少灌输以容纳更多:训练数据修剪提升事实记忆能力

Apple Machine Learning Research
Apple Machine Learning Research · 2026-04-13T00:00:00Z
Deepak Mahto:PostgreSQL 分区修剪:函数波动性的作用

在使用PostgreSQL的分区表时,过滤条件中的函数波动性会影响查询性能。使用不稳定的函数(如clock_timestamp())可能导致全分区扫描,浪费资源。因此,建议在分区过滤中使用稳定函数(如now()和statement_timestamp()),以提高性能。理解函数波动性对编写高效SQL至关重要。

Deepak Mahto:PostgreSQL 分区修剪:函数波动性的作用

Planet PostgreSQL
Planet PostgreSQL · 2025-11-04T14:39:01Z
这款机器人割草机旨在采摘水果并为您的狗扔球

NexLawn推出了Master X系列概念机器人割草机,配备可伸缩机械臂,旨在减少维护工作。该机械臂可进行修剪、除草、采摘水果及与宠物互动,设计多功能,尚未上市。

这款机器人割草机旨在采摘水果并为您的狗扔球

The Verge
The Verge · 2025-09-05T07:30:00Z
飞利浦将允许您使用3D打印的零件和配件修理您的修剪器

飞利浦推出“Fixables”计划,允许消费者在捷克3D打印个人健康产品的小配件。用户可通过Printables平台下载打印文件,目前仅有一款可调梳子。飞利浦与Prusa Research合作,确保替换件的质量与安全性,但耐用性依赖用户遵循打印指南。该计划有助于可持续发展,但需推出更多配件以实现真正改善。

飞利浦将允许您使用3D打印的零件和配件修理您的修剪器

The Verge
The Verge · 2025-05-12T20:28:34Z

本研究探讨了大型语言模型的压缩技术,重点分析了修剪与量化的联合应用。引入了新的语义保留压缩率(SrCr)指标,证明在相同理论压缩率下,推荐的压缩组合性能提升了20%。

Semantic Retention and Extreme Compression in Large Language Models: Can We Achieve Both?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-12T00:00:00Z
40% 更小的语言模型:群体修剪提升混合变换器-状态空间模型的效率

该研究提出了一种新技术,通过修剪状态空间组件来压缩大型语言模型,结合变换器和状态空间模型(SSM)架构,实现了高达40%的压缩,同时保持性能。引入了适用于多种模型尺寸和任务的群体感知修剪方法,专门针对Mamba模型。

40% 更小的语言模型:群体修剪提升混合变换器-状态空间模型的效率

DEV Community
DEV Community · 2025-04-21T20:05:25Z
SPO600:项目第三阶段 - 增强克隆修剪分析

本文介绍了GCC克隆修剪分析的第三阶段,扩展了对单个程序中多个克隆函数的处理,并在x86_64和aarch64架构上进行了测试。通过改进数据结构和比较算法,实现了对多个函数变体的跟踪与分析,成功识别出应修剪的函数。

SPO600:项目第三阶段 - 增强克隆修剪分析

DEV Community
DEV Community · 2025-04-19T17:49:10Z

本研究解决了深度神经网络在资源受限环境中部署时的复杂性问题。提出了一种基于组件感知的修剪策略,通过扩展依赖图来隔离各个组件及其流动,从而生成较小的、针对性的修剪组,保持功能完整性。研究表明,该方法在控制任务中取得了更高的稀疏性和更低的性能下降,为高效优化复杂的多组件深度神经网络开辟了新路径。

基于组件感知图分析的多组件神经架构增强修剪策略

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-17T00:00:00Z
项目阶段 2,第 3 部分:修剪建议!

本文介绍了通过比较函数的“指纹”来判断函数是否可修剪。主要步骤包括遍历基本块、统计语句数量、比较GIMPLE语句模式和变量使用情况,最终输出修剪建议。

项目阶段 2,第 3 部分:修剪建议!

DEV Community
DEV Community · 2025-04-06T03:16:51Z
SPO600项目第二阶段,第一部分:是否进行“修剪”

本文介绍了SPO600项目第二阶段,重点比较函数的不同变体以确定是否可以进行“修剪”。通过GIMPLE表示法分析控制流图,识别相似性,若变体在控制流图及操作数数量和内容上相同,则可考虑修剪。下一篇将探讨识别函数变体的步骤。

SPO600项目第二阶段,第一部分:是否进行“修剪”

DEV Community
DEV Community · 2025-04-05T22:41:39Z

本研究首次将标记修剪应用于基于ViT的音频分类模型,优化了性能与计算成本的平衡。结果显示,TopK标记修剪可减少30-40%的MAC操作,分类准确率仅下降不到1%。高强度标记对准确性贡献显著,低强度标记在音频分类中同样重要。

音频变换器中的标记修剪:优化性能和解码补丁重要性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-02T00:00:00Z

周末,父子俩一起修剪后院的竹子,儿子虽然遇到困难,但依然坚持参与。随后,他们又除草,儿子将其比作“排雷”,受到电视剧的影响。通过劳动,父子俩增进了感情,享受了快乐的时光。

父范学堂 2511 剪竹与排雷

conge
conge · 2025-03-19T11:50:40Z

本研究针对知识增强生成(KAG)中的知识冲突问题,提出了一种基于参数修剪的新方法——PIP-KAG。该方法通过修剪大型语言模型的内部知识,并引入可插拔的适应模块,以更有效地利用外部知识。实验结果表明,PIP-KAG显著减少了知识冲突,提高了情境忠实度,同时在KAG框架内将模型参数减少了13%,提升了参数效率。

通过参数修剪减轻知识增强生成中的知识冲突

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-21T00:00:00Z

本研究提出了一种新方法——每层每头视觉标记修剪(PLPHP),旨在提高大型视觉语言模型的推理效率。该方法通过动态调整视觉标记保留率,显著提升解码速度18%,减少缓存大小,同时保持较小的性能损失。

PLPHP:用于高效大型视觉语言模型的每层每头视觉标记修剪

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-20T00:00:00Z

该研究针对复杂查询回答(CQA)在不完整知识图谱上的挑战,通过提出一种基于预训练神经链接预测器的神经符号消息传递框架(NSMP)来应对消息传递方法在负查询和噪声消息处理上的不足。此方法引入符号推理和模糊逻辑,无需训练即可处理任意存在性一阶逻辑查询,提供可解释的答案,并在推理时间上优于现有的最先进的神经符号方法。

动态修剪的神经符号消息传递

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-24T00:00:00Z

本研究提出了一种名为语言引导视觉令牌修剪(LVPruning)的方法,旨在减少多模态大型语言模型的计算负担。该方法通过评估视觉令牌的重要性,能够将视觉令牌数量减少至多90%,仅导致约0.45%的性能损失,显示出良好的应用潜力。

LV Pruning: An Effective and Simple Language-Guided Vision Token Pruning Method for Multi-Modal Large Language Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-23T00:00:00Z

本研究解决了长思维推理大语言模型在面对复杂问题时推理时间过长带来的效率挑战。我们提出了一种新颖的长度协调微调方法(O1-Pruner),通过预采样评估模型性能,结合强化学习风格的微调,促使模型在保持准确性的同时生成更短的推理过程。实验结果表明,O1-Pruner显著降低了推理开销,同时提高了准确性,提供了一种有效的解决方案。

O1-Pruner:用于O1-like推理修剪的长度协调微调

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-22T00:00:00Z
肖恩·博登:为什么我的查询没有从分区修剪中受益?

一位客户在将查询从Oracle迁移到Postgres时遇到性能下降,尽管查询中已明确指定分区键,但未能有效进行分区修剪。通过调整查询,成功实现分区修剪,提升了性能。

肖恩·博登:为什么我的查询没有从分区修剪中受益?

Planet PostgreSQL
Planet PostgreSQL · 2024-12-18T20:40:49Z

本研究提出了一种名为SpeechPrune的标记修剪策略,旨在解决语音大型语言模型处理长语音输入的局限性。该策略通过语音-文本相似性和注意力分数剔除无关标记,在SPIRAL基准测试中,20%的修剪率下精度提升29%,并在高达80%的修剪水平下保持网络性能。

SpeechPrune:一种面向上下文的语音信息检索标记修剪方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-16T00:00:00Z
防止长毛吉娃娃打结和纠结

照顾吉娃娃的美容和维护至关重要。短毛吉娃娃每周刷一次,4-6周洗澡一次;长毛吉娃娃每周刷2-3次,3-4周洗澡一次。定期修剪指甲和清洁耳朵也很重要,以保持健康和舒适。

防止长毛吉娃娃打结和纠结

DEV Community
DEV Community · 2024-12-15T02:26:19Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码