小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

本研究提出C3oT压缩框架,解决链式思维过长导致的高解码成本问题。通过训练长短CoT,实验结果显示生成的CoT长度缩短超过50%,且有效性未降低,具有实际应用潜力。

C3oT:在不妥协有效性的前提下生成更短的思维链

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-12-16T00:00:00Z

本文介绍了一种新的神经网络压缩框架,利用简洁再参数化和噪声稳定性来估计神经网络的泛化性能。研究表明,模型压缩能够提升泛化能力,并提供新的泛化误差界限。通过低秩分解和互信息分析,提出了有效的压缩方法,并在多种网络和数据集上展示了其优越性。此外,研究还探讨了无标签学习和统计监督学习算法的泛化误差界限,提出了基于Loss Gradient Gaussian Width的泛化保证方法。

样本压缩释放:针对实值损失的新泛化界限

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-09-26T00:00:00Z

本文提出了一种新的深度神经网络压缩框架,利用OPO和OTO技术,通过结构稀疏优化和新算法HSPG,实现高效模型剪枝,显著降低计算成本,同时保持准确性。研究展示了在多个数据集上取得的先进性能。

加速需求:一种修剪变换器的方法

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-03-26T00:00:00Z

LightHuBERT是一种基于Transformer的压缩框架,可以自动找到所需的结构,成功地将嵌套数千个共享权重子网的基于Transformer的超网进行了设计。在ASR和五个SUPERB任务上,LightHuBERT表现优于原始的HuBERT,并在三个SUPERB任务中具有3.5倍的压缩比。同时,它可以实现29%的参数减少,并提供代码和预训练模型。

快速 - HuBERT:用于无监督语音表示学习的高效训练框架

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2023-09-25T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码