小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究提出了SEAL框架,旨在解决增量学习中新任务学习与旧知识保留的平衡问题。通过动态调整模型结构和交叉蒸馏训练,SEAL在减少遗忘和提高准确性的同时,显著降低了模型大小,展现了其高效性和适应性。

SEAL: Searchable Expandable Architecture for Incremental Learning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-15T00:00:00Z

本研究填补了自解释神经网络综述的空白,强调其在模型结构中揭示预测原理的能力。通过五个关键视角总结现有研究,提供可视化案例,并识别领域挑战与未来研究方向。

A Comprehensive Survey of Self-Explaining Neural Networks

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-26T00:00:00Z

本研究针对法语命名实体识别数据不足的问题,探讨了模型结构、语料标注和数据增强等方法,将模型的F1分数从62.41提升到79.39,显示出综合考虑不同因素能显著提高性能。

法语命名实体识别的外部因素比较分析

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-16T00:00:00Z

图像三维重建是一项复杂任务,涉及从图像推断三维形状。本文综述了最新技术,特别是生成新视角的方法,涵盖输入类型、模型结构、输出表示和训练策略。讨论了未解决的挑战和未来研究方向,强调全面研究算法的重要性。

基于多视角扩散模型的高斯喷涂中生成物体插入

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-25T00:00:00Z

提出了一种名为Layer Collapse (LaCo)的逐层修剪方法,可快速减小模型大小并保留模型结构。实验证明,在修剪比例为25-30%时,该方法保持了超过80%的平均任务性能,优于现有的结构修剪方法。还进行了后训练实验,验证了该方法有效继承了原始模型的参数,并评估了大型语言模型在不同修剪比例下的性能。

优化大型语言模型的压缩方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-28T00:00:00Z

提出了一种名为Layer Collapse (LaCo)的逐层修剪方法,能够快速减小模型大小并保留模型结构。实验证明,在修剪比例为25-30%时,该方法能够保持超过80%的平均任务性能,优于现有的结构修剪方法。同时,后训练实验证实了该修剪方法有效继承了原始模型的参数,并从逐层相似性的角度讨论了提出该方法的动机。还评估了大型语言模型在不同修剪比例下的性能。

ShortGPT: 大型语言模型中的层次关系比您预期的更冗余

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-06T00:00:00Z

TextBrewer是一个基于PyTorch的知识蒸馏工具包,支持多种模型结构和NLP任务。它提供了方便快捷的蒸馏框架,无需修改模型结构。用户只需准备好教师模型、学生模型、训练数据和配置,即可开始蒸馏。TextBrewer在多个典型NLP任务上取得了较好的压缩效果。安装要求Python和PyTorch版本。蒸馏流程包括准备和蒸馏两个阶段。TextBrewer提供了示例和实验结果,用户可以根据需求选择配置和函数进行蒸馏。

一文详解TextBrewer

华为云官方博客
华为云官方博客 · 2023-08-08T08:10:44Z

基于事件的传感器具有高时间分辨率和动态范围,适用于高速平台。脉冲神经网络适用于基于事件的数据,具有稳定训练和高性能的优势。我们开发了一种高效的脉冲特征金字塔网络用于基于事件的目标检测,在基准数据集上取得了显著成绩。我们的模型结构简洁,同时保持高精度和较低计算成本。

SSTFormer:连接脉冲神经网络和具备记忆支持的转换器用于基于帧事件的识别

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-08-08T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码