小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究提出了双重注意力变换器(DAT)和残差双重非局部注意力网络(RDNLA)两种新模型,以提高复杂环境下的信号检测和解码效率。实验结果显示,这些模型在不同信噪比条件下显著优于传统方法,具有在下一代通信系统中的应用潜力。

Design and Evaluation of Neural Network-Based Receiver Architectures for Reliable Communication

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-26T00:00:00Z

本研究提出了一种新框架,用于评估生成语言模型在任务级输出选择中的解码效率。研究发现,解码无关的候选选择方法在多样化任务中表现优异,为未来模型设计提供了重要见解,尤其是在大规模候选池的应用潜力方面。

Inferring from Logits: Exploring Best Practices for Decoding-Free Generative Candidate Selection

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-01-28T00:00:00Z

该研究提出了一种新颖的“信念状态变换器”,通过预测前缀的下一个标记和后缀的前一个标记,克服了传统向前变换器的局限性。研究表明,该方法在故事写作任务中优于传统方法,提高了解码效率和文本表示质量。

Achieving Goals through Belief State Transformer Learning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-30T00:00:00Z

本文介绍了一种新型神经表示方法NeRV,旨在提高视频编码和解码效率。研究提出了多种基于隐式神经表示(INR)的视频编解码技术,如TINC和NN-VVC,展现出优于传统方法的性能。通过特征调制和混合神经表示,进一步提升了视频压缩效果,解决了复杂性和延迟问题,为实际应用奠定基础。

神经视频表示压缩

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-11T00:00:00Z

本文介绍了多种加速大型语言模型(LLM)推理的方法,如LLMA、Vistaar和METHODNS,显著提升了多语言和低资源语音识别的性能。研究还提出了分阶段投机性解码和混合方法,以优化解码效率、降低延迟并保持输出质量。此外,通过助理模型的训练,进一步减少了推理时间,增强了多语言环境中的应用效果。

SALSA:快速的ASR-LLM同步聚合

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-29T00:00:00Z

本文介绍了一种通过知识蒸馏和投机解码技术(DistillSpec)加速大型语言模型推理的方法。该方法在多项基准测试中实现了10-45%的加速,并有效降低了解码延迟。结合轻量级草稿模型和新采样机制,显著提高了解码效率,实验结果显示在多种模型架构中优于现有方法。

通过特征采样和部分对齐蒸馏提升无损推测解码能力

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-28T00:00:00Z

Clover是一种新推理解码算法,通过将顺序知识融入并行解码,提高了预测准确率和效率。实验证明,Clover在Baichuan-Small和Baichuan-Large上分别提高了最多91%和146%。该算法结合了经典与新型推测解码技术,显著提升了大型语言模型的解码效率,降低了推理时间。

Clover-2:精确的回归式轻量级推理解码

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-01T00:00:00Z

本文提出了一种基于句子级检索的最近邻机器翻译框架,旨在提高kNN-MT模型的解码和存储效率,同时保持翻译性能。研究表明,该框架在速度和存储要求上优于传统模型,并能适应不同领域,提升翻译准确性。

具备 GPU 推理的简单可训练最近邻机器翻译

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-29T00:00:00Z

本文提出了一种新的自适应推测解码策略,旨在提高大型语言模型(LLMs)的推理速度和GPU利用率。通过批处理和多候选验证算法,显著提升了候选标记的接受率,达到或超过传统解码性能。该方法在多个模型和数据集上表现出色,能够在不改变模型架构的情况下实现加速,提升解码效率。

BASS: 批处理优化注意力的推测采样

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-24T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码