小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
SpectralCentroidTransformer:神经振荡启发的语言建模

本文介绍了一种名为SpectralCentroidTransformer(SCT)的语言模型架构,灵感源自神经科学。该模型通过频率分解和语义聚类,将语言建模分为两个阶段,以提高可解释性和鲁棒性。实验结果显示,SCT在标准NLP基准测试中表现优异,更好地捕捉语言内在结构。

SpectralCentroidTransformer:神经振荡启发的语言建模

DEV Community
DEV Community · 2025-04-30T20:31:22Z

本文针对FP4精度训练过程中显著的准确性下降问题,提出了一种新颖的TetraJet训练方法。通过评估训练中涉及的量化器,本研究识别出权重振荡是造成MXFP4训练性能降级的主要原因,并引入了EMA量化器和自适应坡度优化器来解决这一问题。实验结果表明,TetraJet在视觉变换器任务中优于现有的4位训练方法,准确性降低幅度减少超过50%。

减少振荡的MXFP4训练方法用于视觉变换器

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-28T00:00:00Z

光学超振荡衍射神经网络(SODNN)能实现超越衍射极限的超分辨空间分辨率,通过衍射层和非线性调制入射光场产生超分辨焦点。SODNN在400λ远场距离内生成了一个半高全宽为0.407λ的超振荡斑点,具有长景深且无副瓣。此外,SODNN还能实现多波长和多焦点斑点阵列。

超振荡衍射神经网络在超分辨率成像中的应用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-27T00:00:00Z

研究开发了基于生理学的语音识别体系结构,通过深度学习框架进行训练,揭示了神经振荡的出现,发现反馈机制对提高识别性能至关重要,对神经形态技术具有重要意义。

通过替代性梯度尖峰神经网络探索言语知觉中的神经振荡

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-22T00:00:00Z

该研究揭示了稳定扩散计算机视觉模型的隐私漏洞,并提出了一种新的会员推理攻击方法。研究评估了攻击的有效性,并呼吁采取增强安全措施。

振荡泄密:微调扩散模型能够放大生成的隐私风险

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-14T00:00:00Z

该研究提出了一种新的LLM服务范例,通过在边缘设备上进行隐私敏感计算并在云端共享计算,实现了数据本地性。核心创新PrivateLoRA通过利用低秩性质实现了超过95%的通信减少,同时提供了与LoRA相媲美的调优性能。该框架是文献中第一个高效且保护隐私的LLM解决方案。

一种成本效益和自适应的 LLM 振荡和恢复机制框架

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-03-12T00:00:00Z

电感器是一种将电能转化为磁能并存储的元件,具有滤波、振荡、延迟、陷波等作用。它由骨架、绕组、屏蔽罩、封装材料、磁心或铁心等组成。电感器分为自感器和互感器,具有通直流、阻交流的特性。常与电容器一起使用,构成LC滤波器、LC振荡器等。

讲讲电感器的结构、分类及特性!

良许Linux教程网
良许Linux教程网 · 2023-12-21T13:59:50Z

本文探讨了在边缘设备上部署量子化网络的策略,提出了基于指数移动平均的更新方法和纠正振荡误差的校正方法,通过实验证明这些方法能提升低精度YOLO网络在目标检测和分割任务的性能。

减少量化 YOLO 网络训练中的振荡副作用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-11-09T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码