BriefGPT - AI 论文速递 ·

Random Long-Context Access for Mamba via Hardware-aligned Hierarchical Sparse Attention

💡 原文英文，约100词，阅读约需1分钟。

📝

内容提要

本研究提出了一种层次稀疏注意力（HSA）机制，解决了递归神经网络（RNN）在随机访问历史上下文方面的局限性。结合HSA与Mamba形成的RAMba在6400万上下文中实现了完美的密码检索准确率，展示了其在长上下文建模中的潜力。

🏷️

通过专用GPU内核生成实现极致效率
Proteus系统利用智能体自动生成GPU专用内核，针对不同模型和运行时形状实现极致性能优化。通过严格验证、防作弊检查及知识层管理，Proteus为Qwe...
白宫正在制作种族主义的街机游戏
白宫发布了一系列以政策为主题的“街机”游戏，其中部分涉嫌种族歧视，并模仿了《俄罗斯方块》等知名游戏。例如“建墙”游戏要求玩家堆叠形状阻止移民，被《俄罗斯方...
营销人员使用Genie One的五个方法
本文介绍Databricks Genie One如何赋能营销团队，将数据转化为行动。它作为AI助手，帮助营销人员绕过分析师瓶颈，直接查询活动、客户和管道数...
GoPro表示仍致力于‘让您集体兴奋’
GoPro CEO Nick Woodman在致客户信中强调，公司仍以相机制造为核心，不会因与Starman的2.85亿美元合并而放弃消费级相机业务。他称...
罗兰推出生成式AI音乐插件Melody Flip
罗兰推出生成式AI音乐插件Melody Flip，提供约250种风格调色板，可生成旋律、和弦、贝斯或鼓点，但输出为简单循环而非完整歌曲，旨在激发创作灵感。...
AGI，你想它是什么，它就是什么
本期《Vergecast》播客讨论OpenAI发布GPT-6 Astra并宣称进入“AGI时代”，Nvidia收购Hugging Face，苹果新CEO及...