科学空间|Scientific Spaces ·

线性注意力简史：从模仿、创新到反哺

📝

内容提要

在中文圈，本站应该算是比较早关注线性Attention的了，在2020年写首篇相关博客《线性Attention的探索：Attention必须有个Softmax吗？》时，大家主要讨论的还是BERT...

➡️

绿盟科技当选中国网络安全产业创新发展联盟副理事长单位，共启 “十五五” 产业发展新篇
4月17日，中国网络安全产业创新发展联盟在成都召开会议，绿盟科技当选副理事长单位。会议讨论了年度重点工作，绿盟科技将深化产学研合作，推动技术创新和产业协同...
Mythos架构被22岁小伙“逆推”开源了！MoE和注意力借鉴DeepSeek
OpenMythos是一种新型的循环深度Transformer架构，采用MoE路由机制，通过跨专家权重共享实现高效推理。在参数量减少近一半的情况下，其性能...
谷歌照片图像编辑器中的新修饰工具让您快速进行细微调整。
谷歌照片推出新的修饰工具，帮助用户快速改善照片效果，包括细化肤质、去除瑕疵、提亮眼睛和美白牙齿。用户只需选择面部并调整效果强度。这些工具正在全球范围内逐步...
《堡垒之夜》开发者现在可以创建AI角色——但请不要试图与他们约会
Following last year's AI-powered Darth Vader in Fortnite that swore in a ...
纪念克里斯托弗·亚历山大：1. 生命中心对自我导向教育的重要性
Note: This is a lengthy piece; however, … 继续阅读 → The post In memory of Chris...
Git 2.54 版本亮点
The open source Git project just released Git 2.54. Here is GitHub’s look at ...