量子位
·
中国唯一！阿里千问斩获全球AI顶会最佳论文
💡
原文中文，约1300字，阅读约需4分钟。
📝
内容提要
阿里通义千问团队在NeurIPS 2025会议上获得最佳论文奖，成为唯一获此荣誉的中国团队。研究揭示了注意力门控机制对大模型性能的影响，推动了AI技术的发展。该成果已应用于Qwen3-Next模型，显著提升了性能与鲁棒性。
🎯
关键要点
- 阿里通义千问团队在NeurIPS 2025会议上获得最佳论文奖，是唯一获此荣誉的中国团队。
- 研究揭示了注意力门控机制对大模型性能和训练的影响，推动了AI技术的发展。
- NeurIPS是人工智能领域影响力最大的顶会之一，吸引了全球顶尖科技公司和机构的论文投稿。
- 现有注意力机制存在局限性，影响模型性能和训练稳定性，业界开始探索优化方案。
- 门控机制被认为是模型的“智能阀门”，可以帮助模型过滤无效信息并提升性能。
- 通义千问团队通过大量实验首次揭秘了门控注意力的作用原理，并展示了最佳使用方式。
- 实验结果显示，门控注意力显著提升模型性能，且在大规模模型训练中表现更佳。
- 研究成果已应用于Qwen3-Next模型，显著提升了模型的性能与鲁棒性，并已开源。
- 阿里千问已开源300多款模型，全球下载量突破7亿次，衍生模型超过18万个，位居全球第一。
🏷️
标签
➡️
