在8月的AI Hacker House活动中，50位开发者参与了24小时的创作，完成了29个项目。此次活动由文心大模型与AI Hacker House联合举办，旨在为热爱AI的开发者提供高效的创造环境，支持项目原型化。活动定于2025年9月7日在上海举行。

该研究提出了AttentionSmithy，一个模块化软件包，旨在简化变压器架构的定制，帮助缺乏低级实现专业知识的领域专家快速原型化和评估变压器变体，从而加速研究进展。