《机动战士高达 00》推出了搭配Gundam Exia的Metal Build GN Arms TYPE-E，预计会迅速售罄。《机动战士高达 SEED》发布了Force Impulse Gundam，未来可能有更多模型。《机动战士高达 Unicorn》推出了全新配色的限定版模型。《游戏王》发布了龙骑士黑魔导女孩，《数码宝贝》则有钢铁加鲁鲁复刻，变形金刚推出了声波及其磁带战士模型组合。

2024年7月和8月推出了多款新模型手办，包括钢铁机神、变形金刚汽车人领袖补天士Rodimus等。万代重新推出了Metal Build Strike Freedom光翼再版和Robot Spirits Duel Gundam Assault Shroud ver. A.N.I.M.E.。此外，还有Metal Build Double O Quanta Full Saber和命运石之门的牧濑红莉栖手办。

介绍恢复了一首 15 世纪朝鲜宫廷音乐《Chihwapyeong and Chwipunghyeong》的项目，使用 Jeongganbo 这种朝鲜音乐记谱系统的数据，并通过 BERT-like 的 masked language model 和 encoder-decoder transformer model 将其转换为可演奏的六部合奏曲目，从而证明在有限的训练数据下，生成模型可以成功应用于传统音乐。

本文介绍了一种基于Transformer的大孔修复模型，结合图像处理和Transformer的优势，利用动态掩码聚合非局部信息，取得了先进的修复效果。同时，综述了图像和视频修复方法，分类了基于Transformer的技术，并提出了未来研究的建议。

本研究提出了一种双阶段训练方法，利用预训练的文本到图像模型生成可编辑的姿态可控字符视频。通过稳定的视频扩散和人体姿态控制，VividPose 展现了出色的性能和泛化能力，并介绍了多种姿态转移和估计方法，展示了在时尚视频和人体姿态检测中的应用潜力。

本文提出了一种名为Receptance Weighted Key Value（RWKV）的新型模型体系结构，将Transformer的并行训练与RNN的高效推理相结合，并利用线性注意机制，使模型在训练期间并行计算，在推理期间保持计算和记忆的复杂度恒定。实验表明，RWKV的表现与同样大小的Transformer相当，为权衡计算效率和模型性能迈出了重要的一步。

本文通过几何视角揭示了Transformer操作的内部机制，说明层归一化将潜在特征限制在超球面上，从而塑造了单词的语义表示。通过探究GPT-2模型，发现了早期层中的清晰查询-键注意力模式，并构建了关于注意力头部的特定主题性的先前观察。通过这些几何洞察，给出了Transformer的直观理解。

本研究比较了递归神经网络（RNNs）和变压器（Transformers）在解决算法问题时的表示能力，发现RNNs通过增强上下文检索能力的技术可以解决多项式时间可解问题，消除与Transformers之间的表示差距。

深度学习中的稳健泛化是一个重大挑战，研究发现正则化方法可以提高网络的准确性，并通过机械解释来理解其效果。训练动态包含两个连续阶段。

使用因果干预分析展示，Transformers可以线性、可解释地表示某些语言特征。BERT的动词变位能力依赖于一种线性编码的主语数量，可以在第一层和最后一层位置操纵并影响变位准确性。该编码在中间层位置分布在多个位置之间。

该研究探讨了Transformer模型中attention权重的可辨识性，并提供了一种解决权重不唯一问题的编码器层变体。实验结果表明该方法在文本分类任务中有效。

该研究探讨了Transformer在抽象符号关系推理任务中的表现。研究发现，Transformer需要大量训练数据才能泛化，且随着嵌入维度的增加，泛化能力下降。研究提出了微调Transformer的方法，通过添加可训练参数来减少所需数据量。

该文介绍了基于强化学习的分子设计算法ChemRLformer，通过广泛实验发现了该领域的独特见解，并展示了其在文本分子设计中的最新成果。同时，揭示了文本分子设计中的有用设计选择。

本文摘自 勾三股四 更早时期的 不老歌 博客。