分子大模型升级，Uni-Mol+加速量子化学属性预测，深势科技、北大研究登Nature子刊
内容提要
深势科技与北京大学合作推出Uni-Mol+，利用3D构象进行量子化学属性预测，提高了预测准确性。该模型基于双轨Transformer，通过迭代更新3D坐标来达到平衡构象。研究结果发表在《Nature Communications》上，证明了Uni-Mol+的有效性。该方法有望提高计算材料和药物设计的效率。
延伸解读
从1D/2D到3D：量子化学预测的范式转变
传统深度学习方法常以1D SMILES或2D图作为输入，但量子化学性质高度依赖精细的3D平衡构象，导致预测精度受限。Uni-Mol+创新性地利用3D构象，并通过迭代更新坐标逼近DFT平衡构象，从而显著提升预测准确性。这一转变表明，对于量子化学属性预测，3D信息的引入至关重要，为后续研究提供了新方向。
双轨Transformer与迭代优化：模型架构的核心创新
Uni-Mol+采用双轨Transformer主干，分别处理原子表示和对表示，并通过外积和三角算子增强几何信息，这些算子借鉴自AlphaFold 2。模型通过迭代过程不断更新3D坐标，逐步达到平衡构象。这种设计有效捕捉了分子内复杂相互作用，是性能超越基线的重要原因。
伪轨迹与混合采样：训练策略的关键作用
由于实际构象优化轨迹通常未知，研究人员提出使用伪轨迹，并设计混合伯努利分布和均匀分布的采样策略。消融研究表明，从RDKit构象、中间构象和目标构象的混合中采样效果最佳，仅从单一构象采样则性能下降。这强调了训练中引入不同构象混合物对于减少分布偏移、提升模型泛化能力的重要性。
基准测试表现：显著超越先前方法
在PCQM4MV2和OC20基准上，Uni-Mol+均优于先前最先进方法。在PCQM4MV2上，单模型性能比之前SOTA相对提升11.4%，且18层模型无需集成即超越依赖112个模型集成的GPS++。在OC20 IS2RE任务上，Uni-Mol+在MAE和EwT指标上均表现更优。这些结果证明了Uni-Mol+在量子化学属性预测和催化剂发现等任务中的有效性和通用性。
Q&A
Uni-Mol+模型的主要创新点是什么？
Uni-Mol+模型基于双轨Transformer，通过迭代更新3D坐标来平衡构象，显著提高了量子化学属性预测的准确性。
Uni-Mol+在量子化学属性预测中表现如何？
Uni-Mol+在PCQM4MV2和Open Catalyst 2020基准测试中表现优异，超越了现有的解决方案，准确性显著提高。
Uni-Mol+的训练策略有什么特别之处？
Uni-Mol+采用了一种新颖的训练策略，通过生成伪轨迹进行构象优化，并混合使用伯努利分布和均匀分布进行采样。
Uni-Mol+的应用潜力有哪些？
Uni-Mol+不仅能预测量子化学性质，还能有效预测平衡构象，具有广泛的应用潜力，如计算材料和药物设计。
研究结果发表在哪个期刊上？
研究结果发表在《Nature Communications》上。
Uni-Mol+如何优化构象以提高预测准确性？
Uni-Mol+通过迭代更新原始3D构象，学习目标构象，即DFT优化的平衡构象，从而提高预测准确性。
