Uni-Mol2:规模化探索分子预训练模型
📝
内容提要
通过使用两个通道的变压器模型并对模型大小、数据集大小和计算资源进行特性化研究,成功构建了迄今为止最大的 1.1 亿参数的分子预训练模型 Uni-Mol2,并在下游任务中展现了一致性的性能改进和超越现有方法。
➡️
通过使用两个通道的变压器模型并对模型大小、数据集大小和计算资源进行特性化研究,成功构建了迄今为止最大的 1.1 亿参数的分子预训练模型 Uni-Mol2,并在下游任务中展现了一致性的性能改进和超越现有方法。