使用 NVIDIA BioNeMo 框架训练用于药物研发的生成式 AI 模型
内容提要
NVIDIA BioNeMo框架用于药物研发的生成式AI模型训练，提供了优化的蛋白质和小分子模型架构和工具，具有高吞吐量和可扩展性。
延伸解读
BioNeMo 的部署选项与适用场景
BioNeMo 提供多种部署方式：既可作为 NVIDIA DGX 云上的完全托管服务，也可通过 NVIDIA Base Command 平台使用，还能以可下载框架的形式部署在本地基础设施或各类云平台。这种灵活性意味着研究团队可以根据自身的数据安全要求、算力资源和预算选择合适方案。对于希望快速启动且不愿管理底层设施的用户，DGX 云上的托管服务能提供优化的吞吐量；而对于有严格数据合规需求的机构，本地部署则更为合适。
预训练检查点如何降低入门门槛
BioNeMo 为 ESM-2、MegaMolBART 和 ProtT5 等模型提供了经过验证的训练检查点，例如 ESM-2 的 6.5 亿和 3B 参数版本、MegaMolBART 的 4500 万参数模型以及 ProtT5 的 192M 参数模型。这些检查点允许研究人员跳过昂贵的从头预训练，直接进行微调或开发下游应用。同时，框架还包含多个下游任务示例，如二级结构预测、亚细胞定位预测和热稳定性预测，进一步降低了在药物研发中应用生成式 AI 的技术门槛。
并行策略与硬件升级带来的效率提升
BioNeMo 通过模型管道并行和张量并行等技术实现高吞吐量和可扩展性，并针对不同参数规模的模型推荐了并行策略：超过 10 亿参数的模型可采用张量并行，超过 50 亿参数的模型则可结合管道并行。文章中的示例显示，使用 512 个 H100 GPU 训练 ESM2 模型，6.5 亿参数版本仅需 1.2 天，3B 参数版本需 3.5 天，而原始在 512 个 V100 GPU 上分别需要 8 天和 30 天。这表明硬件升级与框架优化共同显著缩短了训练时间。
从模型能力看药物研发的应用潜力
BioNeMo 支持的模型覆盖了蛋白质和小分子两大领域。ESM 系列基于 Transformer 的蛋白质语言模型，可通过迁移学习用于 3D 结构预测、变异效应预测等任务；MegaMolBART 作为生成化学模型，能用于反应预测、分子优化和从头分子生成；ProtT5 则支持蛋白质序列生成和序列翻译。这些能力共同指向药物研发流程中的多个环节，如靶点识别和先导化合物优化，但文章未提及具体药物的成功案例，实际效果仍需实验验证。
Q&A
NVIDIA BioNeMo框架的主要功能是什么？
NVIDIA BioNeMo框架用于药物研发的生成式AI模型训练，提供优化的蛋白质和小分子模型架构，支持高吞吐量和可扩展性。
BioNeMo支持哪些类型的数据格式？
BioNeMo支持常见生物分子数据格式，并具备自动下载和预处理数据的功能。
BioNeMo如何优化训练过程？
BioNeMo通过模型管道并行和张量并行等技术实现高吞吐量和可扩展性，支持在数千个GPU上进行无缝加速训练。
MegaMolBART模型的应用场景是什么？
MegaMolBART模型用于生成化学模型，支持小分子SMILES字符串的训练，适用于反应预测和分子优化等药物研发任务。
BioNeMo框架如何支持药物研发的AI应用？
BioNeMo框架提供托管服务、API端点和训练框架，简化药物研发中的生成式AI应用，支持从数据加载到模型训练的整个流程。
ProtT5模型的主要功能是什么？
ProtT5模型支持蛋白质序列生成和序列翻译任务，具有广泛的应用潜力，尤其在医疗和清洁能源领域。
