内容提要
创业公司EvolutionaryScale推出了基于NVIDIA H100的ESM3模型,用于研究新型蛋白质,并得到了NVIDIA等公司的支持。该模型可以同时对蛋白质的序列、结构和功能进行推理,为蛋白质发现工程师提供了一个可编程的平台。ESM3模型使用了NVIDIA H100 Tensor Core GPU,是迄今为止在生物基础模型中计算能力最强大的模型。该模型使用了超过20亿个蛋白质序列进行训练,可以为药物开发、疾病根除等提供线索。ESM3模型的发布将加速蛋白质发现的进程。
延伸解读
ESM3 的模型能力与定位
ESM3 是一个同时推理蛋白质序列、结构和功能的生成式模型,支持“全对全”输入输出,即可将结构或功能注释作为输入。它拥有 980 亿参数,训练数据约 28 亿条蛋白质序列,计算量是前代 ESM2 的 25 倍,数据量是 60 倍。该模型基于 NVIDIA H100 GPU 和 Quantum-2 InfiniBand 网络训练,是迄今计算投入最大的生物基础模型。
对蛋白质发现的实际意义
ESM3 为蛋白质发现工程师提供了可编程平台,通过简单提示即可生成新蛋白质,并能根据反馈自我改进设计。它支持基于指定功能设计蛋白质,或为给定支架生成新蛋白质,这些能力可组合使用,实现链式思维设计。内部测试中,ESM3 成功设计出新型绿色荧光蛋白,展示了解决复杂设计问题的潜力,有望加速药物开发和疾病根除研究。
可用性与获取方式
EvolutionaryScale 已开放 ESM3 的 API 封闭测试,同时提供小规模开放版本供非商业使用,代码和权重可获取。该开放版本即将上线 NVIDIA BioNeMo 平台。完整 ESM3 系列模型将作为 NVIDIA NIM 微服务提供给部分客户,并与 NVIDIA 合作进行运行时优化,由 NVIDIA AI Enterprise 软件许可支持,可在 ai.nvidia.com 测试。
Q&A
ESM3模型的主要功能是什么?
ESM3模型可以同时对蛋白质的序列、结构和功能进行推理,为蛋白质发现工程师提供可编程平台。
ESM3模型与前一代模型相比有什么优势?
ESM3模型的计算能力比前一代ESM2模型高出25倍,数据量高出60倍,使用了98亿个参数。
ESM3模型是如何训练的?
ESM3模型使用了超过20亿个蛋白质序列进行训练,样本来自不同的生物体和生态系统。
ESM3模型的应用前景如何?
ESM3模型可以为药物开发、疾病根除等提供线索,预计将加速蛋白质发现的进程。
EvolutionaryScale公司如何支持ESM3模型的开发?
EvolutionaryScale获得了NVIDIA等公司的支持,并通过投资者的资金推动ESM3模型的开发。
ESM3模型的API何时会开放?
EvolutionaryScale将推出ESM3的API进行封闭测试,并提供小规模的开放版本供非商业使用。