AI从业者怎么做Science?清华大学AIR周浩:从文本生成到蛋白质设计的跨界探索
内容提要
在北京智源大会「AI for Science」分论坛上,清华大学智能产业研究院副研究员周浩介绍了面向科学发现的生成式人工智能的研究内容和成果,包括分子生成和蛋白质设计方面的丰富经验和多个模型的开发。他们的研究在分子生成和蛋白质设计领域具有重要意义。
延伸解读
从文本到分子:AI研究范式的转变
周浩教授的研究从自然语言处理转向分子生成和蛋白质设计,体现了AI for Science的跨界趋势。他将文本中的词汇表扩展到元素周期表、氨基酸等,表明生成式AI的应用范围正从内容创作向科学发现延伸。这种转变不仅需要算法创新,还需应对科学数据的独特挑战,如分子的多模态特性和几何约束。
分子数据的独特挑战与应对策略
分子数据兼具离散和连续元素,且对噪声敏感,顺序缺失,导致传统文本或图像模型难以直接复用。周浩团队通过保留二面角自由度、谱空间表示等方法,重构分子表示,以捕捉其本征特征。这些策略有助于在数据稀缺的情况下,提升分子生成和蛋白质设计的效率与准确性。
生成模型在分子设计中的创新应用
周浩团队开发了MARS、EquiFM、GeoBFN等模型,针对分子生成的不同环节进行优化。例如,EquiFM在基准测试中采样速度提升4.75倍,GeoBFN生成高合法性分子。这些模型通过几何归纳偏置和概率框架,解决了分子生成中的高维采样和结构合理性问题,为药物设计提供了新工具。
预训练基座构建与未来方向
针对小分子生成数据匮乏,团队提出从靶点到shape再到分子的分解方法,并开发MolBlend实现2D和3D分子联合预训练。ESM-AA模型作为蛋白质通用预训练基座,在联合任务中表现优于单独预训练。这些工作表明,跨模态预训练和多尺度建模是提升AI for Science能力的关键方向。
Q&A
周浩教授在智源大会上介绍了哪些生成式人工智能的应用?
周浩教授介绍了生成式人工智能在分子生成和蛋白质设计方面的应用和研究成果。
分子数据处理面临哪些挑战?
分子数据处理面临特异性、模型复用困难和顺序缺失等挑战。
周浩教授团队提出了什么新方法来表示分子的三维结构?
他们提出了一种保留二面角自由度的分子三维结构表示方法,移除其他冗余自由度。
MARS模型的主要功能是什么?
MARS模型用于多目标分子优化采样,提升分子设计能力。
周浩教授团队在蛋白质研究中采用了什么方法来捕捉几何和化学信息?
他们将蛋白质从实空间转换到谱空间,使用本征函数表示蛋白质的几何和化学信息。
ESM-AA模型在蛋白质预训练中有什么优势?
ESM-AA模型在蛋白质和小分子联合任务中表现优于其他单独预训练基座。