ReacLLaMA：化学反应 AI 模型中化学和文本信息的融合
内容提要
本文提出TextReact方法，利用文献检索文本增强化学反应预测，通过文本与分子表示对齐及掩码语言模型训练，在反应条件推荐和逆合成任务上优于仅用分子数据的模型。文章还综述了语言模型与图神经网络结合、MatChat材料合成预测、无模板反应预测、MolCAP分子表示学习及LLM化学代理等进展。
延伸解读
文本检索增强化学反应预测的价值
TextReact 方法的核心在于直接利用从文献中检索到的文本描述来增强化学反应预测，而不是依赖人工提取的结构化数据。通过将文本与分子表示对齐，并加入掩码语言模型目标，模型在反应条件推荐和一步逆合成任务上显著优于仅使用分子数据的模型。这表明，文献中的非结构化文本蕴含丰富的化学知识，能有效补充分子表示，提升预测性能。
语言模型与图神经网络结合的趋势
文章综述了多个研究，显示将语言模型与图神经网络结合是提高化学反应预测准确性的重要方向。例如，利用语言模型编码化学知识到图神经网络中，或使用变换器模型从文本中推断反应类别。这些方法共同表明，融合文本和分子结构信息能更全面地捕捉化学反应特征，推动预测模型的发展。
LLM 化学代理的自主优化能力
文章提到一个基于大型语言模型的 AI 代理，通过上下文学习和多 LLM 辩论等智能增强方法，能够自主生成最佳反应条件推荐，无需人类交互。该代理还能通过搜索最新文献更新知识，并在干湿实验室实验中表现出接近人类的性能和泛化能力。这展示了 LLM 在化学领域的应用潜力，为计算辅助合成计划开辟了新可能。
分子表示学习的反应信息利用
文章介绍了 MolCAP 等研究，利用化学反应知识进行分子表示学习。例如，强制反应物和生成物嵌入之和相等，以保持嵌入空间的组织性，提高泛化能力。这些方法在多个下游任务中取得最先进性能，表明反应信息能有效提升分子表示的 quality，为生物医学等任务提供更好的基础。
Q&A
TextReact 是什么？它如何利用文本增强化学反应预测？
TextReact 是一种新方法，它直接利用从文献中检索到的文本描述来增强化学反应预测。它检索与给定化学反应相关的文本，将其与反应的分子表示对齐，并通过在预测器训练中加入辅助的掩码语言模型目标来增强对齐。在反应条件推荐和一步逆合成任务上，TextReact 显著优于仅基于分子数据训练的模型。
MatChat 是什么？它在材料科学中有什么应用？
MatChat 是一个基于 LLaMA2-7B 模型、结合 13,878 件结构化材料知识数据训练而成的 AI 模型，用于预测无机材料合成路径。它展示了出色的推理能力和在材料科学领域的创新潜力，并以开源方式提供了模型和应用框架，为生成式 AI 与材料科学的整合奠定了基础。
无模板反应预测方法是什么？它的准确率如何？
无模板反应预测方法是一种基于序列到序列模型的方法，使用新型可扩展标记方法，不涉及反应模板等辅助知识，达到了 80.1% 的准确率。其核心思想是运用语言学分析的思维方式来解决有机化学问题。
MolCAP 是什么？它在分子表示学习方面有什么优势？
MolCAP 是一个基于化学反应知识的图形预训练变压器模型，用于推动分子表示学习。实验结果表明，它在各种生物医学任务中优于传统预训练框架的比较方法，显示了应用反应信息进行分子表示学习的前景。
LLM 化学代理如何优化反应条件？它有什么特点？
LLM 化学代理通过引入先进的智能增强方法，如上下文学习和多 LLM 辩论，借鉴人类洞察力并通过搜索最新化学文献来更新知识。它还引入基于粗略标签对比学习（CCL）的化学指纹，大大提高了优化反应条件的性能。该代理能自主生成最佳反应条件推荐，无需人类交互，在干湿实验室中表现出接近人类的性能和强大的泛化能力。
ReactIE 方法是什么？它如何识别化学反应特征？
ReactIE 是一种通过弱监督预训练的方式，结合来自文本中的频繁模式和专利记录中的数据，以识别化学反应特定特征的方法。实验证明，ReactIE 优于所有现有的基准模型。
