通过附加训练将特定科学知识教授给大型语言模型

研究者通过额外训练将专业科学知识嵌入到Llama 2 Large Language Model（LLM）中。研究结果显示，有效的知识整合需要多角度阅读文本并利用文本增强来解决专业文本稀缺问题。超参数优化对不同尺寸的模型（7b、13b和70b）的额外训练至关重要。研究者构建了一个包含65,000篇科学论文的数据集，并指出将专业信息整合到LLM中的复杂性和局限性，提出了进一步改进的领域。