OntoMedRec: 逻辑预训练的模型无关本体编码器用于药物推荐
内容提要
该文综述了基于电子健康记录与医学知识图谱的药物推荐研究,涵盖KindMed、G-BERT、Med2Vec、DKINet、HiPrBERT、ReOnto等模型,利用图神经网络、BERT和表示学习提升临床决策与患者轨迹预测性能。
延伸解读
从EHR到知识图谱:药物推荐的技术演进
文章梳理了药物推荐模型从早期表示学习到知识增强的演进。Med2Vec(2016)学习医学代码和访问的分布式表示,G-BERT(2019)结合图神经网络与BERT,KindMed(2023)则利用外部医学知识将EHR丰富为知识图谱。这一路径显示,单纯依赖EHR序列信息逐渐转向引入结构化医学知识,以提升推荐的准确性和可解释性。
知识图谱与预训练模型的融合趋势
多个模型体现了知识图谱与预训练语言模型的结合。DKINet(2023)设计基于知识和数据的双编码器,HiPrBERT(2023)利用层次结构数据训练医学术语嵌入,ReOnto(2023)则通过神经符号方法从本体论中提取关系路径。这些工作表明,融合外部知识源和预训练表示是提升临床决策支持性能的重要方向。
评估基准与性能提升
文章提及多个模型在公开数据集上的表现。G-BERT在药物推荐任务上达到最新成果,DKINet在三个公开数据集上进行了广泛实验,ReOnto在BioRel和ADE数据集上比基准方法提升约3%。这些结果说明,知识增强方法在生物医学关系抽取和推荐任务上具有可验证的性能优势,但具体提升幅度因任务和数据集而异。
Q&A
KindMed 框架是如何利用医学知识图谱来提升药物推荐效果的?
KindMed 利用外部医学知识源将电子健康记录(EHR)丰富为医学知识图谱(KG),并借助关系感知图表示学习和分层顺序学习的方法,探索个性化推荐。实验证明,该方法在增强现实世界的 EHR 数据集上相较于图驱动的基准方法取得了领先的性能。
G-BERT 模型在药物推荐任务中有什么创新点?
G-BERT 结合了图神经网络和 BERT 进行医疗代码表示和药物推荐。它在利用 EHR 数据预训练的就诊编码器中整合了 GNN 表示,并在单次就诊的患者的 EHR 数据上进行预训练,然后将预训练的访问编码器和表示进行下游预测任务的微调,实现了对药物推荐任务的最新成果。
Med2Vec 方法如何学习医学代码和访问的表示?
Med2Vec 通过学习医学代码和访问的分布式表示形式,利用序列访问顺序和访问内部代码的共现关系提供临床医生可验证的基础。在关键医学应用中显示出与流行基线(如 Skip-gram、GloVe 和堆叠自动编码器)相比的显着改进。
DKINet 框架由哪些部分组成,用于什么任务?
DKINet 框架集成了领域知识和可观察临床表现,用于药物推荐。它设计了一个基于知识的编码器、一个基于数据的编码器以及一个明确的药物编码器,用于学习患者的纵向依赖关系,并在三个公开数据集上进行了广泛的实验。
HiPrBERT 模型是如何利用层次结构数据来改进医学术语表示的?
HiPrBERT 是一个新的医学术语表示模型,它利用自然语言处理和表示学习生成医学术语的嵌入,以更好地预测临床决策和患者轨迹。该模型使用层次结构数据来训练和提高嵌入效果。
ReOnto 技术如何利用神经符号知识进行关系抽取?
ReOnto 是一种利用神经符号知识进行关系抽取任务的新技术。它通过使用图神经网络获取句子表示,并利用公开可访问的本体论来确定两个实体之间的句内关系,从本体论中提取两个实体之间的关系路径。在两个公共生物医学数据集 BioRel 和 ADE 上进行的实验结果显示,该方法优于所有基准方法(大约提高了 3%)。