本文介绍多模态医疗问题摘要数据集MMQS,将医疗查询与图像结合,提出基于CLIP和大语言模型的四模块框架,用于识别医疗障碍、生成上下文、过滤概念并生成视觉感知摘要;同时提出融合知识与视觉特征的MM-CliConSummation框架生成临床对话摘要,实验证明视觉信息的重要性及摘要的精确性,并综述了多模态自动摘要的相关数据集与模型。
完成下面两步后,将自动完成登录并继续当前操作。