PneumoLLM: 利用大型语言模型进行尘肺病诊断
原文中文,约500字,阅读约需2分钟。发表于: 。传统的预训练和微调范式在常见疾病数据丰富的情况下有效,但在像尘肺这样的数据稀缺的职业病诊断中面临挑战。我们通过消除文本分支并将对话头替换为分类头的方式创新,在诊断中利用少量可学习参数更有效地利用大型语言模型。此外,为了在保留详细图像信息的同时实现准确的诊断,我们引入了上下文多标记引擎和信息发射模块,通过实验验证了我们方法的优越性和提出模块的有效性。
本文评估了大型语言模型(LLMs)在生物医学任务中的性能,发现在具有较小训练集的生物医学数据集中,LLMs的效果超过了当前最先进的生物医学模型。尽管与精细调整的生物医学模型相比,LLMs的性能仍然较差,但它们在缺乏大规模注释数据的生物医学任务中具有潜在的价值工具。