BriefGPT - AI 论文速递
·
MUSCLE：多任务自监督持续学习以预训练多个身体部位的 X 射线图像深度模型
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
该研究表明，自监督预训练可生成适用于多种肺部超声分析分类任务的神经网络特征提取器。预训练模型微调后，平均跨任务下的受试者工作特性曲线面积分别提高了0.032和0.061。紧凑非线性分类器在单个预训练模型输出的特征上训练并不能提高所有任务的性能，但推理时间缩短了49%。在仅使用1%的标签进行训练时，预训练模型始终优于全监督模型，对于视图分类任务，最大观察到的测试AUC提高了0.396。结果表明自监督预训练有助于生成用于肺部超声分类器的初始权重。
🎯
关键要点
- 自监督预训练可生成适用于多种肺部超声分析分类任务的神经网络特征提取器。
- 预训练模型微调后，平均跨任务下的受试者工作特性曲线（AUC）面积提高了0.032和0.061。
- 紧凑非线性分类器在单个预训练模型输出的特征上训练并不能提高所有任务的性能，但推理时间缩短了49%。
- 在仅使用1%的标签进行训练时，预训练模型始终优于全监督模型。
- 对于视图分类任务，最大观察到的测试AUC提高了0.396。
- 结果表明自监督预训练有助于生成用于肺部超声分类器的初始权重。
➡️
