基于 GPT 压缩的近似人类化少样本学习

本研究提出了VisualGPT，一种数据高效的图像字幕模型，利用预训练的语言模型中的语言知识，在少量领域训练数据上快速适应预训练的语言模型。通过稀疏激活单元减少了零梯度的影响。在MSCOCO和Conceptual Captions数据集上训练，结果表明，在MS COCO上的CIDEr得分最高达10.8％，在Conceptual Captions上达到5.4％，并在医学报告生成数据集IU X-ray上取得了最新的结果。