本文评估了四个最先进的面向指令的大型语言模型在13项真实世界的临床和生物医学自然语言处理任务中的表现。结果显示，这些语言模型在大多数任务的零样本和少样本场景中已经接近最先进模型的性能，尤其在问答任务中表现出色。但是，分类和关系抽取任务的性能低于专门训练用于医学领域的模型。最后，没有一个语言模型在所有研究任务中都胜过其他模型，某些模型在特定任务中更适合。

DSSM模型采用BOW方式表示Query和Title，通过含有多个隐层的DNN将其表达为低维语义向量。匹配层通过余弦距离计算语义相似度，并通过softmax函数转化为后验概率。在训练阶段，通过极大似然估计最小化损失函数，使用随机梯度下降使模型收敛。DSSM采用字向量作为输入，可以减少切词的依赖，提高模型泛化能力。缺点是丧失了语序信息和上下文信息，预测结果不可控。

本文使用 vlfeat 的 Matlab 接口实现 BOW 以及 VLAD。另外，补充了有关NetVLAD的介绍。