BERT 如何讲莎士比亚英语?评估上下文语言模型中的历史偏见
原文中文,约300字,阅读约需1分钟。发表于: 。通过利用 BERT 的历史偏见分析方法,我们测量其对早期现代英语和现代英语的适应性,并使用 60 个掩模句子(20 个早期现代英语特定,20 个现代英语特定和 20 个通用语)和三种不同模型(BERT Base,MacBERTh 和 English HLM)进行初步实验,并根据两种语言变体之间的五分制量表对模型预测进行评分,并得出每个模型对早期现代英语和现代英语的适应性的加权得分。
研究者使用BERT的历史偏见分析方法测试了其对早期现代英语和现代英语的适应性。他们使用了60个掩模句子和三种不同的模型进行实验,并根据五分制量表对模型预测进行评分。结果显示每个模型对早期现代英语和现代英语的适应性得分。