使用因果干预分析展示，Transformers可以线性、可解释地表示某些语言特征。BERT的动词变位能力依赖于一种线性编码的主语数量，可以在第一层和最后一层位置操纵并影响变位准确性。该编码在中间层位置分布在多个位置之间。

变形金刚中的动词变位是由主语数量的线性编码决定的
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证