本文介绍了一种创新的掩码方法,利用流派和主题信息来定制语言模型以适用于专业领域。该方法通过对词语进行排名,优先选择重要性高的词进行掩码处理。实验证明该方法在法律领域的有效性,并提供免费使用的预训练语言模型和代码。
完成下面两步后,将自动完成登录并继续当前操作。