对比学习训练技巧

寻找负例的技巧很重要，可以通过数据集结构或BM25算法来实现。例如，在问答数据集中，可以将低赞答案作为负例；使用BM25找到与目标文本相似的文本，并随机选择一个作为负例，这在项目中效果良好。