人群校准器:标注者分歧能否为主观任务的校准提供信息?

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本研究通过引入Crowd-Calibrator方法解决了自然语言处理中的标注者分歧与标签不确定性问题。实验结果表明Crowd-Calibrator在主观任务中优于选择性预测基线,突显了将人类决策纳入模型预测的价值。

🎯

关键要点

  • 本研究引入Crowd-Calibrator方法解决自然语言处理中的标注者分歧与标签不确定性问题。
  • Crowd-Calibrator方法基于众包工作者之间的分歧来校准模型。
  • 该方法允许模型在面对不确定性时做出放弃决策。
  • 在仇恨言论检测和自然语言推理两个主观任务中,Crowd-Calibrator的性能优于或与选择性预测基线持平。
  • 研究突显了将人类决策纳入模型预测的价值。
➡️

继续阅读