本文提出了一种新的方法,通过评估LLM在不同意义的一致性来评估其理解能力,并使用多语言自我一致性作为检验模型理解力的标尺。作者以ChatGPT为例,通过在三种不同语言中评估两个不同任务的多语言一致性,发现其多语言一致性仍然不足,而其任务和世界理解力很大程度上取决于所使用的语言。该方法可以不需要任何其他语言的静态评估集,轻松、廉价地推广到不同的语言和任务中,成为未来基准评估的重要组成部分。
完成下面两步后,将自动完成登录并继续当前操作。