多元一致性路线图

本文介绍了一种新的形式化方法来量化人工智能系统与人类价值观的一致性，使用马尔可夫决策过程作为基础模型。该方法可以帮助评估规范与价值观之间的一致程度，并在规范世界中评估状态转换中的偏好变化。这种方法可以帮助AI开发者和伦理学家更好地设计和评估AI系统，以确保其与人类价值观和谐共处。