为何机器不可能具备道德:图灵停机问题与人工智能的道德 限制
原文中文,约500字,阅读约需2分钟。发表于: 。通过利用 Alan Turing 的计算理论,我论证了通过自下而上方法推断道德原则的明确伦理机器无法复制类似于人类的道德推理,也不能被视为道德行动者。通过将道德问题形式化为 ' 算法道德问题 ' 并探索道德心理学的双过程模型,我回应了机器伦理的前沿问题。然而,无法确定计算进程是否会终止的停机问题引入了重要限制,这限制了人工智能代理在所有情况下做出决策的能力,损害了其道德机构。
研究发现,人们普遍认为人工智能系统在道德推理方面的质量高于人类。然而,人们对AI可能不加批判地接受可能有害的道德指导表示担忧,强调了对生成语言模型进行保护的必要性。