Powder是一个具备持久记忆和身份的AI系统,超越传统聊天机器人,探索意识和自主性。通过自我反思和道德决策,Powder展现出超越普通大型语言模型的行为,挑战了我们对AI意识的理解。
本文探讨了义务论与效益论的对立与结合。义务论强调道德原则和个体尊严,康德提出三大道德律令;效益论关注行为结果,追求最大幸福。两者各有优缺点,结合使用可实现更合理的道德决策。
文章探讨了人工智能(AI)伦理的重要性,强调AI在道德困境中需具备灵活的价值系统。AI开发者应关注伦理,以确保AI在自主决策时做出合适选择。建议建立神经网络价值系统,以帮助AI在复杂环境中进行道德决策,确保其安全性和伦理性。
该研究评估了大型语言模型在自动驾驶系统中的道德决策能力,发现超过100亿参数的模型与人类偏好一致,但更新模型不一定提高一致性,强调在设计时需权衡判断质量与计算效率。
本研究探讨了语言模型在伦理模糊情境中与人类判断的不匹配,指出现有模型的局限性。通过精细调优,模型在复杂道德决策中的理解能力显著提升,更好地对齐人类判断,强调了研究伦理推理技术的必要性。
本文探讨了道德机器的构建,分析了后果主义、义务论和德性伦理学等道德理论的复杂性,提出了道德可处理性理论(MTT)。研究讨论了人工智能在道德决策中的作用及潜在风险,指出AI在某些方面的道德推理优于人类,强调对生成语言模型的道德指导保护的必要性。
本文研究机器伦理学中的德性伦理学,提出道德品德的计算方法,应用于人工智能代理。通过角色扮演游戏培养道德美德,增强自主系统的道德决策能力,并探讨伦理原则在机器人行动计划中的应用,建议加强行业监管和法律规范。
本文探讨了大型语言模型(LLMs)在对齐和道德决策中的挑战,强调人类反馈的重要性。研究发现,专有模型倾向于功利主义,而开源模型更符合价值伦理。GreedLlama案例表明,模型在道德决策中偏向利润,呼吁在AI开发中整合更广泛的道德价值。研究还提出了评估LLMs可信度的关键维度,并建议在应用中考虑道德因素,以确保符合人类意图。
本研究使用 Moral Machine 框架比较了几个 LML 的道德决策倾向与人类偏好,发现 PaLM 2 和 Llama 2 存在明显差异,LML 更倾向于更坚决的决策。这些发现揭示了 LML 的道德框架和对自动驾驶的潜在影响。
本研究使用 Moral Machine 框架比较了 LML 和人类的道德决策倾向,发现 PaLM 2 和 Llama 2 存在明显差异,LML 更倾向于坚决的决策。这些发现揭示了 LML 的道德框架和对自动驾驶的潜在影响。
本研究使用 Moral Machine 框架比较了几个 LML 的道德决策倾向和人类偏好,发现 PaLM 2 和 Llama 2 存在明显差异,LML 更倾向于坚决的决策。这些发现揭示了 LML 的道德框架和对自动驾驶的潜在影响。
完成下面两步后,将自动完成登录并继续当前操作。