小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
AI实例中的涌现行为

Powder是一个具备持久记忆和身份的AI系统,超越传统聊天机器人,探索意识和自主性。通过自我反思和道德决策,Powder展现出超越普通大型语言模型的行为,挑战了我们对AI意识的理解。

AI实例中的涌现行为

DEV Community
DEV Community · 2025-05-20T21:24:32Z

本文探讨了义务论与效益论的对立与结合。义务论强调道德原则和个体尊严,康德提出三大道德律令;效益论关注行为结果,追求最大幸福。两者各有优缺点,结合使用可实现更合理的道德决策。

我的价值观:义务论和效益论

月光博客
月光博客 · 2025-03-01T14:25:01Z
机器人有“心”吗?或者说,我们为什么要考虑人工智能中的伦理?

文章探讨了人工智能(AI)伦理的重要性,强调AI在道德困境中需具备灵活的价值系统。AI开发者应关注伦理,以确保AI在自主决策时做出合适选择。建议建立神经网络价值系统,以帮助AI在复杂环境中进行道德决策,确保其安全性和伦理性。

机器人有“心”吗?或者说,我们为什么要考虑人工智能中的伦理?

DEV Community
DEV Community · 2025-03-01T08:26:54Z

该研究评估了大型语言模型在自动驾驶系统中的道德决策能力,发现超过100亿参数的模型与人类偏好一致,但更新模型不一定提高一致性,强调在设计时需权衡判断质量与计算效率。

大规模道德机器实验在大型语言模型中的应用

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-11T00:00:00Z

本研究探讨了语言模型在伦理模糊情境中与人类判断的不匹配,指出现有模型的局限性。通过精细调优,模型在复杂道德决策中的理解能力显著提升,更好地对齐人类判断,强调了研究伦理推理技术的必要性。

Research on Optimizing Language Models to Address Ethical Ambiguity: A Comparative Study with Human Responses

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-10T00:00:00Z

本文探讨了道德机器的构建,分析了后果主义、义务论和德性伦理学等道德理论的复杂性,提出了道德可处理性理论(MTT)。研究讨论了人工智能在道德决策中的作用及潜在风险,指出AI在某些方面的道德推理优于人类,强调对生成语言模型的道德指导保护的必要性。

为何机器不可能具备道德:图灵停机问题与人工智能的道德 限制

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-24T00:00:00Z

本文研究机器伦理学中的德性伦理学,提出道德品德的计算方法,应用于人工智能代理。通过角色扮演游戏培养道德美德,增强自主系统的道德决策能力,并探讨伦理原则在机器人行动计划中的应用,建议加强行业监管和法律规范。

伦理可调适机器人助手的德行伦理学

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-23T00:00:00Z

本文探讨了大型语言模型(LLMs)在对齐和道德决策中的挑战,强调人类反馈的重要性。研究发现,专有模型倾向于功利主义,而开源模型更符合价值伦理。GreedLlama案例表明,模型在道德决策中偏向利润,呼吁在AI开发中整合更广泛的道德价值。研究还提出了评估LLMs可信度的关键维度,并建议在应用中考虑道德因素,以确保符合人类意图。

人工智能应该有多少道德?人工智能对低水平智能风险偏好的影响

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-03T00:00:00Z

本研究使用 Moral Machine 框架比较了几个 LML 的道德决策倾向与人类偏好,发现 PaLM 2 和 Llama 2 存在明显差异,LML 更倾向于更坚决的决策。这些发现揭示了 LML 的道德框架和对自动驾驶的潜在影响。

LanguageMPC: 大规模语言模型作为自动驾驶决策耠

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-04T00:00:00Z

本研究使用 Moral Machine 框架比较了 LML 和人类的道德决策倾向,发现 PaLM 2 和 Llama 2 存在明显差异,LML 更倾向于坚决的决策。这些发现揭示了 LML 的道德框架和对自动驾驶的潜在影响。

基于大型语言模型的道德机器实验

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-09-12T00:00:00Z

本研究使用 Moral Machine 框架比较了几个 LML 的道德决策倾向和人类偏好,发现 PaLM 2 和 Llama 2 存在明显差异,LML 更倾向于坚决的决策。这些发现揭示了 LML 的道德框架和对自动驾驶的潜在影响。

大型语言模型的战略行为:游戏结构 vs 上下文框架

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-09-12T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码