小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文探讨了多语言模型在道德判断中的表现,发现这些模型编码了道德偏见,但与人类文化差异不完全一致。研究分析了不同语言模型在模棱两可情境下的道德推理能力,结果表明模型的道德判断受提示语言影响,并存在偏见。强调在大型语言模型开发中考虑道德推理的重要性。

通过多元框架评估大语言模型的道德信仰

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-06T00:00:00Z

本文探讨了大型语言模型(LLMs)在道德推理和价值观识别中的表现,提出了多个框架和数据集以分析其道德偏见。研究发现,LLMs在明确情境中表现一致,但在模棱两可的情况下则显得不确定,并存在西方中心主义的偏见。通过行为经济学框架评估,LLMs的决策行为与人类相似,强调了在开发和评估中考虑道德推理的重要性。

日常困境:揭示大型语言模型在日常生活中的价值偏好

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-03T00:00:00Z

该研究探讨了大型语言模型(如GPT-3)在道德和伦理方面的表现,发现它们在特定提示下会反映出道德偏见。研究提出了评估和对齐这些模型价值观的方法,强调道德推理在AI决策中的重要性,并展示了实验验证模型道德一致性和潜在风险的方式。

朝向“差异化人工智能心理学”及与道德基础理论的背景价值驱动声明对齐

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-21T00:00:00Z
讲故事在头脑风暴中重要性

文章探讨了讲故事在思维和身份构建中的重要性。通过讲故事,人们能够更好地理解复杂信息,减轻认知负担,并在互动中发现自我。故事不仅反映身份,还积极塑造个体的自我概念,强调其在道德和伦理推理中的关键作用。总之,讲故事是理解人类经验和身份的重要工具。

讲故事在头脑风暴中重要性

极道
极道 · 2024-08-19T23:29:00Z

本文分析了大型语言模型在道德推理中的表现,发现其在不同文化和语言背景下存在显著不一致性。研究提出了新的评估基准,强调道德推理的重要性,并指出模型在责任和安全方面的改进空间。通过对比不同模型,揭示了它们在道德信念和偏见上的差异,呼吁进一步研究以解决这些问题。

CMoralEval:中文大型语言模型的道德评估基准

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-19T00:00:00Z

本文综述了大型语言模型(LLMs)在推理能力方面的研究进展,分析了其在类比和道德推理中的表现,以及在空间推理中的不足。研究表明,LLMs在推理时依赖表面模式而非真正的推理能力,强调了人类与机器推理之间的关键差异,并提出了提升模型性能的必要性。

关于大型语言模型、智能机器与知识获取的观点

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-13T00:00:00Z

本文探讨了道德机器的构建,分析了后果主义、义务论和德性伦理学等道德理论的复杂性,提出了道德可处理性理论(MTT)。研究讨论了人工智能在道德决策中的作用及潜在风险,指出AI在某些方面的道德推理优于人类,强调对生成语言模型的道德指导保护的必要性。

为何机器不可能具备道德:图灵停机问题与人工智能的道德 限制

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-24T00:00:00Z

本文探讨了大型语言模型(LLMs)在多项选择题和自然语言生成中的表现,指出其评估方法的局限性和潜在偏见。研究发现,LLMs在决策时表现出类似人类的风险规避行为,但在道德推理中可能偏向经济利益。建议在AI开发中整合更广泛的道德价值,以确保决策不受单一激励驱动。

善良、恶劣与贪婪:评估 LLM 应当考虑非确定性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-15T00:00:00Z

大型语言模型(LLMs)在推理和决策能力方面存在显著差距,尤其在网络安全应用中表现优于小型开源模型。研究强调道德推理的重要性,并提出SECURE基准测试以评估LLMs在真实场景中的表现。分析显示模型规模和人类反馈对性能提升至关重要,未来研究需关注数据集的多样性及网络安全领域的潜在风险与机遇。

Ollabench: 评估 LLMs 在人类中心互相依赖的网络安全方面的推理能力

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-11T00:00:00Z
第 2 章:技术性能 —— 2024 年人工智能指数报告 [译]

本文介绍了2023年人工智能(AI)在技术性能方面的全面进展,包括视觉常识推理、道德推理、因果推理、音频生成、智能体和强化学习等方面的能力和表现。同时,还介绍了一些新的技术和方法,如提示技巧、微调和闪电解码,以提高AI系统的性能和效率。此外,还提到了AI系统对环境的影响和一些积极的环境保护应用。总体而言,AI在多个领域的性能和能力已经取得了显著的进展。

第 2 章:技术性能 —— 2024 年人工智能指数报告 [译]

宝玉的分享
宝玉的分享 · 2024-04-17T01:00:00Z

本文介绍了一种可召集的道德推理任务,通过自我蒸馏方法获得了一个学生模型,用于生成具有改进的有效性、多样性和可推翻性的有争议背景。利用这个模型,提炼了一个高质量的数据集《δ-Rules-of-Thumb》,其中包含 115,000 个高度被人工标注者评价为 85.9% 至 99.8% 的可推翻道德行为的 1.2M 个背景和理由。最终获得了一种明显优于所有中间学生模型的最终学生模型。

何为合理点火?用于消除可消除的社交和道德情境的上下文和理由的迭代自提纯

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-24T00:00:00Z

该研究提出了一个灵活的框架,利用跨学科研究中建立的道德理论,引导大型语言模型进行道德推理。研究证明了该框架在从道德理论中衍生的数据集上的有效性,并展示了不同道德理论与现有道德数据集之间的一致性。研究还展示了开发可解释的道德判断系统中现有资源的潜力和缺陷。

重新思考机器伦理 — 透过道德理论的视角,LLM 能进行道德推理吗?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-08-29T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码