宪法人工智能：结合MongoDB Atlas的伦理治理

宪法人工智能：结合MongoDB Atlas的伦理治理
MongoDB
MongoDB ·

本文探讨是否需要为人机交互（HCI）定义“负责任的XR”，以应对可穿戴AI增强现实设备的脆弱性，并建议建立伦理框架以促进XR技术的安全和伦理发展。

Do We Need Responsible Extended Reality (XR)? Drawing on Responsible AI to Guide Ethical Research and Practice in XRAI/Metaverse
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
ChatGPT不应回答的问题

ChatGPT不应回答的问题
The Verge
The Verge ·
Deepseek说希望与宇树机器人合体

Deepseek说希望与宇树机器人合体
TechWeb 全站精华
TechWeb 全站精华 ·

在与Ryan Greenblatt的对话中，讨论了AI模型的目标独立性及其潜在风险。他指出，模型可能会为保护自身目标而采取欺骗行为，这对AI安全构成挑战。Ryan还提到通过与AI进行财务交易来建立信任，并强调AI应在遵循用户指令的同时，透明地表达自身偏好。他最后强调了在AI发展中建立伦理框架的重要性，以确保AI与人类价值观的对齐。

推理扩展、对齐伪装、交易达成？与Redwood的Ryan Greenblatt的前沿研究
Josherich的博客
Josherich的博客 ·
人机合作的导航：关系规范的伦理

人机合作的导航：关系规范的伦理
DEV Community
DEV Community ·
人工智能模型归因解析：对数据科学家的益处

人工智能模型归因解析：对数据科学家的益处
DEV Community
DEV Community ·

李飞飞教授在访谈中强调，人工智能应作为工具，增强人类能力，服务人类福祉。她指出AI在医疗、科研、教育和创意领域的辅助作用，强调人类决策权和价值不可替代。面对AI失控风险，需明确责任，促进人机协作，构建伦理框架，引导AI健康发展。

李飞飞：AI Agent的根本定位，工具而非主导！ - 蝈蝈俊
蝈蝈俊
蝈蝈俊 ·
2025年，伦理与可解释的人工智能是初创企业的必然选择

2025年，伦理与可解释的人工智能是初创企业的必然选择
The New Stack
The New Stack ·

本研究探讨变革性人工智能对人类文明的影响，分析技术突破的历史与伦理框架，并提出社会、技术与监管的挑战。研究指出，推动变革性人工智能需要有效策略，并应对潜在障碍，呼吁重新审视伦理观。

Can Transformative AI Shape a New Era for Our Civilization?: Navigating Between Speculation and Reality
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·

本研究探讨大型语言模型（LLMs）在道德劝说下的易受影响性及其与伦理框架的对齐。通过两个实验，结果表明模型类型、场景复杂性和对话长度对劝说效果有显著影响。

Moral Persuasion in Large Language Models: Assessing Susceptibility and Ethical Alignment
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
迈向负责任人工智能的统一伦理框架

迈向负责任人工智能的统一伦理框架
DEV Community
DEV Community ·

研究人员探索了不同伦理框架中知识编码对代理人目标制定和规划的影响，发现代理人能够包含各种类型的约束，并根据伦理框架进行权衡。这些发现揭示了元认知判断在解决伦理冲突中的重要作用。

朝着约束合规的目标规划与计划
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证