小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

OpenAI前安全团队负责人Jan Leike跳槽到Anthropic继续超级对齐研究,引发了对OpenAI AI安全承诺的质疑。Jan Leike将致力于可扩展的监督、泛化和自动对齐研究。Anthropic希望开发一种能够拒绝99%以上用户请求的模型。

励志:OpenAI离职安全主管跳槽Anthropic继续超级对齐

极道
极道 · 2024-05-28T23:58:00Z
因安全问题辞职的OpenAI研究员加入Anthropic

OpenAI研究员Jan Leike加入竞争对手Anthropic,致力于监督、泛化和对齐研究。Anthropic旨在与OpenAI形成对比,注重谨慎进展。Leike的转变并不令人意外,因为他之前对OpenAI过于关注商业利益表示担忧。Anthropic将道德原则融入AI训练,并收集公众意见。

因安全问题辞职的OpenAI研究员加入Anthropic

The Verge
The Verge · 2024-05-28T18:14:12Z
OpenAI研究员辞职,称安全已被“引人注目的产品”所忽视

OpenAI研究员Jan Leike因忽视安全文化和流程而辞职,专注于开发引人注目的产品。OpenAI解散了专注于解决长期AI风险的超级对齐团队。John Schulman将接替Leike的职责。随着OpenAI研究人员在开发AI的同时对潜在危险表示担忧,紧张局势加剧。Leike的团队缺乏进行关键工作的资源。

OpenAI研究员辞职,称安全已被“引人注目的产品”所忽视

The Verge
The Verge · 2024-05-17T18:32:52Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码