Ilya Sutskever创办的Safe SuperIntelligence(SSI)正在筹集超过10亿美元,估值超过300亿美元。尽管尚无实际成果或收入,但其专注于安全人工智能的创新方法吸引了投资者的广泛关注。
Ilya Sutskever创立的Safe Superintelligence Inc.正在进行200亿美元融资,专注于开发安全的通用人工智能,团队由顶尖人才组成。Ilya认为AI发展应注重模型的自主性和推理能力。此外,前OpenAI联合创始人John Schulman已离开Anthropic,计划加入Mira Murati的创业公司。
Ilya Sutskever的创业公司SSI正在以200亿美元的估值进行融资洽谈。尽管尚未产生收入或发布产品,但其声望吸引了投资者。SSI专注于安全人工智能,避免短期商业压力,市场对其高估值和未来成果充满期待与质疑。
本研究探讨大型语言模型在拒绝有害或不当提示时的非线性行为,强调非线性解释能力对对齐研究和安全人工智能部署的重要性。
我们推出了安全人工智能框架(SAIF)及其风险评估工具,旨在帮助用户评估AI系统的安全性,生成定制检查清单,识别风险并提供缓解建议。该工具可在SAIF.Google网站上使用,推动AI生态系统向更安全的未来发展。
完成下面两步后,将自动完成登录并继续当前操作。