AI研究人员在frominside.ai访谈中警告超级智能风险。前OpenAI员工欧文估计人类灭绝概率约50%，DeepMind的南达认为至少10%。前研究员科科塔伊洛称超级智能如神般强大且无法控制，绝不应允许。有研究者承认受雇于实验室应受质疑，但认为留下工作能降低风险。
本文探讨了人工智能可能导致人类灭绝的风险，提出了基于问责制的分类法，并呼吁政府调整法规以应对AI创新。研究分析了人机交互模式，强调以人为中心的AI发展，提出了AI伦理和安全风险的框架，识别了12种地缘政治风险，并建议通过跨部门合作推动AI安全。
完成下面两步后，将自动完成登录并继续当前操作。
