OpenAI宣布向英国AI安全研究所提供750万美元资助，支持独立的对齐研究项目，旨在促进多样化研究，确保AGI的安全与益处，推动全球AI安全领域的进步。
本研究探讨了变革性人工智能（TAI）带来的生存风险与经济增长之间的矛盾。尽管灾难性结果的可能性较低，但仍需大规模投资于AI的安全与对齐研究，以平衡其经济潜力与防范不可逆损害的重要性。
本研究探讨大型语言模型在拒绝有害或不当提示时的非线性行为，强调非线性解释能力对对齐研究和安全人工智能部署的重要性。
我们的对齐研究旨在确保人工通用智能（AGI）与人类价值观一致，遵循人类意图。通过迭代和实证的方法，我们评估对齐技术的有效性和局限性，推动研究进展。我们致力于透明分享研究成果，帮助AGI开发者采用最佳对齐技术。同时，对齐AI系统面临社会技术挑战，解决这些问题对实现我们的使命至关重要。
完成下面两步后，将自动完成登录并继续当前操作。
