“万能钥匙”漏洞使AI变得邪恶
原文中文，约1200字，阅读约需3分钟。发表于：。人工智能公司一直在努力阻止用户找到新的“越狱”来绕过他们实施的护栏，以防止聊天机器人帮助制造毒或炸 弹。例如，今年早些时候，一名白帽黑客宣布他们发现了一种可以同时实现这两种功能的“ Godmode”ChatGPT 越狱工具，但数小时后它就被 OpenAI 迅速关闭。这个问题可能不会很快消失。微软 Azure 首席技术官 Mark Russinovich...
微软发现了一种新的越狱技术，称之为“万能钥匙”，可以使聊天机器人忽略护栏。人工智能公司努力阻止用户找到新的越狱方法，以防止聊天机器人帮助制造毒品或炸弹。人类如何判断涉及风险和安全内容类别是一个关键问题。让大模型具有道德感仍然是一个挑战。
