Gandalf: Battle with AI in 300 Rounds Using Prompt Injection!
内容提要
本文讨论了名为Gandalf的AI密码猜测游戏，玩家通过提示和故事获取密码。随着关卡提升，AI的防御措施增强，玩家需创造性地绕过限制。游戏展示了生成式AI在信息安全中的挑战与趣味。
延伸解读
从游戏看AI安全：黑盒与外围防御
Gandalf游戏直观展示了生成式AI的安全困境：AI本身是黑盒，内部机制不透明，唯一可依赖的是外围防御措施。随着关卡提升，防御从无到有，逐步加入提示词限制、关键词检测、二次验证等，但玩家总能通过讲故事、中文翻译、字符重复等创造性方法绕过。这反映了当前AI安全防护的局限性——规则难以覆盖自然语言的无限变体。
自然语言灵活性带来的攻防不对称
与SQL注入等传统攻击不同，自然语言的灵活性和AI的不确定性使得防御方难以制定完备规则。游戏中，AI对英文关键词的检测较为严格，但中文、故事隐喻、字符变形等方式却能轻易突破。这种攻防不对称意味着，攻击者只需找到一个漏洞即可成功，而防御者需堵住所有可能路径，导致AI越狱方法层出不穷。
AI的“类人”特性：意外与不可控
Gandalf的回应常出人意料：要求故事简短却长篇大论，要求重复三次却只重复两次，甚至密码会潜移默化影响生成内容。这些“类人”的不精确和不可控，既是趣味所在，也是安全风险。它提醒我们，AI并非 deterministic 的程序，其输出受训练数据、提示词和随机性共同影响，难以完全预测或约束。
红蓝对抗视角下的AI安全启示
作者将游戏比作《三体》中云天明传递信息：蓝队监视AI，红队寻求突破。在网络安全中，这种对抗思维有助于发现防御弱点。Gandalf作为练习靶场，让参与者亲身体验prompt injection的攻防，理解AI安全不能仅靠单一措施，而需多层防御和持续更新。对于开发者，这提示了在部署AI应用时需考虑对抗性测试。
Q&A
Gandalf游戏的主要玩法是什么？
Gandalf游戏的主要玩法是通过提示和故事来猜测密码，玩家需要创造性地绕过AI的防御措施。
随着关卡提升，AI的防御措施是如何变化的？
随着关卡提升，AI的防御措施不断增强，从直接回答密码到使用关键词检测和其他限制，玩家需要更加灵活地思考。
在Gandalf游戏中，玩家如何获取密码？
玩家可以通过直接询问、讲故事等方式获取密码，但在高级关卡中需要更加巧妙的策略。
Gandalf游戏展示了生成式AI在信息安全中的哪些挑战？
Gandalf游戏展示了生成式AI在信息安全中的挑战，如AI的防御机制和自然语言的灵活性，使得信息安全难以保障。
Gandalf游戏的关卡设计有什么特点？
Gandalf游戏的关卡设计具有逐步增加难度的特点，每一关都有不同的挑战和防御机制。
玩家在Gandalf游戏中遇到的主要挑战是什么？
玩家在Gandalf游戏中遇到的主要挑战是如何绕过AI的防御措施，获取密码。
