围棋AI的新防御仍难以抵御对抗性攻击
原文英文，约700词，阅读约需3分钟。
📝
内容提要
研究显示，围棋AI系统KataGo易受对抗性攻击。研究人员测试了对抗性训练、迭代对抗性训练和改变网络架构三种防御策略，但仍无法完全抵御新攻击。这表明构建稳健AI系统非常困难，即使在围棋领域也是如此。
❓
Q&A
围棋AI系统KataGo为何易受对抗性攻击？
KataGo易受对抗性攻击是因为其在面对简单的对抗策略时表现出脆弱性。
研究人员测试了哪些防御策略来保护KataGo？
研究人员测试了对抗性训练、迭代对抗性训练和改变网络架构三种防御策略。
这些防御措施的效果如何？
部分防御措施对已知攻击有效，但无法完全抵御新攻击。
构建稳健的AI系统面临哪些挑战？
构建稳健的AI系统面临的挑战包括对抗性鲁棒性问题和训练及架构的重新思考。
研究者对防御措施的看法是什么？
研究者承认测试的防御措施有限，可能还有其他更有效的方法。
未来的研究方向是什么？
未来的研究需要探索更广泛的防御机制，以应对对抗性攻击的挑战。
🏷️
