AI在HVV会发挥哪些作用；未来HVV还需人为值守吗 | FB甲方群话题讨论
内容提要
本文讨论了人工智能（AI）在高级持续威胁（HVV）中的作用，包括情报收集、漏洞利用辅助和防御策略优化。然而，在自动化渗透等更高级的技术方面，AI仍存在局限性。AI的发展可能改变HVV的某些方面，但在可预见的未来，HVV仍需要人为值守。AI的应用潜力巨大，但也带来了不确定性问题，如AI本身的BUG和责任归属模糊。
延伸解读
AI在HVV中的实际作用：辅助而非替代
根据讨论，AI在HVV中主要发挥辅助作用，如情报收集、日志分析、漏洞利用辅助和防御策略优化。但多位参与者指出，AI在自动化渗透方面功能有限，受伦理和法规限制，目前只能进行辅助性、侧面的利用。AI可以快速定位信息，相当于安全大脑，但在封闭的HVV环境中，对最新情报帮助有限。
AI引入的新不确定性：BUG、假数据与责任归属
AI为HVV带来新的不确定性，包括AI代码中的BUG、训练数据中的假数据影响有效性、以及大量假ChatGPT可能用于信息收集。此外，AI系统导致安全事件时责任归属模糊，可能引发法律问题。这些因素增加了攻防双方的学习成本和风险。
未来HVV仍需人为值守：复杂决策与客户需求
尽管AI技术不断发展，但多数观点认为HVV仍需要人为值守。AI在复杂决策和超出理解范围的场景中仍需人工干预，且客户往往要求24*7人工服务。AI可能提升自动化程度和攻防效率，但不会完全取代人，因为攻击需要脑洞和创造性，AI目前仍基于推理模型。
红蓝队差异：红队可能受益更多
讨论指出，AI对红队的作用可能大于蓝队。红队可利用AI快速生成攻击脚本、分析漏洞和自动化部分攻击流程，而蓝队则更多用于告警收敛、样本分析和钓鱼邮件检测。但AI在渗透方面的限制仍大，红队受益于AI的辅助代码生成和优化，而非全自动化攻击。
Q&A
AI在HVV中主要可以发挥哪些作用？
AI在HVV中可以用于情报收集、漏洞利用辅助和防御策略优化等方面。
AI在攻击方面的潜力如何？
AI能够分析复杂环境中的漏洞，帮助攻击方制定多阶段攻击计划。
AI在HVV中存在哪些局限性？
AI在渗透方面的功能目前仍有限，主要用于辅助性和侧面的利用。
AI的应用会带来哪些不确定性问题？
AI可能存在代码中的BUG和责任归属模糊等不确定性问题。
未来AI的发展会如何影响HVV？
未来AI的发展可能提升HVV的自动化程度和攻防效率，但仍需人为值守。
在HVV中，AI是否能完全取代人为值守？
在可预见的未来，HVV仍需要人为值守，特别是在复杂决策和判断方面。
