安全领导者如何看待AI在SOC中的应用

安全领导者如何看待AI在SOC中的应用

💡 原文英文,约1800词,阅读约需7分钟。
📝

内容提要

调查显示,96%的安全团队已使用AI,但仅18%拥有规范框架;多数要求人工审批AI决策,89%看好“智能体工作流+人工监督”。AI虽提升调查速度,85%的团队也报告成本上升等负面影响,且高管与一线对AI效果的认知存在明显差距。建议统一数据基础、默认人工审批、控制成本并保留可审计记录,确保AI决策可解释、可追责。

🔎

延伸解读

AI自主性分级:多数团队仍以人工审批为默认

调查显示,52%的团队要求所有AI决策必须经人工授权,43%仅对低风险任务放行、高风险输出仍需验证,仅3%允许AI自主行动。这反映安全团队对AI的信任是分级的,而非全有或全无。89%的受访者看好“智能体工作流+人工监督”的未来,说明行业并非拒绝自主AI,而是将人置于审批链中心,作为风险控制的设计选择。

AI的隐性成本:效率提升伴随预算压力

尽管99.8%的团队报告AI带来某种收益,61%称调查速度加快,但85%也报告了负面影响,其中57%指出令牌、工具和许可费用导致成本上升。超过半数安全领导者表示AI推高了整体安全预算,预计五年后这一比例升至62%,29%预计成本“大幅增加”。若不在部署初期建立成本可见性,AI支出可能在预算审查时成为意外负担。

领导层与一线认知差距:AI采用存在“虚假信心”

高管比一线人员更易认为AI没有负面影响(26%对6%),也更少失望于AI未达预期(28%对38%)。高管高估团队对原生AI工具的使用率(75%对60%),低估团队自建变通方案的比例(38%对49%)。这种差距意味着领导者可能对团队实际AI使用情况存在误判,仅靠仪表盘无法发现一线为完成任务而拼凑的聊天机器人、内部脚本等工具。

可解释性依赖统一数据基础与审计轨迹

29%的团队表示数据缺乏有效自动化所需的结构,37%因治理、合规或审计要求难以满足而阻碍自动化工作流。AI建议的可信度取决于其背后的数据:若威胁情报、告警历史和调查上下文分散在孤立系统中,AI无法获得完整图景,推荐也难以解释。文章建议在扩展自动化前统一数据基础,并将每项AI辅助决策视为未来可能需要解释的事项,提前建立审计轨迹。

❓

Q&A

目前安全团队使用AI的比例有多高?有多少团队有规范的使用框架?

96%的安全团队已使用AI,但仅18%的团队拥有结构化且强制执行的AI使用框架。

安全团队通常允许AI代理拥有多大程度的自主权?

52%要求所有AI决策必须经人工授权;43%信任低风险任务但高风险输出需验证;仅3%允许AI自行采取行动而无需人工介入。

为什么安全运营中AI必须保留人工监督?

安全运营后果严重,AI误判可能导致业务中断、误报响应或漏报威胁,且需向董事会或监管机构解释决策过程。人工监督提供可审计的审批链,是降低业务风险的关键。

AI在安全运营中带来了哪些隐藏成本?

85%的团队报告了负面影响,其中57%指出令牌、工具和许可费用导致成本增加。超过半数安全领导者表示AI推高了整体安全预算,预计五年后这一比例升至62%。

高管与一线人员对AI效果的认知存在哪些差距?

高管认为AI无负面效果的比例是一线人员的四倍多(26% vs 6%);一线更常失望于AI未达预期(38% vs 28%);高管高估团队使用原生AI工具的频率(75% vs 60%),低估自建工具的比例(38% vs 49%)。

如何让AI决策变得可解释、可追责?

需要统一数据基础,使AI能基于完整上下文给出可解释的建议;默认人工审批;从第一天起控制成本;保留可审计记录,确保每个AI辅助决策都能追溯原因和审批人。

🏷️

标签

➡️

继续阅读