《网络安全人才实战能力报告-AI赋能篇》正式发布,当AI进入业务深水区安全如何跟上

《网络安全人才实战能力报告-AI赋能篇》正式发布,当AI进入业务深水区安全如何跟上

💡 原文中文,约2400字,阅读约需6分钟。
📝

内容提要

《网络安全人才实战能力报告—AI赋能篇》发布,指出AI安全边界已扩展至模型、数据、提示词和智能体权限。报告将实战任务分为模型安全、AI应用安全和AI赋能网络安全三类,并揭示相关人才从业年限短、分布集中、专职力量不足等问题,呼吁以真实场景和任务效果培养评价复合型安全人才。

🔎

延伸解读

AI安全边界扩展至模型与智能体

报告指出,随着大模型进入核心业务,AI安全的对象已从传统的网络、系统和数据,扩展到模型、算法、训练数据、提示词、智能体权限及工具调用链。这意味着安全团队需要关注的新风险点更多,且这些风险可能沿着接口、权限和调用链延伸。企业需重新审视安全边界,将AI资产纳入整体防护体系。

人才短缺与专职团队缺失并存

报告显示,AI安全人才从业年限偏短,65%的模型安全从业者工作不足5年,且地域和行业分布集中。更关键的是,64%的大模型相关单位仍由传统安全团队兼职,81%的AI应用落地单位没有专职AI安全团队。这种兼职模式可能导致风险识别和应急处置能力不足,难以应对AI带来的新型威胁。

AI提效不等于替代专业判断

虽然AI可用于漏洞挖掘、安全运营等环节提升效率,但报告指出,10年以上从业者对AI辅助漏洞挖掘的满意度仅为58.3%,为各群体最低。这反映出资深人员更关注AI输出的准确性、稳定性和可验证性。在复杂安全任务中,AI可辅助分析和执行,但对漏洞成因、攻击路径和处置方案的判断仍需安全人员把关。

高校AI安全培养面临实训瓶颈

68%的高校已将AI课程设为必修或选修,但仅10%的教师认为所在高校具备较完备的AI安全实训体系,26%的高校有充足算力支持模型训练和对抗实验,21%的教师具备攻防与AI双重经验。80%的紧缺资源集中在实操案例和实验指导。这表明AI安全人才培养需从知识讲授转向贴近真实业务的实践训练。

Q&A

AI时代网络安全的新边界包括哪些方面?

报告指出,AI安全的对象已从传统的网络、系统和数据,扩展至模型、算法、训练数据、提示词、智能体权限以及工具调用链。

AI时代网络安全人才面临哪三类实战任务?

报告将实战任务划分为三类:模型安全(保障模型、底层数据和算法本身的安全)、AI应用安全(应对模型和智能体进入业务系统后产生的新风险)、AI赋能网络安全(利用AI提升漏洞挖掘、安全运营、攻防对抗和威胁检测等效率)。

当前AI安全人才存在哪些主要问题?

报告显示,相关人才从业年限偏短(模型安全领域65%不足5年)、地域和行业分布集中(46%的AI应用安全人才集中在广东、北京、浙江、上海和江苏;75%的关键信息基础设施人才集中在电力、金融和通信)、专职力量不足(64%的大模型单位由传统团队兼职,仅23%有专门AI安全研究队伍;81%的AI应用落地单位未设专职AI安全团队)。

在AI应用安全场景中,哪些技能维度人员熟练度不足?

报告显示,提示词安全、内容合规、接口安全和业务逻辑安全四个维度,尚未达到熟练水平的人员占比分别为54%、64%、60%和65%。

资深安全人员对AI辅助漏洞挖掘的态度如何?

10年以上从业者对AI辅助漏洞挖掘效率的满意度为58.3%,在不同从业年限群体中最低。报告指出,AI提效并不意味着可以替代专业判断,资深人员更关注AI输出的准确性、稳定性和可验证性,对漏洞成因、攻击路径、业务影响和处置方案的判断仍需安全人员把关。

高校在AI安全人才培养方面面临哪些制约?

报告显示,68%的高校已将AI相关课程设为独立必修或选修课,但仅10%的教师认为所在高校已建立较完备的AI安全实训体系,26%的高校具备较充足算力支持模型训练和对抗攻击实验,具备网络安全攻防与AI算法双重经验的教师约占21%。最紧缺的教学资源中,80%的需求集中在实操案例、真实攻击案例和实验指导。

报告提出的AI安全人才评价方法有什么特点?

报告基于ASK-P网络安全人才实战能力评价体系,围绕模型安全、AI应用安全和AI赋能网络安全三类场景,探索分类分层的能力评价方法。该方法更关注人员能否在真实或仿真环境中运用知识和技能完成安全任务、处置实际风险,并形成可验证的实战成果,为高校明确培养目标、企业识别人才胜任力以及从业人员规划成长路径提供参考。

🏷️

标签

➡️

继续阅读