NCSC称人工智能将在未来两年“助长”勒索软件的威力
内容提要
英国国家网络安全中心（NCSC）警告称，人工智能工具可能助长勒索软件威胁的升级，对网络安全产生不利影响。网络犯罪分子利用人工智能进行恶意攻击行为，可能在未来两年内恶化。NCSC称网络犯罪分子制作和营销生成式人工智能服务，辅助犯罪活动。人工智能降低了网络犯罪新手准入门槛，加剧全球勒索软件威胁。人工智能帮助复杂的APT生成躲避性定制恶意软件，提高现有技术效率，协助恶意软件和漏洞开发、漏洞研究和横向移动。生成式人工智能和大型语言模型让人们在识别网络钓鱼、欺骗和社交工程企图等方面面临巨大挑战。
延伸解读
AI降低犯罪门槛，勒索软件威胁加剧
NCSC指出，人工智能降低了网络犯罪新手的准入门槛，使缺乏经验的威胁行为者也能发起有效攻击。这可能导致勒索软件攻击数量增加，全球威胁加剧。同时，中级黑客在侦察、社会工程学和数据提取方面获得优势，而低技能攻击者除横向移动外也得到全面提升。
AI增强现有攻击手法，而非变革
NCSC评估认为，人工智能在网络风险领域的作用是演变性的，主要增强现有威胁而非带来变革。它提高了侦察、网络钓鱼和编码等环节的效率和效果，使攻击更难以察觉。到2025年，这种趋势将持续，但复杂应用仍局限于资源充足的行为体。
生成式AI服务被滥用，防御面临挑战
网络犯罪分子正在制作和营销专门的生成式AI服务，如WormGPT，用于生成恶意软件和网络钓鱼诱饵。这摆脱了受控安全框架的限制，在犯罪生态系统中广泛使用。生成式AI和大型语言模型使人们识别网络钓鱼、欺骗和社交工程企图更加困难。
Q&A
NCSC对人工智能在勒索软件威胁中的角色有什么警告？
NCSC警告称，人工智能工具可能助长勒索软件威胁的升级，对网络安全产生不利影响。网络犯罪分子已利用人工智能进行恶意攻击，这种现象极可能在未来两年内进一步恶化，增加网络攻击的数量和严重程度。
人工智能如何降低网络犯罪的门槛？
人工智能能够帮助缺乏经验的威胁行为者、雇佣黑客和低技能黑客节省时间，进行更有效、更有针对性的攻击。它降低了网络犯罪新手的准入门槛，加剧了全球勒索软件威胁。
网络犯罪分子如何利用生成式人工智能服务进行犯罪？
网络犯罪分子正在制作和营销专门的生成式人工智能服务，如WormGPT，这是一种付费的LLM服务，允许威胁行为者生成恶意内容，包括恶意软件和网络钓鱼诱饵。这表明该技术已摆脱受控安全框架的限制，并能在更广泛的犯罪生态系统中使用。
人工智能对APT攻击有什么帮助？
人工智能能帮助复杂的APT更便捷、更快速地生成躲避性定制恶意软件。它有可能生成能够躲避当前安全过滤器检测的恶意软件，但前提是必须使用高质量的漏洞利用数据对其进行训练。能力强大的国家可能拥有足够大的恶意软件库来有效训练AI模型。
未来两年人工智能将如何影响网络攻击？
未来两年，人工智能可能会加剧网络攻击，特别是通过当前战术的演变。人工智能在网络风险领域的作用预计将是演变性的，它将增强现有的威胁，而不是变革性的。到2025年，人工智能能力的商品化可能会扩大网络犯罪分子和国家行为者获取先进工具的渠道。
生成式人工智能和大型语言模型给网络防御带来什么挑战？
生成式人工智能和大型语言模型的出现，让人们在识别网络钓鱼、欺骗和社交工程企图等方面面临巨大挑战。这些技术使攻击更加有效和难以察觉。
