2025外滩大会：AI驱动之下，探索网络安全的未来边界
内容提要
2025 Inclusion·外滩大会将于9月10日至13日在上海举行，主题为AI驱动的网络安全变革。论坛将探讨AI技术带来的安全挑战及应对措施，强调技术研发与安全协同，推动金融领域可信应用标准，以确保AI时代的安全与发展。
关键要点
-
2025 Inclusion·外滩大会将于9月10日至13日在上海举行，主题为AI驱动的网络安全变革。
-
论坛将探讨AI技术带来的安全挑战及应对措施，强调技术研发与安全协同。
-
公安部副所长金波指出，人工智能与各行业深度融合，带来机遇与安全风险。
-
国家提出推动“人工智能+治理能力”，强化网络空间治理与安全能力建设。
-
生成式AI带来了新型网络安全挑战，尤其在金融领域影响合规及资金损益。
-
大模型在网络安全行业推动从“规则驱动”向“认知驱动”演进。
-
大模型在软件漏洞挖掘中展现出强大潜力，提升漏洞挖掘效率。
-
智能体在安全领域实现从“可靠代理”到“完全自主”的进化。
-
论坛上启动了《大模型金融领域可信应用参考框架(征求意见稿)》的意见征求。
-
标准旨在为大模型在金融领域构建可验证的控制与保障体系，确保可靠性。
延伸解读
AI与网络安全的双刃剑
人工智能的快速发展为网络安全带来了机遇与挑战。虽然AI可以提升安全防护能力，但同时也可能被黑客利用，导致新的安全风险。企业在应用AI技术时，需谨慎评估潜在的安全隐患，确保技术的安全性与合规性。
金融领域的安全标准建设
论坛上启动的《大模型金融领域可信应用参考框架(征求意见稿)》旨在为金融行业提供安全保障。随着AI技术的应用，金融领域面临合规与资金风险，建立标准化的安全框架将有助于提升行业的整体安全水平，促进技术的健康发展。
大模型的应用与挑战
大模型在网络安全中的应用潜力巨大，但也面临理解与执行的分离问题。尽管其在自然语言处理上表现优异，但在实际应用中仍需克服推理能力不足等局限。行业需关注大模型的可靠性与安全性，以确保其在关键领域的有效应用。
延伸问答
2025外滩大会的主题是什么？
大会的主题是AI驱动的网络安全变革。
论坛将讨论哪些与AI相关的安全挑战？
论坛将探讨AI技术带来的安全挑战及应对措施，特别是在金融领域的合规和资金损益方面。
人工智能如何影响网络安全的治理能力？
国家提出推动“人工智能+治理能力”，以强化网络空间治理与安全能力建设。
大模型在网络安全行业的作用是什么？
大模型推动网络安全从“规则驱动”向“认知驱动”演进，并在漏洞挖掘中展现出强大潜力。
《大模型金融领域可信应用参考框架》有什么重要意义？
该框架旨在为大模型在金融领域构建可验证的控制与保障体系，确保其可靠性。
论坛上提到的生成式AI带来了哪些新型网络安全挑战？
生成式AI带来了大模型可靠性、隐私数据安全等新型网络安全挑战，影响合规及资金损益。
