安全AI未来 C3安全大会·2024盛大召开——数据驱动 AI原生
内容提要
C3安全大会·2024在南京召开，主题为“安全AI未来”。会议强调推动人工智能与网络安全的深度融合，加强网络安全人才培养和数据资源建设与共享，提高国际影响力。讨论了数字经济安全、大模型应用安全和网络勒索等问题，并发布了网络安全行业领域自研大模型信立方。进行了亚信安全与清华大学智能产业研究院的合作升级计划和鸿蒙合作签约仪式。
延伸解读
AI安全风险：从理论到实战的紧迫性
大会演讲中，张亚勤院士指出AI大模型存在幻觉、深度伪造、失控等风险，建议未雨绸缪。亚信安全陈奋则披露，AGI工具将黑客生成新威胁的时间从数月缩短至几小时甚至几分钟，针对大模型的攻击手段一年内涌现40种类型。这些信息表明，AI安全已从理论探讨进入实战对抗阶段，企业需关注大模型自身安全及利用AI进行攻击的新趋势。
信立方大模型：安全行业垂直应用的尝试
亚信安全发布的信立方大模型，基于多年网络安全行业数据和专业知识微调，旨在提升精准问答、告警日志解读、安全事件分析等专用场景的效果。这反映了安全行业正尝试将大模型能力垂直化，以提升产品智能化水平。其实际效果和落地情况，值得后续关注。
生态合作：产学研协同应对AI安全挑战
大会期间，亚信安全与清华大学智能产业研究院签署联合研发升级计划，并与华为签署鸿蒙合作协议。同时，网络勒索响应与治理中心暨猎狐计划启动，由亚信安全、中国联通江苏分公司等联合发起。这些合作表明，应对AI时代的安全挑战，需要产学研多方协同，共建生态。
数据驱动与AI原生：安全范式的转变
大会主题“安全AI未来”及亚信安全“数据驱动 AI原生”战略，指向安全体系正从传统模式向数据驱动、AI原生演进。田溯宁指出数据成为核心资产，卫星互联网和5G网络成为数据生产网络。这意味着安全建设需适应数据流动的新基础设施，并利用AI原生能力实现主动防御。
Q&A
C3安全大会·2024的主题是什么？
C3安全大会·2024的主题是“安全AI未来”。
大会上讨论了哪些网络安全问题？
大会讨论了数字经济安全、大模型应用安全和网络勒索等问题。
亚信安全在大会上发布了什么新产品？
亚信安全发布了网络安全行业领域自研大模型信立方。
南京市副市长在大会上强调了什么？
南京市副市长吴炜强调推动人工智能产业高质量发展。
张亚勤提到的AI大模型潜在风险有哪些？
张亚勤提到的信息智能风险、AI安全风险、可控性和可信性等问题。
C3安全大会的主要目标是什么？
C3安全大会的主要目标是推动人工智能与网络安全的深度融合，促进产业进步和数字化转型。
