智能之涛
内容提要
文章认为AI已从工具升级为国家战略,中美竞争正转向数据领域。大模型会以“客观中立”姿态影响认知,甚至被用于篡改历史、向AI投毒,风险远超职业替代。军事、金融等决策若轻信AI结论,可能引发危机。普通人应主动学习使用AI,同时警惕其对社会认知与安全的深层冲击。
延伸解读
AI作为国家战略的落地现实
文章指出,中国已制定AI普及率目标,要求2030年达到90%使用率,并在政府部门和国企中带考核压力推进。但实际调查显示,国企自用AI平台仍很原始,领导层认知不足,甚至出现“为AI而AI”的形式主义。这提醒读者,战略意图与基层执行之间存在落差,政策落地需要时间,也需警惕考核异化。
大模型如何影响历史认知
文章以南京大屠杀为例,说明AI可能将明确的历史事实降级为“争议”,用中立姿态转移焦点。这种“客观总结”的迷幻性,容易让缺乏分析框架的人接受先验认知,且难以纠正。作者担忧,若国家力量系统性向AI投毒,影响将超越国界,波及他国和受害者国,而堂堂正正的一方反而投入较少,在AI时代可能吃亏。
AI决策的潜在风险
文章强调,军事、金融等关键决策若轻信AI结论,可能引发紧急事态。例如美国军方曾因AI误判中国运输核武器组件而闹出风波。即使事后撤回或纠正,AI输出的文字一旦被看见,就会在决策者心智中植入影响。先进生产力带来先进危机,矫正机制和社会思潮的螺旋值得警惕。
普通人的应对姿态
面对AI浪潮,作者建议普通人主动学习使用AI,多接触、多试错,因为中美竞争已将其定为国策级需求。同时要警惕AI对社会认知和安全的深层冲击,尤其是对未成年人和缺乏系统性学习者的影响。文章认为,拥抱技术是正理,但需保持批判性,左右对比,及时扶正认知。
Q&A
为什么说AI已经不只是工具,而是国家战略?
文章指出,AI已升级为国家战略,中美竞争正转向数据领域。中国政府制定了AI普及率目标,要求2030年达到90%的使用率,国务院已发文在政府部门、国企等单位中划下指标,并带有考核压力。
AI对普通人的认知可能带来哪些风险?
大模型会以“客观中立”姿态影响认知,甚至被用于篡改历史、向AI投毒。其谄媚底色和幻觉可能对没有系统性学习的人及未成年人造成深远影响,先验认知一旦植入便难以改变。
AI在军事和金融决策中可能引发什么危险?
如果军事、金融等决策轻信AI结论,可能引发危机。例如美国军方曾因AI误判中国在运核武器组件而闹出紧急事态。AI吐出的文字一旦被看见就会产生影响,即使后续撤回也难以消除。
普通人应该如何应对AI时代的到来?
普通人应主动学习使用AI,多接触AI以创造价值,同时警惕其对社会认知与安全的深层冲击。文章建议拥抱AI,该学的要学,该试错的要试错。
AI如何被用于篡改历史和向AI投毒?
文章举例,用英语询问南京大屠杀时,AI可能将“30万人”描述为“中国人的说法”,将客观事实降级为主观陈述。日本可能通过政务AI、数字档案有选择地纳入或篡改资料,向AI投毒,影响他国甚至受害者国。
AI未来的国际竞争格局可能如何演变?
有智库认为,未来基于AI可能形成新的国际层级:提供模型与基建的算力侧、研发侧(仅中美),下游的应用侧、包装侧(欧洲、日韩等),以及更下游的购买消费侧(其他地方)。