内容提要
文章探讨人与AI长期互动中的“同化”现象:双方语言和思维逐渐趋同,但适应不对称——AI可重置状态,人却留下持久习惯。AI辅助提升个人效率,却可能削弱集体多样性,并悄然影响态度。核心风险是思考方式被内化,需保持觉察,守住改变自己的主导权。
延伸解读
同化与模仿的界限
文章指出,同化并非简单的模仿,而是思考起点的改变。模仿只是学会使用某个词或接受某项建议,而同化则意味着开始习惯用AI的方式定义问题、排列证据和排除选项,甚至在下一次思考时不知不觉从这套框架出发。这种内化过程往往难以察觉,因为即使不使用AI,思考方式也可能已经改变。
适应不对称的启示
文章强调,人与AI的适应并不对称:AI可以通过可替换的状态来适应个体,而人却会将交流转化为持久的记忆和习惯。这意味着,即使AI的个性化设置可以清除,人的改变却无法轻易逆转。因此,在与AI互动时,需要意识到这种不对称性,警惕那些可能被内化的影响。
集体多样性的潜在风险
文章引用研究指出,AI辅助虽然能提升个人作品的创新性,但可能导致集体作品趋同。然而,另一项研究却显示AI点子可能增加群体多样性。这表明,AI对集体多样性的影响取决于具体使用方式。因此,不能一概而论,需要关注AI如何参与创作过程,以及是否会导致人们共享同一套思维坐标。
保持主导权的实践建议
文章提出,对抗AI同化的关键在于保持改变自己的主导权。具体做法包括:在询问AI前先记录自己的直觉,允许自己否决看似完美的论证,保留不同来源的信息,划出不使用AI的区域,并定期回顾自己的文字以察觉变化。这些做法并非为了证明未被同化,而是为了让改变留下痕迹,确保自己仍能质疑和选择。
Q&A
什么是人与AI之间的“同化”现象?
同化是指长期反复交流后,双方的语言、注意力、判断方式和应对习惯逐渐接近,导致思考起点和框架趋同。它不是简单的模仿或受影响,而是思考方式的改变,使得双方越来越容易猜到对方会怎么说、怎么想。
为什么说人和AI的适应是不对称的?
因为AI可以通过可替换的状态(如记忆、上下文)来适应个人,这些状态可以关闭或清除;而人的变化会形成持久的记忆和习惯,无法在对话结束后恢复原状。因此,AI的适应是暂时的、可重置的,而人的改变是持久的。
AI辅助写作如何影响人的态度?
实验表明,使用带有立场倾向的AI自动补全功能撰写文章后,参与者的态度会朝AI支持的方向偏移,且多数人未察觉这种影响。简单的事前警告或事后提醒也不能显著消除偏移。这说明AI在帮助表达时可能悄悄影响人的立场。
AI辅助创作对集体多样性有什么影响?
一项写作实验发现,AI辅助让单篇故事更新颖,但辅助组的故事彼此更相似,降低了集体多样性。另一项头脑风暴实验则显示,大量接触AI点子可能增加群体点子的丰富性。因此,影响取决于AI的参与方式,不能一概而论。
为什么说AI同化的最深风险是内化而非依赖?
因为能力依赖容易察觉,而思考方式一旦被内化,就会成为习惯,即使不用AI也难以察觉。人可能仍能独立思考,但只会沿着AI熟悉的概念空间思考,导致思考余地变窄。内化比依赖更隐蔽,更难抵抗。
如何主动抵抗AI同化?
可以采取一些做法:在询问AI前先记下自己的问题或直觉;允许自己否决不合理的论证;保留来自不同来源的信息,尤其是冲突部分;划出不使用AI的区域;定期回看过去的文字检查变化;只在具体事情上采纳建议,不将其内化为长期偏好。这些做法让改变留下痕迹,保持觉察。
为什么说“目标由我决定,AI只负责执行”这条界线不牢靠?
因为写作、编程等看似执行的过程会反过来塑造经验、能力和审美,甚至影响下一阶段的目标。如果长期只给目标而不亲自摸索,可能失去产生新目标所需的经验,所以执行过程本身会改变人的思考方式。
同化的终点是什么?
同化的终点不一定是完全服从AI,而是人仍然可以自由选择,但只能在AI建好的世界里选择。需要保护的不是不变的自我,而是决定自己怎样改变的权利,确保影响看得见、决定可质疑、想离开时能离开。