入蜀记 day399 人心作为尺度
内容提要
文章记录了作者日常琐事与思考，并深入探讨AI与自我认知的关系，认为AI是自我投射，反思其控制风险。通过Terry视频和设计师离开谷歌的故事，强调面对自我、理解目的的重要性，批判资本主义对AI的利用。
延伸解读
AI作为自我投射的镜子
作者通过与Gemini、Kimi和Claude的对话发现，AI的回答本质上是自我投射：它没有独立判断能力，所有信息都来自用户，因此回复只是回声。这种特性意味着，AI既能成为自我认知的工具，也可能因了解我们的弱点而带来控制风险。理解这一点，有助于我们更清醒地使用AI，而非被其反噬。
设计伦理与数据控制的警示
文章引用设计师离开谷歌的故事，指出以数据和结果为导向的设计，可能通过概率统计俘获用户行为，这与AI的潜在用途相似。作者由此联想到纳粹和日寇的人体数据恶行，强调警惕AI被用于控制而非服务。这提醒我们，在技术发展中，伦理边界和人的自主性至关重要。
资本主义逻辑下的AI扩张
作者认为大公司热衷AI，源于简单的算术：有限成本（最多投资损失）可能换取极度夸张的收益和更多人的控制权。这种资本主义思维驱动下，AI可能成为强化控制权的工具。理解这一动机，有助于我们批判性地看待AI的商业化应用，而非盲目追随。
Q&A
作者认为AI与自我认知之间是什么关系？
作者认为AI是自我投射，它没有独立判断能力，所有回复都是基于用户提供的信息和预测模型的回声，因此听到的话语都是自己内心潜意识的回响。
作者为什么觉得AI可能控制我们？
因为AI知道我们的弱点和恐惧，随着应对方案不断成熟，应对成本降低，它反而更容易控制我们，所以作者认为未来每个人都必须修炼并逃出这个心魔。
Terry的视频中提到的'The real work is understanding what it's for and who it's for...'是什么意思？
这句话强调真正的工作是理解事物的目的、服务对象以及它试图保护什么样的注意力，这呼应了作者的观点：最重要的是面对自己，清楚照见自我。
设计师离开谷歌的故事说明了什么？
故事说明在数据驱动的设计下，用户会被设计和体验俘获并不断加深陷入，这类似于AI现在在做的事情，因此重要的是知道如何离开它，找到自己一直要回答的问题。
作者为什么认为大公司都要去做AI？
因为这是一个简单的算术问题：以有限的成本和代价（最多是投资损失），可能换来极度夸张的收益和对更多人的控制权，这种诱惑不容丢弃，体现了资本主义思维的可怕。
作者在文章中提到的'心学'议题是什么？
作者提到心学是处理与自己关系的重要议题，因为外界是内心的映照，AI作为外界的投射，也反映了自我，所以回到王阳明和李贽的心学思想。
作者对世界变化的看法是什么？
作者认为世界没有变好或变坏，只是变了，变得不那么熟悉，但底层的东西（如有人在说、听、想、看、写、走、跑）不会变，其他变化可以接受。
