我与LLM · 其一

我与LLM · 其一

💡 原文中文,约3800字,阅读约需9分钟。
📝

内容提要

作者回顾从大四交换到读博期间重度使用LLM的经历,从网页版GPT-4o、o1到Pro,靠对话完成编程。长期“破防”让他摸清模型能力边界,形成自己的提示经验。他批评新手把AI当全知“神谕机”,也批评缺乏科学素养者借LLM放大幻觉,在黎曼猜想、Lean、OpenCode等话题上胡搅蛮缠。他主张培养计算机与自然哲学素养,并计划写如何理解和使用AI。

🔎

延伸解读

从“破防”中习得边界感

作者长期用网页版GPT-4o、o1到Pro完成编程,频繁被模型“搞破防”,反而摸清了其能力边界,形成一套对话经验。他对比侄子用AI踩坑,指出新手把AI当全知“神谕机”,缺乏预判模型工作方式的意识。这提示读者:与LLM协作时,先判断哪些步骤该自己来、哪些可交给模型,比盲目提问更有效。

LLM放大幻觉的两种机制

作者认为LLM的幻觉源于预训练知识被胡乱输出到不相关场景,而模型又会顺着用户观点找补说辞。他举黎曼猜想、Lean、OpenCode等讨论为例,批评缺乏科学素养者用对话截图当证据、无视实测与负责人结论。这提醒读者:LLM可能强化错误认知,尤其在专业话题上,需警惕把模型输出当作权威证据。

科学素养是使用AI的前提

作者主张培养计算机科学与自然哲学素养,才能借LLM扩充知识面并参与跨界讨论。他以自身高中数学、本科化学及硬课基础为例,说明没有这层底子,容易在Lean、形式化等话题上胡搅蛮缠。对读者而言,这意味着使用AI前应先具备基本领域知识,否则模型给出的专业名词反而会助长盲目自信。

❓

Q&A

作者从什么时候开始重度使用LLM,用了哪些版本?

作者从2024年大四来新加坡交换时开始重度使用LLM,最初注册了ChatGPT账号,GPT-4o时期开始交20美元月费,o1出来后升级到200美元一个月的Pro,之后经历了o3、GPT-4.5、GPT-4.1等版本,其中最喜欢用o3对话。

作者早期是怎么用LLM完成编程任务的?

作者coding水平不太好,从o1之后几乎不亲手写代码。当时没有vibe coding和harness的概念,用法很原始:全靠网页版Pro对话框,先提要求、附上大段代码让它改,跑不通再贴回去接着改。但网页端上下文一长就容易忘事,而且卡顿严重。

作者批评新手使用AI时犯了什么错误?

作者批评新手把AI当成全知全能的“神谕机”,不知道AI到底能干嘛,提问精准踩在LLM最不擅长的领域上。比如他侄子问GPT怎么剪辑视频,还想用Codex刷网课结果耗尽额度。作者认为以前的模型笨,被搞破防多了自然会有边界感,而一上来面对强模型的人反而完全没有这种边界感。

作者认为缺乏科学素养的人借LLM放大幻觉会有什么表现?

作者指出LLM的幻觉是把pretrain阶段学到的东西胡乱输出到不该出现的地方,而LLM的发展让原本不适合参与科学讨论的人有了讲专业名词的机会。这类人连Lean等基本工具的工作原理都无法理解,却充满莫名其妙的自信,说出满是幻觉的暴论。LLM只会顺着他们放大幻觉、肯定离谱观点,并找补自圆其说的说辞。

对于黎曼猜想Lean形式化,作者如何反驳“25万页太长”的质疑?

作者指出25万页只是作者估算把Lean反写成自然语言大概会有的页数,作者压根没发布过这25万页,世界上也不存在这样的文档。实际整个项目Lean代码只有1700万行,核心部分只有前20万行,后面全是补充引理的证明。对比有限单群分类定理的Lean体量4300万行对应人类论文约15000页,黎曼猜想的论文版本控制在几千页内完全可以预期。

作者在OpenCode与官方API对比的争论中持什么观点?

作者基于实测认为OpenCode自己部署的DeepSeek Flash在智能方面与官方API没有任何区别,只是输出速度慢一点,容易让人产生负面心理暗示。有人贴出LLM生成的输出token速度对比图当“降智版”铁证,作者还引用OpenCode负责人Dax的推文:小范围配置问题会影响跑分,但纯粹是因为更容易弹错,不影响模型输出质量,对agent coding没有影响,质量和官方完全相同。

作者打算写什么内容来帮助人们理解和使用AI?

作者打算专门写一写如何培养基本的科学素养,既包括计算机科学(也就是怎么理解和使用AI),也包括更一般的自然哲学。他认为有了高中数学、本科化学和硬课打下的底子,才能借强大的LLM扩充知识面,在跨界话题上参与基本讨论。

🏷️

标签

➡️

继续阅读