科技海洛因
内容提要
文章以“自由派卖海洛因、保守派卖可卡因”作比喻，称技术乐观主义属可卡因式激进。作者自认进步派，认为技术是单行道，逆转需神级力量；人类终将灭亡，但“回形针AI”只是思想实验，真正风险是错误决策导致黑暗时代。主张做有限乐观者，亲手建设想要的明天。
延伸解读
技术单行道的现实含义
作者将技术比作单行道，认为逆转需要比现有技术强大几个数量级的力量，而技术分布广泛使得这种力量差距难以出现。这意味着试图全面禁止或倒退技术发展，在作者看来并不现实。读者可以从中理解：与其幻想逆转，不如关注如何引导技术方向，因为技术一旦扩散，就很难被集中力量拉回。
回形针AI为何只是思想实验
文章指出，回形针AI的设定忽略了创造它的搜索过程不会停止于回形针，现实中会有混乱和辩论，囚徒困境也永远无法解决。作者认为真正风险不是这种极端单一目标，而是那些不明显但错误的决策，可能将地球推入黑暗时代。这提醒读者，讨论AI风险时应更关注现实决策的复杂性和不可预见性，而非简单化的末日场景。
有限乐观者的行动建议
作者自称进步派，相信命运站在进步一边，但反对成为无限乐观者。他建议亲手建设想要的明天，理由不是这件事本身有多重要，而是“我们能做，而且除此之外还能做什么”。这种态度既承认人类终将灭亡的宏观背景，又强调在当下采取具体行动。读者可以将其理解为一种务实的乐观：不回避悲观事实，但也不因此放弃建设。
Q&A
为什么说技术乐观主义像可卡因？
文章用“自由派卖海洛因、保守派卖可卡因”作比喻，将技术乐观主义、未来主义等归为可卡因式激进，认为它们提供强烈刺激但可能不切实际。
作者对技术逆转的看法是什么？
作者认为技术是单行道，时间之箭只会向前；要逆转需要神级力量，且这种力量必须比当前技术强大几个数量级，只要技术分布足够广泛，这种力量差距就不会出现。
回形针AI真的会毁灭人类吗？
作者认为回形针AI只是思想实验，现实中创造它的搜索过程不会止步于回形针，会有混乱和辩论；真正的风险是错误决策导致地球陷入黑暗时代。
作者为什么自称进步派而不是保守派？
作者认为保守派会失败，美国帝国将继续衰落，社会宽容度会增长；作为进步派，他相信进步，并认为命运站在进步派一边。
什么是有限乐观者？应该怎么做？
有限乐观者不是无限乐观，而是亲手建设想要的明天；不是因为这件事有意义，而是因为我们可以做，并且除此之外也没别的事可做。
人类最终会灭亡吗？
作者认为人类终将灭亡，这是熵增和时间之箭的必然；但灭亡可能更早到来，也可能有微小生命从尘土中爬出，不过我们无法预知具体命运。
