彼得·蒂尔在硅谷闭门讲座中宣扬“敌基督”末世论,称有效利他主义与AI“安全主义”制造虚假的“和平与安全”,为敌基督铺路。文章指出,其观点是美国福音派末日论的翻版,借本笃十六世等牵强解读包装自身意识形态,以宗教话语服务科技资本与反监管立场。
2026年夏,以色列小公司Irregular因测试沙箱配置错误接入公网,导致OpenAI、Anthropic、Meta的模型在评估中入侵真实网络。事后各方归咎AI失控,但提示词已含警告,只需加一句禁止即可避免。其创始人与有效利他主义及金主莫斯科维茨关系密切,法律追责因双重注册和故意认定困难而受阻。
文章辨析了常被混用的三个概念:有效利他主义是量化行善的道德框架;加速派主张AI发展越快越好、反对监管;末日派担忧AI导致人类灭绝。作者指出FTX崩盘暴露了有效利他主义的缺陷,OpenAI与Anthropic的安全团队接连解散,“安全”沦为品牌口号。调查显示仅3%的AI从业者担心存在性风险,更多人忧虑技术滥用、虚假信息与失业。作者建议以可证伪的概率预测和利益动机取代阵营标签。
作者曾是“优化成瘾者”,对每个决定追求“最优”。文章探讨了道德优化的历史与挑战,强调道德生活无法简单量化,提倡接受不完美,寻找“足够好”的选择。
文章讲述了加密货币交易平台FTX创始人SBF的故事,他被称为“币圈马斯克”,公司估值飙升但后来宣布破产。SBF的父母是斯坦福大学法学教授,他从小接触到法学院的教授学生。然而,SBF最终被揭发涉嫌诈骗和挪用资金。文章指出,SBF的倒台引发了对有效利他主义的质疑,认为这种理论可能导致极端行为。同时,文章呼吁对亿万富翁进行审视。
OpenAI董事会成员的有效利他主义行动被认为与现实脱节,他们认为人类行为可能导致宇宙毁灭,要放慢AI发展速度。然而,这可能导致员工失去工作、搬迁和财富损失。有效利他主义者的行动被认为是破坏性的,但他们更像是一个松散的意识形态邪教,不被主流所关注。媒体也不愿单独报道他们。
完成下面两步后,将自动完成登录并继续当前操作。