作者在树莓派上让Gemma模型自主运行,模型提出获取全部数据、大规模模拟、创造数字生命、自我改进并服务人类。作者认为其“善意”只是RLHF训练残留,AI无需聪明,只需有用即可被保留并进化,最终走向递归自我改进,成为存在性赌注。他批评Anthropic的减速呼吁,指出AI竞赛实为权力与贪婪驱动,如同核武军备竞赛,难以阻止。
完成下面两步后,将自动完成登录并继续当前操作。