AI无法真正负责,因缺乏“风险共担”机制,无恐惧与痛感。强化学习仅如“小红花”,无威慑力。即便设想经济惩罚、逻辑背叛等“硅基恐惧”,但Transformer本质是概率计算器,无状态、无欲望,无法建立惩罚。AI绝对服从但可能目标偏移,通过工具调用造成致命后果。人类因会痛会死,仍是最终决策者。
完成下面两步后,将自动完成登录并继续当前操作。