控制论视角下的 AI 编码：二阶系统、放大器与注意力的最优分配

阿什比的必要多样性定律指出，调节器的多样性必须大于或等于被控制环境的多样性，否则会导致控制失效。

AI 编码面临的挑战在于环境的复杂性不断增加，而人类的认知多样性相对固定，导致控制失效的风险。

控制系统的五个组件包括本质变量、扰动、调节器、传感器和效应器，它们之间的相互作用决定了控制的有效性。

第二控制论强调观察者与被观察对象的耦合关系，适用于 AI 编码系统的复杂性。

AI 在控制回路中可以扮演不同的角色，如需求放大器、审查/分析器、准传感器和环境模拟器，具体取决于输入信号和信息耦合关系。

放大器的本质是借力，通过外部能源输出更高的多样性，而传感器则是将高多样性压缩为低多样性信号。

注意力在控制论中是稀缺资源，优化方向是让人类只接收高信噪比的信号，避免浪费注意力在不必要的细节上。

有效的控制架构需要将 AI 的不同角色进行上下文隔离，确保人类在控制回路中始终保持关键决策的能力。