本文介绍了Boolformer,一种基于Transformer的模型,专用于布尔函数的符号回归。它能够在给定真值表的情况下,预测复杂函数的紧凑公式,并在不完整或噪声数据下找到良好的近似表达。Boolformer在多个二分类数据集上表现优异,作为经典机器学习方法的可解释替代方案,并在基因调控网络动态建模任务中速度远超先进遗传算法。
本文介绍了通用逼近定理,指出单隐层前馈神经网络能够逼近任意连续函数。通过感知器的基本概念,展示了如何利用多个感知器学习线性可分和不可分的布尔函数。最后,利用sigmoid神经元构建“塔函数”,在给定误差范围内近似表示任意函数。
本研究探讨了布尔函数的秩表征,提出了一种基于Transformer的新型秩表征,并证明识别布尔序列中第k个1的位置需要k个思维链步骤。
本文研究了基于决策可分离负范式电路的布尔函数枚举问题,探讨了与可解释人工智能相关的主要子句及其可行性。同时分析了transformers在蛋白质语言和图像重建任务中的表现,并提出使用内在维度作为无监督代理。最后,介绍了几何代数变换器的架构及其在代数拓扑数据处理中的应用,强调了几何归纳偏差对模型解释性和泛化性的影响。
本文探讨了多种电路发现和优化技术,包括基于 DNNF 的算法、真值表网络结构、丛图宽度对布尔函数表示的影响,以及电路探测技术在模型分析中的应用。这些研究展示了在计算效率和可解释性方面的进展,特别是在因果推理和神经网络模型优化中。
完成下面两步后,将自动完成登录并继续当前操作。