本文探讨了恒等式 $x = elu(x) - elu(-x)$，并指出类似的恒等式适用于GeLU和Swish等激活函数。通过定义任意奇函数$ heta(x)$，得出更一般的结论，表明这些激活函数使两层神经网络可以简化为一层，从而提升模型灵活性。