设$\boldsymbol{P}\in\mathbb{R}^{n\times n}$是一个特征值都是非负实数的$n$阶方阵，本文来讨论它的平方根$\boldsymbol{P}^{1/2}$和逆平...

本文介绍了张量网络在数据压缩和高维动态系统中的应用，包括低秩张量回归、高斯过程和循环卡尔曼网络。研究表明，张量网络能够高效处理大规模数据，优化计算复杂度，并在实时数据处理和非参数回归中表现优异。

AdaScale SGD 是一种适应大批量训练学习率的算法，通过调整梯度方差加速训练并保持模型质量。该算法无需新超参数，适合大规模训练。此外，研究还提出了 SIBERT 版本的 BERT 和 AdaGrad-Norm 方法，显著降低通信开销，提高收敛性，适用于非凸光滑函数。

本文介绍了一种名为TSSR的新型激活函数，具有奇、非线性、单调和可微分的特点，梯度连续且始终为正。实验证实TSSR比其他激活函数性能更好，对神经网络模型发展和计算机视觉、自然语言处理、语音识别等领域有重要意义。

其实就是利用勾股定理，画个直角三角形，把某个边凑成所求的数值即可。

遇到面试题“实现开平方根的函数”时，如果回答调用库函数sqrt()就可以了，那你就会错意了。很显然，面试官要求你实现自己的平方根运算函数。这时，如果再问为什么要自己写，那你的这次面试就危险了😌。