C# 入门深度学习：万字长文讲解微积分和梯度下降

本教程介绍了使用C#进行深度学习的基础知识。

强调微积分、导数、梯度下降法及其在神经网络中的应用。

微积分部分包括极限、导数、微分、积分等基本概念。

极限的符号是lim，主要讨论函数存在极限的情况。

导数用于计算函数在某个区间上的变化率。

导数的表示符号有多种，导数可以反映函数的瞬时变化率。

求导公式包括基本求导公式和复合函数求导的链式法则。

Sigmoid函数是神经网络中的重要激活函数，其导数公式为σ′(x)=σ(x)(1−σ(x))。

最小值问题通过求导和分析函数的斜率来解决。

偏导数用于多元函数的微分学，涉及到多个变量的变化率。

全微分公式用于计算多元函数的增量。

梯度反映函数在某点的变化率最大方向，梯度下降法用于寻找函数的最小值。

梯度下降法的基本公式涉及到偏导数和学习率的选择。

哈密算子▽用于简化多变量的梯度下降法公式。