小令童鞋
·
机器学习数学基础
💡
原文中文，约700字，阅读约需2分钟。
📝
内容提要
本文介绍了标量、向量、矩阵和张量之间的联系，以及奇异值分解、常见概率分布、数值计算、Jacobian矩阵和Hessian矩阵、估计、偏差、方差、极大似然估计、相对熵和极大似然相关理解。
🎯
关键要点
-
标量是一个单独的数，通常用小写斜体表示。
-
向量是有序排列的数，通常用粗体小写字母表示，元素通过脚标表示。
-
矩阵是二维数据表，表示对象和特征的集合，通常用粗体大写字母表示。
-
张量是多维数组，元素分布在多个维度的规则网格中。
-
奇异值分解是一种矩阵分解技术。
-
常见概率分布用于描述随机变量的分布特性。
-
数值计算涉及对数学问题的数值解法。
-
Jacobian矩阵用于描述多变量函数的偏导数。
-
Hessian矩阵是二阶偏导数的矩阵，用于分析函数的曲率。
-
估计是对未知参数的推测，偏差是估计值与真实值的差异。
-
方差是估计值的波动程度，反映了数据的离散程度。
-
极大似然估计是一种参数估计方法，旨在最大化观测数据的似然函数。
-
相对熵（KL散度）用于衡量两个概率分布之间的差异。
-
极大似然相关理解涉及对极大似然估计的深入分析。
➡️
