在机器学习和数据分析中，理解函数行为非常重要。极值点（最大值和最小值）是函数图形的最高和最低点。局部极值是相邻点的比较，而全局极值是整个定义域的比较。通过一阶和二阶导数测试可以找到这些极值，广泛应用于优化问题、工程设计和数据分析。

拉格朗日乘子法是一种寻找多元函数在约束条件下的局部极值的方法，通过构造拉格朗日函数和引入拉格朗日乘子，可以将最优化问题转化为求解鞍点的问题。拉格朗日对偶性可以将原始问题转换为对偶问题，通过解对偶问题得到原始问题的解。根据KKT条件，原始问题和对偶问题的解满足一定的条件。