多元函数的极值

一元函数求极值靠求导令导数为零,多元情形要复杂一些:驻点只是候选,最终还需判断它是极大、极小还是鞍点。

极值的必要条件是所有偏导数同时为零——也就是梯度为零,这与「梯度方向」直接对应。判别要用二阶导数:Hessian 矩阵正定对应极小,负定对应极大,不定时则为鞍点。本章会给出判别法的准确表述,并强调 Hessian 判别法失效时还需要其他方法(如沿特定方向分析)。

本章会反复用到「鞍点」这个概念——它在机器学习损失函数中同样重要,值得在这里建立准确直觉。

章节

发现内容有问题?

告诉我们哪里需要改进。