黑塞矩阵与极值理论深入

设函数 $f(x, y)$ 在点 $(x_0, y_0)$ 的某邻域内具有直到 $n+1$ 阶连续偏导数，则对该邻域内任一点 $(x_0+h, y_0+k)$，有

$f(x_0+h, y_0+k) = f(x_0,y_0) + \left(h\frac{\partial}{\partial x} + k\frac{\partial}{\partial y}\right)f(x_0,y_0) + \frac{1}{2!}\left(h\frac{\partial}{\partial x} + k\frac{\partial}{\partial y}\right)^2 f(x_0,y_0) + \cdots + \frac{1}{n!}\left(h\frac{\partial}{\partial x} + k\frac{\partial}{\partial y}\right)^n f(x_0,y_0) + R_n$

其中二阶项展开为： $\frac{1}{2}(h^2 f_{xx} + 2hk f_{xy} + k^2 f_{yy}) = \frac{1}{2}(h, k) H_f \begin{pmatrix} h \\ k \end{pmatrix}$

这就是黑塞矩阵的来源——泰勒展开二阶项的系数矩阵。

对于 $n$ 阶实对称矩阵 $A$，以下条件等价：

1. 正定：

   • 对任意非零向量 $\vec{x}$，$\vec{x}^T A \vec{x} > 0$
   • 所有特征值 $\lambda_i > 0$
   • 所有顺序主子式 $D_k > 0$（$k=1,\ldots,n$）
   • 存在可逆矩阵 $C$ 使 $A = C^T C$

2. 负定：$A$ 负定 ⟺ $-A$ 正定 ⟺ 奇数阶顺序主子式 $<0$，偶数阶 $>0$

3. 不定：既有正特征值又有负特征值

4. 半正定/半负定：所有特征值 $\geq 0$ / $\leq 0$，且至少有一个为零

对于条件极值问题 $\min f(x)$ s.t. $g_i(x)=0$（$i=1,\ldots,m$），拉格朗日函数 $L = f + \sum \lambda_i g_i$。

在驻点 $x^*$ 处，定义加边黑塞矩阵（bordered Hessian）：

$H_B = \begin{pmatrix} 0 & J \\ J^T & H_L \end{pmatrix}$

其中 $J$ 是约束的雅可比矩阵，$H_L$ 是拉格朗日函数的黑塞矩阵。

约束极值的二阶条件涉及 $H_L$ 在约束切空间上的正定性，比无条件极值更复杂。在本科阶段，通常通过实际意义或代入法判断。