正定矩阵

定义

设 A 为 n 阶实对称矩阵。如果对任意非零实向量 x 都有 $x^{T}Ax>0$，则称 $x^{T}Ax$ 为正定二次型，并称 A 为正定矩阵^[1]。还有一种不要求对称性的广义说法：只要对任何非零向量 z 都满足 $z^{T}Mz>0$，就称 M 为正定矩阵^[1]。不过若去掉对称条件，矩阵与二次型之间便不再保持一一对应，因此正定的讨论通常限制在对称矩阵上^[3]。

按二次型的取值符号，还可得到一组相邻概念：对任意非零实向量恒取负值的称为负定二次型，恒取非负值或恒取非正值的分别称为半正定、半负定二次型，其余情形称为不定型^[4]。单位矩阵就是最简单的正定矩阵^[5]。

复数域上有对应的推广：把实对称矩阵换成埃尔米特矩阵（Hermitian matrix），把转置换成共轭转置，若对任意非零复向量 z 有 $z^{*}Mz>0$，则称 M 为埃尔米特正定矩阵，相应的齐次函数称为埃尔米特型^[2]。埃尔米特型可以看作实二次型的推广，两者有许多相同性质^[2]。

原理

正定性可以从取值、特征值和行列式几个角度刻画。对实对称矩阵 A 而言，以下条件彼此等价：A 为正定矩阵；A 的全部特征值都大于零；A 的各阶顺序主子式都大于零^[6]。最后一条称为西尔维斯特判据，由西尔维斯特（James Joseph Sylvester）提出^[7]。

从矩阵运算看，A 正定等价于存在可逆实矩阵 C 使 $A=C^{T}C$^[1]。由此可得正定矩阵的一系列性质：行列式恒大于零，因而可逆且其逆矩阵也正定；两个正定矩阵之和仍是正定矩阵；正实数与正定矩阵相乘所得矩阵仍正定^[8]。

正定矩阵还可以写成 $A=LL^{T}$，其中 L 是主对角线元素全为正的下三角矩阵，这种分解称为Cholesky分解，它与矩阵正定互为充要条件^[9]。在几何上，全部 n 阶正定矩阵构成的集合是一个凸锥，同时也是一个黎曼流形^[10]。

flowchart LR

A["实对称矩阵 A"] --> B["对一切 x≠0 有 x^T A x > 0"]

A --> C["特征值全为正"]

A --> D["各阶顺序主子式全为正"]

发展历程

正定的概念源于二次型研究。1801 年，高斯（Carl Friedrich Gauss）在《算术研究》中讨论二次型，并用行列式表示二元二次型的判别式，正定、负定、半正定、半负定这些术语即由他引进^[4]。

把二次型化为平方和后，其中正项与负项的个数是否唯一，曾长期没有定论。1852 年，西尔维斯特发表论文，证明实数二次型经过实线性替换后正平方项与负平方项的数目总是不变，这一结果称为惯性定律^[11]。他本人认为该结论不证自明，并未给出证明，后来雅可比独立发现并证明了这一定理^[4]。

以顺序主子式判定正定性的西尔维斯特判据一直沿用，是二次型理论和多元函数极值判别的基础工具^[7]。复数域上的相应理论由埃尔米特型与埃尔米特矩阵给出，实二次型的许多结论可以平行推广过去^[2]。

应用

求解线性方程组是正定矩阵最常见的用途。当方程组系数矩阵对称正定时，可用 Cholesky 分解求解，其运算量约为一般消元法的一半，并且不必选主元即可稳定计算^[9]。反过来，是否存在非奇异的 Cholesky 因子也常被用来检验矩阵是否正定^[9]。

在最优化中，多元函数在驻点处的二阶偏导数矩阵若为正定矩阵，该驻点就是局部极小点，这构成了多元函数极值判别的二阶条件^[12]。正定性还用于保证优化算法的收敛性，以及控制系统的稳定性分析^[10]。

统计学中，协方差矩阵与相关矩阵都要求正定或半正定，正定矩阵的集合因此被当作参数空间，用于拟合统计模型中的协方差结构^[13]。在机器学习中，正定性被用于改进支持向量机分类问题的算法^[2]。此外，正定矩阵还与偏微分方程、柯西不等式以及环境污染来源判别等问题相关^[2]。

局限

判定正定性并不总是容易。西尔维斯特判据需要逐阶计算 n 个顺序主子式的行列式，计算量大，在数值上也可能不稳定，因此后续研究提出了只需求一个行列式或其他分解形式的简化判据^[14]。

该判据的适用也有条件。只考察顺序主子式时，需要各阶顺序主子式都不为零；一旦出现连续两阶主子式为零的情形，结论便无法给出^[6]。对于半正定矩阵，顺序主子式非负并不能作为判据，必须考察全部主子式^[7]。

正定的定义依赖矩阵的对称性。对非对称实矩阵，即使它的特征值全部为正，也不一定是正定矩阵^[3]。

数值计算方面，Cholesky 分解在浮点运算中可能因舍入误差不断累积而中断，即便所处理的矩阵在理论上是正定的^[15]。由带噪声的观测数据估计协方差矩阵时，也可能出现小的负特征值，使结果失去正定性，需要借助专门的修正或约束算法来处理^[16]。

参见

• 二次型 —— 正定矩阵通常定义为正定二次型的系数矩阵。

• 实对称矩阵 —— 正定矩阵的最常见载体。

• 埃尔米特矩阵 —— 正定概念在复数域上的对应形式。

• 特征值 —— 实对称矩阵的各个特征值是否全为正，决定了它是否正定。

• Cholesky分解 —— 正定矩阵特有的三角分解，也用于检验正定性。

• 半正定矩阵 —— 把严格大于零放宽为非负后得到的相邻概念。