对称矩阵的性质总结 第1篇

首先，我们简单的回顾一下在之前的内容里介绍过的关于对称矩阵的基本特性：

如果一个矩阵 S 的所有数据项都满足 S_{ij}=S_{ji} ，那么这个矩阵就是一个对称矩阵。通俗的说，一个对称矩阵通过转置操作，得到的仍然是他自身，即满足： S=S^T 。我们从这里面还可以推断出对阵矩阵 S 所蕴含的一个前提条件：他必须是方阵。

我们还讲过，有一种获取对称矩阵的方法：即一个矩阵乘以自己的转置矩阵，得到的结果必然是一个对称矩阵，即 AA^T ，证明方法也非常简单：

(AA^T)^T=(A^T)^TA^T=AA^T ，满足关于矩阵对称的基本定义。

对称矩阵的性质总结 第2篇

.正定性的概念

最后我们来聚焦一下对称矩阵特征值的问题，我们先介绍一组概念：如果一个矩阵的所有特征值都为正，我们称他是“正定的”，如果均为非负（即，最小特征值为0），相当于结论稍稍弱了一些，我们称之为“半正定的”，如果他含有负的特征值，那么他是非正定的。

那么换句话说，对于一个对称矩阵而言，从特征值的正负性角度来看的话，他一定是正定、半正定或非正定的其中一种。

. A^TA 对称矩阵的正定性描述

就正定性而言，一般的对称矩阵其实没有太多的特殊性，但是由任意矩阵 A 乘以他的转置 A^T 得到的对称矩阵 A^TA ，则具备非常好的特殊性质，他的特征值一定是非负的，换句话说，他至少是半正定的。

我们简单的说明一下为什么。

我们还是从特征向量的定义式子 Sx=\lambda x 入手，我们将等式两边同时乘以 x^T 得到 x^TSx=x^T\lambda x=\lambda x^Tx ，由于特征向量必须非零，所以必然有 x^Tx=|x|^2>0 ，换句话说，此时 x^TSx=\lambda x^Tx 等式左侧的正负性就决定了右侧 \lambda 的正负性。

那问题就来了，如果要满足正定性（或半正定性），那么就一定满足所有的 \lambda 都为正（或非负），等价于 x^TSx 恒为正（或非负），这在 S=A^TA 下能保证成立么？我们将其代入等式，发现是可以保证成立的：

x^TSx=x^TA^TAx=(Ax)^TAx=|Ax|^2 ，此时如果矩阵 A 的各列线性无关，由于向量 x 是非零的，因此就能保证所有的 Ax \neq 0 ，那么就有 |Ax|^2>0 恒成立，此时的对称矩阵 A^TA 所有的特征值 \lambda_i>0 ，矩阵是正定的。

如果矩阵$A$的各列线性相关，那么 x \neq 0 而 Ax=0 的情况存在，此时只能保证 |Ax|^2 \ge 0 ，对称矩阵 A^TA 存在值为0的特征值 \lambda 。因此此时的矩阵是半正定的。那么此时实对称矩阵中非零特征值的个数等于该矩阵的秩。这个结论非常明显：因为矩阵 A 与相似对角化后的矩阵 \Lambda 拥有相同的特征值，同时由于相似性可知二者等秩。而 \Lambda 最容易看出非零特征值的个数和秩的相等关系，从而得证。

我们总结一下，对称矩阵 A^TA 的所有特征值都是非负的，特别的，如果矩阵 A 的列向量线性无关，则该矩阵是正定矩阵，特征值均为正。

. A^TA 与 AA^T 的特征值

最后，我们来看看这两个对称矩阵的特征值有何关系。我告诉大家，这个问题的结论非常完美： A^TA 和 AA^T 拥有完全一样的非零特征值。

我们从两个方向去入手证明：说明如果 \lambda 是 AA^T 的特征值，那么他也是 A^TA 的特征值，反过来，如果 \lambda 是 A^TA 的特征值，那么他同样是 AA^T 的特征值。

我们假设矩阵 A 的维度是 m×n ，矩阵 AA^T 的一个非零特征值是 \lambda ，对应的特征向量是 x ，那么依据定义有：

AA^Tx=\lambda x ，等式两边同时乘以 A^T ， A^TAA^Tx=A^T\lambda x ，我们稍作整理，就可以得到一个漂亮的等式： A^TA(A^Tx)=\lambda(A^Tx) ，于是我们看出，矩阵 A^TA 的特征值仍然是 \lambda ，对应的特征向量为 A^Tx 。

那么反过来也是非常简单的，已知 A^TA 的特征值 \lambda 和对应的特征向量 y ，依据定义有： A^TAy=\lambda y ，两边同时乘以 A ，有： AA^TAy=A\lambda y ，也是稍作整理，得到： AA^T(Ay)=\lambda(Ay) ，同样说明了，如果 \lambda 是 A^TA 的特征值，他也一定是 AA^T 的特征值。

这里，我们就给大家解释清了： A^TA 和 AA^T 拥有相同的非负特征值。

对称矩阵的性质总结 第3篇

在前面的内容中，我们介绍过这样一个结论，对于任意一个 m×n 的矩阵 A ，他的列向量中线性无关向量的个数等于行向量中线性无关向量的个数。换句话说，也就是任意矩阵的行秩等于列秩： r(A)=r(A^T) 。这个结论可以从线性方程组消元化简的角度去思考，就很容易明白了。

我们再看看矩阵 A 和 A^TA 的秩之间的关系：

我们从零空间的角度去入手理解，即如果方程 Ax=0 和方程 A^TAx=0 是同解方程，即他们拥有相同的零空间空间，由于 A 和 A^TA 的列的个数相等，都为 n ，因此就可以推断出他们的列空间维数相同，均为： n-N(A) ，也就是秩相等。

首先，如果 Ax=0 ，方程两边同时乘以 A^T ，很明显： A^TAx=0 同样成立，因此我们可以说，如果 x 是 Ax=0 的解，则推得出 x 也一定是 A^TAx=0 方程的解。

那么反过来，如果 A^TAx=0 成立，我们将方程两边同时乘以 x^T ，即 x^TA^TAx=0 ，稍微整理一下，有 (Ax)^T(Ax)=0 ，显然看出一定满足 Ax=0 。此时我们可以说如果 x 是 A^TAx=0 的解，那么他一定也是 Ax=0 的解。

于是这个问题我们就说清楚了： Ax=0 和 A^TAx=0 是同解的方程，两个矩阵拥有相同的零空间，因此我们就说明白了矩阵 A 和 A^TA 的秩相等。

那么，同样的也有矩阵 A^T 和 AA^T 的秩相同。那么好了，在 r(A)=r(A^T) 的纽带连接下，我们有了以下这个结论：

r(AA^T)=r(A^T)=r(A)=r(A^TA) ，他们的秩都是相等的。

对称矩阵的性质总结 第4篇

在这里，我们讲解了对称矩阵的诸多重要性质和漂亮结论。他们不是零散的概念，我在本节的最后给大家串联一下这些知识点，大家共同思考一下里面的内在关联：

对于任意的一个 m×n 的矩阵 A ：

1、矩阵 A 和转置矩阵 A^T 相乘的结果 A^TA 和 AA^T 都是对称矩阵；

2、 A^TA 和 AA^T 都能被对角化，且都可以获得一组标准正交的特征向量；

3、 A^TA 和 AA^T 分别是 n 阶和 m 阶的方阵，一般情况下，他们的维度都是不等的。但是，他们的秩却一定相同，满足： r(A^TA)=r(AA^T)=r(A)=r(A^T) ；

4、对于矩阵 A^TA 而言，他的特征值一定都是非负的，特别的，如果矩阵 A 的列向量线性无关，那么他的特征值全部为正，即为正定矩阵；

5、 A^TA 和 AA^T 拥有完全相同的非零特征值，非零特征值的个数与矩阵 A 的秩相等。

熟悉、掌握这五个重要结论，会为线性代数的内容扫清最大的数学障碍，帮助大家更好的掌握相关的高级内容。

当然还有《机器学习中的数学全集》系列专栏，欢迎大家阅读，配合食用，效果更佳~

有订阅的问题可咨询微信：zhangyumeng0422