不变子空间

数学上，一个从某个线性空间$V$到自身的线性变换

$T:V\rightarrow V$

的不变子空间是$V$的一个子空间$W$使得$T(W)$包含于$W$。$T$的一个不变子空间也称为是 $T$－不变的。

若$W$为$T$－不变，我们限制$T$到$W$上得到一个新的线性变换

$T|W:W\rightarrow W$

不变子空间的存在使得对于$T$的研究变得更为简单。

当然$V$本身，和子空间${0}$，是每个线性算子$T:V\rightarrow V$的平凡不变子空间。对于特定的线性算子，可能没有非平凡的不变子空间；譬如考虑二维实向量空间的旋转。

另一个例子是：令${\textbf {v}}$为$T$的一个特征向量，也即$T{\textbf {v}}=\lambda {\textbf {v}}$。则$W={\text{span}}\{{\textbf {v}}\}$是$T$不变的。

进一步扩展这个例子，我们可以证明每个在一个至少两维的复有限维向量空间的每个线性算子有一个非平凡的不变子空间：$T$的特征值是$T$的特征多项式的零点，而该多项式根据代数基本定理总是有零点的；然后我们可以取对应于该特征值的一个特征向量张成的空间。这个证明在实数域上不成立，因为不是所有实多项式都有一个实根。

矩阵表示

在有限维向量空间上每个线性变换$T:V\rightarrow V$在选取了一个$V$的基以后都可以用一个矩阵来表达。假设现在$W$是一个$T$不变子空间。取$W$的一个基$C=\{{\textbf {i}}_{1},\cdots ,{\textbf {i}}_{k}\}$，并扩充成为$V$的一个基$B$。则$T$对应于基$B$的矩阵$[T]_{B}$将有如下形式：

$[T]_{B}={\begin{bmatrix}[T|_{W}]_{C}&*\\0&*\end{bmatrix}}$

其中左上角块表达了$W$中的向量的像还在$W$本身中因此是$W$的基向量的线性组合这一事实。

不变子空间问题

主条目：不变子空间问题

不变子空间问题主要是关于$V$是大于1维的复数域上的可分希尔伯特空间，而$T$是有界算子的情况的。它求证是否$T$总是有一个非平凡闭子空间。该问题直至2006年还未獲解答。若$V$只是巴拿赫空间，1984年Charles Read证明存在反例。

推广

更一般的，不变子空间可以定义在算子集合上（算子代数，群表示），它们是在该集合中的每个算子下不变的子空间。

例如，给定一个群$G$在向量空间$V$上的表示，每个$G$的元素$g$有一个对应的线性变换$T(g):V\rightarrow V$。若$V$的子空间$W$在所有这些变换下不变，则它是一个子表示，而群$G$以自然的方式作用于$W$上。