線形代数の問題

最小多項式の条件　$A^3=A^2$ は $A^2(A-E)=O$ と同値なので、$A$ の最小多項式 ${\phi }_A(x)$ は $x^2(x-1)$ を割り切る。したがって
- $A$ の固有値は $0$ と $1$ のみ、
- 固有値 $1$ のジョルダン細胞のサイズはすべて $1$（${\phi }_A$ における $x-1$ の次数が $1$ 以下）、
- 固有値 $0$ のジョルダン細胞のサイズはすべて $2$ 以下（$x$ の次数が $2$ 以下）。

逆に、この形のジョルダン標準形をもつ行列は $J^2(J-E)=O$ を満たすので、条件を満たす。

数え上げ　複素正方行列の相似類はジョルダン標準形（細胞の並べ方は除く）と 1 対 1 に対応する。固有値 $0$ の重複度を $k$（$0\le k\le 4$）とすると、固有値 $1$ の部分は $E_{4-k}$ に決まり、固有値 $0$ の部分は $k$ を $2$ 以下の正の整数の和に分ける方法（和の順序は区別しない）の数だけある。
- $k=0$: なし（$A=E$）… $1$ 通り
- $k=1$: $1$ … $1$ 通り
- $k=2$: $2,1+1$ … $2$ 通り
- $k=3$: $2+1,1+1+1$ … $2$ 通り
- $k=4$: $2+2,2+1+1,1+1+1+1$ … $3$ 通り

合計 $1+1+2+2+3=9$。よって相似類は $9$ 個。

$A^3=A^2$ より $A$ の最小多項式は $x^2(x-1)=x^3-x^2$ の約数である。したがって固有値は $0,1$ のみで、ジョルダン標準形において固有値 $1$ のブロックはすべて大きさ $1$（対角化可能部分）、固有値 $0$ のブロックの大きさは高々 $2$ である。逆にそのようなジョルダン標準形の行列は $A^3=A^2$ を満たす（固有値 $1$ の部分は $J=I$ で $J^3=J^2$、固有値 $0$ の部分は $N^2=O$ より $N^3=N^2=O$）。相似類はジョルダン標準形（ブロックの並べ替えを除く）で決まるので、数え上げればよい。

固有値 $1$ の重複度を $k$ ($0\le k\le 4$) とすると、残り $m=4-k$ 次元は固有値 $0$ で、ブロックの大きさが $1$ または $2$ の分割の個数は $\lfloor m/2\rfloor +1$ である。
- $m=4$: $\{1,1,1,1\},\{2,1,1\},\{2,2\}$ の 3 通り
- $m=3$: $\{1,1,1\},\{2,1\}$ の 2 通り
- $m=2$: $\{1,1\},\{2\}$ の 2 通り
- $m=1$: 1 通り
- $m=0$: 1 通り

合計 $3+2+2+1+1=9$。

検算: 例えば $m=2$ の場合、$\mathrm{diag}(1,1,0,0)$ と $\mathrm{diag}(1,1)\oplus \left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ はランクが異なり相似でない。他の場合も最小多項式・ランク・固有値の重複度の組が異なるので 9 個は互いに非相似である。