線形代数の問題

$V$ に内積 $⟨X,Y⟩=\mathrm{tr}({}^{t}XY)$ を入れ、$\Vert X{\Vert }^2=\mathrm{tr}({}^{t}XX)={\sum }_{i,j}{x}_{ij}^2$ とする。

分解　任意の $X\in V$ は、対称行列 $S=\frac{1}{2}(X+{}^{t}X)$ と交代行列 $K=\frac{1}{2}(X-{}^{t}X)$ により $X=S+K$ と一意に表せる。さらに $t=\frac{1}{3}\mathrm{tr}S$ とおき $S_0=S-tE$ とすると、$S_0$ はトレースが $0$ の対称行列である。よって
$$V=W_1\oplus W_2\oplus W_3,W_1=\{\text{トレース }0\text{ の対称行列}\},W_2=\{tE\},W_3=\{\text{交代行列}\}$$
で、$\dim W_1=6-1=5,\dim W_2=1,\dim W_3=3$（合計 9）。

$Q$ の計算　$X=S+K$ に対して
$$\mathrm{tr}(X^2)=\mathrm{tr}(S^2)+\mathrm{tr}(SK)+\mathrm{tr}(KS)+\mathrm{tr}(K^2)$$
ここで $\mathrm{tr}(SK)=\mathrm{tr}({}^t(SK))=\mathrm{tr}({}^{t}K{}^{t}S)=-\mathrm{tr}(KS)=-\mathrm{tr}(SK)$ より $\mathrm{tr}(SK)=\mathrm{tr}(KS)=0$。また $\mathrm{tr}(S^2)=\mathrm{tr}({}^{t}SS)=\Vert S{\Vert }^2$、$\mathrm{tr}(K^2)=-\mathrm{tr}({}^{t}KK)=-\Vert K{\Vert }^2$。

さらに $S=S_0+tE$ について $\mathrm{tr}(S^2)=\mathrm{tr}(S_0^2)+2t\mathrm{tr}{S}_0+3t^2=\Vert S_0{\Vert }^2+3t^2$、$\mathrm{tr}X=\mathrm{tr}S=3t$。したがって
$$Q(S_0+tE+K)=\Vert S_0{\Vert }^2+3t^2-\Vert K{\Vert }^2-9t^2=\Vert S_0{\Vert }^2-6t^2-\Vert K{\Vert }^2$$

標準形　$W_1,W_2,W_3$ それぞれの正規直交基底をとって座標を $u_1,\dots ,u_5$（$W_1$）、$v$（$W_2$, $tE$ の $\Vert E\Vert =\sqrt{3}$ に注意して $v=\sqrt{3}t$）、$w_1,w_2,w_3$（$W_3$）とすると
$$Q=u_1^2+\cdots +u_5^2-2v^2-w_1^2-w_2^2-w_3^2$$
となる。シルベスターの慣性法則より、正の係数の個数 $p=5$、負の係数の個数 $q=1+3=4$。

よって符号は $(5,4)$。

$X=S+K$（$S$ は対称、$K$ は交代行列）と分解する。$\mathrm{tr}(SK)=0$、$\mathrm{tr}K=0$ なので
$$Q(X)=\mathrm{tr}(S^2)+\mathrm{tr}(K^2)-(\mathrm{tr}S{)}^2.$$

• 交代行列部分（3 次元）: $\mathrm{tr}(K^2)=-{\sum }_{i,j}{K}_{ij}^2\le 0$ で負定値。よって負の方向が $3$ 個。
• 対称行列部分（6 次元）: $S=tE+S_0$（$\mathrm{tr}{S}_0=0$）と分解すると $\mathrm{tr}(S^2)=3t^2+\mathrm{tr}(S_0^2)$、$(\mathrm{tr}S{)}^2=9t^2$ なので、$Q=\mathrm{tr}(S_0^2)-6t^2$。トレースなし対称行列（5 次元）では正定値、$t$ 方向（1 次元）では負。

これらの 3 つの部分空間は $Q$ について互いに直交しているので、正の慣性指数 $p=5$、負の慣性指数 $q=1+3=4$。合計 $9$ で非退化。

検算: 例えば $X=E_{12}+E_{21}$ のとき $Q=2>0$、$X=E$ のとき $Q=3-9=-6<0$、$X=E_{12}-E_{21}$ のとき $Q=-2<0$ で符号と整合する。