線形代数の問題

方針：ラグランジュの方法（平方完成）で標準形に直す。$x_1^2$ の項がないので、まず $x_1{x}_2$ の項を平方の差に変える変換を行う。

1. 2 乗の項をつくる変換
$$x_1=y_1+y_2,x_2=y_1-y_2,x_3=y_3,x_4=y_4$$
とおく（$y_1=\frac{x_1+x_2}{2},y_2=\frac{x_1-x_2}{2}$ と逆に解けるので正則な変換）。各項は
$$2x_1{x}_2=2y_1^2-2y_2^2,2x_1{x}_3+2x_2{x}_3=2(x_1+x_2)x_3=4y_1{y}_3,$$
$$2x_2{x}_4=2y_1{y}_4-2y_2{y}_4,2x_3{x}_4=2y_3{y}_4,x_4^2=y_4^2$$
となるから
$$Q=2y_1^2-2y_2^2+4y_1{y}_3+2y_1{y}_4-2y_2{y}_4+2y_3{y}_4+y_4^2.$$

2. $y_1$ について平方完成
$$2y_1^2+4y_1{y}_3+2y_1{y}_4=2{\left(y_1+y_3+\frac{1}{2}{y}_4\right)}^2-2{\left(y_3+\frac{1}{2}{y}_4\right)}^2=2{\left(y_1+y_3+\frac{1}{2}{y}_4\right)}^2-2y_3^2-2y_3{y}_4-\frac{1}{2}{y}_4^2$$
より
$$Q=2{\left(y_1+y_3+\frac{1}{2}{y}_4\right)}^2-2y_2^2-2y_2{y}_4-2y_3^2+\frac{1}{2}{y}_4^2.$$

3. $y_2$ について平方完成
$$-2y_2^2-2y_2{y}_4=-2{\left(y_2+\frac{1}{2}{y}_4\right)}^2+\frac{1}{2}{y}_4^2$$
より
$$Q=2{\left(y_1+y_3+\frac{1}{2}{y}_4\right)}^2-2{\left(y_2+\frac{1}{2}{y}_4\right)}^2-2y_3^2+y_4^2.$$

4. 標準形
$$z_1=y_1+y_3+\frac{1}{2}{y}_4,z_2=y_2+\frac{1}{2}{y}_4,z_3=y_3,z_4=y_4$$
とおくと、$y$ から $z$ への変換は対角成分がすべて $1$ の上三角行列で表されるので正則である。$x$ で書けば $z_1=\frac{x_1+x_2+2x_3+x_4}{2},z_2=\frac{x_1-x_2+x_4}{2},z_3=x_3,z_4=x_4$ であり
$$Q=2z_1^2-2z_2^2-2z_3^2+z_4^2.$$
（検算：$2z_1^2-2z_2^2=\frac{1}{2}(x_1+x_2+2x_3+x_4{)}^2-\frac{1}{2}(x_1-x_2+x_4{)}^2=2(x_2+x_3)(x_1+x_3+x_4)$ を展開して $-2x_3^2+x_4^2$ を加えると、元の $Q$ に一致する。）

正の係数は $2,1$ の 2 個、負の係数は $-2,-2$ の 2 個である。シルベスターの慣性法則より
$$(p,q)=(2,2).$$

別の確かめ方：$Q$ の係数行列 $A=\left(\begin{array}{cccc}0& 1& 1& 0\\ 1& 0& 1& 1\\ 1& 1& 0& 1\\ 0& 1& 1& 1\end{array}\right)$ について $\det A=2>0$ なので $Q$ は非退化で、固有値の積が正だから負の固有値の個数 $q$ は偶数。また $Q(1,0,0,0)=0$ なので $Q$ は正定値でも負定値でもなく $q\ne 0,4$。よって $q=2,p=2$ となり、結果と一致する。

対称行列で $Q=x^{T}Ax$ と表す。平方完成すると
$Q=(x_4+x_2+x_3{)}^2-(x_2+x_3{)}^2+2x_1(x_2+x_3)+2x_2{x}_3$
$=(x_4+x_2+x_3{)}^2-x_2^2-x_3^2+2x_1(x_2+x_3)$。

$s=x_2+x_3,d=x_2-x_3$ とおくと $x_2^2+x_3^2=\frac{s^2+d^2}{2}$ だから
$-x_2^2-x_3^2+2x_{1}s=2x_{1}s-\frac{s^2}{2}-\frac{d^2}{2}=-\frac{1}{2}(s-2x_1{)}^2+2x_1^2-\frac{1}{2}{d}^2$。

よって
$Q=(x_4+x_2+x_3{)}^2+2x_1^2-\frac{1}{2}(x_2+x_3-2x_1{)}^2-\frac{1}{2}(x_2-x_3{)}^2$。

4 つの 1 次式 $x_4+x_2+x_3,x_1,x_2+x_3-2x_1,x_2-x_3$ は 1 次独立（$x_1$ が決まり、次に $s$、$d$、最後に $x_4$ が決まる）なので、これは正則な変換による標準形である。係数は正が 2 個、負が 2 個。

検算：行列式は $\det A=1\cdot 2\cdot (-\frac{1}{2})(-\frac{1}{2})\times (\text{変換の行列式の2乗の逆数})>0$ となり、負の固有値が偶数個であることと矛盾しない。よって $(p,q)=(2,2)$。