線形代数の問題

係数行列を $A=\left(\begin{array}{ccc}1& 1& a\\ 1& a& 1\\ a& 1& 1\end{array}\right)$、拡大係数行列を $\tilde{A}$ とする。

行列式　第 1 行で展開して
$$\det A=1\cdot (a-1)-1\cdot (1-a)+a(1-a^2)=2(a-1)-a(a-1)(a+1)=-(a-1)(a^2+a-2)=-(a-1{)}^2(a+2)$$
よって $a\ne 1,-2$ のとき $\det A\ne 0$ で、解はただ 1 つである。

$a=1$ のとき　3 つの式はすべて左辺が $x+y+z$ となり、$x+y+z=1$ と $x+y+z=-2$ が同時に成り立つことはない。$\mathrm{rank}A=1,\mathrm{rank}\tilde{A}=2$ で、解なし。

$a=-2$ のとき
$$\tilde{A}=\left(\begin{array}{cccc}1& 1& -2& 1\\ 1& -2& 1& 1\\ -2& 1& 1& -2\end{array}\right)$$
第 2 行から第 1 行を引き、第 3 行に第 1 行の 2 倍を加えると
$$\left(\begin{array}{cccc}1& 1& -2& 1\\ 0& -3& 3& 0\\ 0& 3& -3& 0\end{array}\right)$$
さらに第 3 行に第 2 行を加えると第 3 行は $0$ になる。よって $\mathrm{rank}A=\mathrm{rank}\tilde{A}=2<3$ であり、解は無数にある（解は $y=z=t,x=1+t$、$t$ は任意の実数）。

以上より、無数の解をもつのは $a=-2$ のときである。

係数行列の行列式は $\det \left(\begin{array}{ccc}1& 1& a\\ 1& a& 1\\ a& 1& 1\end{array}\right)=-(a-1{)}^2(a+2)$（大きさは $(a-1{)}^2(a+2)$）。無数の解をもつには行列式が $0$、すなわち $a=1$ または $a=-2$ が必要。

• $a=1$: 3 式は $x+y+z=1,x+y+z=1,x+y+z=-2$ となり、第 1 式と第 3 式が矛盾。解なし。
• $a=-2$: 式は $x+y-2z=1,x-2y+z=1,-2x+y+z=-2$。3 式を足すと $0=0$ で、第 3 式は第 1・第 2 式から従う（第 1 式 + 第 2 式 $=2x-y-z=2$ で第 3 式の $-1$ 倍）。階数は $2$ で拡大係数行列の階数も $2$ なので、解は 1 パラメータで無数にある。例: $(x,y,z)=(1,0,0)$ は第 1 式 $1=1$、第 2 式 $1=1$、第 3 式 $-2=-2$ を満たし、$(x,y,z)+s(1,1,1)$ も解。

よって $a=-2$。