線形代数の問題

拡大係数行列に行基本変形を行う。
$$\left(\begin{array}{ccccc}1& 2& 1& -1& 1\\ 2& 5& 3& 1& 4\\ 1& 3& a& 3& b\\ 3& 7& 4& a-1& b+3\end{array}\right)$$
第 2 行から第 1 行の 2 倍、第 3 行から第 1 行、第 4 行から第 1 行の 3 倍を引くと
$$\left(\begin{array}{ccccc}1& 2& 1& -1& 1\\ 0& 1& 1& 3& 2\\ 0& 1& a-1& 4& b-1\\ 0& 1& 1& a+2& b\end{array}\right).$$
さらに第 3 行・第 4 行から第 2 行を引くと
$$\left(\begin{array}{ccccc}1& 2& 1& -1& 1\\ 0& 1& 1& 3& 2\\ 0& 0& a-2& 1& b-3\\ 0& 0& 0& a-1& b-2\end{array}\right).$$

係数行列を $A$、拡大係数行列を $\tilde{A}$ とし、場合分けする。

(i) $a\ne 1$ かつ $a\ne 2$ のとき: 対角に並ぶ $1,1,a-2,a-1$ がすべて $0$ でないので $\mathrm{rank}A=\mathrm{rank}\tilde{A}=4$ となり、解はただ 1 つ。

(ii) $a=2$ のとき: 第 3 行・第 4 行は $(0,0,0,1\mid b-3)$, $(0,0,0,1\mid b-2)$ となる。第 4 行から第 3 行を引くと $(0,0,0,0\mid 1)$ となり、$0=1$ という矛盾した式が現れる。よって $b$ によらず解をもたない（$\mathrm{rank}A=3$, $\mathrm{rank}\tilde{A}=4$）。

(iii) $a=1$ のとき: 第 3 行・第 4 行は $(0,0,-1,1\mid b-3)$, $(0,0,0,0\mid b-2)$ となる。
- $b\ne 2$ なら $0=b-2\ne 0$ となり解なし。
- $b=2$ なら $\mathrm{rank}A=\mathrm{rank}\tilde{A}=3<4$ なので、解は $4-3=1$ 個の任意定数を含み、無数に存在する。実際 $x_4=t$ とおくと $x_3=t+1$, $x_2=2-x_3-3x_4=1-4t$, $x_1=1-2x_2-x_3+x_4=-2+8t$ となる。

以上より、無数の解をもつのは $(a,b)=(1,2)$ のときに限る。

拡大係数行列に行基本変形を施す。

(2)-2×(1), (3)-(1), (4)-3×(1) より
$x_2+x_3+3x_4=2$、$x_2+(a-1)x_3+4x_4=b-1$、$x_2+x_3+(a+2)x_4=b$。

さらに第 2 式を引いて
$(a-2)x_3+x_4=b-3$、$(a-1)x_4=b-2$。

結局、$x_1,x_2$ は主変数で、残りの方程式は
$(a-2)x_3+x_4=b-3,(a-1)x_4=b-2$。

この $(x_3,x_4)$ についての 2 式の係数行列式は $(a-2)(a-1)$。
- $a\ne 1,2$: 解は一意（無数の解にならない）。
- $a=2$: $x_4=b-3$ かつ $x_4=b-2$ で矛盾（解なし）。
- $a=1$: $-x_3+x_4=b-3$、$0=b-2$。$b=2$ のとき解をもち、$x_4$ が自由変数となって無数の解。$b\ne 2$ は解なし。

よって $(a,b)=(1,2)$。

検算: $a=1,b=2$ のとき階数は係数行列・拡大行列とも $3<4$。具体的に $x_4=0$ とすると $x_3=1,x_2=1,x_1=-2$ で、(1): $-2+2+1=1$、(2): $-4+5+3=4$、(3): $-2+3+1=2=b$、(4): $-6+7+4=5=b+3$ をすべて満たす。