線形代数の問題

列基本変形（ある列から別の列の定数倍を引いても行列式は変わらない）を使う。第 $j$ 列を $C_j$ と書く。

まず $C_2-C_1$, $C_3-C_1$ を行う。$(a+1{)}^2-a^2=2a+1$, $(a+2{)}^2-a^2=4a+4$ なので
$$D=\left|\begin{array}{ccc}{a}^2& 2a+1& 4a+4\\ b^2& 2b+1& 4b+4\\ c^2& 2c+1& 4c+4\end{array}\right|.$$
次に $C_3-2C_2$ を行う。$(4a+4)-2(2a+1)=2$ なので
$$D=\left|\begin{array}{ccc}{a}^2& 2a+1& 2\\ b^2& 2b+1& 2\\ c^2& 2c+1& 2\end{array}\right|=2\left|\begin{array}{ccc}{a}^2& 2a+1& 1\\ b^2& 2b+1& 1\\ c^2& 2c+1& 1\end{array}\right|.$$
さらに $C_2-C_3$ を行い、第 2 列から $2$ をくくり出すと
$$D=2\left|\begin{array}{ccc}{a}^2& 2a& 1\\ b^2& 2b& 1\\ c^2& 2c& 1\end{array}\right|=4\left|\begin{array}{ccc}{a}^2& a& 1\\ b^2& b& 1\\ c^2& c& 1\end{array}\right|.$$
第 1 列と第 3 列を入れ替えると符号が変わるので
$$D=-4\left|\begin{array}{ccc}1& a& a^2\\ 1& b& b^2\\ 1& c& c^2\end{array}\right|.$$
右の行列式はヴァンデルモンドの行列式で、$(b-a)(c-a)(c-b)$ に等しい。よって
$$D=-4(b-a)(c-a)(c-b).$$
ここで $(b-a)(c-b)=(a-b)(b-c)$ なので $(b-a)(c-a)(c-b)=(a-b)(b-c)(c-a)$。したがって
$$D=-4(a-b)(b-c)(c-a).$$

（検算）$a=0,b=1,c=2$ のとき、$D=\left|\begin{array}{ccc}0& 1& 4\\ 1& 4& 9\\ 4& 9& 16\end{array}\right|=0-1\cdot (16-36)+4\cdot (9-16)=20-28=-8$。一方 $-4(0-1)(1-2)(2-0)=-8$ で一致する。

第 2 列から第 1 列を、第 3 列から第 1 列を引くと、各行で $(a+1{)}^2-a^2=2a+1$、$(a+2{)}^2-a^2=4a+4$。

$D=\left|\begin{array}{ccc}{a}^2& 2a+1& 4a+4\\ b^2& 2b+1& 4b+4\\ c^2& 2c+1& 4c+4\end{array}\right|$。

第 3 列から第 2 列の $2$ 倍を引くと $4a+4-2(2a+1)=2$。

$D=\left|\begin{array}{ccc}{a}^2& 2a+1& 2\\ b^2& 2b+1& 2\\ c^2& 2c+1& 2\end{array}\right|$。

第 2 列から第 3 列の $1/2$ 倍を引くと $2a$。

$D=\left|\begin{array}{ccc}{a}^2& 2a& 2\\ b^2& 2b& 2\\ c^2& 2c& 2\end{array}\right|=4\left|\begin{array}{ccc}{a}^2& a& 1\\ b^2& b& 1\\ c^2& c& 1\end{array}\right|$。

ファンデルモンドの行列式 $\left|\begin{array}{ccc}1& a& a^2\\ 1& b& b^2\\ 1& c& c^2\end{array}\right|=(b-a)(c-a)(c-b)$ と、列の入れ替え（第 1, 3 列の交換で符号反転）により

$D=-4(b-a)(c-a)(c-b)$。

検算: $a=0,b=1,c=2$ のとき行列は $\left(\begin{array}{ccc}0& 1& 4\\ 1& 4& 9\\ 4& 9& 16\end{array}\right)$、行列式 $=0-1\cdot (16-36)+4\cdot (9-16)=20-28=-8$。式は $-4\cdot 1\cdot 2\cdot 1=-8$。一致。