代数的組合せ論の問題

階数 2 の行列の個数. $m\ge 2$ に対し、${\mathbb{F}}_q$ 上の階数 $2$ の $2\times m$ 行列の個数を $f(m)$ とする。第 1 行は零でない任意のベクトルで $q^m-1$ 通り、第 2 行は第 1 行の張る $1$ 次元部分空間（$q$ 個の元）に含まれないベクトルで $q^m-q$ 通りだから
$$f(m)=(q^m-1)(q^m-q).$$
また $m=0,1$ のときは階数 $2$ になりえないので $f(0)=f(1)=0$ とする。

包除原理. 列の番号の集合 $\{1,2,3,4\}$ の部分集合 $S$ に対し、「$S$ に属する列がすべて零ベクトル」である階数 $2$ の行列の個数は、残りの $4-|S|$ 列が階数 $2$ の $2\times (4-|S|)$ 行列をなすことから $f(4-|S|)$ である。包除原理により、どの列も零でない階数 $2$ の行列の個数は
$$\sum _{S\subseteq \{1,2,3,4\}}(-1{)}^{|S|}f(4-|S|)=f(4)-(\genfrac{}{}{0ex}{}{4}{1})f(3)+(\genfrac{}{}{0ex}{}{4}{2})f(2)-(\genfrac{}{}{0ex}{}{4}{3})f(1)+f(0).$$
各項を展開する。
$$f(4)=(q^4-1)(q^4-q)=q^8-q^5-q^4+q,$$
$$f(3)=(q^3-1)(q^3-q)=q^6-q^4-q^3+q,$$
$$f(2)=(q^2-1)(q^2-q)=q^4-q^3-q^2+q.$$
よって
$$\begin{array}{rl}& (q^8-q^5-q^4+q)-4(q^6-q^4-q^3+q)+6(q^4-q^3-q^2+q)\\ & =q^8-4q^6-q^5+(-1+4+6)q^4+(4-6)q^3-6q^2+(1-4+6)q\\ & =q^8-4q^6-q^5+9q^4-2q^3-6q^2+3q.\end{array}$$

検算. 列がすべて零でない行列は $(q^2-1{)}^4$ 個あり、そのうち階数 $1$ のものは、列がすべて同じ $1$ 次元部分空間（$q+1$ 通り）の零でない元（各列 $q-1$ 通り）であるものなので $(q+1)(q-1{)}^4$ 個。差をとると
$$(q^2-1{)}^4-(q+1)(q-1{)}^4=(q^8-4q^6+6q^4-4q^2+1)-(q^5-3q^4+2q^3+2q^2-3q+1)$$
となり、上の結果と一致する。$q=2$ では $256-256-32+144-16-24+6=78$ で、$3^4-3=78$ とも一致する。

$A$ の 4 つの列を ${\mathbb{F}}_q^2$ の零でないベクトル $v_1,\dots ,v_4$ とみなす。零でない列の組は全部で $(q^2-1{)}^4$ 個。
このうち階数が 2 でないものは、階数が 1（零でないので階数 0 はない）、すなわち 4 つの列がすべて 1 つの 1 次元部分空間に入るものである。1 次元部分空間は $q+1$ 個で、各々に零でないベクトルは $q-1$ 個あるから、その組は $(q+1)(q-1{)}^4$ 個（異なる直線に同時に入る零でないベクトルはないので重複なし）。
よって求める個数は $(q^2-1{)}^4-(q+1)(q-1{)}^4=(q-1{)}^4(q+1)[(q+1{)}^3-1]=(q-1{)}^4(q+1)q(q^2+3q+3)$。
検算: $q=2$ のとき $3^4-3\cdot 1=78$、式は $2\cdot 1\cdot 3\cdot 13=78$ で一致。