表現論の問題

$\rho$ の指標を $\chi$ と書き、$\zeta =e^{2\pi i/7}$ とおく。

1. 重複度の計算（フロベニウスの相互律）.
$$m_{\rho }=⟨{\mathrm{Ind}}_H^G\psi ,\chi {⟩}_G=⟨\psi ,{\mathrm{Res}}_H^G\chi {⟩}_H=\frac{1}{7}\sum _{k=0}^6\psi ({\sigma }^k)\overline{\chi ({\sigma }^k)}.$$
対称群の共役類は巡回型で決まるので、${\sigma }^k$（$1\le k\le 6$）はすべて $7$ 項巡回置換として $\sigma$ と共役であり、$\chi ({\sigma }^k)=\chi (\sigma )$。また対称群の指標は整数値（特に実数値）である。${\sum }_{k=1}^6{\zeta }^k=-1$ より
$$m_{\rho }=\frac{1}{7}(\chi (1)+\chi (\sigma )\sum _{k=1}^6{\zeta }^k)=\frac{\chi (1)-\chi (\sigma )}{7}.$$

2. 2 乗和.
$$\sum _{\rho }{m}_{\rho }^2=\frac{1}{49}(\sum _{\chi }\chi (1{)}^2-2\sum _{\chi }\chi (1)\chi (\sigma )+\sum _{\chi }\chi (\sigma {)}^2).$$
指標の第 $2$ 直交関係（列の直交性）より、
- ${\sum }_{\chi }\chi (1{)}^2=|G|=5040$
- ${\sum }_{\chi }\chi (1)\overline{\chi (\sigma )}=0$（$1$ と $\sigma$ は共役でない）
- ${\sum }_{\chi }|\chi (\sigma ){|}^2=|C_G(\sigma )|$

である。$7$ 項巡回置換の個数は $6!=720$ なので $|C_G(\sigma )|=5040/720=7$（実際 $C_G(\sigma )=H$）。よって
$$\sum _{\rho }{m}_{\rho }^2=\frac{5040-0+7}{49}=\frac{5047}{49}=103.$$

（検算: マッキーの公式） ${\sum }_{\rho }{m}_{\rho }^2=\dim {\mathrm{End}}_G(W)$ は、両側剰余類 $HgH$ のうち $\psi$ と ${\psi }^g(x)=\psi (g^{-1}xg)$ が $H\cap gH{g}^{-1}$ 上で一致するものの個数に等しい。$g\in N_G(H)$（位数 $42$）のとき $H\cap gH{g}^{-1}=H$ で、$g$ は $\sigma \mapsto {\sigma }^a$ と作用するから一致は $a=1$、すなわち $g\in C_G(H)=H$ のときに限る。これは $1$ 個の両側剰余類 $H$ を与える。$g\notin N_G(H)$ のとき $H\cap gH{g}^{-1}=\{1\}$ なので条件は自動的に成り立ち、$HgH$ の元の数は $49$。このような両側剰余類は $(5040-42)/49=102$ 個ある。合計 $1+102=103$ で一致する。

答えは $103$ である。

$W={\mathrm{Ind}}_H^G\psi ={⨁}_{\rho }{\rho }^{m_{\rho }}$ より ${\sum }_{\rho }{m}_{\rho }^2=⟨W,W{⟩}_G=\dim {\mathrm{End}}_G(W)$。Mackey の公式から
$$⟨W,W⟩=\sum _{HsH\in H\backslash G/H}⟨\psi {|}_{H\cap sH{s}^{-1}},{\psi }^s{|}_{H\cap sH{s}^{-1}}{⟩}_{H\cap sH{s}^{-1}}$$
（${\psi }^s(x)=\psi (s^{-1}xs)$）。

$|H|=7$（素数）なので、$H\cap sH{s}^{-1}$ は $H$ 全体（$s\in N_G(H)$ のとき）か自明群（そうでないとき）のいずれか。

1. $s\notin N_G(H)$: $H\cap sH{s}^{-1}=1$ で各項は $1$。両側剰余類 $HsH$ の大きさは $|H{|}^2=49$。
2. $s\in N_G(H)$: $N_G(H)$ は位数 $7\cdot 6=42$ の群（$\sigma \mapsto {\sigma }^a$, $a\in (\mathbb{Z}/7{)}^{\times }$）。$s$ が $\sigma \mapsto {\sigma }^a$ を引き起こすなら ${\psi }^s(\sigma )=\psi ({\sigma }^{a^{-1}})=e^{2\pi i{a}^{-1}/7}$ で、${\psi }^s=\psi$ となるのは $a=1$、すなわち $s\in C_G(H)=H$ のときだけ。このとき両側剰余類は $H$ 自身 1 つで、項は $⟨\psi ,\psi {⟩}_H=1$。$s\in N_G(H)\setminus H$ の剰余類（6 個）は項が $0$。

$N_G(H)$ の外の元の個数は $5040-42=4998$、これが大きさ $49$ の両側剰余類に分かれるので $4998/49=102$ 個。

よって $\sum m_{\rho }^2=102+1=103$。

検算: 両側剰余類の総数は $102+6\cdot$（$N$ の 6 個の剰余類 $sH$, 各大きさ 7）で、元の個数は $102\cdot 49+42=4998+42=5040=7!$ で一致する。また $\dim W=720$ なので $\sum m_{\rho }\dim \rho =720$ であり、$\sum m_{\rho }^2=103$ は矛盾しない大きさである。