線形代数の問題

手順1：それぞれの変換を行列で表す。

線形変換の行列は、基本ベクトル ${\mathbf{e}}_1=\left(\begin{array}{c}1\\ 0\end{array}\right)$, ${\mathbf{e}}_2=\left(\begin{array}{c}0\\ 1\end{array}\right)$ の像を順に列として並べたものである。

$f$（直線 $y=x$ に関する対称移動）は点 $(x,y)$ を $(y,x)$ に移すので、${\mathbf{e}}_1\mapsto \left(\begin{array}{c}0\\ 1\end{array}\right)$, ${\mathbf{e}}_2\mapsto \left(\begin{array}{c}1\\ 0\end{array}\right)$ となり、
$$A=\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right).$$

$g$（角 $\theta$ の回転）の行列は $\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right)$ であり、$\theta =\frac{\pi }{6}$ では $\cos \frac{\pi }{6}=\frac{\sqrt{3}}{2}$, $\sin \frac{\pi }{6}=\frac{1}{2}$ だから
$$B=\left(\begin{array}{cc}\frac{\sqrt{3}}{2}& -\frac{1}{2}\\ \frac{1}{2}& \frac{\sqrt{3}}{2}\end{array}\right).$$

手順2：合成変換の行列を積で求める。

$f$ を先に行い、その後 $g$ を行うので、ベクトル $\mathbf{x}$ は $B(A\mathbf{x})=(BA)\mathbf{x}$ に移る。よって $g\circ f$ の行列は $BA$（先に行う変換の行列を右に置く）である。
$$BA=\left(\begin{array}{cc}\frac{\sqrt{3}}{2}& -\frac{1}{2}\\ \frac{1}{2}& \frac{\sqrt{3}}{2}\end{array}\right)\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)=\left(\begin{array}{cc}-\frac{1}{2}& \frac{\sqrt{3}}{2}\\ \frac{\sqrt{3}}{2}& \frac{1}{2}\end{array}\right).$$

手順3：点 $(2,4)$ の像を計算する。
$$BA\left(\begin{array}{c}2\\ 4\end{array}\right)=\left(\begin{array}{c}-\frac{1}{2}\cdot 2+\frac{\sqrt{3}}{2}\cdot 4\\ \frac{\sqrt{3}}{2}\cdot 2+\frac{1}{2}\cdot 4\end{array}\right)=\left(\begin{array}{c}2\sqrt{3}-1\\ \sqrt{3}+2\end{array}\right).$$

（確認：$f$ で $(2,4)\mapsto (4,2)$、これを $\frac{\pi }{6}$ 回転すると $\left(4\cdot \frac{\sqrt{3}}{2}-2\cdot \frac{1}{2},4\cdot \frac{1}{2}+2\cdot \frac{\sqrt{3}}{2}\right)=(2\sqrt{3}-1,2+\sqrt{3})$ となり一致する。）

よって求める点の座標は $\left(2\sqrt{3}-1,2+\sqrt{3}\right)$ である。

$f$ は直線 $y=x$ に関する対称移動なので、$f(2,4)=(4,2)$。
次に $g$ は反時計回りに $\pi /6$ の回転で、行列は $\left(\begin{array}{cc}\cos \frac{\pi }{6}& -\sin \frac{\pi }{6}\\ \sin \frac{\pi }{6}& \cos \frac{\pi }{6}\end{array}\right)=\left(\begin{array}{cc}\frac{\sqrt{3}}{2}& -\frac{1}{2}\\ \frac{1}{2}& \frac{\sqrt{3}}{2}\end{array}\right)$。
$g(4,2)=\left(4\cdot \frac{\sqrt{3}}{2}-2\cdot \frac{1}{2},4\cdot \frac{1}{2}+2\cdot \frac{\sqrt{3}}{2}\right)=(2\sqrt{3}-1,2+\sqrt{3})$。
検算：原点からの距離は $|(4,2){|}^2=20$。$(2\sqrt{3}-1{)}^2+(2+\sqrt{3}{)}^2=(12-4\sqrt{3}+1)+(4+4\sqrt{3}+3)=20$ で一致する。内積 $(4,2)\cdot (2\sqrt{3}-1,2+\sqrt{3})=8\sqrt{3}-4+4+2\sqrt{3}=10\sqrt{3}=20\cos (\pi /6)$ で、回転角も $\pi /6$ と確認できた。