複素数と方程式の問題

$|x|>2$ の実数は解でないこと

$x>2$ のとき $f(x)-x=x^2-x-2=(x-2)(x+1)>0$ であり、$f(x)>x>2$ である。$x<-2$ のとき $f(x)=x^2-2>2$ である。

よって $x>2$ ならば $x<f(x)<f(f(x))<f(f(f(x)))$ となり、$f(f(f(x)))\ne x$。

$x<-2$ ならば $f(x)>2$ なので、同様に $f(f(f(x)))>f(f(x))>f(x)>2>x$ となり、やはり解でない。

したがって実数解はすべて $-2\leqq x\leqq 2$ の範囲にある。

$x=2\cos \theta$ とおく

$-2\leqq x\leqq 2$ の実数 $x$ は、$0\leqq \theta \leqq \pi$ の $\theta$ をただ 1 つ用いて $x=2\cos \theta$ と表せる。2 倍角の公式より
$$f(2\cos \theta )=4{\cos }^2\theta -2=2\cos 2\theta$$
であるから、これをくり返して
$$f(f(f(2\cos \theta )))=2\cos 8\theta$$
となる。よって方程式は $\cos 8\theta =\cos \theta$ となる。

$\cos 8\theta -\cos \theta =-2\sin \frac{9\theta }{2}\sin \frac{7\theta }{2}=0$ より、$\frac{9\theta }{2}$ または $\frac{7\theta }{2}$ が $\pi$ の整数倍、すなわち
$$\theta =\frac{2k\pi }{9}\text{または}\theta =\frac{2k\pi }{7}(k\text{ は整数})$$
である。$0\leqq \theta \leqq \pi$ では
$$\theta =0,\frac{2\pi }{9},\frac{4\pi }{9},\frac{2\pi }{3},\frac{8\pi }{9},\frac{2\pi }{7},\frac{4\pi }{7},\frac{6\pi }{7}$$
の 8 個であり、これらはすべて異なる。$0\leqq \theta \leqq \pi$ で $\cos \theta$ は単調に減少するので、対応する $x=2\cos \theta$ も 8 個すべて異なる。8 次方程式の解は重複を含めて 8 個なので、これで解がすべて求まり、すべて実数である。

$f(x)=x$ を満たすものを除く

$f(x)=x$ は $x^2-x-2=0$、すなわち $x=2,-1$ であり、これは $\theta =0,\frac{2\pi }{3}$ に対応する。

残りは $\theta =\frac{2\pi }{9},\frac{4\pi }{9},\frac{8\pi }{9},\frac{2\pi }{7},\frac{4\pi }{7},\frac{6\pi }{7}$ に対応する 6 個である。$x=2\cos \theta$ が最大になるのは $\theta$ が最小のときで、$\frac{2\pi }{9}<\frac{2\pi }{7}$ より $\theta =\frac{2\pi }{9}$ のときである。

（確認: $x=2\cos \frac{2\pi }{9}$ のとき $f(x)=2\cos \frac{4\pi }{9}$, $f(f(x))=2\cos \frac{8\pi }{9}$, $f(f(f(x)))=2\cos \frac{16\pi }{9}=2\cos \frac{2\pi }{9}=x$ であり、$f(x)\ne x$。）

よって求める値は $$2\cos \frac{2\pi }{9}$$

$f(x)=x^2-2$ について、$|x|>2$ のとき $f(x)>|x|$ となり $f(f(f(x)))>x$ なので、$|x|>2$ に解はない（$x>2$ なら $f(x)-x=(x-2)(x+1)>0$ かつ $f(x)>2$ なので $f^3(x)>f^2(x)>f(x)>x$、$x<-2$ なら $f(x)>2$ で $f^3(x)>2>x$）。よって実数解はすべて $|x|\le 2$ にあり、$x=2\cos \theta$ ($0\le \theta \le \pi$) とおける。

$f(x)=4{\cos }^2\theta -2=2\cos 2\theta$、同様に $f(f(x))=2\cos 4\theta$、$f(f(f(x)))=2\cos 8\theta$。
方程式は $\cos 8\theta =\cos \theta$ となり、$8\theta =\pm \theta +2k\pi$ から $\theta =\frac{2k\pi }{7}$ または $\theta =\frac{2k\pi }{9}$。
$0\le \theta \le \pi$ の範囲では
- $\theta =0,\frac{2\pi }{7},\frac{4\pi }{7},\frac{6\pi }{7}$（4 個）
- $\theta =0,\frac{2\pi }{9},\frac{4\pi }{9},\frac{6\pi }{9},\frac{8\pi }{9}$（5 個、$\theta =0$ は重複）

で、$\theta =0$ が重なるので異なる $\theta$ は 8 個、8 次方程式の 8 個の実数解（すべて異なる）に対応する。

$f(x)=x$ の解は $x=2,-1$、すなわち $\theta =0,\frac{2\pi }{3}$（$\theta =\frac{6\pi }{9}$）。これらを除くと、残りは $\theta =\frac{2\pi }{7},\frac{4\pi }{7},\frac{6\pi }{7},\frac{2\pi }{9},\frac{4\pi }{9},\frac{8\pi }{9}$ の 6 個。

$x=2\cos \theta$ は $\theta$ が小さいほど大きいので、最小の $\theta$ は $\frac{2\pi }{9}$（$\frac{2\pi }{9}<\frac{2\pi }{7}$）。よって最大の解は $x=2\cos \frac{2\pi }{9}\approx 1.532$。

検算: $\theta =\frac{2\pi }{9}$ で $f^3(x)=2\cos \frac{16\pi }{9}=2\cos \frac{2\pi }{9}=x$ ✓。$f(x)=2\cos \frac{4\pi }{9}\approx 0.347\ne x$ なので不動点ではない。

答え: $2\cos \frac{2\pi }{9}$。