数理統計の問題

ステップ 1：MSE の分解。
推定量 $\hat{\theta }$ の 2 乗の期待値が有限のとき、$E_{\theta }[\hat{\theta }]=m$ とおくと、期待値の線形性より
$$E_{\theta }\left[\{(\hat{\theta }-m)+(m-\theta ){\}}^2\right]=E_{\theta }\left[(\hat{\theta }-m{)}^2\right]+2(m-\theta )E_{\theta }[\hat{\theta }-m]+(m-\theta {)}^2=V_{\theta }(\hat{\theta })+(m-\theta {)}^2$$
である（$m-\theta$ は定数であり、$E_{\theta }[\hat{\theta }-m]=0$ を使った）。すなわち $\mathrm{MSE}=\text{分散}+(\text{バイアス}{)}^2$。以下で扱う推定量はいずれも $[0,\theta ]$ に値をとる有界な確率変数なので、期待値・分散はすべて有限である。

ステップ 2：${\hat{\theta }}_1$ のバイアスと MSE。
$[0,\theta ]$ 上の一様分布の密度は $1/\theta (0\le x\le \theta )$ なので
$$E_{\theta }[X_i]={\int }_0^{\theta }\frac{x}{\theta }dx=\frac{\theta }{2},E_{\theta }[X_i^2]={\int }_0^{\theta }\frac{x^2}{\theta }dx=\frac{{\theta }^2}{3},V_{\theta }(X_i)=\frac{{\theta }^2}{3}-\frac{{\theta }^2}{4}=\frac{{\theta }^2}{12}.$$
よって $E_{\theta }[{\hat{\theta }}_1]=\frac{2}{n}\cdot n\cdot \frac{\theta }{2}=\theta$ で、${\hat{\theta }}_1$ は不偏である。$X_i$ は互いに独立なので分散は足し合わせられ、
$$V_{\theta }({\hat{\theta }}_1)=\frac{4}{n^2}\cdot n\cdot \frac{{\theta }^2}{12}=\frac{{\theta }^2}{3n}.$$
ステップ 1 よりバイアスが $0$ なので ${\mathrm{MSE}}_{\theta }({\hat{\theta }}_1)=\frac{{\theta }^2}{3n}$。

ステップ 3：$M$ の分布。
$0\le t\le \theta$ に対し、$M\le t$ はすべての $i$ で $X_i\le t$ となることと同値で、$X_i$ は独立なので
$$P(M\le t)=\prod _{i=1}^{n}P(X_i\le t)={\left(\frac{t}{\theta }\right)}^n.$$
$t<0$ では $0$、$t>\theta$ では $1$ である。微分して、$M$ の密度は $\frac{n{t}^{n-1}}{{\theta }^n}(0\le t\le \theta )$ となる。

ステップ 4：$M$ のバイアスと MSE。
$$E_{\theta }[M]={\int }_0^{\theta }t\cdot \frac{n{t}^{n-1}}{{\theta }^n}dt=\frac{n}{n+1}\theta ,E_{\theta }[M^2]={\int }_0^{\theta }{t}^2\cdot \frac{n{t}^{n-1}}{{\theta }^n}dt=\frac{n}{n+2}{\theta }^2.$$
バイアスは $E_{\theta }[M]-\theta =-\frac{\theta }{n+1}\ne 0$（$\theta >0$ のため）なので、$M$ は不偏推定量でない。MSE は定義から直接
$${\mathrm{MSE}}_{\theta }(M)=E_{\theta }[M^2]-2\theta E_{\theta }[M]+{\theta }^2={\theta }^2\left(\frac{n}{n+2}-\frac{2n}{n+1}+1\right).$$
括弧内を通分すると、分子は $n(n+1)-2n(n+2)+(n+1)(n+2)=n^2+n-2n^2-4n+n^2+3n+2=2$ なので
$${\mathrm{MSE}}_{\theta }(M)=\frac{2{\theta }^2}{(n+1)(n+2)}.$$
（検算：分散 $\frac{n}{n+2}{\theta }^2-\frac{n^2}{(n+1{)}^2}{\theta }^2=\frac{n{\theta }^2}{(n+1{)}^2(n+2)}$ にバイアスの 2 乗 $\frac{{\theta }^2}{(n+1{)}^2}$ を足しても $\frac{(n+n+2){\theta }^2}{(n+1{)}^2(n+2)}=\frac{2{\theta }^2}{(n+1)(n+2)}$ となり一致する。）

ステップ 5：比較。
${\theta }^2>0$, $3n(n+1)(n+2)>0$ なので
$${\mathrm{MSE}}_{\theta }({\hat{\theta }}_1)-{\mathrm{MSE}}_{\theta }(M)={\theta }^2\left(\frac{1}{3n}-\frac{2}{(n+1)(n+2)}\right)=\frac{{\theta }^2\{(n+1)(n+2)-6n\}}{3n(n+1)(n+2)}=\frac{{\theta }^2(n-1)(n-2)}{3n(n+1)(n+2)}.$$
$n\ge 3$ より $n-1>0$, $n-2>0$ なので、右辺は正である。

以上より、${\hat{\theta }}_1$ は不偏、$M$ は不偏でないが、すべての $\theta >0$ で ${\mathrm{MSE}}_{\theta }(M)<{\mathrm{MSE}}_{\theta }({\hat{\theta }}_1)$ が成り立つ。$■$

（補足：$n=1,2$ では両者の MSE は等しくなる。）