数理統計の問題

難易度 3期末試験の応用レベル証明問題大学数学数理統計

$θ > 0$ を未知の母数とし、 $X_{1}, \dots, X_{n}$ （ $n$ は $3$ 以上の整数）は互いに独立に、確率密度関数
$f (x; θ) = {θ x^{θ - 1} 0 (0 < x < 1) (それ以外)$
をもつ分布に従うとする。 $S = - i = 1 \sum n lo g X_{i}$ とおき、
$T = \frac{n - 1}{S}$
と定める。1 標本あたりのフィッシャー情報量を $I (θ) = E_{θ} [(\frac{\partial}{\partial θ} lo g f (X_{1}; θ))^{2}]$ とし、 $θ$ の不偏推定量に対するクラメール・ラオの下限を $\frac{1}{n I ( θ )}$ とする。

このとき、 $T$ は $θ$ の不偏推定量であり、すべての $θ > 0$ に対して $V_{θ} (T) > \frac{1}{n I ( θ )}$ が成り立つ（すなわち $T$ の分散はクラメール・ラオの下限に達しない）ことを証明せよ。

ただし、互いに独立で、いずれも確率密度関数 $θ e^{- θ y} (y > 0)$ をもつ $n$ 個の確率変数の和は、確率密度関数 $\frac{θ ^{n} s ^{n - 1} e ^{- θ s}}{( n - 1 )!} (s > 0)$ をもつこと（ガンマ分布の再生性）と、正の整数 $k$ に対して $\int_{0}^{\infty} s^{k - 1} e^{- θ s} d s = \frac{( k - 1 )!}{θ ^{k}}$ であることは用いてよい。

この問題で使うもの

不偏推定量（説明と入口の問題）
フィッシャー情報量とクラメール・ラオの下限（説明と入口の問題）
独立な確率変数の和の分布（説明と入口の問題）
一様分布・指数分布（説明と入口の問題）
確率変数の変換（説明と入口の問題）

この問題を解けるようになるまで（97 技能）

算数中学高校大学大学院

読み込み中…

右端（太枠）がこの問題で使う技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。

一覧で見る（前提が先）

ヒント

行き詰まったら、上から順に 1 つずつ開いてください。

ヒント 1

$Y_{i} = - lo g X_{i}$ とおいて、 $Y_{i}$ がどんな分布に従うかを調べ、 $S$ の分布を求めてから $E [1/ S]$ , $E [1/ S^{2}]$ を計算する方針をとる。

ヒント 2

$P (Y_{i} > y) = P (X_{i} < e^{- y})$ を計算すると $Y_{i}$ は指数分布に従う。 $S$ の密度を使うと $E [1/ S]$ は $\int_{0}^{\infty} s^{n - 2} e^{- θ s} d s$ の形の積分になる。フィッシャー情報量はスコア $\frac{1}{θ} + lo g X_{1} = \frac{1}{θ} - Y_{1}$ の 2 乗の期待値として求められる。

ヒント 3

$E_{θ} [1/ S] = θ / (n - 1)$ から不偏性が従う。同様に $E_{θ} [1/ S^{2}] = θ^{2} / ((n - 1) (n - 2))$ を求めれば $V_{θ} (T)$ が出る。あとは $I (θ) = 1/ θ^{2}$ を示して $\frac{1}{n I ( θ )}$ と比べる。

採点の観点と模範解答

自分で証明を書いてから、採点の観点で見比べてください。

採点の観点を見る

$P (Y_{i} > y) = e^{- θ y}$ などから、 $Y_{i} = - lo g X_{i}$ が母数 $θ$ の指数分布に従い、互いに独立であることを示している（2 点）
与えられた事実を使って $S$ の密度を書き、積分公式から $E_{θ} [1/ S] = θ / (n - 1)$ を計算して $E_{θ} [T] = θ$ （不偏性）を導いている（2 点）
$E_{θ} [1/ S^{2}] = θ^{2} / ((n - 1) (n - 2))$ を求め（ $n \geq 3$ で積分が有限であることに触れ）、 $V_{θ} (T) = θ^{2} / (n - 2)$ を導いている（2 点）
スコア関数 $\frac{1}{θ} + lo g x$ を計算し、その 2 乗の期待値から $I (θ) = 1/ θ^{2}$ 、下限 $θ^{2} / n$ を求めている（3 点）
$n \geq 3$ から $θ^{2} / (n - 2) > θ^{2} / n$ をすべての $θ > 0$ で示して結論を述べている（1 点）

結果を記録する（このブラウザにだけ保存されます）:

模範解答を読む

ステップ 1： $Y_{i} = - lo g X_{i}$ の分布。
$0 < X_{i} < 1$ なので $Y_{i} = - lo g X_{i} > 0$ である。 $y > 0$ に対して
$P (Y_{i} > y) = P (X_{i} < e^{- y}) = \int_{0}^{e^{- y}} θ x^{θ - 1} d x = [x^{θ}]_{0}^{e^{- y}} = e^{- θ y}$
であり、 $y \leq 0$ では $P (Y_{i} > y) = 1$ である。よって $Y_{i}$ の分布関数は $1 - e^{- θ y} (y > 0)$ で、微分して確率密度関数は $θ e^{- θ y} (y > 0)$ となる。すなわち $Y_{i}$ は母数 $θ$ の指数分布に従い、 $X_{i}$ が互いに独立なので $Y_{1}, \dots, Y_{n}$ も互いに独立である（独立な確率変数の関数は独立）。

ステップ 2： $S$ の分布。
$S = Y_{1} + \dots + Y_{n}$ であるから、問題文で用いてよいとされた事実により、 $S$ の確率密度関数は
$g (s) = \frac{θ ^{n} s ^{n - 1} e ^{- θ s}}{( n - 1 )!} (s > 0)$
である。特に $S > 0$ なので $T = (n - 1) / S$ は定義される。

ステップ 3： $T$ の不偏性。
$n \geq 3$ より $n - 1 \geq 1$ なので、積分公式を $k = n - 1$ で使って
$E_{θ} [\frac{1}{S}] = \int_{0}^{\infty} \frac{1}{s} \cdot \frac{θ ^{n} s ^{n - 1} e ^{- θ s}}{( n - 1 )!} d s = \frac{θ ^{n}}{( n - 1 )!} \int_{0}^{\infty} s^{n - 2} e^{- θ s} d s = \frac{θ ^{n}}{( n - 1 )!} \cdot \frac{( n - 2 )!}{θ ^{n - 1}} = \frac{θ}{n - 1} .$
よって $E_{θ} [T] = (n - 1) \cdot \frac{θ}{n - 1} = θ$ がすべての $θ > 0$ で成り立ち、 $T$ は $θ$ の不偏推定量である。

ステップ 4： $T$ の分散。
$n \geq 3$ より $n - 2 \geq 1$ なので、積分公式を $k = n - 2$ で使って
$E_{θ} [\frac{1}{S ^{2}}] = \frac{θ ^{n}}{( n - 1 )!} \int_{0}^{\infty} s^{n - 3} e^{- θ s} d s = \frac{θ ^{n}}{( n - 1 )!} \cdot \frac{( n - 3 )!}{θ ^{n - 2}} = \frac{θ ^{2}}{( n - 1 ) ( n - 2 )} .$
これは有限なので $T$ の分散は存在し、
$E_{θ} [T^{2}] = (n - 1)^{2} \cdot \frac{θ ^{2}}{( n - 1 ) ( n - 2 )} = \frac{( n - 1 ) θ ^{2}}{n - 2},$
$V_{θ} (T) = E_{θ} [T^{2}] - (E_{θ} [T])^{2} = \frac{( n - 1 ) θ ^{2}}{n - 2} - θ^{2} = \frac{θ ^{2}}{n - 2} .$

ステップ 5：フィッシャー情報量。
$0 < x < 1$ で $lo g f (x; θ) = lo g θ + (θ - 1) lo g x$ なので
$\frac{\partial}{\partial θ} lo g f (x; θ) = \frac{1}{θ} + lo g x .$
したがって $\frac{\partial}{\partial θ} lo g f (X_{1}; θ) = \frac{1}{θ} - Y_{1}$ である。ステップ 1 より $Y_{1}$ は母数 $θ$ の指数分布に従うので、積分公式（ $k = 2, 3$ ）から
$E_{θ} [Y_{1}] = \int_{0}^{\infty} y θ e^{- θ y} d y = θ \cdot \frac{1 !}{θ ^{2}} = \frac{1}{θ}, E_{θ} [Y_{1}^{2}] = θ \cdot \frac{2 !}{θ ^{3}} = \frac{2}{θ ^{2}} .$
よって
$I (θ) = E_{θ} [(Y_{1} - \frac{1}{θ})^{2}] = E_{θ} [Y_{1}^{2}] - \frac{2}{θ} E_{θ} [Y_{1}] + \frac{1}{θ ^{2}} = \frac{2}{θ ^{2}} - \frac{2}{θ ^{2}} + \frac{1}{θ ^{2}} = \frac{1}{θ ^{2}},$
クラメール・ラオの下限は $\frac{1}{n I ( θ )} = \frac{θ ^{2}}{n}$ である。

ステップ 6：比較。
$n \geq 3$ のとき $0 < n - 2 < n$ なので $\frac{1}{n - 2} > \frac{1}{n}$ 、さらに $θ^{2} > 0$ を掛けて
$V_{θ} (T) = \frac{θ ^{2}}{n - 2} > \frac{θ ^{2}}{n} = \frac{1}{n I ( θ )}$
がすべての $θ > 0$ で成り立つ。

以上より、 $T$ は $θ$ の不偏推定量であり、その分散はクラメール・ラオの下限より真に大きい。 $■$

（補足：同時密度は $θ^{n} exp (- (θ - 1) S)$ と書けるので、分解定理より $S$ は $θ$ の十分統計量であり、 $T$ は十分統計量の関数である。それでも下限に達しないのは、下限に達する不偏推定量が存在するのは推定対象が $E_{θ} [S] = n / θ$ の 1 次関数のときに限られ、 $θ$ 自身はそうでないためである。）

この問題の確認

AI が作成した問題です。公開前に次の確認を行いました。

別の AI が模範解答を見ずに 3 回証明を試み、3 回証明できました
2 つの AI が独立に、模範解答の証明を 1 ステップずつ確かめました
AI の査読で、条件・解説・表記を確認しました
答えの正しさについて慎重に扱うべき点が見つからなかったため、自動で公開しました

確認の方法について

間違いを報告する

この問題の誤り・分かりにくい点・難易度や学年のずれを知らせる