この問題は、利用者からの報告を受けて確認中です。答えや解説に誤りがあるかもしれません。

確率・統計の問題

難易度 4大学院入試の標準レベル証明問題大学数学確率・統計

$n$ を $2$ 以上の整数、 $λ$ を未知の正の定数とする。 $X_{1}, X_{2}, \dots, X_{n}$ は互いに独立で、いずれも確率密度関数
$f (x; λ) = {λ e^{- λ x} 0 (x > 0) (x \leq 0)$
をもつ指数分布に従う確率変数とし、 $S = X_{1} + X_{2} + \dots + X_{n}$ とおく。

このとき、 $λ$ の最尤推定量は $λ^= \frac{n}{S}$ であり、さらに $\frac{n - 1}{n} λ^= \frac{n - 1}{S}$ は $λ$ の不偏推定量であることを証明せよ。

ただし、正の整数 $m$ に対して、 $λ$ をパラメータとする指数分布に従う独立な $m$ 個の確率変数の和は確率密度関数
$g_{m} (s) = ⎩ ⎨ ⎧ \frac{λ ^{m} s ^{m - 1} e ^{- λ s}}{( m - 1 )!} 0 (s > 0) (s \leq 0)$
をもつこと（したがって $\int_{0}^{\infty} g_{m} (s) d s = 1$ であること）は用いてよい。また、観測値 $x_{1}, \dots, x_{n}$ はすべて正であるとして最尤推定を考えてよい。

この問題で使うもの

最尤推定（説明と入口の問題）
不偏推定量（説明と入口の問題）
指数関数・対数関数の導関数（説明と入口の問題）
一様分布・指数分布（説明と入口の問題）

この問題を解けるようになるまで（70 技能）

算数中学高校大学大学院

読み込み中…

右端（太枠）がこの問題で使う技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。

一覧で見る（前提が先）

ヒント

行き詰まったら、上から順に 1 つずつ開いてください。

ヒント 1

前半は尤度関数（対数尤度）を $λ$ で微分して増減を調べ、後半は $E [\frac{1}{S}]$ を $S$ の密度関数を使って計算します。

ヒント 2

尤度は $L (λ) = λ^{n} e^{- λ s}$ です。 $E [1/ S]$ の計算では、 $\int_{0}^{\infty} s^{n - 2} e^{- λ s} d s$ を $g_{n - 1}$ の積分が $1$ であることから求めましょう（ここで $n \geq 2$ が必要です）。

ヒント 3

$ℓ (λ) = n lo g λ - λ s$ で $ℓ^{'} (λ) = n / λ - s$ なので、 $λ = n / s$ の前後で符号が正から負に変わります。次に $E [1/ S] = \frac{λ ^{n}}{( n - 1 )!} \int_{0}^{\infty} s^{n - 2} e^{- λ s} d s$ と書けます。

採点の観点と模範解答

自分で証明を書いてから、採点の観点で見比べてください。

採点の観点を見る

独立性から尤度 $λ^{n} e^{- λ s}$ を正しく立て、対数尤度を考えている（2 点）
$ℓ^{'} (λ)$ の符号の変化から、 $λ = n / s$ がただ 1 つの最大点であること（単なる停留点でないこと）を示している（2 点）
$S$ の密度 $g_{n}$ を使って $E [1/ S]$ を積分で表している（2 点）
$g_{n - 1}$ の積分が $1$ であることを使い（ $n \geq 2$ が必要な点に触れ）、 $E [1/ S] = λ / (n - 1)$ を導いている（3 点）
線形性から $E [(n - 1) / S] = λ$ を示し、不偏推定量であると結論している（1 点）

結果を記録する（このブラウザにだけ保存されます）:

模範解答を読む

ステップ 1（最尤推定量の導出）. 観測値 $x_{1}, \dots, x_{n}$ （すべて正）が得られたとし、 $s = x_{1} + \dots + x_{n}$ とおく。 $s > 0$ である。 $X_{1}, \dots, X_{n}$ は独立なので、尤度関数は各密度の積で
$L (λ) = i = 1 \prod n λ e^{- λ x_{i}} = λ^{n} e^{- λ s} (λ > 0)$
となる。 $L (λ) > 0$ なので、対数尤度
$ℓ (λ) = lo g L (λ) = n lo g λ - λ s$
を最大にする $λ$ を求めればよい（ $lo g$ は狭義単調増加なので、 $L$ と $ℓ$ の最大点は一致する）。微分すると
$ℓ^{'} (λ) = \frac{n}{λ} - s = \frac{n - λ s}{λ} .$
$λ > 0$ だから、 $ℓ^{'} (λ)$ の符号は $n - λ s$ の符号と一致し、 $0 < λ < n / s$ で $ℓ^{'} (λ) > 0$ 、 $λ > n / s$ で $ℓ^{'} (λ) < 0$ である。よって $ℓ$ は $(0, n / s]$ で狭義単調増加、 $[n / s, \infty)$ で狭義単調減少であり、 $λ = n / s$ でただ 1 つの最大値をとる。したがって $λ$ の最尤推定値は $n / s$ であり、最尤推定量は
$λ^= \frac{n}{S}$
である。なお各 $X_{i}$ は確率 $1$ で正なので、 $S$ も確率 $1$ で正であり、 $λ^$ は確率 $1$ で定まる。

ステップ 2（ $E [\frac{1}{S}]$ の計算）. 与えられた事実より、 $S$ は確率密度関数 $g_{n}$ をもつ。よって
$E [\frac{1}{S}] = \int_{0}^{\infty} \frac{1}{s} \cdot \frac{λ ^{n} s ^{n - 1} e ^{- λ s}}{( n - 1 )!} d s = \frac{λ ^{n}}{( n - 1 )!} \int_{0}^{\infty} s^{n - 2} e^{- λ s} d s .$
ここで $n \geq 2$ より $m = n - 1$ は正の整数なので、 $\int_{0}^{\infty} g_{n - 1} (s) d s = 1$ 、すなわち
$\int_{0}^{\infty} \frac{λ ^{n - 1} s ^{n - 2} e ^{- λ s}}{( n - 2 )!} d s = 1 より \int_{0}^{\infty} s^{n - 2} e^{- λ s} d s = \frac{( n - 2 )!}{λ ^{n - 1}}$
である（特にこの積分は有限で、 $E [1/ S]$ は存在する）。これを代入して
$E [\frac{1}{S}] = \frac{λ ^{n}}{( n - 1 )!} \cdot \frac{( n - 2 )!}{λ ^{n - 1}} = \frac{λ}{n - 1} .$

ステップ 3（不偏性）. 期待値の線形性より
$E [\frac{n - 1}{n} λ^] = E [\frac{n - 1}{S}] = (n - 1) E [\frac{1}{S}] = (n - 1) \cdot \frac{λ}{n - 1} = λ .$
これはすべての $λ > 0$ で成り立つので、 $\frac{n - 1}{S}$ は $λ$ の不偏推定量である（なお $E [λ^] = \frac{nλ}{n - 1} \neq = λ$ なので、最尤推定量 $λ^$ 自身は不偏ではない）。

以上により、 $λ$ の最尤推定量は $λ^= \frac{n}{S}$ であり、 $\frac{n - 1}{n} λ^= \frac{n - 1}{S}$ は $λ$ の不偏推定量であることが示された。

確率・統計の問題

この問題で使うもの

ヒント

採点の観点と模範解答

次のおすすめ

この問題の確認

間違いを報告する

関連する問題