大数の弱法則

チェビシェフの不等式を使って、標本平均が母平均に確率収束することを示し、極限の計算に使える

前提

マルコフの不等式・チェビシェフの不等式（大学数学確率・統計）
標本平均の分布（数学B 統計的な推測）

この技能までの道筋（64 技能）

算数中学高校大学大学院

読み込み中…

右端（太枠）がこの技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。

一覧で見る（前提が先）

樹形図で数え上げる（算数場合の数）
積の法則と和の法則（算数場合の数）
和の法則・積の法則と樹形図（数学A 場合の数と確率）
順列・円順列・重複順列（数学A 場合の数と確率）
組合せ（数学A 場合の数と確率）
確率の定義と和事象・余事象（数学A 場合の数と確率）
期待値（数学A 場合の数と確率）
確率変数と確率分布（数学B 統計的な推測）
平均と合計（算数いろいろな文章題）
平均値・中央値・最頻値（中学数学データの活用）
代表値（平均値・中央値・最頻値）（数学I データの分析）
分散と標準偏差（数学I データの分析）
変量の変換と平均・分散（数学I データの分析）
確率変数の期待値・分散と $a X + b$ （数学B 統計的な推測）
分数のたし算・ひき算（算数計算と数のきまり）
小数の四則計算（算数計算と数のきまり）
正負の数の加法・減法（中学数学数と式）
分数のかけ算・わり算（算数計算と数のきまり）
四則の混じった計算の順序（算数計算と数のきまり）
正負の数の乗除・累乗と四則混合（中学数学数と式）
分配法則を使った計算のくふう（算数計算と数のきまり）
文字式の計算（同類項・分配法則）（中学数学数と式）
乗法公式による展開（中学数学数と式）
因数分解（中学数学数と式）
3 次式までの展開と因数分解（数学I 数と式）
微分係数と導関数の定義（数学II 微分法と積分法）
多項式の微分（数学II 微分法と積分法）
多項式の不定積分（数学II 微分法と積分法）
定積分の計算（数学II 微分法と積分法）
連続型確率変数と確率密度関数（数学B 統計的な推測）
等間隔にならんだ数の和（算数計算と数のきまり）
等差・等比数列の和と Σ （数学B 数列）
数列の極限（数学III 極限）
関数の極限（数学III 極限）
積と商の微分（数学III 微分法）
合成関数の微分（数学III 微分法）
円の周の長さと面積（算数平面図形）
おうぎ形の弧の長さと面積（算数平面図形）
弧の長さからおうぎ形の中心角と面積を求める（中学数学平面図形）
三角形・四角形の面積（算数平面図形）
約数の見つけ方（算数整数の性質）
素因数分解と約数の個数（算数整数の性質）
平方根の意味と根号の簡単化（中学数学数と式）
三平方の定理（中学数学相似と三平方の定理）
特別な直角三角形の辺の比（中学数学相似と三平方の定理）
弧度法と単位円による三角関数（数学II 三角関数）
$sin x / x$ の極限（数学III 極限）
加法定理と 2 倍角・半角・積和の公式（数学II 三角関数）
三角関数の導関数（数学III 微分法）
根号の乗除と加減（中学数学数と式）
指数の拡張と指数関数（数学II 指数関数と対数関数）
対数の定義と性質（数学II 指数関数と対数関数）
自然対数の底 $e$ （数学III 極限）
指数関数・対数関数の導関数（数学III 微分法）
基本的な関数の不定積分（数学III 積分法）
置換積分（数学III 積分法）
部分積分（数学III 積分法）
定積分の置換・部分積分と偶関数・奇関数（数学III 積分法）
広義積分（大学数学微分積分）
一様分布・指数分布（大学数学確率・統計）
マルコフの不等式・チェビシェフの不等式（大学数学確率・統計）
正規分布と標準化（数学B 統計的な推測）
確率変数の和と積（独立な場合）（数学B 統計的な推測）
標本平均の分布（数学B 統計的な推測）

説明

大数の弱法則は、同じ分布に従う独立な確率変数 $X_{1}, \dots, X_{n}$ の標本平均 $X ˉ_{n} = \frac{1}{n} \sum_{k = 1}^{n} X_{k}$ が、 $n$ を大きくすると母平均 $m$ の近くに集まることを、確率の言葉で述べた定理です。チェビシェフの不等式を 1 回使うだけで証明できます。「 $X ˉ_{n}$ がある範囲に入る確率は $n \to \infty$ でどうなるか」という極限の計算にも使えます。

なぜそうしてよいのか

まず「近くに集まる」の意味を決めます。確率変数の列 $Y_{n}$ と定数 $c$ について、どんな正の数 $ε$ をとっても $lim_{n \to \infty} P (∣ Y_{n} - c ∣ \geq ε) = 0$ となるとき、 $Y_{n}$ は $c$ に確率収束するといいます。言いかえると、 $c$ から $ε$ 以上離れる確率が、 $n$ を大きくするといくらでも小さくなるということです。

$X_{1}, \dots, X_{n}$ が独立で同じ分布に従い、平均 $m$ ・分散 $σ^{2}$ （有限）をもつとします。標本平均の分布の技能から $E [X ˉ_{n}] = m$ 、 $V [X ˉ_{n}] = \frac{σ ^{2}}{n}$ です。そこで $X ˉ_{n}$ にチェビシェフの不等式 $P (∣ Y - E [Y] ∣ \geq ε) \leq \frac{V [ Y ]}{ε ^{2}}$ を当てはめると
$0 \leq P (∣ X ˉ_{n} - m ∣ \geq ε) \leq \frac{σ ^{2}}{n ε ^{2}}$
となります。 $ε$ を固定して $n \to \infty$ とすると右辺は $0$ に近づくので、はさみうちにより左辺も $0$ に近づきます。これが大数の弱法則 $lim_{n \to \infty} P (∣ X ˉ_{n} - m ∣ \geq ε) = 0$ です。余事象をとれば $lim_{n \to \infty} P (∣ X ˉ_{n} - m ∣ < ε) = 1$ です。

うまくいく理由は、平均をとると期待値は $m$ のまま変わらないのに、分散は $\frac{1}{n}$ 倍に縮むからです。分散は「散らばりの大きさ」なので、それが $0$ に近づけば値は $m$ のまわりに集中します。独立性は分散を $\frac{σ ^{2}}{n}$ と計算するところで使っています。

手順

条件を確認する： $X_{1}, \dots, X_{n}$ が独立で同じ分布に従い、分散が有限であること。
母平均 $m = E [X_{1}]$ と母分散 $σ^{2} = V [X_{1}]$ を計算する。
正の数 $ε$ を固定して、 $X ˉ_{n}$ にチェビシェフの不等式を使う： $P (∣ X ˉ_{n} - m ∣ \geq ε) \leq \frac{σ ^{2}}{n ε ^{2}}$ 。
$n \to \infty$ としてはさみうちを使い、 $P (∣ X ˉ_{n} - m ∣ \geq ε) \to 0$ 、余事象では $P (∣ X ˉ_{n} - m ∣ < ε) \to 1$ を得る。
範囲 $A$ に入る確率の極限を求めるとき： $m$ が $A$ の内側にあれば、区間 $(m - ε, m + ε)$ が $A$ に含まれるような $ε$ を選んで、極限は $1$ になる。 $m$ から $ε$ 以上離れた点だけで $A$ ができていれば、極限は $0$ になる。

例題

$X_{1}, X_{2}, \dots$ は独立で、どれも確率密度関数 $f (x) = 3 x^{2} (0 \leq x \leq 1)$ 、それ以外で $f (x) = 0$ をもつとする。 $X ˉ_{n} = \frac{1}{n} \sum_{k = 1}^{n} X_{k}$ とするとき、 $lim_{n \to \infty} P (X ˉ_{n} \geq 0.7)$ を求めよ。

例題の解答

【手順1】 $X_{k}$ は独立で同じ分布に従い、値は $0$ 以上 $1$ 以下なので分散は有限である。
【手順2】 $m = \int_{0}^{1} x \cdot 3 x^{2} d x = \frac{3}{4}$ 、 $E [X_{1}^{2}] = \int_{0}^{1} x^{2} \cdot 3 x^{2} d x = \frac{3}{5}$ より、 $σ^{2} = \frac{3}{5} - \frac{9}{16} = \frac{3}{80}$ 。
【手順3】 $ε = 0.05$ とする。チェビシェフの不等式より $P (∣ X ˉ_{n} - \frac{3}{4} ∣ \geq 0.05) \leq \frac{3/80}{n \cdot 0.0025} = \frac{15}{n}$ 。
【手順4】 $0 \leq P (∣ X ˉ_{n} - \frac{3}{4} ∣ \geq 0.05) \leq \frac{15}{n} \to 0$ なので、はさみうちにより $P (∣ X ˉ_{n} - \frac{3}{4} ∣ < 0.05) \to 1$ 。
【手順5】 $∣ X ˉ_{n} - 0.75∣ < 0.05$ ならば $X ˉ_{n} > 0.7$ である。したがって $1 \geq P (X ˉ_{n} \geq 0.7) \geq P (∣ X ˉ_{n} - 0.75∣ < 0.05) \geq 1 - \frac{15}{n}$ 。 $n \to \infty$ とすると右端は $1$ に近づくので、はさみうちにより $lim_{n \to \infty} P (X ˉ_{n} \geq 0.7) = 1$ 。

答え: $1$

よくある誤り

標本平均の分散を $σ^{2}$ のままにして、 $P (∣ X ˉ_{n} - m ∣ \geq ε) \leq \frac{σ ^{2}}{ε ^{2}}$ としてしまう誤り。この形では $n$ を大きくしても右辺が小さくならない。正しくは $V [X ˉ_{n}] = \frac{σ ^{2}}{n}$ を使って $\leq \frac{σ ^{2}}{n ε ^{2}}$ とする。
「 $n$ が大きければ $X ˉ_{n} = m$ になる」「 $P (X ˉ_{n} = m) \to 1$ 」としてしまう誤り。例えば連続型では、どの $n$ でも $P (X ˉ_{n} = m) = 0$ である。正しくは、固定した $ε > 0$ について $P (∣ X ˉ_{n} - m ∣ < ε) \to 1$ が成り立つ。
$m$ がちょうど範囲の境目にあるときにも大数の弱法則で極限が決まると考えて、例えば $lim P (X ˉ_{n} \leq m) = 1$ や $0$ としてしまう誤り。この場合、弱法則だけでは極限は決まらない。例えば $X_{k}$ が正規分布 $N (m, σ^{2})$ に従うなら $X ˉ_{n}$ も平均 $m$ の正規分布に従い、どの $n$ でも $P (X ˉ_{n} \leq m) = \frac{1}{2}$ である。
独立性を確かめずに使ってしまう誤り。例えば $X_{1} = X_{2} = \dots$ とまったく同じ確率変数を並べると $X ˉ_{n} = X_{1}$ となり、 $V [X ˉ_{n}] = σ^{2}$ のまま縮まない。 $σ^{2} > 0$ なら $X ˉ_{n}$ は $m$ に確率収束しない。正しくは、分散が $\frac{σ ^{2}}{n}$ になるための独立性（と有限の分散）を確認してから使う。

この説明は AI が書き、別の AI が例題を独立に解いて答えを確かめ、説明を一歩ずつ査読しました。

入口の問題

この技能の次に学べること

中心極限定理の使い方（大学数学確率・統計）
ボレル・カンテリの補題と大数の強法則（大学院数学確率論）