ネイマン・ピアソンの補題と最強力検定

単純仮説どうしの検定で尤度比 $\frac{L ( θ _{1} )}{L ( θ _{0} )} > k$ の形の棄却域を検定統計量の条件に直し、有意水準から境界を定めて最強力検定の検出力を求められる

前提

検定の有意水準と検出力（大学数学数理統計）
最尤推定（大学数学確率・統計）
独立な確率変数の和の分布（大学数学確率・統計）

この技能までの道筋（98 技能）

算数中学高校大学大学院

読み込み中…

右端（太枠）がこの技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。

一覧で見る（前提が先）

樹形図で数え上げる（算数場合の数）
積の法則と和の法則（算数場合の数）
和の法則・積の法則と樹形図（数学A 場合の数と確率）
順列・円順列・重複順列（数学A 場合の数と確率）
組合せ（数学A 場合の数と確率）
確率の定義と和事象・余事象（数学A 場合の数と確率）
期待値（数学A 場合の数と確率）
確率変数と確率分布（数学B 統計的な推測）
平均と合計（算数いろいろな文章題）
平均値・中央値・最頻値（中学数学データの活用）
代表値（平均値・中央値・最頻値）（数学I データの分析）
分散と標準偏差（数学I データの分析）
変量の変換と平均・分散（数学I データの分析）
確率変数の期待値・分散と $a X + b$ （数学B 統計的な推測）
分数のたし算・ひき算（算数計算と数のきまり）
小数の四則計算（算数計算と数のきまり）
正負の数の加法・減法（中学数学数と式）
分数のかけ算・わり算（算数計算と数のきまり）
四則の混じった計算の順序（算数計算と数のきまり）
正負の数の乗除・累乗と四則混合（中学数学数と式）
分配法則を使った計算のくふう（算数計算と数のきまり）
文字式の計算（同類項・分配法則）（中学数学数と式）
乗法公式による展開（中学数学数と式）
因数分解（中学数学数と式）
3 次式までの展開と因数分解（数学I 数と式）
微分係数と導関数の定義（数学II 微分法と積分法）
多項式の微分（数学II 微分法と積分法）
多項式の不定積分（数学II 微分法と積分法）
定積分の計算（数学II 微分法と積分法）
連続型確率変数と確率密度関数（数学B 統計的な推測）
正規分布と標準化（数学B 統計的な推測）
確率変数の和と積（独立な場合）（数学B 統計的な推測）
標本平均の分布（数学B 統計的な推測）
母平均・母比率の区間推定（数学B 統計的な推測）
独立な試行と反復試行（数学A 場合の数と確率）
二項分布（数学B 統計的な推測）
二項分布の正規近似（数学B 統計的な推測）
仮説検定（数学B 統計的な推測）
等間隔にならんだ数の和（算数計算と数のきまり）
等差・等比数列の和と Σ （数学B 数列）
数列の極限（数学III 極限）
関数の極限（数学III 極限）
積と商の微分（数学III 微分法）
合成関数の微分（数学III 微分法）
円の周の長さと面積（算数平面図形）
おうぎ形の弧の長さと面積（算数平面図形）
弧の長さからおうぎ形の中心角と面積を求める（中学数学平面図形）
三角形・四角形の面積（算数平面図形）
約数の見つけ方（算数整数の性質）
素因数分解と約数の個数（算数整数の性質）
平方根の意味と根号の簡単化（中学数学数と式）
三平方の定理（中学数学相似と三平方の定理）
特別な直角三角形の辺の比（中学数学相似と三平方の定理）
弧度法と単位円による三角関数（数学II 三角関数）
$sin x / x$ の極限（数学III 極限）
加法定理と 2 倍角・半角・積和の公式（数学II 三角関数）
三角関数の導関数（数学III 微分法）
根号の乗除と加減（中学数学数と式）
指数の拡張と指数関数（数学II 指数関数と対数関数）
対数の定義と性質（数学II 指数関数と対数関数）
自然対数の底 $e$ （数学III 極限）
指数関数・対数関数の導関数（数学III 微分法）
基本的な関数の不定積分（数学III 積分法）
置換積分（数学III 積分法）
部分積分（数学III 積分法）
定積分の置換・部分積分と偶関数・奇関数（数学III 積分法）
重積分と累次積分（大学数学微分積分）
偏微分と全微分（大学数学微分積分）
多変数の連鎖律（大学数学微分積分）
重積分の変数変換とヤコビアン（大学数学微分積分）
広義積分（大学数学微分積分）
ガウス積分（大学数学微分積分）
正規分布の密度と積率（大学数学確率・統計）
検定の有意水準と検出力（大学数学数理統計）
同時分布・周辺分布と独立性（大学数学確率・統計）
対数微分法（数学III 微分法）
最尤推定（大学数学確率・統計）
小数と分数のまじった計算（算数計算と数のきまり）
逆算（□ を求める）（算数計算と数のきまり）
1 次方程式の解き方（中学数学方程式）
比例・反比例の式とグラフ（中学数学関数）
関数 $y = a x^{2}$ の式と変域（中学数学関数）
平方完成と 2 次関数のグラフ（数学I 2次関数）
2 次不等式（数学I 2次関数）
剰余の定理・因数定理と高次方程式（数学II 複素数と方程式）
増減表と極値（数学II 微分法と積分法）
関数の連続性と中間値の定理（数学III 極限）
平均値の定理（数学III 微分法）
第 2 次導関数とグラフの凹凸（数学III 微分法）
増減・凹凸・漸近線とグラフ（数学III 微分法）
テイラー展開（大学数学微分積分）
無限等比級数と無限級数（数学III 極限）
べき級数と収束半径（大学数学微分積分）
幾何分布・ポアソン分布（大学数学確率・統計）
一様分布・指数分布（大学数学確率・統計）
積率母関数（大学数学確率・統計）
確率変数の変換（大学数学確率・統計）
独立な確率変数の和の分布（大学数学確率・統計）

説明

ネイマン・ピアソンの補題は、帰無仮説 $H_{0} : θ = θ_{0}$ と対立仮説 $H_{1} : θ = θ_{1}$ がどちらもパラメータを 1 つの値に決める仮説（単純仮説）のときに使います。有意水準 $α$ を守る検定のうち検出力がいちばん大きい検定（最強力検定）は、尤度比 $\frac{L ( θ _{1} )}{L ( θ _{0} )}$ が大きいときに棄却する検定です。実際に使うときは、この条件を標本平均や和などの統計量の不等式に直します。次に有意水準から境界を決め、その検定の検出力を計算します。

なぜそうしてよいのか

観測値 $x$ の尤度を、 $H_{0}$ のもとでは $L_{0} (x) = L (θ_{0})$ 、 $H_{1}$ のもとでは $L_{1} (x) = L (θ_{1})$ と書きます。連続型なら密度、離散型なら確率関数です。検定は棄却域 $R$ で決まり、有意水準は $P_{0} (R) = \int_{R} L_{0} d x$ 、検出力は $P_{1} (R) = \int_{R} L_{1} d x$ です（離散型なら積分を和に置き換えます）。限られた「第 1 種の誤りの予算」 $α$ で検出力をなるべく稼ぐには、 $L_{0}$ を 1 使うごとに $L_{1}$ が多く得られる点、つまり比 $L_{1} / L_{0}$ が大きい点から順に棄却域に入れるのが得です。これが尤度比検定 $R^{*} = {x : L_{1} (x) > k L_{0} (x)}$ です。

このことは次のように確かめられます。 $k > 0$ とし、 $P_{0} (R^{*}) = α$ とします。 $P_{0} (R) \leq α$ を満たす任意の棄却域 $R$ をとり、 $R^{*}$ の指示関数（ $R^{*}$ 上で 1、それ以外で 0 をとる関数）を $1_{R^{*}}$ 、 $R$ の指示関数を $1_{R}$ と書きます。このとき被積分関数 $(1_{R^{*}} - 1_{R}) (L_{1} - k L_{0})$ はどの点でも 0 以上です。 $R^{*}$ の中では $1_{R^{*}} - 1_{R} \geq 0$ かつ $L_{1} - k L_{0} > 0$ で、 $R^{*}$ の外では $1_{R^{*}} - 1_{R} \leq 0$ かつ $L_{1} - k L_{0} \leq 0$ だからです。積分すると $P_{1} (R^{*}) - P_{1} (R) \geq k (P_{0} (R^{*}) - P_{0} (R)) = k (α - P_{0} (R)) \geq 0$ となります。したがって、有意水準 $α$ 以下のどの検定も、検出力は $R^{*}$ を超えられません。

実際の計算では $k$ の値そのものは求めません。対数をとって整理すると、「尤度比 $> k$ 」は「統計量 $T$ が $c$ より大きい（または小さい）」という形になることが多く、 $k$ と $c$ は 1 対 1 に対応します。そこで $c$ を $P_{θ_{0}} (T > c) = α$ から直接決めればよいのです。

手順

データ $x_{1}, \dots, x_{n}$ の尤度 $L (θ) = \prod_{i = 1}^{n} f (x_{i}; θ)$ を $θ_{0}$ と $θ_{1}$ について書く。
対数尤度比 $lo g \frac{L ( θ _{1} )}{L ( θ _{0} )} > lo g k$ を整理し、データが入る部分を統計量 $T$ （和 $\sum x_{i}$ や $x ˉ$ など）にまとめて、 $T > c$ または $T < c$ の形に直す。不等号の向きは、 $T$ の係数の符号で決まる。
$H_{0}$ のもとでの $T$ の分布を求める（独立な和の分布・再生性を使う）。
有意水準の条件 $P_{θ_{0}} (T > c) = α$ （向きが逆なら $T < c$ ）から境界 $c$ を決める。
$H_{1}$ のもとでの $T$ の分布を使い、検出力 $P_{θ_{1}} (T > c)$ を計算する。

例題

$X_{1}, X_{2}, X_{3}, X_{4}$ は互いに独立で、どれも正規分布 $N (μ, 1)$ に従う。帰無仮説 $H_{0} : μ = 0$ 、対立仮説 $H_{1} : μ = 1$ を有意水準 $0.05$ で検定する。ネイマン・ピアソンの補題による最強力検定の検出力を求めよ。ただし、標準正規分布に従う $Z$ について $P (Z \geq 1.645) = 0.05$ 、 $P (Z \geq - 0.355) = 0.6387$ とする。

例題の解答

手順 1：尤度は $L (μ) = (2 π)^{- 2} exp (- \frac{1}{2} \sum_{i = 1}^{4} (x_{i} - μ)^{2})$ である。

手順 2： $lo g \frac{L ( 1 )}{L ( 0 )} = - \frac{1}{2} \sum (x_{i} - 1)^{2} + \frac{1}{2} \sum x_{i}^{2} = \sum x_{i} - 2$ となる。したがって $lo g \frac{L ( 1 )}{L ( 0 )} > lo g k ⟺ \sum x_{i} > lo g k + 2 ⟺ x ˉ > c$ である。ここで $c = \frac{lo g k + 2}{4}$ とおいた。 $x ˉ$ の係数は正なので、棄却域は $X ˉ > c$ の形になる。

手順 3：正規分布の再生性より $\sum X_{i} \sim N (4 μ, 4)$ なので、 $X ˉ \sim N (μ, \frac{1}{4})$ である。よって $H_{0}$ のもとでは $X ˉ \sim N (0, \frac{1}{4})$ で、 $Z = 2 X ˉ$ は標準正規分布に従う。

手順 4： $P_{0} (X ˉ \geq c) = P (Z \geq 2 c) = 0.05$ より $2 c = 1.645$ 、すなわち $c = 0.8225$ である。連続型なので、境界を含めるかどうかで確率は変わらない。

手順 5： $H_{1}$ のもとでは $X ˉ \sim N (1, \frac{1}{4})$ で、 $Z = 2 (X ˉ - 1)$ が標準正規分布に従う。よって検出力は $P_{1} (X ˉ \geq 0.8225) = P (Z \geq 2 (0.8225 - 1)) = P (Z \geq - 0.355) = 0.6387$ である。

答え: $0.6387$

よくある誤り

$θ_{1} < θ_{0}$ のときも、機械的に「 $T > c$ で棄却」としてしまう誤り。正しくは、尤度比を整理したときの $T$ の係数の符号で向きが決まる。上の例で $H_{1} : μ = - 1$ なら $lo g \frac{L ( - 1 )}{L ( 0 )} = - \sum x_{i} - 2$ なので、棄却域は $X ˉ < - 0.8225$ になる。
境界 $c$ を $H_{1}$ の分布で決めたり、検出力を $H_{0}$ の分布で計算したりする誤り。正しくは、 $c$ は $P_{θ_{0}} (T > c) = α$ から決め、検出力は $P_{θ_{1}} (T > c)$ で計算する。例では $c$ は $N (0, \frac{1}{4})$ で決め、検出力は $N (1, \frac{1}{4})$ で計算する。
尤度比の定数 $k$ を具体的に求めようとして行き詰まる誤り。正しくは、 $k$ と $c$ は $c = \frac{lo g k + 2}{4}$ のように 1 対 1 に対応するので、 $k$ は求めず、 $c$ を有意水準から直接決めればよい。
ポアソン分布などの離散型で、 $P_{θ_{0}} (T \geq c) = α$ がちょうど成り立つ $c$ があると思い込む誤り。正しくは、一般にはちょうど $α$ にならない。 $P_{θ_{0}} (T \geq c) \leq α$ を満たす最小の整数 $c$ をとる。その検定は、実際の有意水準 $α^{'} = P_{θ_{0}} (T \geq c)$ 以下の検定の中で最強力になる。

この説明は AI が書き、別の AI が例題を独立に解いて答えを確かめ、説明を一歩ずつ査読しました。

ネイマン・ピアソンの補題と最強力検定

前提

説明

なぜそうしてよいのか

手順

例題

よくある誤り

入口の問題

この技能を使う問題