を 以上の整数とする。確率変数 は互いに独立で、どれも平均 、分散 ()の同じ分布に従うとする。標本平均を とし、 で割った標本分散
を考える。期待値 を と を用いて表せ。
不偏推定量
推定量の期待値を計算して不偏かどうかを判定し、不偏分散が で割る理由を示せる
前提
- 確率変数の共分散と相関係数 (大学数学 確率・統計)
- 標本平均の分布 (数学B 統計的な推測)
この技能までの道筋(65 技能)
読み込み中…
右端(太枠)がこの技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。
一覧で見る(前提が先)
- 樹形図で数え上げる (算数 場合の数)
- 積の法則と和の法則 (算数 場合の数)
- 和の法則・積の法則と樹形図 (数学A 場合の数と確率)
- 順列・円順列・重複順列 (数学A 場合の数と確率)
- 組合せ (数学A 場合の数と確率)
- 確率の定義と和事象・余事象 (数学A 場合の数と確率)
- 期待値 (数学A 場合の数と確率)
- 確率変数と確率分布 (数学B 統計的な推測)
- 平均と合計 (算数 いろいろな文章題)
- 平均値・中央値・最頻値 (中学数学 データの活用)
- 代表値(平均値・中央値・最頻値) (数学I データの分析)
- 分散と標準偏差 (数学I データの分析)
- 変量の変換と平均・分散 (数学I データの分析)
- 確率変数の期待値・分散と (数学B 統計的な推測)
- 確率変数の和と積(独立な場合) (数学B 統計的な推測)
- 分数のたし算・ひき算 (算数 計算と数のきまり)
- 小数の四則計算 (算数 計算と数のきまり)
- 正負の数の加法・減法 (中学数学 数と式)
- 分数のかけ算・わり算 (算数 計算と数のきまり)
- 四則の混じった計算の順序 (算数 計算と数のきまり)
- 正負の数の乗除・累乗と四則混合 (中学数学 数と式)
- 分配法則を使った計算のくふう (算数 計算と数のきまり)
- 文字式の計算(同類項・分配法則) (中学数学 数と式)
- 乗法公式による展開 (中学数学 数と式)
- 因数分解 (中学数学 数と式)
- 3 次式までの展開と因数分解 (数学I 数と式)
- 微分係数と導関数の定義 (数学II 微分法と積分法)
- 多項式の微分 (数学II 微分法と積分法)
- 多項式の不定積分 (数学II 微分法と積分法)
- 等間隔にならんだ数の和 (算数 計算と数のきまり)
- 等差・等比数列の和と Σ (数学B 数列)
- 数列の極限 (数学III 極限)
- 関数の極限 (数学III 極限)
- 積と商の微分 (数学III 微分法)
- 合成関数の微分 (数学III 微分法)
- 円の周の長さと面積 (算数 平面図形)
- おうぎ形の弧の長さと面積 (算数 平面図形)
- 弧の長さからおうぎ形の中心角と面積を求める (中学数学 平面図形)
- 三角形・四角形の面積 (算数 平面図形)
- 約数の見つけ方 (算数 整数の性質)
- 素因数分解と約数の個数 (算数 整数の性質)
- 平方根の意味と根号の簡単化 (中学数学 数と式)
- 三平方の定理 (中学数学 相似と三平方の定理)
- 特別な直角三角形の辺の比 (中学数学 相似と三平方の定理)
- 弧度法と単位円による三角関数 (数学II 三角関数)
- の極限 (数学III 極限)
- 加法定理と 2 倍角・半角・積和の公式 (数学II 三角関数)
- 三角関数の導関数 (数学III 微分法)
- 根号の乗除と加減 (中学数学 数と式)
- 指数の拡張と指数関数 (数学II 指数関数と対数関数)
- 対数の定義と性質 (数学II 指数関数と対数関数)
- 自然対数の底 (数学III 極限)
- 指数関数・対数関数の導関数 (数学III 微分法)
- 基本的な関数の不定積分 (数学III 積分法)
- 置換積分 (数学III 積分法)
- 部分積分 (数学III 積分法)
- 定積分の計算 (数学II 微分法と積分法)
- 定積分の置換・部分積分と偶関数・奇関数 (数学III 積分法)
- 重積分と累次積分 (大学数学 微分積分)
- 同時分布・周辺分布と独立性 (大学数学 確率・統計)
- 共分散と相関係数 (数学I データの分析)
- 確率変数の共分散と相関係数 (大学数学 確率・統計)
- 連続型確率変数と確率密度関数 (数学B 統計的な推測)
- 正規分布と標準化 (数学B 統計的な推測)
- 標本平均の分布 (数学B 統計的な推測)
説明
母集団の平均 や分散 のような未知の値(母数)を、標本 から計算した量で推定することがあります。この技能を使うと、その推定が平均的に母数からずれないかを調べられます。推定量の期待値を計算し、それが母数に一致すれば「不偏」と判定します。この考え方から、標本の分散を ではなく で割る理由も示せます。
なぜそうしてよいのか
母平均 、母分散 の母集団から、大きさ の無作為標本 を取り出します。これらは互いに独立で、どれも をみたします。標本だけから計算でき、未知の母数を含まない式 を推定量といいます。推定したい母数を とします。 がどんな値であっても が成り立つとき、 を の不偏推定量といいます。また を偏り(バイアス)といいます。不偏とは「標本を何度も取り直して を計算すると、その平均は に一致する」という意味です。たとえば なので、標本平均 は の不偏推定量です。
分散ではどうなるかを見ます。まず を使って、偏差の 2 乗和を書き直します。 2 乗の期待値は、分散の公式 を変形した で求めます。 です。また なので です。したがって
となります。 で割った の期待値は で、 より小さくなります。一方、 で割った不偏分散 なら となり、不偏です。
小さめに出る理由は次のとおりです。任意の定数 について と分けて展開します。 なので交差項が消え、 となります。よって は のとき最小です。 とおくと となります。期待値をとると、、 です。したがって期待値は で、上と同じ結果になります。データ自身から決めた中心 を使うと、本当の中心 を使うより、ずれが だけ小さく出るのです。
共分散を使っても同じ結論になります。共分散は定義 と期待値の線形性から、 をみたします。 のとき と は独立なので です。また です。よって となります。これを使うと です。さらに なので となります。1 項あたり ずつ小さく、 項の合計は です。
手順
推定したい母数 と推定量 を確認する。 が標本 だけで計算でき、未知の母数を含まないことを確かめる。
を期待値が求めやすい形に変形し、期待値の線形性 で各項に分ける。偏差の 2 乗和は と直す。
2 乗の期待値を で求める。特に 、 を使う。
得られた と を比べる。母数がどんな値でも なら不偏と判定する。そうでなければ偏り を求めるか、定数倍を調整して不偏にする。
例題
母平均 、母分散 の母集団から、大きさ 4 の無作為標本 を取り出し、その標本平均を とする。推定量 が の不偏推定量となるような定数 を求めよ。
例題の解答
手順 1:推定したい母数は で、 です。 は標本だけで計算でき、母数を含みません。
手順 2: より、 です。期待値の線形性から となります。
手順 3: です。 なので、 です。よって となります。
手順 4:不偏であるためには、どんな に対しても が成り立つ必要があります。これより です。これは で割る不偏分散そのものです。
答え:
よくある誤り
としてしまう誤り。正しくは です。この の差が の原因になります。
各項の期待値を とし、 としてしまう誤り。 と は独立ではなく、 です。正しくは で、合計は になります。
母平均 が既知のときも で割ってしまう誤り。 なので、正しくは が の不偏推定量です。 が必要なのは、未知の の代わりに を使うときだけです。
が の不偏推定量だから、 も の不偏推定量だとしてしまう誤り。 なので です。 が一定値でなければ となり、 なので不偏ではありません。
この説明は AI が書き、別の AI が例題を独立に解いて答えを確かめ、説明を一歩ずつ査読しました。
入口の問題
を 以上の整数とする。確率変数 は互いに独立で、どれも期待値 、分散 ()の同じ分布に従うとする。標本平均を とし、
とおく。期待値 を と を用いて表せ。を 以上の整数とする。 は互いに独立で、どれも同じ確率分布に従う確率変数であり、、 とする(, はともに未知の定数で、)。標本平均を とする。
だけで決まる定数 を用いて
とおく。, の値によらず が成り立つ( が の不偏推定量となる)ような を、 を用いて表せ。
この技能を使う問題
を未知の母数、 を正の整数とする。 は互いに独立に、確率密度関数
をもつ分布に従う。 とおく。 の最尤推定量は であるが、これは の不偏推定量ではない。 のみによる定数 で、 がすべての に対して の不偏推定量となるものを の式で表せ。を未知の母数とし、( は 以上の整数)は互いに独立に、確率密度関数
をもつ分布に従うとする。 とおき、
と定める。1 標本あたりのフィッシャー情報量を とし、 の不偏推定量に対するクラメール・ラオの下限を とする。このとき、 は の不偏推定量であり、すべての に対して が成り立つ(すなわち の分散はクラメール・ラオの下限に達しない)ことを証明せよ。
ただし、互いに独立で、いずれも確率密度関数 をもつ 個の確率変数の和は、確率密度関数 をもつこと(ガンマ分布の再生性)と、正の整数 に対して であることは用いてよい。
を正の整数とし、 は互いに独立に正規分布 (平均 、分散 )に従う確率変数とする。ここで は未知の母数である。
の推定量として
を考える。ここで定数 は、 が の不偏推定量になるように定める。の不偏推定量の分散に対するクラメール・ラオの下限を とするとき、比
の値を求めよ(この値は と によらない)。ただし、この分布族はクラメール・ラオの不等式が成り立つための正則条件を満たすものとしてよい。を未知の母数とし、 を正の整数とする。 は互いに独立に、確率密度関数
をもつ分布に従うとする。 の最尤推定量を とし、定数 を が の不偏推定量となるように定める。このとき の分散 を を用いて表せ。を未知の母数とし、 を 以上の整数とする。 は互いに独立に、確率密度関数
をもつ分布に従うとする。 の最尤推定量を とし、定数 ( によらない)を が の不偏推定量となるように定める。このとき分散 を の式で表せ。を 以上の整数とし、 は互いに独立に正規分布 に従う確率変数とする。ここで は実数、 は正の実数で、どちらも未知の母数である。標本平均と不偏分散を
とし、 の推定量
を考える。 の平均二乗誤差 を を用いて表せ。ある電圧を同じ条件のもとで 回( は 以上の整数)測定し、測定値 を得た。測定値は確率変数とみなし、次の性質をもつとする。
- 各測定値の期待値は真の値 に等しい:
- 各測定値の分散は等しい: ()
- 電源のゆっくりしたゆらぎのため、異なる 2 回の測定値の間には相関があり、 のすべての組で相関係数が等しく ( の定数)である:
平均値 と、不偏分散 を用いる。測定値が互いに独立であると誤って仮定すると、平均の標準誤差の 2 乗は で見積もられる。
平均値の真の分散 と、この見積もりの期待値 の比
を と を用いて表せ。を 以上の整数、 を未知の正の定数とする。 は互いに独立で、いずれも確率密度関数
をもつ指数分布に従う確率変数とし、 とおく。このとき、 の最尤推定量は であり、さらに は の不偏推定量であることを証明せよ。
ただし、正の整数 に対して、 をパラメータとする指数分布に従う独立な 個の確率変数の和は確率密度関数
をもつこと(したがって であること)は用いてよい。また、観測値 はすべて正であるとして最尤推定を考えてよい。
この技能の次に学べること
- 推定量のバイアスと平均二乗誤差 (大学数学 数理統計)
- 平均値・標準偏差・平均の標準誤差 (大学物理 物理実験・誤差論)
- 測定値の平均と標準偏差 (大学化学 分析化学)