同時分布・周辺分布と独立性

同時確率（密度）関数から周辺分布を求め、独立かどうかを判定できる

前提

確率変数の和と積（独立な場合）（数学B 統計的な推測）
重積分と累次積分（大学数学微分積分）

この技能までの道筋（59 技能）

算数中学高校大学大学院

読み込み中…

右端（太枠）がこの技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。

一覧で見る（前提が先）

樹形図で数え上げる（算数場合の数）
積の法則と和の法則（算数場合の数）
和の法則・積の法則と樹形図（数学A 場合の数と確率）
順列・円順列・重複順列（数学A 場合の数と確率）
組合せ（数学A 場合の数と確率）
確率の定義と和事象・余事象（数学A 場合の数と確率）
期待値（数学A 場合の数と確率）
確率変数と確率分布（数学B 統計的な推測）
平均と合計（算数いろいろな文章題）
平均値・中央値・最頻値（中学数学データの活用）
代表値（平均値・中央値・最頻値）（数学I データの分析）
分散と標準偏差（数学I データの分析）
変量の変換と平均・分散（数学I データの分析）
確率変数の期待値・分散と $a X + b$ （数学B 統計的な推測）
確率変数の和と積（独立な場合）（数学B 統計的な推測）
分数のたし算・ひき算（算数計算と数のきまり）
小数の四則計算（算数計算と数のきまり）
正負の数の加法・減法（中学数学数と式）
分数のかけ算・わり算（算数計算と数のきまり）
四則の混じった計算の順序（算数計算と数のきまり）
正負の数の乗除・累乗と四則混合（中学数学数と式）
分配法則を使った計算のくふう（算数計算と数のきまり）
文字式の計算（同類項・分配法則）（中学数学数と式）
乗法公式による展開（中学数学数と式）
因数分解（中学数学数と式）
3 次式までの展開と因数分解（数学I 数と式）
微分係数と導関数の定義（数学II 微分法と積分法）
多項式の微分（数学II 微分法と積分法）
多項式の不定積分（数学II 微分法と積分法）
等間隔にならんだ数の和（算数計算と数のきまり）
等差・等比数列の和と Σ （数学B 数列）
数列の極限（数学III 極限）
関数の極限（数学III 極限）
積と商の微分（数学III 微分法）
合成関数の微分（数学III 微分法）
円の周の長さと面積（算数平面図形）
おうぎ形の弧の長さと面積（算数平面図形）
弧の長さからおうぎ形の中心角と面積を求める（中学数学平面図形）
三角形・四角形の面積（算数平面図形）
約数の見つけ方（算数整数の性質）
素因数分解と約数の個数（算数整数の性質）
平方根の意味と根号の簡単化（中学数学数と式）
三平方の定理（中学数学相似と三平方の定理）
特別な直角三角形の辺の比（中学数学相似と三平方の定理）
弧度法と単位円による三角関数（数学II 三角関数）
$sin x / x$ の極限（数学III 極限）
加法定理と 2 倍角・半角・積和の公式（数学II 三角関数）
三角関数の導関数（数学III 微分法）
根号の乗除と加減（中学数学数と式）
指数の拡張と指数関数（数学II 指数関数と対数関数）
対数の定義と性質（数学II 指数関数と対数関数）
自然対数の底 $e$ （数学III 極限）
指数関数・対数関数の導関数（数学III 微分法）
基本的な関数の不定積分（数学III 積分法）
置換積分（数学III 積分法）
部分積分（数学III 積分法）
定積分の計算（数学II 微分法と積分法）
定積分の置換・部分積分と偶関数・奇関数（数学III 積分法）
重積分と累次積分（大学数学微分積分）

説明

2 つの確率変数 $X, Y$ の振る舞いをまとめて表したものを同時分布といい、離散型なら同時確率 $p (x, y) = P (X = x, Y = y)$ 、連続型なら同時確率密度関数 $f (x, y)$ で与えられます。この技能では、同時分布から片方だけの分布（周辺分布）を取り出す方法と、 $X$ と $Y$ が独立かどうかを判定する方法を学びます。独立かどうかが分かれば、前提の技能の $E (X Y) = E (X) E (Y)$ や $V (X + Y) = V (X) + V (Y)$ を使ってよいかどうかが決まります。

なぜそうしてよいのか

離散型の場合を考えます。事象 ${X = x}$ は、 $Y$ がとりうる値 $y$ ごとの事象 ${X = x, Y = y}$ に分けられ、これらは互いに排反です。確率の加法性から $P (X = x) = \sum_{y} p (x, y)$ となり、 $Y$ の値について全部足せば $X$ だけの分布が得られます。表で書けば、同時確率の表の行（または列）ごとの合計が表の端（周辺）に並ぶので「周辺分布」と呼びます。連続型では和が積分に変わります。 $P (a \leq X \leq b)$ は帯状の領域 $a \leq x \leq b$ 上で $f (x, y)$ を重積分したものなので、累次積分に直すと $P (a \leq X \leq b) = \int_{a}^{b} (\int_{- \infty}^{\infty} f (x, y) d y) d x$ です。したがって内側の積分 $f_{X} (x) = \int_{- \infty}^{\infty} f (x, y) d y$ が $X$ の確率密度関数（周辺確率密度関数）になります。

$X$ と $Y$ が独立であるとは、どんな範囲 $A, B$ についても $P (X \in A, Y \in B) = P (X \in A) P (Y \in B)$ が成り立つことです。離散型ではこれは「すべての $x, y$ で $p (x, y) = p_{X} (x) p_{Y} (y)$ 」と同値で、連続型では「 $f (x, y) = f_{X} (x) f_{Y} (y)$ が（面積 0 の集合を除いて）すべての点で成り立つ」ことと同値です。つまり、同時分布が周辺分布の積にぴったり分解できるかを調べれば判定できます。

逆に、ある 1 点（連続型なら、正の面積をもつ範囲）で $f (x, y) \neq = f_{X} (x) f_{Y} (y)$ となれば独立ではありません。特に、 $f (x, y) > 0$ となる範囲が長方形でない（例えば三角形）ときは、 $f_{X} (x) > 0, f_{Y} (y) > 0$ なのに $f (x, y) = 0$ となる場所が生じるので、独立にはなりません。

手順

同時確率（密度）関数が正となる範囲を確認し、 $x y$ 平面に図示する（ $y$ の範囲が $x$ によって変わるかを見る）。
$X$ の周辺分布を求める：離散型なら $p_{X} (x) = \sum_{y} p (x, y)$ 、連続型なら $x$ を固定して $f_{X} (x) = \int f (x, y) d y$ （積分範囲はその $x$ で $f > 0$ となる $y$ の範囲）。範囲外では $f_{X} (x) = 0$ と書き添える。
同様に $Y$ の周辺分布 $p_{Y} (y) = \sum_{x} p (x, y)$ または $f_{Y} (y) = \int f (x, y) d x$ を求める。
検算として周辺分布の合計（積分）が 1 になることを確かめる。
独立性を判定する：すべての点で $f (x, y) = f_{X} (x) f_{Y} (y)$ （離散型なら $p (x, y) = p_{X} (x) p_{Y} (y)$ ）が成り立てば独立、成り立たない点（連続型では正の面積の範囲）が 1 つでもあれば独立でない。

例題

確率変数 $X, Y$ の同時確率密度関数が $f (x, y) = {x + y 0 (0 \leq x \leq 1, 0 \leq y \leq 1) (それ以外)$ で与えられている。 $0 \leq x \leq 1$ における $X$ の周辺確率密度関数 $f_{X} (x)$ を求めよ。

例題の解答

手順 1： $f (x, y) > 0$ となるのは正方形 $0 \leq x \leq 1, 0 \leq y \leq 1$ の範囲（ただし原点では $f = 0$ ）で、 $x$ を固定したときの $y$ の範囲は $x$ によらず $0 \leq y \leq 1$ です。

手順 2： $0 \leq x \leq 1$ のとき $f_{X} (x) = \int_{0}^{1} (x + y) d y = [x y + \frac{y ^{2}}{2}]_{0}^{1} = x + \frac{1}{2} .$ $x < 0$ または $x > 1$ では $f (x, y) = 0$ なので $f_{X} (x) = 0$ です。

手順 3：対称性から同様に、 $0 \leq y \leq 1$ で $f_{Y} (y) = y + \frac{1}{2}$ 、それ以外で $0$ です。

手順 4（検算）： $\int_{0}^{1} (x + \frac{1}{2}) d x = \frac{1}{2} + \frac{1}{2} = 1$ となり、確率密度関数として正しいことが確かめられます。

手順 5（独立性の確認）： $f_{X} (x) f_{Y} (y) = (x + \frac{1}{2}) (y + \frac{1}{2}) = x y + \frac{x + y}{2} + \frac{1}{4}$ です。例えば原点の近く（ $x, y$ がともに小さい範囲）では $f (x, y) = x + y$ はほぼ $0$ ですが $f_{X} (x) f_{Y} (y)$ はほぼ $\frac{1}{4}$ で、正の面積の範囲で一致しません。よって $X$ と $Y$ は独立ではありません。

以上より、 $f_{X} (x) = x + \frac{1}{2}$ です。

答え: $x + \frac{1}{2}$

よくある誤り

$f (x, y)$ が $x$ の式と $y$ の式の積の形をしているだけで独立と判断してしまう誤り。例えば $f (x, y) = 8 x y (0 < y < x < 1)$ は積の形だが、正となる範囲が三角形なので $f_{X} (x) = 4 x^{3}, f_{Y} (y) = 4 y (1 - y^{2})$ となり $f \neq = f_{X} f_{Y}$ で独立でない。正しくは、範囲が長方形であることも含めて $f = f_{X} f_{Y}$ を確かめる。
範囲が $0 < y < x < 1$ のような三角形なのに、 $f_{X} (x)$ を $\int_{0}^{1} f (x, y) d y$ と固定した範囲で積分してしまう誤り。正しくは $x$ を固定したときの $y$ の範囲 $0 < y < x$ で $f_{X} (x) = \int_{0}^{x} f (x, y) d y$ とする。
$E (X Y) = E (X) E (Y)$ が成り立つことから独立だと結論してしまう誤り。独立なら $E (X Y) = E (X) E (Y)$ だが逆は成り立たない（例： $X$ が $- 1, 0, 1$ を確率 $\frac{1}{3}$ ずつとり $Y = X^{2}$ のとき $E (X Y) = E (X^{3}) = 0 = E (X) E (Y)$ だが、 $P (X = 0, Y = 1) = 0 \neq = \frac{1}{3} \cdot \frac{2}{3}$ で独立でない）。正しくは同時分布と周辺分布の積を比べる。
$X$ の周辺分布を求めるのに $x$ について和（積分）をとってしまう誤り。 $\int f (x, y) d x$ は $y$ の関数で $Y$ の周辺密度 $f_{Y} (y)$ になる。正しくは、残したい変数を固定して、消したい変数（ $X$ の周辺なら $y$ ）について $f_{X} (x) = \int f (x, y) d y$ とする。

この説明は AI が書き、別の AI が例題を独立に解いて答えを確かめ、説明を一歩ずつ査読しました。

入口の問題

	$Y = 0$	$Y = 1$	$Y = 2$
$X = 0$	$\frac{1}{10}$	$\frac{1}{5}$	$a$
$X = 1$	$b$	$\frac{3}{10}$	$\frac{3}{20}$

	$Y = 0$	$Y = 1$	$Y = 2$
$X = 0$	$\frac{1}{10}$	$\frac{1}{5}$	$a$
$X = 1$	$b$	$\frac{3}{10}$	$\frac{3}{20}$

	$Y = 0$	$Y = 1$	$Y = 2$
$X = 0$	$\frac{1}{10}$	$\frac{1}{5}$	$a$
$X = 1$	$\frac{3}{20}$	$b$	$\frac{3}{20}$

この技能を使う問題

この技能の次に学べること

確率変数の共分散と相関係数（大学数学確率・統計）
条件付き分布と全期待値の公式（大学数学確率・統計）
確率変数の変換（大学数学確率・統計）
最尤推定（大学数学確率・統計）
同時エントロピーと条件付きエントロピー（大学数学情報理論・符号理論）