誘導写像とカッツの補題・アブラモフの公式

エルゴード的な $T$ と $μ (A) > 0$ の集合 $A$ について、初回帰還時刻の平均 $\int_{A} n_{A} d μ_{A} = \frac{1}{μ ( A )}$ （カッツの補題）と、誘導写像のエントロピー $h_{μ_{A}} (T_{A}) = \frac{h _{μ} ( T )}{μ ( A )}$ （アブラモフの公式）を使える（例: $(\frac{1}{2}, \frac{1}{2})$ ベルヌーイシフトと $A = {x_{0} = 1}$ で平均帰還時刻 $2$ , $h_{μ_{A}} (T_{A}) = 2 lo g 2$ ）

前提

ベルヌーイ測度・マルコフ測度のエントロピー（大学院数学力学系・エルゴード理論）
マルコフ連鎖の再帰性とエルゴード性（大学院数学確率論）

この技能までの道筋（68 技能）

算数中学高校大学大学院

読み込み中…

右端（太枠）がこの技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。

一覧で見る（前提が先）

分数のたし算・ひき算（算数計算と数のきまり）
小数の四則計算（算数計算と数のきまり）
正負の数の加法・減法（中学数学数と式）
分数のかけ算・わり算（算数計算と数のきまり）
四則の混じった計算の順序（算数計算と数のきまり）
正負の数の乗除・累乗と四則混合（中学数学数と式）
約数の見つけ方（算数整数の性質）
素因数分解と約数の個数（算数整数の性質）
平方根の意味と根号の簡単化（中学数学数と式）
根号の乗除と加減（中学数学数と式）
指数の拡張と指数関数（数学II 指数関数と対数関数）
対数の定義と性質（数学II 指数関数と対数関数）
樹形図で数え上げる（算数場合の数）
積の法則と和の法則（算数場合の数）
和の法則・積の法則と樹形図（数学A 場合の数と確率）
順列・円順列・重複順列（数学A 場合の数と確率）
組合せ（数学A 場合の数と確率）
確率の定義と和事象・余事象（数学A 場合の数と確率）
期待値（数学A 場合の数と確率）
確率変数と確率分布（数学B 統計的な推測）
エントロピー（大学数学情報理論・符号理論）
条件付き確率と乗法定理（数学A 場合の数と確率）
等間隔にならんだ数の和（算数計算と数のきまり）
分配法則を使った計算のくふう（算数計算と数のきまり）
文字式の計算（同類項・分配法則）（中学数学数と式）
等差・等比数列の和と Σ （数学B 数列）
マルコフ連鎖と推移確率（大学数学確率・統計）
定常分布（大学数学確率・統計）
ベルヌーイ測度・マルコフ測度のエントロピー（大学院数学力学系・エルゴード理論）
平均と合計（算数いろいろな文章題）
平均値・中央値・最頻値（中学数学データの活用）
代表値（平均値・中央値・最頻値）（数学I データの分析）
分散と標準偏差（数学I データの分析）
変量の変換と平均・分散（数学I データの分析）
確率変数の期待値・分散と $a X + b$ （数学B 統計的な推測）
確率変数の和と積（独立な場合）（数学B 統計的な推測）
乗法公式による展開（中学数学数と式）
因数分解（中学数学数と式）
3 次式までの展開と因数分解（数学I 数と式）
微分係数と導関数の定義（数学II 微分法と積分法）
多項式の微分（数学II 微分法と積分法）
多項式の不定積分（数学II 微分法と積分法）
数列の極限（数学III 極限）
関数の極限（数学III 極限）
積と商の微分（数学III 微分法）
合成関数の微分（数学III 微分法）
円の周の長さと面積（算数平面図形）
おうぎ形の弧の長さと面積（算数平面図形）
弧の長さからおうぎ形の中心角と面積を求める（中学数学平面図形）
三角形・四角形の面積（算数平面図形）
三平方の定理（中学数学相似と三平方の定理）
特別な直角三角形の辺の比（中学数学相似と三平方の定理）
弧度法と単位円による三角関数（数学II 三角関数）
$sin x / x$ の極限（数学III 極限）
加法定理と 2 倍角・半角・積和の公式（数学II 三角関数）
三角関数の導関数（数学III 微分法）
自然対数の底 $e$ （数学III 極限）
指数関数・対数関数の導関数（数学III 微分法）
基本的な関数の不定積分（数学III 積分法）
置換積分（数学III 積分法）
部分積分（数学III 積分法）
定積分の計算（数学II 微分法と積分法）
定積分の置換・部分積分と偶関数・奇関数（数学III 積分法）
重積分と累次積分（大学数学微分積分）
同時分布・周辺分布と独立性（大学数学確率・統計）
条件付き分布と全期待値の公式（大学数学確率・統計）
到達確率と平均到達時間（大学数学確率・統計）
マルコフ連鎖の再帰性とエルゴード性（大学院数学確率論）

説明

確率空間 $(X, μ)$ 上の測度を保つ変換 $T$ と $μ (A) > 0$ の集合 $A$ に対し、 $A$ の点が初めて $A$ に戻るまでの時刻 $n_{A} (x) = min {n \geq 1 : T^{n} x \in A}$ と、戻った先へ一気に飛ぶ写像（誘導写像） $T_{A} (x) = T^{n_{A} (x)} x$ を考えます。 $T$ がエルゴード的なら、 $A$ 上の平均帰還時刻は $\int_{A} n_{A} d μ_{A} = \frac{1}{μ ( A )}$ （カッツの補題）、誘導写像のエントロピーは $h_{μ_{A}} (T_{A}) = \frac{h _{μ} ( T )}{μ ( A )}$ （アブラモフの公式）となります。ここで $μ_{A} (B) = \frac{μ ( B \cap A )}{μ ( A )}$ は $A$ 上の条件付き測度です。これらを使うと、帰還時刻の分布や $T_{A}$ の構造を詳しく調べなくても、平均帰還時刻と $T_{A}$ のエントロピーを $μ (A)$ と $h_{μ} (T)$ だけから求められます。 $T$ は可逆でなくてもかまいません（片側シフトにも使えます）。

なぜそうしてよいのか

用語 $T : X \to X$ が $μ$ を保つ（測度保存）とは、すべての可測集合 $B$ で $μ (T^{- 1} B) = μ (B)$ となることです（ $T^{- 1} B = {x : T x \in B}$ は逆像なので、 $T$ が可逆でなくても意味があります）。 $T$ がエルゴード的とは、 $μ (T^{- 1} B △ B) = 0$ をみたす（ほぼ不変な）集合 $B$ が必ず $μ (B) = 0$ または $1$ になることです。一般の $T$ のエントロピー $h_{μ} (T)$ は、有限分割 $ξ$ について $ξ, T^{- 1} ξ, \dots, T^{- (n - 1)} ξ$ を重ねた分割のエントロピーを $n$ で割った極限の、 $ξ$ についての上限（コルモゴロフ・シナイのエントロピー）で、ベルヌーイシフト・マルコフシフトでは前提の技能の公式 $- \sum p_{i} lo g p_{i}$ 、 $- \sum π_{i} P_{ij} lo g P_{ij}$ に一致します。また、 $μ$ がほとんどすべての $x \in A$ で $T_{A}$ が定義され（下で示すとおり $n_{A} < \infty$ ）、 $T_{A}$ は $μ_{A}$ を保つことが知られています。

カッツの補題の理由（初回到達による勘定） $n_{A}$ は正の整数値なので $\int_{A} n_{A} d μ = \sum_{k \geq 0} μ (A \cap {n_{A} > k})$ です（ $n = \sum_{k \geq 0} [n > k]$ を積分）。 $E_{k} = {x : T^{j} x \in / A (0 \leq j \leq k)}$ 、 $E_{- 1} = X$ とおき、 $D_{k} = {x : T^{j} x \in / A (1 \leq j \leq k)} = T^{- 1} E_{k - 1}$ を考えます（ $D_{0} = X$ ）。 $D_{k}$ を $A$ に入る部分と入らない部分に分けると $D_{k} = (A \cap {n_{A} > k}) ⊔ E_{k}$ で、測度保存から $μ (D_{k}) = μ (E_{k - 1})$ なので
$μ (A \cap {n_{A} > k}) = μ (E_{k - 1}) - μ (E_{k}) .$
$k = 0, \dots, K$ で足すと打ち消し合って $1 - μ (E_{K})$ になり、 $K \to \infty$ で $\int_{A} n_{A} d μ = 1 - μ (E_{\infty}) = μ (U)$ です。ここで $U = ⋃_{j \geq 0} T^{- j} A$ は「いつか $A$ を訪れる点」の集合です。 $T^{- 1} U = ⋃_{j \geq 1} T^{- j} A \subset U$ かつ $μ (T^{- 1} U) = μ (U)$ なので $μ (T^{- 1} U △ U) = 0$ 、エルゴード性から $μ (U) \in {0, 1}$ 、 $U \supset A$ で $μ (A) > 0$ だから $μ (U) = 1$ 。よって $\int_{A} n_{A} d μ = 1$ （特に $n_{A}$ は $A$ 上ほとんど至るところ有限）で、 $μ (A)$ で割って $\int_{A} n_{A} d μ_{A} = \frac{1}{μ ( A )}$ を得ます。この議論は逆像しか使わないので $T$ の可逆性は不要です。マルコフ連鎖で状態 $i$ の平均再帰時間が $m_{i} = 1/ π_{i}$ になることの一般化でもあります（ $A$ を「時刻 $0$ に状態 $i$ にいる」という集合とすれば同じ式です）。

アブラモフの公式の直観 $T$ を長い時間 $N$ 回動かすと、軌道が $A$ を訪れる回数はおよそ $N μ (A)$ 回です（平均帰還時刻が $1/ μ (A)$ だから）。 $T_{A}$ の 1 回は $T$ の何回分かをまとめて進むので、 $T$ の $N$ 回分の情報は $T_{A}$ の約 $N μ (A)$ 回分に詰め込まれます。エントロピーは「1 回あたりに生み出される情報量」なので、 $T_{A}$ の 1 回あたりの情報量は $\frac{N h _{μ} ( T )}{N μ ( A )} = \frac{h _{μ} ( T )}{μ ( A )}$ となります。厳密な証明はこの見積もりを分割のエントロピーで行いますが、結論はこの勘定どおりで、 $T$ がエルゴード的な測度保存変換であれば（可逆でなくても）成り立ちます。どちらの公式も $T_{A}$ を確率測度 $μ_{A}$ で測っているため、 $\frac{1}{μ ( A )}$ という倍率が現れます。

手順

$T$ が $μ$ を保つ（ $μ (T^{- 1} B) = μ (B)$ ）エルゴード的な変換であること、 $μ (A) > 0$ であることを確かめる（ベルヌーイシフトや、既約で非周期的なマルコフ連鎖の定常マルコフ測度をもつシフトはエルゴード的）。 $T$ は可逆でなくてよく、片側シフトでも両側シフトでも同じ公式が使える
$μ (A)$ を計算する。シフトで $A = {x_{0} = i}$ なら、ベルヌーイ測度では $μ (A) = p_{i}$ 、マルコフ測度では $μ (A) = π_{i}$
カッツの補題で平均帰還時刻を求める: $\int_{A} n_{A} d μ_{A} = \frac{1}{μ ( A )}$ （ $μ_{A}$ ではなく $μ$ で積分した値は $\int_{A} n_{A} d μ = 1$ ）
元の変換のエントロピー $h_{μ} (T)$ を求める。ベルヌーイなら $- \sum_{i} p_{i} lo g p_{i}$ 、マルコフなら $- \sum_{i, j} π_{i} P_{ij} lo g P_{ij}$
アブラモフの公式で $h_{μ_{A}} (T_{A}) = \frac{h _{μ} ( T )}{μ ( A )}$ を計算する

例題

記号 ${0, 1}$ 上の片側シフト $T$ に、 $0$ が確率 $\frac{1}{3}$ 、 $1$ が確率 $\frac{2}{3}$ で独立に現れるベルヌーイ測度 $μ$ を与える。 $A = {x : x_{0} = 0}$ とし、 $n_{A}$ を $A$ への初回帰還時刻、 $T_{A}$ を誘導写像、 $μ_{A}$ を $A$ 上の条件付き測度とする。平均帰還時刻 $\int_{A} n_{A} d μ_{A}$ と誘導写像のエントロピー $h_{μ_{A}} (T_{A})$ をこの順に組で求めよ。

例題の解答

手順 1 ベルヌーイシフトは $μ$ を保ち、エルゴード的である（片側シフトは可逆でないが、カッツの補題・アブラモフの公式は逆像だけで成り立つので使える）。 $A$ は空でない円筒集合で $μ (A) > 0$ 。

手順 2 $μ (A) = μ (x_{0} = 0) = \frac{1}{3}$ 。

手順 3 カッツの補題より $\int_{A} n_{A} d μ_{A} = \frac{1}{1/3} = 3$ 。（検算: $x_{0} = 0$ のとき $n_{A} = n$ となるのは $x_{1} = \dots = x_{n - 1} = 1, x_{n} = 0$ のときで、 $μ_{A} (n_{A} = n) = (\frac{2}{3})^{n - 1} \frac{1}{3}$ 。これは成功確率 $\frac{1}{3}$ の幾何分布なので平均は $3$ で一致する。）

手順 4 $h_{μ} (T) = - \frac{1}{3} lo g \frac{1}{3} - \frac{2}{3} lo g \frac{2}{3} = \frac{1}{3} lo g 3 + \frac{2}{3} (lo g 3 - lo g 2) = lo g 3 - \frac{2}{3} lo g 2$ 。

手順 5 アブラモフの公式より
$h_{μ_{A}} (T_{A}) = \frac{lo g 3 - \frac{2}{3} lo g 2}{1/3} = 3 lo g 3 - 2 lo g 2 = lo g \frac{27}{4} .$
よって答えは $(3, lo g \frac{27}{4})$ 。

答え: $(3, lo g \frac{27}{4})$

よくある誤り

平均帰還時刻を元の測度 $μ$ で積分して $\int_{A} n_{A} d μ = \frac{1}{μ ( A )}$ としてしまう誤り。正しくは $\int_{A} n_{A} d μ = 1$ 、条件付き測度で $\int_{A} n_{A} d μ_{A} = \frac{1}{μ ( A )}$ （例題では $\int_{A} n_{A} d μ = 1$ 、 $\int_{A} n_{A} d μ_{A} = 3$ ）。
アブラモフの公式を $h_{μ_{A}} (T_{A}) = μ (A) h_{μ} (T)$ と逆向きにしてしまう誤り。正しくは $T_{A}$ は $T$ の平均 $\frac{1}{μ ( A )}$ 回分をまとめて進むので、エントロピーは大きくなり $h_{μ_{A}} (T_{A}) = \frac{h _{μ} ( T )}{μ ( A )}$ （例題では $\frac{1}{3} h_{μ} (T)$ ではなく $3 h_{μ} (T) = lo g \frac{27}{4}$ ）。
初回帰還時刻 $n_{A}$ の定義で $n = 0$ を許し、 $A$ 上で $n_{A} = 0$ としてしまう誤り。正しくは $n_{A} (x) = min {n \geq 1 : T^{n} x \in A}$ で、 $n_{A} \geq 1$ 。たとえば $(\frac{1}{2}, \frac{1}{2})$ ベルヌーイシフトと $A = {x_{0} = 1}$ では $μ_{A} (n_{A} = 1) = \frac{1}{2}$ である。
エルゴード性を確かめずにカッツの補題を使ってしまう誤り。上の勘定で一般に成り立つのは $\int_{A} n_{A} d μ = μ (⋃_{j \geq 0} T^{- j} A)$ で、エルゴード的でないとこれが $1$ より小さくなりうる（例: 恒等写像 $T = id$ では $n_{A} \equiv 1$ なので $\int_{A} n_{A} d μ = μ (A)$ 、平均帰還時刻 $\int_{A} n_{A} d μ_{A}$ は $1$ であり、 $μ (A) < 1$ なら $\frac{1}{μ ( A )}$ と一致しない）。

この説明は AI が書き、別の AI が例題を独立に解いて答えを確かめ、説明を一歩ずつ査読しました。

入口の問題

難易度 1（大学院の講義の例題レベル）
記号の集合を ${0, 1, 2}$ とし、 $X = {0, 1, 2}^{Z}$ 上のシフト写像 $T$ , $(T x)_{i} = x_{i + 1}$ と、確率ベクトル $(p_{0}, p_{1}, p_{2}) = (\frac{1}{4}, \frac{1}{4}, \frac{1}{2})$ によるベルヌーイ測度 $μ$ を考える。集合 $A = {x \in X : x_{0} = 2}$ への誘導写像（初回帰還写像）を $T_{A}$ 、 $A$ 上の正規化された測度を $μ_{A} = \frac{μ ( \cdot \cap A )}{μ ( A )}$ とするとき、測度論的エントロピー $h_{μ_{A}} (T_{A})$ を求めよ。ただし $lo g$ は自然対数とする。

誘導写像とカッツの補題・アブラモフの公式

前提

説明

なぜそうしてよいのか

手順

例題

よくある誤り

入口の問題

この技能を使う問題