確率論の問題

条件付き期待値の性質を順に使う。

手順 1（塔の性質） $\mathcal{G}=\sigma (X)\subset \sigma (X,Y)=\mathcal{H}$ なので、塔の性質より
$$E[E[Z\mid \mathcal{H}]\mid \mathcal{G}]=E[Z\mid \mathcal{G}](\text{a.s.})$$
である。（$Z=X^{2}Y$ は $\mathcal{H}$ 可測なので $E[Z\mid \mathcal{H}]=Z$ と見てもよい。）

手順 2（取り出し） $X^2$ は $\mathcal{G}$ 可測で有界、$Y$ は可積分なので、既知のものを取り出せて
$$E[X^{2}Y\mid \mathcal{G}]=X^{2}E[Y\mid \mathcal{G}](\text{a.s.}).$$

手順 3（独立性） $Y$ は $\mathcal{G}=\sigma (X)$ と独立なので $E[Y\mid \mathcal{G}]=E[Y]=\frac{1+3}{2}=2$（a.s.）。よって
$$E[E[Z\mid \mathcal{H}]\mid \mathcal{G}]=2X^2(\text{a.s.}).$$

手順 4（期待値の計算） ほとんど確実に等しい確率変数の期待値は等しいので、求める値は
$$E[X\cdot 2X^2]=2E[X^3]=2{\int }_0^1{x}^{3}dx=2\cdot \frac{1}{4}=\frac{1}{2}.$$

（別解：$X$ は $\mathcal{G}$ 可測で有界なので $E[XE[Z\mid \mathcal{G}]]=E[E[XZ\mid \mathcal{G}]]=E[X^{3}Y]=E[X^3]E[Y]=\frac{1}{4}\cdot 2=\frac{1}{2}$ としてもよい。）

したがって答えは $\frac{1}{2}$ である。

$Z=X^{2}Y$ は $\mathcal{H}=\sigma (X,Y)$ 可測なので、$E[Z\mid \mathcal{H}]=Z=X^{2}Y$ である。
次に $X$ と $Y$ は独立で、$X^2$ は $\mathcal{G}$ 可測だから、$E[X^{2}Y\mid \mathcal{G}]=X^{2}E[Y]$ となる。$Y$ は $[1,3]$ 上の一様分布なので $E[Y]=2$ であり、$E[Z\mid \mathcal{G}]=2X^2$ を得る。
よって求める値は $E[X\cdot 2X^2]=2E[X^3]$ である。$X$ は $[0,1]$ 上の一様分布なので $E[X^3]={\int }_0^1{x}^{3}dx=\frac{1}{4}$。ゆえに $2\cdot \frac{1}{4}=\frac{1}{2}$。
検算として、独立性より $E[X^{3}Y]=E[X^3]E[Y]=\frac{1}{4}\cdot 2=\frac{1}{2}$ となり、一致する。