図形と計量の問題

辺 $\mathrm{AB}$ の中点を $\mathrm{M}$、辺 $\mathrm{CD}$ の中点を $\mathrm{N}$ とし、四面体 $\mathrm{ABCD}$ の体積を $V$ とする。

O と M, N の距離

$\mathrm{OA}=\mathrm{OB}=3$ なので $△\mathrm{OAB}$ は二等辺三角形で、$\mathrm{OM}\perp \mathrm{AB}$。三平方の定理より
$$\mathrm{OM}=\sqrt{3^2-2^2}=\sqrt{5}$$
同様に $\mathrm{ON}\perp \mathrm{CD}$ で
$$\mathrm{ON}=\sqrt{3^2-(\sqrt{5}{)}^2}=2$$
これらは 4 点の動かし方によらず一定である。

鍵: 平面 ABN で 2 つに切る

$\mathrm{N}$ は辺 $\mathrm{CD}$ 上にあるので、四面体 $\mathrm{ABCD}$ は平面 $\mathrm{ABN}$ によって四面体 $\mathrm{ABNC}$ と四面体 $\mathrm{ABND}$ に分けられる。それぞれ $△\mathrm{ABN}$ を底面とみると、高さは $\mathrm{C}$, $\mathrm{D}$ から平面 $\mathrm{ABN}$ までの距離で、これはそれぞれ $\mathrm{CN}$, $\mathrm{DN}$ 以下である（点から平面までの距離は、その平面上の点までの距離以下）。よって
$$V\leqq \frac{1}{3}△\mathrm{ABN}\cdot \mathrm{CN}+\frac{1}{3}△\mathrm{ABN}\cdot \mathrm{DN}=\frac{1}{3}△\mathrm{ABN}\cdot \mathrm{CD}(1)$$
次に、$△\mathrm{ABN}$ の底辺を $\mathrm{AB}$ とみると、高さは $\mathrm{N}$ から直線 $\mathrm{AB}$ までの距離で、これは $\mathrm{NM}$ 以下である（$\mathrm{M}$ は直線 $\mathrm{AB}$ 上の点）。さらに三角形の辺の関係から $\mathrm{NM}\leqq \mathrm{NO}+\mathrm{OM}=2+\sqrt{5}$。よって
$$△\mathrm{ABN}\leqq \frac{1}{2}\cdot \mathrm{AB}\cdot \mathrm{NM}\leqq \frac{1}{2}\cdot 4\cdot (2+\sqrt{5})=2(2+\sqrt{5})(2)$$
$(1)$, $(2)$ より
$$V\leqq \frac{1}{3}\cdot 2(2+\sqrt{5})\cdot 2\sqrt{5}=\frac{4\sqrt{5}(2+\sqrt{5})}{3}=\frac{20+8\sqrt{5}}{3}$$

等号が成り立つ配置

等号が成り立つのは、$\mathrm{CD}\perp$ 平面 $\mathrm{ABN}$、$\mathrm{NM}\perp \mathrm{AB}$、$\mathrm{O}$ が線分 $\mathrm{MN}$ 上にあるときである。実際に、座標空間で
$$\mathrm{O}(0,0,0),\mathrm{A}(-2,0,-\sqrt{5}),\mathrm{B}(2,0,-\sqrt{5}),\mathrm{C}(0,-\sqrt{5},2),\mathrm{D}(0,\sqrt{5},2)$$
とすると、${\mathrm{OA}}^2=4+5=9$, ${\mathrm{OC}}^2=5+4=9$ などから 4 点は半径 $3$ の球面上にあり、$\mathrm{AB}=4$, $\mathrm{CD}=2\sqrt{5}$ である。このとき $\mathrm{M}(0,0,-\sqrt{5})$, $\mathrm{N}(0,0,2)$ で、$\mathrm{CD}$ は $y$ 軸に平行、平面 $\mathrm{ABN}$ は $xz$ 平面なので $\mathrm{CD}\perp$ 平面 $\mathrm{ABN}$ となり、$\mathrm{NM}=2+\sqrt{5}$、$\mathrm{NM}\perp \mathrm{AB}$ も成り立つ。よって
$$V=\frac{1}{3}\cdot \frac{1}{2}\cdot 4\cdot (2+\sqrt{5})\cdot 2\sqrt{5}=\frac{20+8\sqrt{5}}{3}$$
となり、上の値が実際にとれる。

したがって、体積の最大値は $\frac{20+8\sqrt{5}}{3}$ である。

線分 $\mathrm{AB}$ の中点を $\mathrm{M}$、$\mathrm{CD}$ の中点を $\mathrm{N}$ とする。$\mathrm{OM}\perp \mathrm{AB}$、$\mathrm{ON}\perp \mathrm{CD}$ で、
$\mathrm{OM}=\sqrt{3^2-2^2}=\sqrt{5}$、$\mathrm{ON}=\sqrt{3^2-(\sqrt{5}{)}^2}=2$。
四面体の体積は、直線 $\mathrm{AB}$, $\mathrm{CD}$ のなす角を $\phi$、2 直線間の距離を $h$ として
$V=\frac{1}{6}\cdot \mathrm{AB}\cdot \mathrm{CD}\cdot h\sin \phi =\frac{1}{6}\cdot 4\cdot 2\sqrt{5}\cdot h\sin \phi =\frac{4\sqrt{5}}{3}h\sin \phi$。
$\sin \phi \leqq 1$ なので $h$ の最大値を求める。
$\mathrm{AB}$, $\mathrm{CD}$ の両方に垂直な単位ベクトルを $\vec{n}$ とすると、$h=|\overrightarrow{\mathrm{MN}}\cdot \vec{n}|=|(\overrightarrow{\mathrm{ON}}-\overrightarrow{\mathrm{OM}})\cdot \vec{n}|\leqq |\overrightarrow{\mathrm{ON}}|+|\overrightarrow{\mathrm{OM}}|=2+\sqrt{5}$（$|\vec{n}|=1$）。
等号は $\overrightarrow{\mathrm{OM}}$ と $\overrightarrow{\mathrm{ON}}$ が逆向きで共通垂線方向（$\vec{n}$）に平行なとき。実際、$\mathrm{AB}$ を平面 $z=\sqrt{5}$ 上で $x$ 軸方向に、$\mathrm{CD}$ を平面 $z=-2$ 上で $y$ 軸方向にとれば、$\mathrm{AB}\perp \mathrm{CD}$（$\sin \phi =1$）かつ $h=2+\sqrt{5}$ となり、各弦は球面上の弦として長さ 4, $2\sqrt{5}$ をとれる（$\mathrm{A},\mathrm{B}=(\pm 2,0,\sqrt{5})$、$\mathrm{C},\mathrm{D}=(0,\pm \sqrt{5},-2)$ で、原点からの距離はそれぞれ $\sqrt{4+5}=3$、$\sqrt{5+4}=3$）。
よって最大値は $V=\frac{4\sqrt{5}}{3}(2+\sqrt{5})=\frac{8\sqrt{5}+20}{3}$。
検算: 上の座標で $\mathrm{AB}=4$、$\mathrm{CD}=2\sqrt{5}$、$h=\sqrt{5}-(-2)=2+\sqrt{5}$、直交より $V=\frac{1}{6}\cdot 4\cdot 2\sqrt{5}\cdot (2+\sqrt{5})=\frac{20+8\sqrt{5}}{3}\approx 12.63$ で一致。