図形と計量の問題

方針：まず四面体の体積 $V$ を求め、次に $△\mathrm{OBC}$ を底面とみて高さ（求める距離）を出す。

1. $△\mathrm{ABC}$ の角と面積

余弦定理より
$$\cos \angle \mathrm{BAC}=\frac{{\mathrm{AB}}^2+{\mathrm{CA}}^2-{\mathrm{BC}}^2}{2\cdot \mathrm{AB}\cdot \mathrm{CA}}=\frac{25+64-49}{2\cdot 5\cdot 8}=\frac{40}{80}=\frac{1}{2}$$
よって $\angle \mathrm{BAC}=60^{\circ }$ であり、
$$△\mathrm{ABC}=\frac{1}{2}\cdot 5\cdot 8\cdot \sin 60^{\circ }=\frac{1}{2}\cdot 40\cdot \frac{\sqrt{3}}{2}=10\sqrt{3}$$

2. $△\mathrm{ABC}$ の外接円の半径

外接円の半径を $R$ とすると、正弦定理より
$$2R=\frac{\mathrm{BC}}{\sin 60^{\circ }}=\frac{7}{\frac{\sqrt{3}}{2}}=\frac{14}{\sqrt{3}}\text{より}R=\frac{7}{\sqrt{3}},R^2=\frac{49}{3}$$

3. 頂点 $\mathrm{O}$ から平面 $\mathrm{ABC}$ への垂線

$\mathrm{O}$ から平面 $\mathrm{ABC}$ に下ろした垂線の足を $\mathrm{H}$ とする。$△\mathrm{OHA},△\mathrm{OHB},△\mathrm{OHC}$ はいずれも $\angle \mathrm{OHA}=\angle \mathrm{OHB}=\angle \mathrm{OHC}=90^{\circ }$ の直角三角形で、斜辺 $\mathrm{OA}=\mathrm{OB}=\mathrm{OC}=7$、辺 $\mathrm{OH}$ が共通であるから合同である。よって $\mathrm{HA}=\mathrm{HB}=\mathrm{HC}$ となり、$\mathrm{H}$ は $△\mathrm{ABC}$ の外心で $\mathrm{HA}=R$ である。三平方の定理より
$${\mathrm{OH}}^2={\mathrm{OA}}^2-R^2=49-\frac{49}{3}=\frac{98}{3},\mathrm{OH}=\frac{7\sqrt{2}}{\sqrt{3}}=\frac{7\sqrt{6}}{3}$$

4. 体積
$$V=\frac{1}{3}\cdot △\mathrm{ABC}\cdot \mathrm{OH}=\frac{1}{3}\cdot 10\sqrt{3}\cdot \frac{7\sqrt{6}}{3}=\frac{70\sqrt{18}}{9}=\frac{70\cdot 3\sqrt{2}}{9}=\frac{70\sqrt{2}}{3}$$

5. $\mathrm{A}$ から平面 $\mathrm{OBC}$ までの距離

$\mathrm{OB}=\mathrm{BC}=\mathrm{OC}=7$ より $△\mathrm{OBC}$ は 1 辺 $7$ の正三角形で
$$△\mathrm{OBC}=\frac{\sqrt{3}}{4}\cdot 49=\frac{49\sqrt{3}}{4}$$
求める距離を $d$ とすると $V=\frac{1}{3}\cdot △\mathrm{OBC}\cdot d$ より
$$d=\frac{3V}{△\mathrm{OBC}}=\frac{70\sqrt{2}}{\frac{49\sqrt{3}}{4}}=\frac{280\sqrt{2}}{49\sqrt{3}}=\frac{40\sqrt{2}}{7\sqrt{3}}=\frac{40\sqrt{6}}{21}$$

（$d\approx 4.67$ であり、$d\le \mathrm{AB}=5$ を満たしていて妥当である。）

答え：$\frac{40\sqrt{6}}{21}$

三角形 $\mathrm{OBC}$ は $\mathrm{OB}=\mathrm{OC}=\mathrm{BC}=7$ の正三角形なので、面積は $\frac{\sqrt{3}}{4}\cdot 49=\frac{49\sqrt{3}}{4}$。

四面体の体積 $V$ を、底面を $△\mathrm{ABC}$ として求める。
$\mathrm{AB}=5,\mathrm{BC}=7,\mathrm{CA}=8$ なので、ヘロンの公式（$s=10$）より
$S_{\mathrm{ABC}}=\sqrt{10\cdot 5\cdot 3\cdot 2}=10\sqrt{3}$。

$\mathrm{OA}=\mathrm{OB}=\mathrm{OC}$ より、O から平面 ABC に下ろした垂線の足は $△\mathrm{ABC}$ の外心である。外接円の半径は
$R=\frac{5\cdot 7\cdot 8}{4\cdot 10\sqrt{3}}=\frac{7}{\sqrt{3}}$。
よって O から平面 ABC までの高さは
$h=\sqrt{49-\frac{49}{3}}=\sqrt{\frac{98}{3}}=\frac{7\sqrt{2}}{\sqrt{3}}$。

体積は
$V=\frac{1}{3}\cdot 10\sqrt{3}\cdot \frac{7\sqrt{2}}{\sqrt{3}}=\frac{70\sqrt{2}}{3}$。

A から平面 OBC までの距離を $d$ とすると $V=\frac{1}{3}\cdot \frac{49\sqrt{3}}{4}d$ なので
$d=\frac{3V\cdot 4}{49\sqrt{3}}=\frac{280\sqrt{2}}{49\sqrt{3}}=\frac{40\sqrt{2}}{7\sqrt{3}}=\frac{40\sqrt{6}}{21}$。

検算：$d\approx 4.665<\mathrm{OA}=7$ であり、矛盾しない。