ベクトルの問題

$\vec{a}=\overrightarrow{\mathrm{OA}}$, $\vec{b}=\overrightarrow{\mathrm{OB}}$, $\vec{c}=\overrightarrow{\mathrm{OC}}$ とし、$\overrightarrow{\mathrm{OP}}=p\vec{a}$, $\overrightarrow{\mathrm{OQ}}=q\vec{b}$, $\overrightarrow{\mathrm{OR}}=r\vec{c}$ $(0<p,q,r\le 1)$ とおく。

平面 PQR 上にある条件
$$\overrightarrow{\mathrm{OX}}=\frac{1}{6p}\overrightarrow{\mathrm{OP}}+\frac{1}{6q}\overrightarrow{\mathrm{OQ}}+\frac{1}{2r}\overrightarrow{\mathrm{OR}}$$
であり、$\overrightarrow{\mathrm{OP}},\overrightarrow{\mathrm{OQ}},\overrightarrow{\mathrm{OR}}$ は 1 次独立なので、$\mathrm{X}$ が平面 $\mathrm{PQR}$ 上にある条件は係数の和が $1$ であること、すなわち
$$\frac{1}{6p}+\frac{1}{6q}+\frac{1}{2r}=1.$$
ここで $x=\frac{1}{p}$, $y=\frac{1}{q}$, $z=\frac{1}{r}$ とおくと $x\ge 1$, $y\ge 1$, $z\ge 1$ で
$$x+y+3z=6(1)$$

体積比
四面体 $\mathrm{OPQR}$ と $\mathrm{OABC}$ は頂点 $\mathrm{O}$ における 3 辺の方向が共通なので、体積比は $pqr=\frac{1}{xyz}$ である。よって $xyz$ の最大値を求めればよい。

$xyz$ の最大化
(1) と $x\ge 1$, $y\ge 1$ より $6-3z=x+y\ge 2$ なので $1\le z\le \frac{5}{3}$。$z$ を固定すると、相加平均・相乗平均の関係より
$$xy\le {\left(\frac{x+y}{2}\right)}^2=\frac{(6-3z{)}^2}{4}=\frac{9}{4}(2-z{)}^2$$
（等号は $x=y=\frac{6-3z}{2}$ のときで、このとき $x=y\ge 1$ を満たす）。よって
$$xyz\le \frac{9}{4}g(z),g(z)=z(2-z{)}^2.$$
$$g^{\prime }(z)=(2-z{)}^2-2z(2-z)=(2-z)(2-3z)$$
であり、$1\le z\le \frac{5}{3}$ では $2-z>0$, $2-3z<0$ なので $g^{\prime }(z)<0$。したがって $g(z)$ は減少し、最大値は $g(1)=1$。

ゆえに $xyz\le \frac{9}{4}$ で、等号は $z=1$, $x=y=\frac{3}{2}$、すなわち $p=q=\frac{2}{3}$, $r=1$（$\mathrm{R}=\mathrm{C}$）のとき成り立つ。このとき実際に $\frac{1}{6}\cdot \frac{3}{2}+\frac{1}{6}\cdot \frac{3}{2}+\frac{1}{2}\cdot 1=1$ を満たす。

（注：$x,y,3z$ に 3 変数の相加相乗平均を使うと等号条件は $x=y=3z=2$、つまり $r=\frac{3}{2}>1$ となり、条件 $r\le 1$ に反するので使えない。）

よって体積比の最小値は $pqr=\frac{4}{9}$。

正四面体の体積
1 辺 $3$ の正四面体の底面積は $\frac{\sqrt{3}}{4}\cdot 9=\frac{9\sqrt{3}}{4}$。底面の正三角形の外接円の半径は $\sqrt{3}$ なので、高さは $\sqrt{3^2-(\sqrt{3}{)}^2}=\sqrt{6}$。よって体積は
$$\frac{1}{3}\cdot \frac{9\sqrt{3}}{4}\cdot \sqrt{6}=\frac{9\sqrt{18}}{12}=\frac{9\sqrt{2}}{4}.$$

したがって求める最小値は
$$\frac{4}{9}\cdot \frac{9\sqrt{2}}{4}=\sqrt{2}.$$

正四面体 $\mathrm{OABC}$ の体積は $V_0=\frac{3^3}{6\sqrt{2}}=\frac{9\sqrt{2}}{4}$。

$\overrightarrow{\mathrm{OP}}=p\overrightarrow{\mathrm{OA}}$, $\overrightarrow{\mathrm{OQ}}=q\overrightarrow{\mathrm{OB}}$, $\overrightarrow{\mathrm{OR}}=r\overrightarrow{\mathrm{OC}}$ とおくと $0<p,q,r\le 1$。

$\overrightarrow{\mathrm{OX}}=\frac{1}{6p}\overrightarrow{\mathrm{OP}}+\frac{1}{6q}\overrightarrow{\mathrm{OQ}}+\frac{1}{2r}\overrightarrow{\mathrm{OR}}$ で、X が平面 PQR 上にある条件は係数の和が 1、すなわち $\frac{1}{6p}+\frac{1}{6q}+\frac{1}{2r}=1$。

$u=1/p,v=1/q,w=1/r$ とおくと $u,v,w\ge 1$ で $u+v+3w=6$。体積は $V_{0}pqr=V_0/(uvw)$ なので、$uvw$ を最大にすればよい。

$w\ge 1$ より $u+v=6-3w\le 3$。$u,v\ge 1$ から $w\le 4/3$。$u+v$ を固定すると相加相乗平均より $uv\le {\left(\frac{6-3w}{2}\right)}^2$ なので、
$uvw\le f(w)=\frac{w(6-3w{)}^2}{4}$ $(1\le w\le 4/3)$。

$f^{\prime }(w)=\frac{(6-3w)(6-9w)}{4}$ は $1\le w<4/3$ で負なので $f$ は減少し、最大は $w=1$ のときの $f(1)=\frac{9}{4}$。このとき $u=v=\frac{3}{2}$ で $u,v\ge 1$ を満たす。

(参考: 制約なしの最大点 $u=v=2,w=2/3$ は $w\ge 1$ に反するので境界で最大になる。)

よって $uvw$ の最大値は $\frac{9}{4}$ で、体積の最小値は $\frac{9\sqrt{2}}{4}\cdot \frac{4}{9}=\sqrt{2}$。

検算: $p=q=\frac{2}{3},r=1$ のとき $\frac{1}{4}+\frac{1}{4}+\frac{1}{2}=1$ で条件を満たし、体積は $\frac{9\sqrt{2}}{4}\cdot \frac{4}{9}=\sqrt{2}$。