ベクトルの問題

$\vec{a}=\overrightarrow{\mathrm{OA}}$, $\vec{b}=\overrightarrow{\mathrm{OB}}$, $\vec{c}=\overrightarrow{\mathrm{OC}}$ とおく。四面体なので $\vec{a},\vec{b},\vec{c}$ は一次独立であり、空間の任意の点 $\mathrm{X}$ について $\overrightarrow{\mathrm{OX}}=x\vec{a}+y\vec{b}+z\vec{c}$ を満たす実数 $x,y,z$ はただ 1 組に定まる。

平面 $\alpha$ 上の点の条件

$\overrightarrow{\mathrm{OL}}=\frac{1}{3}\vec{a}$, $\overrightarrow{\mathrm{OM}}=\frac{1}{2}\vec{b}$, $\overrightarrow{\mathrm{OG}}=\frac{\vec{a}+\vec{b}+\vec{c}}{3}$ である。点 $\mathrm{X}$ が $\alpha$ 上にあるとき、実数 $s,t$ を用いて
$$\overrightarrow{\mathrm{OX}}=\overrightarrow{\mathrm{OL}}+s\overrightarrow{\mathrm{LM}}+t\overrightarrow{\mathrm{LG}}$$
と書ける。$\overrightarrow{\mathrm{LM}}=-\frac{1}{3}\vec{a}+\frac{1}{2}\vec{b}$, $\overrightarrow{\mathrm{LG}}=\frac{1}{3}\vec{b}+\frac{1}{3}\vec{c}$ より
$$\overrightarrow{\mathrm{OX}}=\frac{1-s}{3}\vec{a}+\left(\frac{s}{2}+\frac{t}{3}\right)\vec{b}+\frac{t}{3}\vec{c}.$$
よって $x=\frac{1-s}{3}$, $z=\frac{t}{3}$, $y=\frac{s}{2}+z$ であり、$s=1-3x$ を代入すると $2y=1-3x+2z$、すなわち
$$3x+2y-2z=1(1)$$
が、$\mathrm{X}$ が $\alpha$ 上にあるための条件である（逆に $(1)$ を満たせば $s=1-3x$, $t=3z$ ととれる）。

各辺（直線）との交点

• 直線 $\mathrm{OC}$: $\overrightarrow{\mathrm{OX}}=z\vec{c}$ を $(1)$ に代入して $z=-\frac{1}{2}$。この交点を $\mathrm{N}$ とすると $\overrightarrow{\mathrm{ON}}=-\frac{1}{2}\vec{c}$ で、$\mathrm{N}$ は辺 $\mathrm{OC}$ の $\mathrm{O}$ 側の延長上にあり、$\mathrm{CN}=\frac{3}{2}\mathrm{CO}$。
• 辺 $\mathrm{CA}$: $\overrightarrow{\mathrm{OX}}=u\vec{a}+(1-u)\vec{c}$ として $3u-2(1-u)=1$ より $u=\frac{3}{5}$。交点を $\mathrm{J}$ とすると $\overrightarrow{\mathrm{OJ}}=\frac{3}{5}\vec{a}+\frac{2}{5}\vec{c}$、$\mathrm{CJ}:\mathrm{JA}=3:2$。
• 辺 $\mathrm{CB}$: $\overrightarrow{\mathrm{OX}}=v\vec{b}+(1-v)\vec{c}$ として $2v-2(1-v)=1$ より $v=\frac{3}{4}$。交点を $\mathrm{K}$ とすると $\overrightarrow{\mathrm{OK}}=\frac{3}{4}\vec{b}+\frac{1}{4}\vec{c}$、$\mathrm{CK}:\mathrm{KB}=3:1$。
• 直線 $\mathrm{AB}$: $\overrightarrow{\mathrm{OX}}=(1-w)\vec{a}+w\vec{b}$ として $3(1-w)+2w=1$ より $w=2$ で、辺 $\mathrm{AB}$ 上にはない。

したがって $\alpha$ は辺 $\mathrm{OA}$, $\mathrm{OB}$, $\mathrm{BC}$, $\mathrm{CA}$ とそれぞれ $\mathrm{L}$, $\mathrm{M}$, $\mathrm{K}$, $\mathrm{J}$ で交わり、切り口は四角形 $\mathrm{LMKJ}$ である。$(1)$ の左辺の値は $\mathrm{O}$ で $0$、$\mathrm{C}$ で $-2$、$\mathrm{A}$ で $3$、$\mathrm{B}$ で $2$ なので、$\mathrm{O}$ を含む立体は $\mathrm{C}$ も含み、頂点は $\mathrm{O},\mathrm{C},\mathrm{L},\mathrm{M},\mathrm{K},\mathrm{J}$ である。

$\mathrm{L}$, $\mathrm{M}$ と $\mathrm{N}$ の関係

$$\frac{4\overrightarrow{\mathrm{ON}}+5\overrightarrow{\mathrm{OJ}}}{9}=\frac{-2\vec{c}+3\vec{a}+2\vec{c}}{9}=\frac{1}{3}\vec{a}=\overrightarrow{\mathrm{OL}},\frac{\overrightarrow{\mathrm{ON}}+2\overrightarrow{\mathrm{OK}}}{3}=\frac{-\frac{1}{2}\vec{c}+\frac{3}{2}\vec{b}+\frac{1}{2}\vec{c}}{3}=\frac{1}{2}\vec{b}=\overrightarrow{\mathrm{OM}}$$
より、$\mathrm{L}$ は線分 $\mathrm{NJ}$ 上、$\mathrm{M}$ は線分 $\mathrm{NK}$ 上にあり、$\mathrm{O}$ は線分 $\mathrm{NC}$ 上にある。よって四面体 $\mathrm{CNJK}$ は平面 $\mathrm{OAB}$（$△\mathrm{OLM}$）によって、求める立体と四面体 $\mathrm{NOLM}$ に分けられる。

体積の計算

四面体 $\mathrm{OABC}$ の体積を $V$ とする。1 つの頂点から出る 3 本の辺（またはその延長）上に点をとってできる四面体の体積比は、3 つの長さの比の積になる（底面の面積比と高さの比の積）。したがって
$$V(\mathrm{CNJK})=\frac{\mathrm{CN}}{\mathrm{CO}}\cdot \frac{\mathrm{CJ}}{\mathrm{CA}}\cdot \frac{\mathrm{CK}}{\mathrm{CB}}V=\frac{3}{2}\cdot \frac{3}{5}\cdot \frac{3}{4}V=\frac{27}{40}V.$$
四面体 $\mathrm{NOLM}$ は頂点 $\mathrm{O}$ から出る辺が $\overrightarrow{\mathrm{OL}}=\frac{1}{3}\vec{a}$, $\overrightarrow{\mathrm{OM}}=\frac{1}{2}\vec{b}$, $\overrightarrow{\mathrm{ON}}=-\frac{1}{2}\vec{c}$ なので、四面体 $\mathrm{OABC}$ と高さ・底面を比べて
$$V(\mathrm{NOLM})=\frac{1}{3}\cdot \frac{1}{2}\cdot \frac{1}{2}V=\frac{1}{12}V.$$
よって $\mathrm{O}$ を含む立体の体積は
$$\frac{27}{40}V-\frac{1}{12}V=\frac{81-10}{120}V=\frac{71}{120}V.$$
(検算: もう一方の立体は $\frac{49}{120}V$ で、和は $V$ となる。)

したがって $\frac{71}{120}$ 倍である。

$\overrightarrow{OA}=\vec{a},\overrightarrow{OB}=\vec{b},\overrightarrow{OC}=\vec{c}$ とし、点 $x\vec{a}+y\vec{b}+z\vec{c}$ を座標 $(x,y,z)$ で表す。四面体 OABC の体積を 1 として比を求める。

$\mathrm{L}=(1/3,0,0)$, $\mathrm{M}=(0,1/2,0)$, $\mathrm{G}=(1/3,1/3,1/3)$。平面 $\alpha$ を $px+qy+rz=1$ とおくと、$p=3$, $q=2$, $(p+q+r)/3=1$ より $r=-2$。よって $\alpha :3x+2y-2z=1$。

$f=3x+2y-2z-1$ とすると、O で $-1$、A で $2$、B で $1$、C で $-3$。O と C は同じ側、A と B は反対側にある。

辺 CA との交点 P：$(t,0,1-t)$ で $5t=3$ より $\mathrm{P}=(3/5,0,2/5)$。
辺 CB との交点 Q：$(0,s,1-s)$ で $4s=3$ より $\mathrm{Q}=(0,3/4,1/4)$。

A, B を含む側の立体は A, B, L, M, P, Q を頂点とする。A を頂点として 3 つの四面体 ABMQ, ALMQ, ALQP に分ける。
体積比は 3 つのベクトルの行列式の絶対値になる（単位四面体の体積が 1/6 なので 6 倍して 1 に合わせる）。

• ABMQ：$\overrightarrow{AB}=(-1,1,0)$, $\overrightarrow{AM}=(-1,1/2,0)$, $\overrightarrow{AQ}=(-1,3/4,1/4)$ より $|\det |=\frac{1}{4}\cdot \frac{1}{2}=\frac{1}{8}$
• ALMQ：$\overrightarrow{AL}=(-2/3,0,0)$ を用いて $\frac{2}{3}\cdot \frac{1}{2}\cdot \frac{1}{4}=\frac{1}{12}$
• ALQP：$\overrightarrow{AP}=(-2/5,0,2/5)$ を用いて $\frac{2}{3}\cdot (\frac{3}{4}\cdot \frac{2}{5})=\frac{1}{5}$

合計は $\frac{1}{8}+\frac{1}{12}+\frac{1}{5}=\frac{15+10+24}{120}=\frac{49}{120}$。

頂点 O を含む側は $1-\frac{49}{120}=\frac{71}{120}$ 倍。