ベクトルの問題

$\mathrm{H}$ の位置ベクトル

$\mathrm{H}$ は平面 $\mathrm{ABC}$ 上の点なので、実数 $s$, $t$, $u$ を用いて
$$\overrightarrow{\mathrm{OH}}=s\vec{a}+t\vec{b}+u\vec{c},s+t+u=1(1)$$
と表せる。$\overrightarrow{\mathrm{OH}}$ は平面 $\mathrm{ABC}$ に垂直なので、$\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AB}}=0$, $\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AC}}=0$ である。

与えられた内積から
$$\overrightarrow{\mathrm{OH}}\cdot \vec{a}=4s+2t+u,\overrightarrow{\mathrm{OH}}\cdot \vec{b}=2s+4t+3u,\overrightarrow{\mathrm{OH}}\cdot \vec{c}=s+3t+9u$$
である。$\overrightarrow{\mathrm{AB}}=\vec{b}-\vec{a}$, $\overrightarrow{\mathrm{AC}}=\vec{c}-\vec{a}$ なので
$$\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AB}}=(2s+4t+3u)-(4s+2t+u)=-2s+2t+2u=0(2)$$
$$\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AC}}=(s+3t+9u)-(4s+2t+u)=-3s+t+8u=0(3)$$

$(2)$ より $s=t+u$。これを $(1)$ に代入すると $2s=1$ より $s=\frac{1}{2}$, $t+u=\frac{1}{2}$。

$(3)$ に $s=t+u$ を代入すると $-3(t+u)+t+8u=0$ すなわち $-2t+5u=0$ より $t=\frac{5}{2}u$。

$t+u=\frac{7}{2}u=\frac{1}{2}$ より $u=\frac{1}{7}$, $t=\frac{5}{14}$。よって
$$\overrightarrow{\mathrm{OH}}=\frac{1}{2}\vec{a}+\frac{5}{14}\vec{b}+\frac{1}{7}\vec{c}$$

（確認: $\overrightarrow{\mathrm{OH}}\cdot \vec{a}=\overrightarrow{\mathrm{OH}}\cdot \vec{b}=\overrightarrow{\mathrm{OH}}\cdot \vec{c}=\frac{20}{7}$ となり、$(2)$, $(3)$ を満たす。）

交点 $\mathrm{D}$

$\mathrm{D}$ は直線 $\mathrm{AH}$ 上にあるので、実数 $k$ を用いて
$$\overrightarrow{\mathrm{OD}}=(1-k)\overrightarrow{\mathrm{OA}}+k\overrightarrow{\mathrm{OH}}=\left(1-k+\frac{k}{2}\right)\vec{a}+\frac{5k}{14}\vec{b}+\frac{k}{7}\vec{c}$$
と表せる。一方、$\mathrm{D}$ は直線 $\mathrm{BC}$ 上にあるので、実数 $m$ を用いて
$$\overrightarrow{\mathrm{OD}}=(1-m)\vec{b}+m\vec{c}$$
と表せる。$\vec{a}$, $\vec{b}$, $\vec{c}$ は同じ平面上にない（四面体の辺）ので、係数を比べて
$$1-\frac{k}{2}=0,\frac{5k}{14}=1-m,\frac{k}{7}=m$$
よって $k=2$, $m=\frac{2}{7}$ で、$\frac{5k}{14}=\frac{5}{7}=1-m$ も成り立つ。したがって
$$\overrightarrow{\mathrm{OD}}=\frac{5}{7}\vec{b}+\frac{2}{7}\vec{c}$$
となり、$(x,y)=\left(\frac{5}{7},\frac{2}{7}\right)$ である。（$\mathrm{D}$ は辺 $\mathrm{BC}$ を $2:5$ に内分する点である。）

$\overrightarrow{\mathrm{OH}}=p\vec{a}+q\vec{b}+r\vec{c}$（$p+q+r=1$、H は平面 ABC 上）とおく。

内積は $\vec{a}\cdot \vec{a}=4,\vec{b}\cdot \vec{b}=4,\vec{c}\cdot \vec{c}=9,\vec{a}\cdot \vec{b}=2,\vec{b}\cdot \vec{c}=3,\vec{c}\cdot \vec{a}=1$。

$\overrightarrow{\mathrm{OH}}\cdot \vec{a}=4p+2q+r$
$\overrightarrow{\mathrm{OH}}\cdot \vec{b}=2p+4q+3r$
$\overrightarrow{\mathrm{OH}}\cdot \vec{c}=p+3q+9r$

OH ⊥ 平面 ABC より $\overrightarrow{\mathrm{OH}}\cdot (\vec{b}-\vec{a})=0$、$\overrightarrow{\mathrm{OH}}\cdot (\vec{c}-\vec{a})=0$。

(1) $-2p+2q+2r=0$ より $q+r=p$。$p+q+r=1$ と合わせて $p=\frac{1}{2}$、$q+r=\frac{1}{2}$。
(2) $-3p+q+8r=0$ より $q+8r=\frac{3}{2}$。$q=\frac{1}{2}-r$ を代入して $7r=1$、$r=\frac{1}{7}$、$q=\frac{5}{14}$。

よって $\overrightarrow{\mathrm{OH}}=\frac{1}{2}\vec{a}+\frac{5}{14}\vec{b}+\frac{1}{7}\vec{c}$。

D は直線 AH 上なので $\overrightarrow{\mathrm{OD}}=(1-k)\vec{a}+k\overrightarrow{\mathrm{OH}}$ と書ける。D は BC 上なので $\vec{a}$ の係数は 0：$(1-k)+\frac{k}{2}=0$ より $k=2$。

$\overrightarrow{\mathrm{OD}}=2\overrightarrow{\mathrm{OH}}-\vec{a}=\frac{5}{7}\vec{b}+\frac{2}{7}\vec{c}$。

検算：係数の和 $\frac{5}{7}+\frac{2}{7}=1$ で D は直線 BC 上。$\overrightarrow{\mathrm{OH}}$ の係数の和 $\frac{1}{2}+\frac{5}{14}+\frac{1}{7}=1$ も確認でき、$\overrightarrow{\mathrm{OH}}\cdot \vec{a}=2+\frac{5}{7}+\frac{1}{7}=\frac{20}{7}$、$\overrightarrow{\mathrm{OH}}\cdot \vec{b}=1+\frac{10}{7}+\frac{3}{7}=\frac{20}{7}$、$\overrightarrow{\mathrm{OH}}\cdot \vec{c}=\frac{1}{2}+\frac{15}{14}+\frac{9}{7}=\frac{20}{7}$ と三つが等しく、垂直条件を満たす。

答え $(x,y)=\left(\frac{5}{7},\frac{2}{7}\right)$。