ベクトルの問題

まず各ベクトルを成分で表す。
$$\overrightarrow{\mathrm{AB}}=(-1,1,2),\overrightarrow{\mathrm{AC}}=(2,-1,1)$$

点 $\mathrm{H}$ は平面 $\mathrm{ABC}$ 上にあるので、実数 $p,q$ を用いて
$$\overrightarrow{\mathrm{OH}}=\overrightarrow{\mathrm{OA}}+p\overrightarrow{\mathrm{AB}}+q\overrightarrow{\mathrm{AC}}$$
と表せる。$\mathrm{OH}$ は平面 $\mathrm{ABC}$ に垂直なので
$$\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AB}}=0,\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AC}}=0$$
が成り立つ。必要な内積を計算する。
$$|\overrightarrow{\mathrm{AB}}{|}^2=1+1+4=6,|\overrightarrow{\mathrm{AC}}{|}^2=4+1+1=6,\overrightarrow{\mathrm{AB}}\cdot \overrightarrow{\mathrm{AC}}=-2-1+2=-1$$
$$\overrightarrow{\mathrm{OA}}\cdot \overrightarrow{\mathrm{AB}}=-1+1+0=0,\overrightarrow{\mathrm{OA}}\cdot \overrightarrow{\mathrm{AC}}=2-1+0=1$$

よって
$$\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AB}}=0+6p-q=0(1)$$
$$\overrightarrow{\mathrm{OH}}\cdot \overrightarrow{\mathrm{AC}}=1-p+6q=0(2)$$
$(1)$ より $q=6p$。これを $(2)$ に代入すると $1-p+36p=0$ より $p=-\frac{1}{35}$、したがって $q=-\frac{6}{35}$。

ここで
$$\overrightarrow{\mathrm{OH}}=\overrightarrow{\mathrm{OA}}+p(\overrightarrow{\mathrm{OB}}-\overrightarrow{\mathrm{OA}})+q(\overrightarrow{\mathrm{OC}}-\overrightarrow{\mathrm{OA}})=(1-p-q)\overrightarrow{\mathrm{OA}}+p\overrightarrow{\mathrm{OB}}+q\overrightarrow{\mathrm{OC}}$$
であり、$1-p-q=1+\frac{1}{35}+\frac{6}{35}=\frac{42}{35}=\frac{6}{5}$。

なお、$\overrightarrow{\mathrm{OA}},\overrightarrow{\mathrm{OB}},\overrightarrow{\mathrm{OC}}$ は同一平面上にない（$\mathrm{O}$ は平面 $\mathrm{ABC}$ 上にない。実際、下で求める $\mathrm{H}$ は $\mathrm{O}$ と異なる）ので、$s,t,u$ はただ 1 通りに定まる。よって
$$s=\frac{6}{5},t=-\frac{1}{35},u=-\frac{6}{35}$$

（検算）$\overrightarrow{\mathrm{OH}}=\frac{6}{5}(1,1,0)-\frac{1}{35}(0,2,2)-\frac{6}{35}(3,0,1)=\left(\frac{24}{35},\frac{40}{35},-\frac{8}{35}\right)=\frac{8}{35}(3,5,-1)$。$(3,5,-1)\cdot \overrightarrow{\mathrm{AB}}=-3+5-2=0$、$(3,5,-1)\cdot \overrightarrow{\mathrm{AC}}=6-5-1=0$ となり、確かに $\mathrm{OH}\perp$ 平面 $\mathrm{ABC}$ である。また $s+t+u=\frac{42-1-6}{35}=1$ で、$\mathrm{H}$ は平面 $\mathrm{ABC}$ 上にある。

答え：$(s,t,u)=\left(\frac{6}{5},-\frac{1}{35},-\frac{6}{35}\right)$

$\overrightarrow{AB}=(-1,1,2)$、$\overrightarrow{AC}=(2,-1,1)$ である。外積から平面 ABC の法線ベクトルは $\overrightarrow{n}=(3,5,-1)$ となる。
平面の方程式は $3x+5y-z=d$ とおける。A を代入すると $d=8$ である。B で $10-2=8$、C で $9-1=8$ となり、確かに成り立つ。
H は O から平面への垂線の足なので、$\overrightarrow{OH}=\lambda (3,5,-1)$ とおける。平面の式に代入すると $35\lambda =8$ より $\lambda =\frac{8}{35}$。よって $H=\left(\frac{24}{35},\frac{40}{35},-\frac{8}{35}\right)$。
$s\overrightarrow{OA}+t\overrightarrow{OB}+u\overrightarrow{OC}=\overrightarrow{OH}$ を成分で書くと
$s+3u=\frac{24}{35}$、$s+2t=\frac{40}{35}$、$2t+u=-\frac{8}{35}$。
第1式から $s=\frac{24}{35}-3u$。これを第2式に代入すると $2t=\frac{16}{35}+3u$。これを第3式に代入すると $\frac{16}{35}+4u=-\frac{8}{35}$ より $u=-\frac{6}{35}$。
したがって $s=\frac{24}{35}+\frac{18}{35}=\frac{42}{35}=\frac{6}{5}$、$2t=\frac{16}{35}-\frac{18}{35}=-\frac{2}{35}$ より $t=-\frac{1}{35}$。
検算：$s+t+u=\frac{42-1-6}{35}=1$ となり、H が平面 ABC 上にあることと合う。また $\overrightarrow{OH}\cdot \overrightarrow{AB}=\frac{8}{35}(-3+5-2)=0$、$\overrightarrow{OH}\cdot \overrightarrow{AC}=\frac{8}{35}(6-5-1)=0$ で垂直条件も満たす。
答え：$(s,t,u)=\left(\frac{6}{5},-\frac{1}{35},-\frac{6}{35}\right)$