平面上の曲線の問題

$\mathrm{PF}=m$, $\mathrm{P}{\mathrm{F}}^{\prime }=n$ とおく。

点 $\mathrm{P}$ は第 1 象限にあるので双曲線の右側の枝上にあり、${\mathrm{F}}^{\prime }$ より $\mathrm{F}$ に近い。よって双曲線の定義から
$$n-m=2a(1)$$

$\angle {\mathrm{F}}^{\prime }\mathrm{PF}=90^{\circ }$ より三平方の定理から
$$m^2+n^2={\mathrm{F}{\mathrm{F}}^{\prime }}^2=10^2=100(2)$$

直角三角形の面積が $9$ なので
$$\frac{1}{2}mn=9\text{すなわち}mn=18(3)$$

$(1)$, $(2)$, $(3)$ より
$$(2a{)}^2=(n-m{)}^2=m^2+n^2-2mn=100-36=64$$
$a>0$ より $2a=8$、すなわち $a=4$。焦点の条件 $a^2+b^2=5^2$ より $b^2=25-16=9$。よって
$$C:\frac{x^2}{16}-\frac{y^2}{9}=1$$

次に、$\angle {\mathrm{F}}^{\prime }\mathrm{PF}=90^{\circ }$ より、点 $\mathrm{P}$ は線分 $\mathrm{F}{\mathrm{F}}^{\prime }$ を直径とする円 $x^2+y^2=25$ 上にある。$\mathrm{P}(x,y)$ とすると $x^2=25-y^2$ を $C$ の方程式に代入して
$$\frac{25-y^2}{16}-\frac{y^2}{9}=1$$
両辺に $144$ を掛けて
$$9(25-y^2)-16y^2=144⟹225-25y^2=144⟹y^2=\frac{81}{25}$$
第 1 象限なので $y=\frac{9}{5}$。このとき
$$x^2=25-\frac{81}{25}=\frac{544}{25},x>0\text{ より }x=\frac{\sqrt{544}}{5}=\frac{4\sqrt{34}}{5}$$

(確認) $△\mathrm{PF}{\mathrm{F}}^{\prime }$ の面積は $\frac{1}{2}\cdot 10\cdot \frac{9}{5}=9$ で条件を満たす。

よって $\mathrm{P}\left(\frac{4\sqrt{34}}{5},\frac{9}{5}\right)$。

焦点が $(\pm 5,0)$ より $a^2+b^2=25$。$\angle F^{\prime }PF=90^{\circ }$ より、三角形 $PF{F}^{\prime }$ の面積は $\frac{1}{2}PF\cdot P{F}^{\prime }=9$ なので $PF\cdot P{F}^{\prime }=18$。また $P{F}^2+P{F}^{\prime 2}=(F{F}^{\prime }{)}^2=100$。双曲線の性質から $|PF-P{F}^{\prime }|=2a$ なので、$4a^2=P{F}^2+P{F}^{\prime 2}-2PF\cdot P{F}^{\prime }=100-36=64$、よって $a^2=16$、$b^2=9$。

面積について、$\frac{1}{2}\cdot 10\cdot y=9$ より $y=\frac{9}{5}$（$P$ は第1象限なので正）。

このとき $\frac{x^2}{16}=1+\frac{y^2}{9}=1+\frac{81/25}{9}=1+\frac{9}{25}=\frac{34}{25}$。したがって $x^2=\frac{544}{25}$、$x=\frac{\sqrt{544}}{5}=\frac{4\sqrt{34}}{5}$。

検算：$P=(\frac{4\sqrt{34}}{5},\frac{9}{5})$ について、$x^2+y^2=\frac{544+81}{25}=25$ となり、$P$ は原点中心の半径 5 の円上にある。これは $F{F}^{\prime }$ を直径とする円で、$\angle F^{\prime }PF=90^{\circ }$ と一致する。また $\frac{x^2}{16}-\frac{y^2}{9}=\frac{34}{25}-\frac{9}{25}=1$ で、双曲線上にある。よって条件を満たす。

答え：$P\left(\frac{4\sqrt{34}}{5},\frac{9}{5}\right)$