図形と方程式の問題

円の方程式を書くには、中心と半径がわかればよい。中心が $(a,b)$、半径が $r$ の円の方程式は
$$(x-a{)}^2+(y-b{)}^2=r^2$$
である。

中心を求める。 線分 $\mathrm{AB}$ が直径なので、円の中心は線分 $\mathrm{AB}$ の中点である。
$$\left(\frac{-1+5}{2},\frac{3+(-5)}{2}\right)=(2,-1)$$

半径を求める。 直径 $\mathrm{AB}$ の長さは
$$\mathrm{AB}=\sqrt{(5-(-1){)}^2+(-5-3{)}^2}=\sqrt{36+64}=\sqrt{100}=10$$
なので、半径は $r=\frac{10}{2}=5$ である。

円の方程式を書く。 中心 $(2,-1)$、半径 $5$ の円の方程式は
$$(x-2{)}^2+(y+1{)}^2=25$$

展開して指定の形にする。
$$x^2-4x+4+y^2+2y+1=25$$
$$x^2+y^2-4x+2y-20=0$$

よって $l=-4$, $m=2$, $n=-20$ であり、答えは $(l,m,n)=(-4,2,-20)$ である。

（確認: $\mathrm{A}(-1,3)$ を代入すると $1+9+4+6-20=0$、$\mathrm{B}(5,-5)$ を代入すると $25+25-20-10-20=0$ となり、どちらも円の上にある。）

線分ABを直径とする円の方程式は、円周上の点P(x,y)について $\overrightarrow{PA}\cdot \overrightarrow{PB}=0$ より $(x+1)(x-5)+(y-3)(y+5)=0$ である。
展開すると $x^2-4x-5+y^2+2y-15=0$、すなわち $x^2+y^2-4x+2y-20=0$。
別の方法で検算する。中心は ABの中点 $(2,-1)$、半径の2乗は $(3^2+4^2)=25$ である。$(x-2{)}^2+(y+1{)}^2=25$ を展開すると $x^2-4x+4+y^2+2y+1-25=0$ となり、$x^2+y^2-4x+2y-20=0$ で一致する。
点Aを代入すると $1+9+4+6-20=0$、点Bを代入すると $25+25-20-10-20=0$ となり、ともに成り立つ。
よって $(l,m,n)=(-4,2,-20)$。