微分法と積分法の問題

$s=x+y,t=xy$ とおく。

$t$ を $s$ で表す。 $x^2+y^2=(x+y{)}^2-2xy$ より $s^2-2t=2$ なので
$$t=\frac{s^2-2}{2}$$
である。

$s$ のとりうる値の範囲。 $x,y$ は $2$ 次方程式 $X^2-sX+t=0$ の $2$ つの解である。$x,y$ が実数であるための条件は、判別式が $0$ 以上であることなので
$$s^2-4t\ge 0$$
である。これに $t=\frac{s^2-2}{2}$ を代入すると $s^2-2(s^2-2)\ge 0$、すなわち $s^2\le 4$ となる。よって $s$ のとりうる値の範囲は
$$-2\le s\le 2$$
である。

$P$ を $s$ で表す。
$$x^3+y^3=(x+y{)}^3-3xy(x+y)=s^3-3s\cdot \frac{s^2-2}{2}=\frac{-s^3+6s}{2}$$
$$3xy=\frac{3(s^2-2)}{2}$$
したがって
$$P=f(s)=\frac{-s^3+3s^2+6s-6}{2}(-2\le s\le 2)$$
となる。

増減を調べる。
$$f^{\prime }(s)=\frac{-3s^2+6s+6}{2}=-\frac{3}{2}(s^2-2s-2)$$
$f^{\prime }(s)=0$ を解くと $s=1\pm \sqrt{3}$ である。$1+\sqrt{3}>2$、$-2<1-\sqrt{3}<2$ であるから、区間内で $f^{\prime }(s)=0$ となるのは $s=1-\sqrt{3}$ だけである。
- $-2\le s<1-\sqrt{3}$ のとき $f^{\prime }(s)<0$ なので、$f(s)$ は減少する。
- $1-\sqrt{3}<s\le 2$ のとき $f^{\prime }(s)>0$ なので、$f(s)$ は増加する。

値を計算する。
- 両端の値: $f(2)=\frac{-8+12+12-6}{2}=5$、$f(-2)=\frac{8+12-12-6}{2}=1$。
- 極小値: $s=1-\sqrt{3}$ のとき $s^2=4-2\sqrt{3}$、$s^3=(1-\sqrt{3})(4-2\sqrt{3})=10-6\sqrt{3}$ である。よって
$$f(1-\sqrt{3})=\frac{-(10-6\sqrt{3})+3(4-2\sqrt{3})+6(1-\sqrt{3})-6}{2}=\frac{2-6\sqrt{3}}{2}=1-3\sqrt{3}$$

結論。 最大値は $f(2)$ と $f(-2)$ の大きい方なので $5$ である（$s=2$、すなわち $x=y=1$ のとき）。最小値は $1-3\sqrt{3}$ である（$s=1-\sqrt{3}$ のとき）。$s=1-\sqrt{3}$ は $-2\le s\le 2$ を満たすので、対応する実数 $x,y$ は存在する。

よって、最大値 $5$、最小値 $1-3\sqrt{3}$ である。

$s=x+y,p=xy$ とおくと、$x^2+y^2=s^2-2p=2$ より $p=\frac{s^2-2}{2}$。
$x,y$ が実数である条件は $s^2\ge 4p$ で、$s^2\ge 2s^2-4$ すなわち $-2\le s\le 2$。

$P=x^3+y^3+3xy=s^3-3sp+3p$ に $p$ を代入すると
$P=s^3-\frac{3s(s^2-2)}{2}+\frac{3(s^2-2)}{2}=-\frac{1}{2}{s}^3+\frac{3}{2}{s}^2+3s-3=f(s)$。

$f^{\prime }(s)=-\frac{3}{2}(s^2-2s-2)$ で、$f^{\prime }(s)=0$ のとき $s=1\pm \sqrt{3}$。区間 $[-2,2]$ に入るのは $s=1-\sqrt{3}$ のみ。$s<1-\sqrt{3}$ で $f^{\prime }<0$、$1-\sqrt{3}<s\le 2$ で $f^{\prime }>0$ なので、$s=1-\sqrt{3}$ で極小かつ区間内の最小になる。

$f(-2)=4+6-6-3=1$、$f(2)=-4+6+6-3=5$。
$s=1-\sqrt{3}$ では $s^2=4-2\sqrt{3}$、$s^3=10-6\sqrt{3}$ より
$f=-(5-3\sqrt{3})+\frac{3}{2}(4-2\sqrt{3})+3(1-\sqrt{3})-3=1-3\sqrt{3}(\approx -4.196)$。

最大値は $s=2$ のとき（$x=y=1$）で $P=1+1+3=5$ となり、直接代入しても一致する。最小値は $1-3\sqrt{3}$。

よって最大値 $5$、最小値 $1-3\sqrt{3}$。