微分積分の問題

手順 1：停留点を求める。

1 階の偏導関数は
$$f_x=2x+2,f_y=3y^2-12$$
です。$f_x=0$ より $x=-1$、$f_y=0$ より $3y^2=12$、すなわち $y^2=4$ なので $y=\pm 2$ です。
よって停留点は $(-1,2)$ と $(-1,-2)$ の 2 つです。

手順 2：2 階の偏導関数とヘッセ行列式を求める。

$$f_{xx}=2,f_{xy}=0,f_{yy}=6y$$
なので、ヘッセ行列式は
$$H(x,y)=f_{xx}{f}_{yy}-(f_{xy}{)}^2=2\cdot 6y-0^2=12y$$
です。

手順 3：各停留点で判定する。

• $(-1,2)$ では $H=24>0$ かつ $f_{xx}=2>0$ なので、$f$ はこの点で極小となります（極小値は $f(-1,2)=1-2+8-24=-17$）。
• $(-1,-2)$ では $H=-24<0$ なので、この点は鞍点であり、$f$ は極値をとりません。

（実際、$x=-1$ に固定して $y$ だけ動かすと $y^3-12y$ は $y=-2$ で極大、$y=-2$ に固定して $x$ だけ動かすと $x^2+2x$ は $x=-1$ で極小となり、方向によって増減の様子が異なることが確かめられます。）

したがって、求める点は $(-1,-2)$ です。

$f_x=2x+2=0$ より $x=-1$。$f_y=3y^2-12=0$ より $y=\pm 2$。停留点は $(-1,2)$ と $(-1,-2)$ の 2 つ。

ヘッセ行列は $f_{xx}=2$, $f_{xy}=0$, $f_{yy}=6y$ なので、$\det H=12y$。

$(-1,2)$: $\det H=24>0$, $f_{xx}=2>0$ なので極小値をとる。
$(-1,-2)$: $\det H=-24<0$ なので鞍点。

検算: $(-1,-2)$ 付近で $y$ 方向は $f=y^3-12y+\text{const}$、$y=-2$ で $f_{yy}=-12<0$ なので $y$ 方向は極大。$x$ 方向は $f_{xx}=2>0$ で極小。方向によって増減が異なるので鞍点である。

よって極値をとらない停留点は $(-1,-2)$。