直交射影と最小二乗法

$xy$ 平面上の 4 点 $(0,1),(1,1),(2,2),(3,4)$ に、直線 $y=a+bx$ を最小二乗法であてはめる。すなわち、実数 $a,b$ を動かして
$$S(a,b)=\sum _{i=1}^4(y_i-(a+b{x}_i){)}^2$$
を最小にする。ここで $(x_i,y_i)$ $(i=1,2,3,4)$ は上の 4 点である。$S(a,b)$ を最小にする $a,b$ を、組 $(a,b)$ の形で求めよ。

平面上の 4 点 $$(0,1),(1,2),(2,2),(3,4)$$ に、直線 $y=a+bx$（$a,b$ は実数）を最小二乗法であてはめる。すなわち、$$S(a,b)=\sum _{i=1}^4(y_i-(a+b{x}_i){)}^2$$ を最小にする実数 $a,b$ を求める。ここで $(x_i,y_i)$ $(i=1,2,3,4)$ は上の 4 点である。

$$A=\left(\begin{array}{cc}1& 0\\ 1& 1\\ 1& 2\\ 1& 3\end{array}\right),\mathbf{b}=\left(\begin{array}{c}1\\ 2\\ 2\\ 4\end{array}\right),\mathbf{x}=\left(\begin{array}{c}a\\ b\end{array}\right)$$ とおくと、$S(a,b)=\Vert A\mathbf{x}-\mathbf{b}{\Vert }^2$（$\Vert \cdot \Vert$ は ${\mathbb{R}}^4$ の標準内積によるノルム）である。正規方程式 $A^{\mathsf{T}}A\mathbf{x}=A^{\mathsf{T}}\mathbf{b}$ を解いて、$S(a,b)$ を最小にする $a,b$ を組 $(a,b)$ の形で答えよ。

ルベーグ測度に関する実ヒルベルト空間 $L^2([0,1])$ を、内積 $$⟨f,g⟩={\int }_0^{1}f(x)g(x)dx,\Vert f\Vert =\sqrt{⟨f,f⟩}$$ で考える。部分空間 $$M=\left\{g\in L^2([0,1]):{\int }_0^{1}xg(x)dx=0\right\}$$ をとり、定数関数 $f(x)=1$ とする。$f$ と $M$ との距離 $$d=\underset{g\in M}{\inf }\Vert f-g\Vert$$ を求めよ。

${\mathbb{R}}^4$ に標準内積を考える。ベクトル
$${\mathbf{a}}_1=\left(\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right),{\mathbf{a}}_2=\left(\begin{array}{c}1\\ -1\\ 0\\ 2\end{array}\right),\mathbf{b}=\left(\begin{array}{c}2\\ 0\\ 1\\ 5\end{array}\right)$$
に対し、${\mathbf{a}}_1,{\mathbf{a}}_2$ で張られる部分空間を $W$ とする。$\mathbf{b}$ と $W$ の距離、すなわち $\mathbf{w}$ が $W$ 全体を動くときの $\Vert \mathbf{b}-\mathbf{w}\Vert$ の最小値を求めよ。

${\mathbb{R}}^3$ に標準内積を考え、
$${\mathbf{a}}_1=\left(\begin{array}{c}1\\ 1\\ 0\end{array}\right),{\mathbf{a}}_2=\left(\begin{array}{c}0\\ 1\\ 1\end{array}\right),\mathbf{b}=\left(\begin{array}{c}1\\ 2\\ 3\end{array}\right)$$
とする。${\mathbf{a}}_1,{\mathbf{a}}_2$ の張る部分空間を $W$ とし、$\mathbf{b}$ の $W$ への直交射影を $\mathbf{p}$ とするとき、$\Vert \mathbf{b}-\mathbf{p}\Vert$ を求めよ。

${\mathbb{R}}^3$ の列ベクトル $\mathbf{x}=\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right)$, $\mathbf{y}=\left(\begin{array}{c}{y}_1\\ y_2\\ y_3\end{array}\right)$ に対して
$$⟨\mathbf{x},\mathbf{y}⟩=2x_1{y}_1+2x_2{y}_2+2x_3{y}_3+x_1{y}_2+x_2{y}_1+x_2{y}_3+x_3{y}_2$$
と定めると、これは ${\mathbb{R}}^3$ の内積である。この内積に関するノルムを $\Vert \mathbf{x}\Vert =\sqrt{⟨\mathbf{x},\mathbf{x}⟩}$ とする。

${\mathbf{e}}_1=\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right)$, ${\mathbf{e}}_2=\left(\begin{array}{c}0\\ 1\\ 0\end{array}\right)$ で張られる部分空間を $W$ とし、$\mathbf{v}=\left(\begin{array}{c}1\\ 2\\ 3\end{array}\right)$ とする。この内積に関する $\mathbf{v}$ と $W$ の距離、すなわち $\mathbf{v}$ から $W$ への直交射影を $\mathbf{w}$ としたときの $\Vert \mathbf{v}-\mathbf{w}\Vert$ を求めよ。

ルベーグ測度に関する実ヒルベルト空間 $L^2([0,1])$ において、$1$ 次以下の多項式全体のなす部分空間を $V=\{a+bx:a,b\in \mathbb{R}\}$ とする。関数 $f(x)=x^3$ と $V$ との距離の $2$ 乗
$$D=\underset{a,b\in \mathbb{R}}{\min }{\int }_0^1{\left(x^3-a-bx\right)}^{2}dx$$
を求めよ。

ルベーグ測度に関する実ヒルベルト空間 $L^2([0,1])$（内積 $⟨f,g⟩={\int }_0^{1}f(x)g(x)dx$）を考える。実数 $a,b$ を動かすとき、
$${\int }_0^1{\left(\sqrt{x}-a-bx\right)}^{2}dx$$
の最小値を求めよ。

実ヒルベルト空間 $${\ell }^2=\left\{x=(x_n{)}_{n\ge 1}:x_n\in \mathbb{R},\sum _{n=1}^{\infty }{x}_n^2<\infty \right\}$$ を、内積 $⟨x,y⟩={\sum }_{n=1}^{\infty }{x}_n{y}_n$ とそれから定まるノルム $\Vert x\Vert =\sqrt{⟨x,x⟩}$ で考える。部分空間 $M$ を $$M=\left\{x\in {\ell }^2:\sum _{n=1}^{\infty }\frac{x_n}{2^n}=0,x_1=x_2\right\}$$ で定め、$e_1=(1,0,0,\dots )$ とする。$e_1$ と $M$ との距離 $$d=\underset{y\in M}{\inf }\Vert e_1-y\Vert$$ について、$d^2$ の値を求めよ。

${\mathbb{R}}^4$ に標準内積 $(\mathbf{x},\mathbf{y})=x_1{y}_1+x_2{y}_2+x_3{y}_3+x_4{y}_4$ を考え、ノルムを $\Vert \mathbf{x}\Vert =\sqrt{(\mathbf{x},\mathbf{x})}$ とする。
$${\mathbf{a}}_1=\left(\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right),{\mathbf{a}}_2=\left(\begin{array}{c}0\\ 1\\ 2\\ 3\end{array}\right),\mathbf{b}=\left(\begin{array}{c}1\\ 3\\ 2\\ 6\end{array}\right)$$
とし、$W$ を ${\mathbf{a}}_1,{\mathbf{a}}_2$ で張られる ${\mathbb{R}}^4$ の部分空間とする。$\mathbf{w}$ が $W$ 全体を動くときの $\Vert \mathbf{b}-\mathbf{w}\Vert$ の最小値（$\mathbf{b}$ と $W$ の距離）を求めよ。

${\mathbb{R}}^4$ に標準内積 $⟨\mathbf{x},\mathbf{y}⟩={}^t\mathbf{x}\mathbf{y}$ を考え、そのノルムを $\Vert \mathbf{x}\Vert =\sqrt{⟨\mathbf{x},\mathbf{x}⟩}$ とする。
$${\mathbf{a}}_1=\left(\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right),{\mathbf{a}}_2=\left(\begin{array}{c}1\\ 2\\ 3\\ 4\end{array}\right),\mathbf{b}=\left(\begin{array}{c}1\\ 3\\ 2\\ 6\end{array}\right)$$
とし、$W$ を ${\mathbf{a}}_1,{\mathbf{a}}_2$ で張られる ${\mathbb{R}}^4$ の部分空間とする。$\mathbf{b}$ と $W$ の距離
$$d=\underset{\mathbf{w}\in W}{\min }\Vert \mathbf{b}-\mathbf{w}\Vert$$
を求めよ。

$n$ を正の整数とし、${\mathbb{R}}^n$ には標準内積 $(x,y)=x^{\mathsf{T}}y$ を考える。$n$ 次実正方行列 $A$ が次の 2 つの条件を満たすとする。
$$(1)A^2=A(2)\mathrm{tr}(A^{\mathsf{T}}A)=\mathrm{rank}A$$
このとき、$A$ は対称行列である（すなわち $A^{\mathsf{T}}=A$ である）ことを証明せよ。

ただし、${\mathbb{R}}^n$ の部分空間の正規直交基底を ${\mathbb{R}}^n$ 全体の正規直交基底に延長できること（グラム・シュミットの直交化法）、$\mathrm{rank}A$ が像 $\mathrm{Im}A=\{Ax\mid x\in {\mathbb{R}}^n\}$ の次元に等しいこと、トレースの性質 $\mathrm{tr}(XY)=\mathrm{tr}(YX)$ は用いてよい。

実ヒルベルト空間
$${\ell }^2=\left\{x=(x_n{)}_{n\ge 1}:x_n\in \mathbb{R},\sum _{n=1}^{\infty }{x}_n^2<\infty \right\}$$
を、内積 $⟨x,y⟩={\sum }_{n=1}^{\infty }{x}_n{y}_n$ とそれから定まるノルム $\Vert x\Vert =\sqrt{⟨x,x⟩}$ で考える。部分空間 $M$ を
$$M=\left\{x\in {\ell }^2:\sum _{n=1}^{\infty }\frac{x_n}{n}=0,\sum _{n=1}^{\infty }\frac{(-1{)}^n{x}_n}{n}=0\right\}$$
で定め、$y=(y_n{)}_{n\ge 1}$ を $y_n=\frac{1}{2^n}$ とする。このとき
$$d^2=\underset{x\in M}{\inf }\Vert y-x{\Vert }^2$$
の値を求めよ。

$\mathbb{D}=\{z\in \mathbb{C}:|z|<1\}$ とし、$dA$ を $\mathbb{C}\cong {\mathbb{R}}^2$ 上のルベーグ測度とする。$\mathbb{D}$ 上の正則関数 $f$ で
$$\Vert f{\Vert }^2=\frac{1}{\pi }{\int }_{\mathbb{D}}|f(z){|}^{2}dA(z)<\infty$$
をみたすもの全体を $A^2(\mathbb{D})$ とする（ベルグマン空間）。これは内積 $⟨f,g⟩=\frac{1}{\pi }{\int }_{\mathbb{D}}f(z)\overline{g(z)}dA(z)$ により複素ヒルベルト空間になる。
部分空間
$$M=\left\{f\in A^2(\mathbb{D}):f\left(\frac{1}{2}\right)=0,f^{\prime }\left(\frac{1}{2}\right)=0\right\}$$
を考え、$g(z)=z$ とする。$g$ と $M$ との距離
$$\mathrm{dist}(g,M)=\underset{f\in M}{\inf }\Vert g-f\Vert$$
を求めよ。

実数係数の $x$ の多項式で次数が $3$ 以下のもの全体のなす実線形空間に、内積
$$⟨f,g⟩={\int }_0^{\infty }f(x)g(x)e^{-x}dx$$
を考える。実数 $a,b,c$ を動かすとき
$${\int }_0^{\infty }{\left(x^3-a{x}^2-bx-c\right)}^2{e}^{-x}dx$$
の最小値を求めよ。