物理実験・誤差論の問題

$x=\nu [10^{14}\mathrm{Hz}]$, $y=V[\mathrm{V}]$ と書く。$n=5$ である。

1. 直線フィット

$$\bar{x}=8,\bar{y}=\frac{0.41+0.78+1.20+1.62+1.99}{5}=\frac{6.00}{5}=1.20$$
$$S_{xx}=\sum (x_i-\bar{x}{)}^2=4+1+0+1+4=10$$
$$S_{xy}=\sum (x_i-\bar{x})(y_i-\bar{y})=(-2)(-0.79)+(-1)(-0.42)+0+(1)(0.42)+(2)(0.79)=4.00$$
よって
$$b=\frac{S_{xy}}{S_{xx}}=0.400,a=\bar{y}-b\bar{x}=1.20-3.20=-2.00$$
$${\nu }_0=-\frac{a}{b}=5.00$$

2. $\sigma$ の推定

当てはめ値 ${\hat{y}}_i=-2.00+0.400x_i$ は $0.40,0.80,1.20,1.60,2.00$ なので、残差は $0.01,-0.02,0,0.02,-0.01$。
$$S_r=(1+4+0+4+1)\times 10^{-4}=1.0\times 10^{-3}$$
$${\sigma }^2\approx \frac{S_r}{n-2}=\frac{1.0\times 10^{-3}}{3}=\frac{1}{3000}$$

3. 誤差伝播（相関を考慮）

$a$ と $b$ は相関をもつ（$\mathrm{Cov}(a,b)=-\bar{x}{\sigma }^2/S_{xx}$）。そこで、互いに無相関な量 $\bar{y}$ と $b$ で ${\nu }_0$ を書き直す。$a=\bar{y}-b\bar{x}$ より
$${\nu }_0=\bar{x}-\frac{\bar{y}}{b}$$
ここで $\bar{y}=\frac{1}{n}\sum y_i$、$b=\frac{1}{S_{xx}}\sum (x_i-\bar{x})y_i$ であり、$\mathrm{Cov}(\bar{y},b)=\frac{{\sigma }^2}{n{S}_{xx}}\sum (x_i-\bar{x})=0$。また $\mathrm{Var}(\bar{y})={\sigma }^2/n$、$\mathrm{Var}(b)={\sigma }^2/S_{xx}$。

偏微分は $\frac{\partial {\nu }_0}{\partial \bar{y}}=-\frac{1}{b}$、$\frac{\partial {\nu }_0}{\partial b}=\frac{\bar{y}}{b^2}$ なので
$${\sigma }_{{\nu }_0}^2=\frac{{\sigma }^2}{n{b}^2}+\frac{{\bar{y}}^2{\sigma }^2}{b^4{S}_{xx}}=\frac{{\sigma }^2}{b^2}\left[\frac{1}{n}+\frac{(\bar{x}-{\nu }_0{)}^2}{S_{xx}}\right]$$
（$\bar{y}/b=\bar{x}-{\nu }_0$ を用いた。）数値を代入すると
$${\sigma }_{{\nu }_0}^2=\frac{1/3000}{0.16}\left[\frac{1}{5}+\frac{9}{10}\right]=\frac{1}{480}\times \frac{11}{10}=\frac{11}{4800}\approx 2.29\times 10^{-3}$$
$${\sigma }_{{\nu }_0}=\sqrt{\frac{11}{4800}}\approx 0.0479\approx 0.048$$

（確認: ${\sigma }_a^2={\sigma }^2(1/n+{\bar{x}}^2/S_{xx})=6.6/3000=0.0022$、${\sigma }_b^2={\sigma }^2/S_{xx}=1/30000$、$\mathrm{Cov}(a,b)=-8/30000$ を使い、$\partial {\nu }_0/\partial a=-1/b=-2.5$、$\partial {\nu }_0/\partial b=a/b^2=-12.5$ として
$$6.25\times 0.0022+\frac{156.25}{30000}+2(-2.5)(-12.5)\left(-\frac{8}{30000}\right)=0.01375+0.005208-0.016667\approx 2.29\times 10^{-3}$$
で一致する。相関を無視すると $\sqrt{0.01896}\approx 0.14$ となり、3 倍ほど過大評価になる。）

したがって ${\sigma }_{{\nu }_0}\approx 0.048\times 10^{14}\mathrm{Hz}$。

$x=\nu [10^{14}\mathrm{Hz}]$、$y=V$ とおく。$n=5$、$\bar{x}=8$、$S_{xx}=\sum (x-\bar{x}{)}^2=10$、$\bar{y}=6.00/5=1.20$。

$S_{xy}=\sum (x-\bar{x})y=-2(0.41)-1(0.78)+0+1(1.62)+2(1.99)=4.00$ なので、$b=S_{xy}/S_{xx}=0.40$、$a=\bar{y}-b\bar{x}=1.20-3.20=-2.00$。したがって ${\nu }_0=-a/b=5.0$。

残差は、各点の当てはめ値 $0.4+0.4(x-6)$ との差から $0.01,-0.02,0,0.02,-0.01$ となる。よって $S_r=0.001$、${\sigma }^2\approx S_r/(n-2)=0.001/3=3.333\times 10^{-4}$。

分散と共分散は
$\mathrm{Var}(b)={\sigma }^2/S_{xx}=3.333\times 10^{-5}$、
$\mathrm{Var}(a)={\sigma }^2(1/n+{\bar{x}}^2/S_{xx})={\sigma }^2\times 6.6=2.2\times 10^{-3}$、
$\mathrm{Cov}(a,b)=-{\sigma }^2\bar{x}/S_{xx}=-2.667\times 10^{-4}$。

偏微分は $\partial {\nu }_0/\partial a=-1/b=-2.5$、$\partial {\nu }_0/\partial b=a/b^2=-12.5$。

${\sigma }_{{\nu }_0}^2=(2.5{)}^2(2.2\times 10^{-3})+(12.5{)}^2(3.333\times 10^{-5})+2(2.5)(12.5)(-2.667\times 10^{-4})$
$=0.01375+0.005208-0.016667=0.002292$。

${\sigma }_{{\nu }_0}=\sqrt{0.002292}\approx 0.0479\approx 0.048$。

検算：${\nu }_0=\bar{x}-\bar{y}/b$ と書き直すと、$\bar{y}$ と $b$ は無相関なので $\mathrm{Var}=\mathrm{Var}(\bar{y})/b^2+{\bar{y}}^2\mathrm{Var}(b)/b^4=4.167\times 10^{-4}+1.875\times 10^{-3}=2.292\times 10^{-3}$ となり一致する。