数理統計の問題
を 以上の整数とし、実数の組のデータ が与えられている。 はすべてが等しいわけではなく、 もすべてが等しいわけではないとする。
を に回帰する直線 の係数を最小二乗法で定める。すなわち を
を最小にする実数の組とし、 とおく。この回帰の決定係数を
で定める。同様に、 を に回帰する直線 の係数 を、 を最小にする実数の組とする。
このとき、, はそれぞれただ 1 つに定まり、
が成り立つことを証明せよ。
この問題で使うもの
- 最小二乗法と回帰直線(説明と入口の問題)
- 平方完成と 2 次関数のグラフ(説明と入口の問題)
- 分散と標準偏差(説明と入口の問題)
- 共分散と相関係数(説明と入口の問題)
この問題を解けるようになるまで(75 技能)
読み込み中…
右端(太枠)がこの問題で使う技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。
一覧で見る(前提が先)
- 樹形図で数え上げる
- 積の法則と和の法則
- 和の法則・積の法則と樹形図
- 順列・円順列・重複順列
- 組合せ
- 確率の定義と和事象・余事象
- 期待値
- 確率変数と確率分布
- 平均と合計
- 平均値・中央値・最頻値
- 代表値(平均値・中央値・最頻値)
- 分散と標準偏差
- 変量の変換と平均・分散
- 確率変数の期待値・分散と
- 確率変数の和と積(独立な場合)
- 分数のたし算・ひき算
- 小数の四則計算
- 正負の数の加法・減法
- 分数のかけ算・わり算
- 四則の混じった計算の順序
- 正負の数の乗除・累乗と四則混合
- 分配法則を使った計算のくふう
- 文字式の計算(同類項・分配法則)
- 乗法公式による展開
- 因数分解
- 3 次式までの展開と因数分解
- 微分係数と導関数の定義
- 多項式の微分
- 多項式の不定積分
- 等間隔にならんだ数の和
- 等差・等比数列の和と Σ
- 数列の極限
- 関数の極限
- 積と商の微分
- 合成関数の微分
- 円の周の長さと面積
- おうぎ形の弧の長さと面積
- 弧の長さからおうぎ形の中心角と面積を求める
- 三角形・四角形の面積
- 約数の見つけ方
- 素因数分解と約数の個数
- 平方根の意味と根号の簡単化
- 三平方の定理
- 特別な直角三角形の辺の比
- 弧度法と単位円による三角関数
- の極限
- 加法定理と 2 倍角・半角・積和の公式
- 三角関数の導関数
- 根号の乗除と加減
- 指数の拡張と指数関数
- 対数の定義と性質
- 自然対数の底
- 指数関数・対数関数の導関数
- 基本的な関数の不定積分
- 置換積分
- 部分積分
- 定積分の計算
- 定積分の置換・部分積分と偶関数・奇関数
- 重積分と累次積分
- 同時分布・周辺分布と独立性
- 共分散と相関係数
- 確率変数の共分散と相関係数
- 偏微分と全微分
- 小数と分数のまじった計算
- 逆算(□ を求める)
- 1 次方程式の解き方
- 比例・反比例の式とグラフ
- 関数 の式と変域
- 平方完成と 2 次関数のグラフ
- 2 次不等式
- 剰余の定理・因数定理と高次方程式
- 増減表と極値
- 第 2 次導関数とグラフの凹凸
- 2 変数関数の極値
- 最小二乗法と回帰直線
ヒント
行き詰まったら、上から順に 1 つずつ開いてください。
ヒント 1
両方の回帰について最小二乗推定量の傾きを で表し、決定係数も同じ量で表して比べる。
ヒント 2
と分けると、偏差の和が であることから交差項が消える。そのあと について平方完成する。
ヒント 3
と書けるので、最小点と残差平方和 が読み取れる。
採点の観点と模範解答
自分で証明を書いてから、採点の観点で見比べてください。
採点の観点を見る
がすべて等しいわけではないことから , を確認し、偏差の和が であることを使って の交差項を消している(2 点)
を について平方完成するなどして、最小点がただ 1 つで , であることを示している(偏微分で求める場合は、それが最小であることの根拠も書いている)(3 点)
残差平方和が であることを導き、 を示している(2 点)
役割を入れ替えた回帰について、 を根拠に がただ 1 つに定まることを述べている(2 点)
傾きの積を計算して と結論している(1 点)
どこでつまずきましたか?(選ぶと、戻る場所を案内します)
模範解答を読む
記号として , ,
とおく。 がすべて等しいわけではないので、ある で となり 。同様に である。また , である。
ステップ 1: の変形。
, , とおくと なので
ここで を使った。さらに
( なので割ってよい)。よって
ステップ 2:最小二乗推定量の一意性と残差平方和。
ステップ 1 の式で、第 1 項と第 2 項はともに 以上であり(, )、第 3・4 項は によらない。したがって で、等号は
のとき、かつそのときに限り成り立つ( より第 1 項が になるのは のときだけで、そのとき第 2 項が になるのは のときだけ)。よって最小点はただ 1 つで
また残差平方和は
ステップ 3:決定係数。
なので は定義され、ステップ 2 より
ステップ 4: を に回帰したときの傾き。
ステップ 1・2 の議論は、 と の役割を入れ替えても、使った前提( と、説明変数側の平方和が正であること)がそのまま成り立つ。実際、説明変数 の平方和は であり、 は について対称である。よって を最小にする組はただ 1 つで
ステップ 5:結論。
ステップ 2・4・3 より
以上より、2 つの最小二乗推定量はただ 1 つに定まり、 が成り立つ。
(補足: は標本相関係数 の 2 乗に等しく、 について対称である。)