3 回帰直線(具体例2)
ここでは,先に2種類の紹介した解法と少し異なる観点から回帰直線を求める方法を紹介します。
この章で述べる内容は,7 回帰直線(3)でも再度「情報」というを新しい概念を踏まえ述べます.ここでは,特に,「人は測定するとき必ず誤差が伴う」と言う考え方に着目し議論していきます.
[解法3 (ベクトルを利用する方法)]
データに,
1.誤差が含まれている
2.測定するたびに,その誤差は変化する
と仮定します.つまり,誤差が測定するたびに変化する変数であると仮定します.そこで,求める式の中に誤差を含む項 ε を加え,
y = a0 + a1x + ε
| 点 | 説明変数(x) | 目的変数(y) |
|---|---|---|
| A | 2 | 2 |
| B | 4 | 5 |
| C | 8 | 6 |
とします.この式に,観測値(右表)の値を代入すると,
を得ます.ε1,ε2,ε3 は測定するたびに発生する誤差を表しています.これらの式をベクトルを用いて表現すると,
式3.1
となります.これを図で表すと,Fig.6.3.1のようになります.
Fig.6.3.1 3次元空間![]() |
Fig.6.3.2 平面の射影![]() |
Fig.6.3.1は,ベクトル
と,ベクトル
で張った平面π
とベクトル
の関係を表しています.その関係を見やすく取り出したものが,Fig.6.3.2です.この問題は,Fig.6.3.2において,点Pと平面πの距離(誤差εの大きさ)をなるべく小さくするように
a0,a1 を定める問題であると言えます.つまり,△POHが直角三角形,言い換えると,PHと平面Lが垂直,
⊥
となるように a0,a1 を定めればよいわけです.そのためには,
,
となればよいので,
式3.2
となります.一方,式3.1より,
式3.3
となります.式2.3を行列で表すと,
式3.4
となります.そこで,式3.2へ式2.4を代入すると,
式3.5
となります.再度,式3.5を1つの行列を用いて表現すると,
式3.6
となります.したがって,
式3.7
を解くことになります.よって,式3.7の両辺に
の逆行列を掛けることにより,
式3.8
を得ます.これは,解法1や解法2で求めた回帰直線と同じ結果となっています.