２００９年度演習２（山田）　2009年06月08日月曜日　配布レジュメ＃１７

(C) Katsuhiro Yamada　　

→レジュメ＃16　　→レジュメ＃18　　

推定回帰式の評価


　問題：　２変量の大きさ ｎ のデータが与えられている。記号で書けば；
　　　　 　　　（ Ｘ１，Ｙ１），（ Ｘ２，Ｙ２），〜　，（ Ｘｎ，Ｙｎ）
この２変量の間に　Ｙ＝α＋βＸ　なる線形関係がある考えて，データからα，βの値を推定した。
この推定値は本当に信頼できるのだろうか？


　１．残差
　　 　　　Ｙｉ−ａ−ｂＸｉ　　　　　ｉ＝1,〜 ,n
の２乗和を最小にする最小２乗推定量は

＝（Σｘｉｙｉ）／（Σｘｉ２）

＝ｍｙ−ｍｘ（Σｘｉｙｉ）／（Σｘｉ２）

ただし，
　ｍｘ＝（ΣＸｉ）／ｎ　　　←Ｘの平均
　ｍｙ＝（ΣＹｉ）／ｎ　　　←Ｙの平均
　ｘｉ＝Ｘｉ−ｍｘ　　　　　　←Ｘの平均回りの偏差
　ｙｉ＝Ｙｉ−ｍｙ　　　　　　←Ｙの平均回りの偏差

となることをレジュメ＃１４で示した。これを導出するのに用いた一階の条件（正規方程式）は，
　(1)　　　　　　　　　　ｎａ＝ΣＹｉ−ｂΣＸｉ
　(2)　　　　　　　　　　ａΣＸｉ＝ΣＸｉＹｉ−ｂΣＸｉ２
であった。したがって下の図で，

青の点はデータ（Ｘｉ，Ｙｉ）であり，赤い線上の点は，

(3)　　　　　　　　　　＝＋Xi　　　　　ｉ＝1,〜 ,n　　

であるから，変数を用いて，赤い線（推定回帰線）を

(4)　　　　　　　　　　＝＋X

と書くことにする。

　２．(1)式より，

(5)　　　　　　　　　　ｍｙ＝＋ｍｘ

であるから，回帰線(4)は（ｍｘ，ｍｙ）を通る。また，回帰線からの残差は，

(6)　　　　　　　　　　ｅｉ＝Ｙｉ−　　　　　ｉ＝1,〜 ,n

であり，(3),(5)式より，

(7)　　　　　　　　　　Σｅｉ＝Σ（Ｙｉ−）＝０

であることが分かる。

　３．被説明変数 Ｙ を説明変数 Ｘ で説明するわけだけれど， Ｙ の変動を推定した でどれだけ説明できるかを考えてみる。
　ゼロからの変動でもいいが，平均値からの変動を考える。変動ゆえに２乗の和を考える。これを全変動ＳＳＴ（ｔotal sum of squares）と呼ぶ。次の式が成立する：

(8)　　　　　　　　　　ＳＳＴ＝ＳＳＥ＋ＳＳＲ

ここで，ＳＳＥ（error sum of squares），SSR（regression sum of squares）で，

　(9)　　　　　　　　　　ＳＳＴ＝Σ（Ｙｉ−ｍｙ）２　　←全変動
(10)　　　　　　　　　　ＳＳＥ＝Σ（Ｙｉ−）２　　←で説明できなかった変動
(11)　　　　　　　　　　ＳＳＲ＝Σ（−ｍｙ）２　 ←で説明された変動

（8）式の証明は，ＳＳＴ＝Σ（Ｙｉ−＋−ｍｙ）２と変形でき，Σ（Ｙｉ−）（−ｍｙ）がゼロであることを(1)，(2)，(7)式より示せることからできる。

(12)　　　　　　　　　　ＳＳＲ／ＳＳＴ＝（ＳＳＴ−ＳＳＥ）／ＳＳＴ

を決定係数（coefficient of determination）と呼び，この回帰式の説明力と解釈する。

　４．ちなみに決定係数は，(3)，(5)式，，を利用すれば

(13)　　　　　　　　　　ＳＳＲ／ＳＳＴ＝Σ２／Σｙi２＝（Rｘｙ）２

となる。ただし，
　　　　　　　　　　　　　Ｒｘｙ ＝Cov(X,Y)／｛√Var(X) √Var(Y)｝

　　　　　　　　　　　　　　Σ(X ｉ - mｘ )(Y ｉ - mｙ )
　　　　　　　　　　＝────────────────
　　　　　　　　　　　　　√Σ(X ｉ - mｘ )２ √Σ(Y ｉ - mｙ )２

すなわち，レジュメ#1２でみた相関係数を２乗したものである。

注意：相関係数は　Ｒｘｙ＝（Σｘｉｙｉ）／（√（Σｘｉ２）√（Σｙｉ２））であったから、上で出した回帰係数＝（Σｘｉｙｉ）／（Σｘｉ２）と関係がある。すなわち、
　　　　＝Ｒｘｙ・√（Σｙｉ２）／√（Σｘｉ２）
である。

　５．実際のデータには誤差（撹乱）があるから，たとえＹ＝α＋βＸ なる線形関係があるとしても一直線上にないことが分かる。これを正確に表現すれば，

(14)　　　　　　　　　 Ｙｉ＝α＋βＸｉ＋ｕｉ　　　　　ｉ = 1,〜 ,n

となる。ここで u は確率変数。

　６．撹乱項ｕは，平均ゼロ，分散σ２，共分散ゼロ［ｃｏｖ（ｕｉ，ｕｊ）＝０，i≠j］で他の説明変数と統計的に独立な分布をすると仮定される。この時：

　　Ｅ（）＝β
　　Ｅ（）＝α
　　Ｖar（）＝σ２／Σｘｉ２
　　Ｖar（）＝σ２ΣＸｉ２／ｎΣｘｉ２

が導出でき，最小２乗推定量はＢＬＵＥ（Best Linear Unbiased Estimator）であることがわかる。　また，分散σ２は残差から次のように推定され，

(15)　　　　　　　　　２＝Σｅｉ２／（ｎ−２）

これは不偏であることが示される。

注意：導出については，たとえば，Johnston: Econometric methods など参照。

　７．撹乱項ｕが上述の仮定に加えて，正規分布すると仮定しよう。この時は，，も正規分布することが示せるから，次の統計量

(16)　　　　　　　　　ｔ＝（−β）／√Ｖar（）

は自由度 ｎ−2 （ データ数−推定パラメータ数 ）の ｔ 分布に従うことが証明される（たとえば，Mood,Graybill & boes : Introduction to the Theory of Statistics, pp.249-51）。これを用いて，帰無仮説Ｈ０「ｂ＝０」を検定することができる。今，自由度を６０とすれば，

　　　　Ｐｒ（−２＜ｔ＜２）＝0.95

自由度を∞とすれば，

　　　　Ｐｒ（−1.96＜ｔ＜1.96）＝0.95

であることから，

　　　　abs( ｔ )＝abs(（）／√Ｖar（）) ＞２

であれば，帰無仮説は棄却されると見てよい。すなわち，回帰係数をその標準誤差で割ったもの（これを　ｔ 比 と呼ぶ）が２以上であれば回帰係数はゼロであるとは言えないという結論をうる。

　８．経済学への応用


　本日の課題：　平成１９年度国民経済計算の統合勘定より国内総生産と民間最終消費支出の時系列データを用いて，消費関数を推定し，限界消費性向を求めて下さい。また，資産勘定より国富と先の民間最終消費支出の時系列データを用いて資産の消費関数を推定して下さい。

内閣府経済社会総合研究所
　http://www.esri.cao.go.jp/jp/sna/h19-kaku/21annual-report-j.html

よりデータを引き出しましょう。


山田ゼミナール・ホームページへ　

全画面表示