教養 統計

独立な確率変数の共分散がゼロであること

更新日:


共分散と相関係数の定義について過去に書いていた。
そもそも共分散が発生するのは、2つの確率変数が連動して動くから。
2つの確率変数が独立している場合は、共分散、相関係数共にゼロ。

共分散の定義

まず、共分散、相関係数の定義はこの通り。
2次元のデータ(x1,y1),(x2,y2),,(xn,yn)が与えられた場合、
変数xyの相関係数rxyは、それぞれの標準偏差Sx,Syと、共分散Cxyを使って以下となる。

rxy===CxySxSyni=1(xix¯)(yiy¯)/nni=1(xix¯)2/nni=1(yiy¯)2/nni=1(xix¯)(yiy¯)ni=1(xix¯)2ni=1(yiy¯)2

そもそもの共分散

確率変数X,Yがあったとする。それぞれの期待値はE(X),E(Y)、分散はV(X),V(Y)
定義通りにV(X+Y)を式展開していくと以下の通りになる。

V(X+Y)======E(((X+Y)μX+Y)2)E((X+Yμxμy)2)E(((Xμx)+(Yμy))2)E((Xμx)2)+E((Yμy)2)+2E((Xμx)(Yμy))V(X)+V(Y)+2E((Xμx)(Yμy))V(X)+V(Y)+2Cxy

ここで、Cxy=2E((Xμx)(Yμy))を共分散としている。
V(X+Y)は、V(X)V(Y)の和にCxyで補正をかけた値になっている。

では、XYが独立であるとなぜCxy=0になるのか。
Cxyを式変形していくと以下のようになるが、

12Cxy===E((Xμx)(Yμy))E(XY)μyE(X)μxE(Y)+μxμyE(XY)μxμyμxμy+μxμy

XYが独立であるとE(XY)=E(X)E(Y)=μxμuとなるから、
12Cxy===E(XY)μxμyμxμy+μxμyμxμyμxμyμxμy+μxμy0

こうやって、独立であるなら共分散がゼロといえる。

-教養, 統計
-

S