seegongsik
単語帳
確率と統計

多く引くほど平均は期待値へ集まる

標本を多く引くほど平均は期待値に集まる(大数の法則)。この性質で面積や積分を無作為標本で推定するのがモンテカルロ。誤差は標本数の平方根に反比例して減る。

コインを数回投げると表の割合はばらつきますが、数千回投げれば 0.5 の近くに落ち着きます。標本を多く集めるほど標本平均が真の期待値 E[X] へ寄っていく、この性質が大数の法則です。そして法則を逆に使えば、直接計算しにくい値を無作為な標本から推定できます。これがモンテカルロ法です。五つの図で、平均が収束する様子、ダーツで円周率 π を当てる様子、誤差が 1/√n で縮む速さ、ヒストグラムが密度曲線になる過程、そして種が違っても極限は同じであることを順に見ます。

コイン投げで表を 1、裏を 0 と数えると期待値は E[X] = 0.5、サイコロなら目の平均が E[X] = 3.5 です。投げた回数 n をスライダーで増やすと、そこまでの累積平均が描かれます。最初の数回は大きく揺れますが、n が大きくなるほど曲線は破線で示した期待値にぴたりと寄り添います。同じ種を使うので、いつ開いても同じ経路になります。

正方形 [0,1]×[0,1] にダーツをばらまきます。原点を中心とする半径 1 の四分円の中に落ちたダーツの割合は、その面積 π/4 に収束します。だから内側の割合に 4 を掛ければ π の推定値になります。ダーツの数 n を増やすと点が密になり、推定値は 3.14159 へと絞られます。無作為な標本で面積を測るこの方法が、モンテカルロ積分の種です。

多く引けば良くなりますが、どれくらい速くでしょう。推定誤差 |推定値 - 真値| を n に対して描くと、誤差はおよそ 1/√n の速さで縮みます。つまり誤差を半分にするには標本を四倍にしなければなりません。補助線を 1/√n と 1/n で切り替えると、実際の誤差は速い 1/n ではなく遅い 1/√n をたどります。精度が高くつくことを示しています。

もう一歩進むと、収束するのは平均だけではありません。n 個の標本のヒストグラム全体が、母集団の確率密度曲線へ近づきます。n が小さいと棒はでこぼこですが、n を大きくすると棒の輪郭が滑らかな密度曲線の上に重なります。正規分布と一様分布を切り替えて確かめましょう。これがヒストグラムで分布の形を読み取る根拠です。

無作為なのに、なぜ毎回同じ絵が戻るのでしょう。私たちの乱数は一つの種で定まる決定的な数列なので、同じ種は同じ経路を作り直します。種を変えると序盤の揺れはそれぞれ異なりますが、すべての経路が最後は同じ期待値 0.5 に集まります。無作為性は経路を違えさせ、大数の法則は行き先を同じにします。だから実験は再現可能でありながら普遍的な結論を与えます。

実際に使う大数の法則は、標本が増えるほど標本平均が期待値 E[X] に集まるという約束です。これを逆に使えば、ダーツで π を測るように無作為な標本から値を推定するモンテカルロになり、精度の代償として誤差は 1/√n でしか縮まない遅さで支払います。平均だけでなくヒストグラム全体が密度曲線へ収束し、種が違っても極限は同じなので、実験は再現可能で普遍的です。
確率と統計
このページがお役に立ったなら支援する