seegongsik
我的单词本
概率与统计

抽得越多,平均值越靠近期望值

抽样越多,平均越向期望值收敛(大数定律)。蒙特卡罗正是用随机样本估计面积或积分,误差按 n 的平方根倒数减小。

把硬币抛几次,正面的比例上下跳动,但抛上几千次,它就稳定在 0.5 附近。样本收集得越多,样本平均越靠近真正的期望值 E[X],这个性质就是大数定律。反过来用这条定律,就能用随机样本估计难以直接算出的数,这就是蒙特卡罗方法。在五幅图里,我们依次看到平均值收敛、用飞镖估计圆周率 π、误差按 1/√n 缩小的速度、直方图长成密度曲线,以及不同的种子共享同一个极限。

把掷硬币的正面记为 1、反面记为 0,期望值就是 E[X] = 0.5;若是骰子,点数的平均是 E[X] = 3.5。用滑块增大投掷次数 n,到当前为止的累积平均就被画出来。最初几次上下大幅摆动,但 n 越大,曲线越紧贴虚线标出的期望值。因为使用固定的种子,每次打开都得到相同的路径。

把飞镖撒满正方形 [0,1]×[0,1]。落在以原点为中心、半径为 1 的四分之一圆内的飞镖比例,会收敛到它的面积 π/4。所以把内部比例乘以 4,就得到 π 的估计值。增大飞镖数 n,点变得密集,估计值向 3.14159 收紧。用随机样本测量面积的这种做法,正是蒙特卡罗积分的种子。

抽得多确实变好,但有多快呢?把估计误差 |估计值 - 真值| 对 n 画出来,误差大约以 1/√n 的速度缩小。这意味着要把误差减半,就得把样本增加到四倍。把参考线在 1/√n 与 1/n 之间切换:真实误差跟随缓慢的 1/√n,而不是快速的 1/n。这说明精度是很昂贵的。

再进一步,收敛的不只是平均值。n 个样本的整幅直方图,都在向总体的概率密度曲线靠拢。n 小时柱子参差不齐,n 增大时柱子的轮廓就贴合到平滑的密度曲线上。在正态分布与均匀分布之间切换来验证。这正是能用直方图读出分布形状的依据。

既然是随机的,为什么每次都回到同一幅图?我们的随机数是由一个种子确定的确定性数列,所以相同的种子会重建相同的路径。换一个种子,开头的摆动各不相同,但所有路径最终都汇聚到同一个期望值 0.5。随机性让路径不同,大数定律让终点相同。所以实验既可复现,又能给出普适的结论。

实际应用大数定律承诺:样本越多,样本平均越汇聚到期望值 E[X]。反过来用,就得到蒙特卡罗,用随机样本估计数值,正如用飞镖测量 π;而精度的代价,是误差只按 1/√n 这样缓慢的速度下降。不只是平均值,整幅直方图都收敛到密度曲线;又因为不同种子共享同一极限,实验既可复现又具普适性。
概率与统计
如果有帮助,请支持我们