seegongsik
概率统计

抽样分布 是什么

每个样本算出的均值都略有不同,其分布就是抽样分布。样本均值的标准误为 σ/√n,样本越大越窄。得益于中心极限定理,即使总体非正态,样本均值也趋于钟形。

抽一个样本取平均,得到一个数。再抽一个样本,就得到另一个数。从样本算出来的统计量,这里是样本平均,本身就是每次抽取都晃动的随机变量。这晃动也有规则。样本平均可能取到的值的分布叫抽样分布,它的宽度叫标准误。如果在 normal-clt里见过把许多值加起来会变成钟形,这里看的是那个平均在样本之间铺开多少,以及把样本加大时铺开会怎样缩小。核心公式只有一行。标准误是标准差除以平方根。这一行说明为什么民意调查只问不太多的人就行,为什么实验要重复多次,估计值旁边的 ± 从哪里来。晃动的宽度就是那个答案。

按下按钮,就抽出一个新样本。从同一个总体抽出同样大小的样本,它们的平均 x̄ 每次还是略有不同。抽一次一个点,再抽一次又一个点。把这些样本平均堆成直方图,开头高低不平,渐渐就安顿成中间隆起的山。这个堆起来的分布就是抽样分布,也就是名叫样本平均的统计量画出的它自己的分布。要紧的是,我们测量的总体平均是固定的,估计它的工具样本平均却在晃。知道这晃动的形状和宽度,就是这一讲的全部。工具在晃。

现在把两个分布并排看。铺得宽的一侧是原始值一个一个散开的样子,它的宽度是总体标准差。上面窄窄升起的一侧,是大小为 n 的样本的平均散开的样子,密得多地聚到中间。取平均的过程里,大的值和小的值彼此抵消,所以平均比单个值晃得少得多。这个窄的宽度就是标准误。它和标准差名字相近,却是完全不同的量。标准差说的是个体差多少。标准误说的是这些个体的平均有多不可靠。把大小加大,宽的一侧不动,只有窄的一侧越来越窄。平均减少晃动。

现在用式子把那个宽度钉死。标准误是标准差除以平方根。分母里是平方根而不是个数,这是核心。把大小加大,标准误沿着曲线下降,开头掉得急,后来变缓。大小要加到 4 倍,标准误才变成一半。要把误差收到 10 分之 1,样本就得收集到 100 倍。因为这道平方根的墙,提高精度的费用越来越大。所以过了某个点,与其再加样本,不如改进测量本身。数据越多越好,可是那份收益只以 √n 的速度生长,知道这一点就是实务的感觉。收益长得慢。

到这里为止,总体是钟形,算是照顾了一下。如果分布明摆着偏向一侧呢。这里的指数分布挤在 0 附近,向右拖一条长尾,完全不对称。大小是 1 的时候,样本平均的分布就是这个偏斜的原本。可是把大小加大,惊人的事发生了。源头这么歪,样本平均的分布还是渐渐靠近左右对称的钟形,合上正态曲线。这是中心极限定理在抽样分布上的脸。如果在 normal-clt里见过把值加起来变成钟,这里看的是那个和除以个数之后的平均,它的分布与原本形状无关,收敛到 N(μ, σ/√n)。所以即使不知道总体的形状,样本平均也可以当作正态分布来处理。形状不同,平均仍是钟。

最后把样本大小对抽样分布的效果直接叠在一起看。宽的一侧是小样本 n=4 的平均分布,铺得很开。窄的一侧是你加大的大样本的平均分布。大小一提高,窄的一侧就越来越窄、越来越高,收紧到真平均的周围。两个分布的中心同样重叠,只有宽度按平方根的速度缩小。实务上的意思很清楚。样本大,估计值就更靠近真值,而且更经常落到那里,也就是估计更精密。民意调查、临床试验、质量检验加大样本,理由就在这张图里。不过正如 3 讲所见,那份收益只按平方根生长,要窄到什么程度才够,总要和费用放在一起称。精密和费用一起看。

实际应用从样本算出来的统计量本身就是随机变量。样本平均 x̄ 随样本晃动,那晃动的分布就是抽样分布。抽样分布的中心仍是总体平均,宽度却比个体标准差窄得多,那个宽度就是标准误 σ/√n。因为分母里的平方根,样本要加到 4 倍,误差才变成一半。靠着中心极限定理,总体再偏,只要大小够大,样本平均的分布就收敛到钟形 N(μ, σ/√n)。所以即使只有一次样本,也能定量地说真值在 x̄ 附近 ± 几个标准误之内。这是民意调查的抽样误差、实验的误差棒、质量管理和置信区间的共同骨架。那副骨架最后的宽度在 σ/√n 之内。统计归根结底是给估计有多不可靠贴上一个数,那个数就是标准误。
← 概率统计
如果有帮助,请支持我们