seegongsik
工程数学

概率分布 是什么

离散是 PMF 柱,连续以曲线下面积为概率,样本↑收敛到密度,CDF 是累积

上一讲说过,概率就是面积。可是只谈一个事件的概率,只是图的一半。我们真正想知道的是:各个值出现得有多频繁,概率是怎样散布在所有可能的值上的。这种散布的整体形状就是分布。两颗骰子之和常常落在 7 附近,而 2 或 12 很少见。“常见”和“少见”的完整地图就是分布,画成柱状图就能看到一个峰。值是一个个离散的,每根柱子就是一个概率;值是连续的,柱子就变得无限细密,成为一条光滑的曲线,即密度。这里有一点至关重要:在连续分布中,概率不是曲线的高度,而是曲线下方的面积。上一讲的“面积 = 概率”在这里原样延续。这一讲亲手把分布从柱子画成曲线,再画成面积,用眼睛熟悉概率是怎样散布的。

先看值一个个离散的离散分布。一颗骰子从 1 到 6 各为 16,所以六根柱子并排、一样高。可是看两颗骰子之和,形状就大不相同了。和为 7 有 (1,6)(2,5)(3,4)(4,3)(5,2)(6,1) 六种,和为 2 只有 (1,1) 一种。所以 7 以 636 高高耸起,2 和 12 以 136 矮矮趴着,形成中间隆起的三角形。每根柱子的高度就是该值出现的概率,这叫作概率质量函数 PMF。用标签可以在两种情况之间切换,点按柱子,它的概率就以分数形式显示在柱子上方。关键在于,所有柱子的高度加起来恰好是 1,因为总会出现某个值。所谓分布,就是把总概率 1 怎样分给各个可能值的问题。

值是连续的会怎样?比如身高、体重、测量误差,结果毫无间断地连成一片。这时一根根地数柱子就没有意义了,因为恰好是 173.4825...cm 的概率实际上为 0。于是改为收集样本,按区间分组,画出直方图。在下方的轨道上增加样本数 N,变化就会显现。N 小时,蓝色柱子参差不齐;N 越大,偶然的起伏越被平均掉,柱子的轮廓越来越接近那条金色曲线。这条曲线就是概率密度函数。直方图是用有限样本做出的近似,而样本无限多时的理想形状就是密度曲线。所以,密度曲线就是值连续时的 PMF,是把柱子切得无限细再连起来的光滑版本。收集的数据越多,藏在背后的真实分布就越清晰。

从密度曲线上怎么读概率?这正是人们最容易糊涂的地方。曲线的高度不是概率,因为在连续情形下,单个点的概率为 0。概率要读成曲线下方的面积。X 落在 a 和 b 之间的概率,就是从 a 到 b 曲线下方的面积。拖动绿色和橙色两个边界,把中间的区间拉宽,涂色的面积就变大,下方写出的概率也变大。包含高峰所在的中间部分,同样的宽度面积也大;在平坦的尾部,宽度一样面积却小。所以中间的值更常出现。整条曲线下方的面积恰好是 1,就像上一讲整块板为 1 一样。归根结底,连续分布中的概率就是量面积,也就是积分。微积分里的积分在概率中就是这样用的。

分布按散布的形状分成不同种类,每种形状都有适合它的情境。用标签看三种代表性的分布。均匀分布的曲线是一个扁平的长方形,适用于规定区间内任何地方都同样可能的情形,比如计算机生成的随机数或舍入误差。指数分布开头最高,越往右下降得越快。它出现在短暂等待很常见、长时间等待很少见的情形,比如等到下一个事件的时间、零件发生故障前的时间、顾客到达的间隔。正态分布是那个著名的钟形,中间最高,左右对称地平滑下降。身高、考试分数、测量误差这类由许多小因素叠加而成的自然散布,大多是这种形状。每个标签下,图的下方都用一行字写出这种分布出现的情境。知道分布的形状,就能预先估计数据会怎样表现。

最后,还有一幅与密度配对的图:累积分布函数,简称 CDF。密度表示各个值附近聚集了多少概率,而这个函数表示取到不超过某个值的概率,也就是从最左端一直累积到该值的概率。看图就一清二楚:上方是金色的密度曲线,下方是蓝色的累积曲线。拖动手柄,上方会把到该位置为止的面积涂上颜色,下方则把这个面积值标成一个点。所以 CDF(x) 恰好就是密度曲线下方到该位置为止的面积。把手柄从最左端移到最右端,面积越扫越多,累积曲线从 0 出发,一次也不下降地升到 1。在密度峰值高的区间,累积曲线上升得陡;在尾部,上升得平缓。两条曲线是从不同角度看同一个分布的一对。密度是斜率,累积曲线是把这个斜率堆积起来的面积,微分与积分的关系在这里同样成立。

实际应用分布是概率在各个可能值上散布的整体形状。离散时用概率质量函数 (PMF) 的柱子表示,每根柱子的高度是该值的概率,总和为 1。连续时用概率密度函数表示,概率不是曲线的高度而是曲线下方的面积,所以 P(a≤X≤b)=区间的面积,总面积为 1。样本足够多时,直方图会收敛到密度曲线。代表性的分布有均匀(区间内均匀)、指数(等待时间、故障)、正态(许多因素之和、钟形)。CDF 是累积到某个值的概率 = 密度下方到该值的面积,从 0 单调增加到 1,与密度互为微分、积分关系。在工程中,这是可靠性(故障时间分布)、质量控制(工序散布)、信号噪声、通信误码率、库存与排队设计的语言。测量值总有散布,所以用分布而不是单个数字来思考,是工程思维的核心。下一讲进入用两个数概括分布的期望和方差,也就是重心和散布。
← 工程数学
如果有帮助,请支持我们