期望与方差
上一讲说过，分布是概率散布开来的整体形状。可是把一整个分布带在身上太沉了。实际工作中，我们只用两个数来概括分布：它集中在哪里，又散布得有多宽。这两个数就是期望和方差。期望 E[X] 是分布的中心，准确地说是重心。把分布看成一根根柱子的重量，让这些柱子恰好平衡的支点位置就是期望。它用一个点标出“平均来说，会出现这附近的值”。方差是散布的大小，表示各个值平均离这个中心有多远。中心相同，是挤成一团还是铺得很开，完全是两种不同的情形。这一讲亲手摆弄，把期望当作杠杆的平衡点，把方差当作距离平方的平均，用身体去体会概括分布的这两个数的含义。
先用杠杆来感受期望。金色的横杆上放着四个重量不同的砝码，每个砝码上写的数就是它的重量。让横杆恰好平衡的支点所在的位置，就是重心。拖动砝码，下方的金色支点会立刻跟着移动，重新取得平衡。可以看到支点偏向重的砝码一侧。把轻砝码挪得再远，支点也没怎么动；可重砝码只挪一点，支点就跟着大幅移动。这正是期望。在概率里，砝码的重量是该值出现的概率，砝码的位置就是这个值。概率越高的值，把平均拉得越用力。所以期望是用概率当重量量出的中心，是分布取得平衡的唯一一点。
这个平衡点怎么计算？用加权平均。不是把值全加起来再除以个数的普通平均，而是把每个值乘以它出现的概率再相加。写成式子就是 E[X] = Σ x·p(x)。以骰子为例，正常的骰子从 1 到 6 的概率都是 16，平均是 3.5。可如果是一颗重心偏向一侧的灌铅骰子，情况就不同了。拖动柱子的高度，把某一面的概率调大，那一面就会更常出现，下方的蓝色三角形，也就是平均 E[X]，就被拉向那一面。概率越大的值，对总和的贡献越大。每个值按自己的概率拥有发言权，围绕平均的位置拔河。把上一块的杠杆换成数字，就是这个加权和：重量 = 概率，位置 = 值，平衡点 = Σ x·p(x)。
知道了中心，接下来量散布：方差。核心问题是，各个值平均离平均值有多远。直接对距离求平均是不行的，因为比平均大的一侧为正、小的一侧为负，相互抵消就成了 0。所以要把距离平方。平方之后符号消失，全都成了正数。拖动蓝色的点把它们拉散，每个点都会画出一个正方形，边长是它到金色虚线所示平均值的距离，这个正方形的面积就是距离的平方。方差就是所有这些正方形面积的平均。点挤在平均附近时，正方形小，方差就小；点散得很开时，正方形变大，方差猛增。因为距离被平方，离得越远的点受到的惩罚就重得多。所以方差是对极端值敏感、严格的散布尺度。
方差有一个不方便之处：距离平方了，单位也跟着平方。身高用 cm 量，方差的单位就是 cm²，即面积单位。说身高的散布是 25 平方厘米，谁也听不明白。于是用平方根把平方还原，这就是标准差。标准差 = √方差，单位又回到 cm，与原来的值相同。说身高的散布是 5cm，马上就懂了。在下方的轨道上拖动 σ，就会看出标准差 σ 是钟形曲线的自然宽度，曲线上方的蓝色尺子标出从中心向两边各伸出 σ 的宽度。σ 也是从峰顶到曲线“肩膀”弯折之处的距离。σ 小，曲线窄而尖；σ 大，曲线宽而平。总之，方差 σ² 是便于计算的平方单位的量，标准差 σ 则是让人用原单位感受到实际散布程度、我们日常使用的宽度。
最后，看看对值动手脚时，这两个数怎样变化。像单位换算或校准那样，把 X 变成 aX+b 是非常常见的事，比如把摄氏度换成华氏度、把米换成英尺。用下方的两条轨道移动 a 和 b，灰色虚线的原分布旁边就会画出金色的变换后分布。先看 b，它给所有值加上同一个数，所以把分布保持原样地整个横移。平均也移动 b，但散布程度丝毫不变，因为大家一起移动，彼此的距离没有变。a 则会拉伸或压缩。平均变成 a 倍，曲线的宽度也变成 a 倍。所以标准差变成 |a| 倍，而方差是距离的平方，变成 a² 倍。写成式子就是 E[aX+b]=aE[X]+b，Var(aX+b)=a²Var(X)。加法只移动中心，不改变散布；乘法同时拉伸中心和散布，但方差按平方增长。有了这条规则，无论换单位还是把数据标准化，都能在脑中立刻算出统计量会怎样跟着变。