怎么工作 AI 为什么用概率
明天会下雨吗?抛出去的硬币会是正面吗?世上满是不确定的事。可也不能就此撒手不管,于是我们给这些事有多大可能发生打上一个数字。0 表示不会发生,1 表示一定发生。像这样用数字来处理可能性,就是概率。
给可能性打上数字
上一课,我们用平均数和离散程度概括了已经收集到的数据。可还没发生的事该怎么处理?明天的事,现在还没有数据。所以我们给可能性打上数字。
绝不会发生是 0,一定会发生是 1,一半一半就在正中间,是 0.5。所有概率都在 0 和 1 之间的某个位置。像骰子这样每种结果都同样可能时,用想要的结果数除以全部结果数就行了。
点几个事件看看。可能性会画成从 0 到 1 的条,也会用百分数显示。
把可能性看成条的长度,一眼就明白:越接近 0 越短,越接近 1 越长。百分数不过是把 0 到 1 乘以 100 来读,所以 0.5 是百分之 50,0.25 是百分之 25。
骰子掷出 5 或更大,有 5 和 6 两种情况,所以可能性是六分之二,也就是三分之一。可这样算出来的可能性,和真的掷出来的结果,真的对得上吗?
掷骰子
骰子有六个面,每个面出现的可能性都一样,所以某一面出现的概率是六分之一。可正好掷六次,并不会每个面各出现一次,碰巧 3 出现三次也是有的。
神奇的地方在这里:掷得少,结果参差不齐;掷得越多,每个面出现的比例就越接近六分之一。这叫大数定律。
点掷骰子。下一个点数按事先定好的顺序出现,掷得越多,每个面的比例就越接近 6 分之 1。
一开始,柱子高高低低:有的点数出现得多,有的出现得少。可一直掷下去,六根柱子渐渐长得差不多高了。
所以,不能凭一两次的结果就下定论,要收集得多,才能看到真实的样子。机器学习想方设法收集大量例子,也是这个道理。那么,两件事一起发生的可能性怎么算?
两件事一起发生
抛硬币得正面,同时掷骰子得 6,可能性有多大?硬币和骰子互不影响。像这样互不相干的事叫相互独立,两件独立的事一起发生的概率,用各自的概率相乘来求。
硬币正面是二分之一,骰子 6 是六分之一,相乘就是十二分之一。不过,要是一件事会影响另一件事,就不能直接相乘。比如同一颗骰子既是偶数又是 6 的概率,因为 6 本来就是偶数,所以仍然是六分之一。
选两个事件组合起来。各自的可能性相乘,一起发生的可能性就比其中任何一个都小。
两个可能性一乘,结果比其中任何一个都小。必须同时满足的条件越多,这件事就越少见,这是理所当然的,就像好几件好运很难同时降临一样。
现在来看看概率有什么用。就算世界不确定,我们也可以比较可能性,挑出最可能发生的那一边。
挑最有可能的那一边
很多时候,就算没法确定,也得做决定。这时就给每个候选打上可能性,挑最大的那个。模糊照片里的动物,是猫的概率为 0.7,是狗的概率为 0.2,那就回答是猫。
也许会错,但这是最说得通的答案。还要记住,所有候选的概率加起来等于一,因为总有一个是答案。AI 正是这样挑答案的。
一张张点模糊照片。每个候选都打上概率,选出最说得通的答案。概率接近时,还会显示拿不准。
AI 不会一口咬定自己知道正确答案。它给好几个候选打上概率,把最大的那个当作答案。所以,概率接近时它把握不大,有一个明显更大时就答得很有把握。
后面要讲的大语言模型,也建立在这个想法之上。往下续写句子时,它给下一个词的每个候选打上概率,再从中挑一个。
小结
归纳起来是这样:概率用 0 到 1 之间的数来表示可能性。像掷骰子那样试很多次,比例就会接近真正的概率。互不影响的两件事一起发生的概率,用各自的概率相乘来求。
不确定的时候,就挑最说得通的那一边。AI 也同样用概率来挑答案。
依次点要点回顾一下。(可能性用 0~1 表示 → 试得多比例就收敛 → 一起发生就相乘 → 挑最说得通的那一边)
现在,你能用数字来处理不确定的事了。让人摸不着头脑的偶然,变成了 0 和 1 之间一个抓得住的数。
统计和概率都有了,接下来就该真的从数据里提炼规律了。怎样找出一条从散落的点之间穿过得最好的直线,用它预测下一个值,下一课讲线性回归时会说明。