聪明的 AI，负责任的 AI

数据一偏，AI 也偏

前面说过 AI 是从数据里学的。
给它看很多例子，
它就照着里头的模式来做判断。
可要是给它看的例子
本身就偏向一边呢?
AI 连那个偏向也照单全收。
比方说只大量看一种例子，
它对别的种类就认得不好。
不是人的偏见，而是数据的不均衡
原样流进了 AI 的判断里。

把例子往一边堆。数据偏向一种颜色，AI 的判断线就朝那边倾斜，对少的那边老是判错。

把数据往一边堆，
AI 的判断也跟着倾斜了。
看得多的那边它判得准，
看得少的那边它老判错。
不是 AI 不好。
是它学的材料偏了。
这就叫偏见。
所以做 AI 的时候，
人一定要查清楚
数据收集得均不均匀。

把不知道的事自信地编出来

前面学过 LLM 是按概率挑出
下一个词，再接起来。
它的目标是把词接得像样，
所以并不另外知道是不是真的。
所以就算问它不知道的事，
它也常常不说不知道，
而是顺溜地编出一句像样的话。
语气看起来很自信，
内容却是错的。
这就叫幻觉。

点一道 AI 知道的问题，再点一道它不知道的。对不知道的也不停下，自信地编出像样的答案，这就是幻觉。

知道的问题给出了对的答案，
可不知道的问题它也不停，
照样造出一个像样的答案。
再加上 LLM 只知道
训练那一刻为止的资料，
之后的新事它就不太清楚。
所以 AI 的答案
总得核对是不是真的。
尤其数字、出处、最近的事，
由人亲自再看一遍才安全。

同样的技术，能好能坏

AI 能画画、能模仿声音，
也能毫不卡壳地写文章。
这种本事真的很有用。
能把丢失的老照片修得清清楚楚，
给看不见的人把文字念出来，
还能当场把外语翻译过来。
可同样这种本事，
也能用来造出看着像真的假东西，
拿去骗人。
工具是一个，用它的心却有两种。

选一种技术，把它有益的用法和有害的用法并排点亮。你能看到，就算是同一个工具，怎么用决定了好坏。

同样的技术，一边能帮上忙，
另一边却可能造成伤害。
技术本身没有好坏。
决定好坏的，
是用它的人的选择。
所以工具越强大，
就越需要关于怎么用的约定。
就算做了假的，也标明它是假的，
划一条线，别去伤害别人，
就是这样的约定。

人来核对、透明、公平

那怎么负责任地用 AI 呢?
记住三件事就好。
第一，人来核对。
别原样相信 AI 的答案，
重要的决定让人再看一遍。
第二，做到透明。
用了什么数据、怎么做出来的，
不藏着，亮出来。
第三，留意公平。
当心别让某一方单方面吃亏。

依次点亮三项检查，让它们通过。只有人来核对、透明、公平都点亮，AI 才到了能放心用的状态。

三项都点亮了，
这才到了能放心用的地步。
回头看，我们学过的东西
在这里聚成了一个。
AI 从数据里学，
叠起神经元和层来抓模式，
LLM 靠概率把话接起来。
它有多强大，局限就有多分明。
所以最后一格永远是人的份。
核对、亮明、做到公平。

来理一理

归成一句话，是这样。
AI 强大但不完美。
数据偏，判断就偏(偏见)，
把不知道的事自信地编出来(幻觉)，
同样的技术也能被用坏(滥用)。
所以由人来核对、透明、公平地用，
这份责任要一直伴随着它。
AI 越聪明，
越要把这份聪明用得负责任。

依次点亮 AI 之旅，把它收尾。(从数据里学 -> 用神经元和层抓模式 -> LLM 靠概率说话 -> 局限是偏见、幻觉、滥用 -> 负责任地用)

走到这里，真的走了很远。
从数据出发，
到一格神经元、层层叠起的神经网络、
靠概率把话接起来的 LLM，
再到能创造新东西的 AI。
现在最后，我们又多得了一样。
不只是怎么聪明地用 AI，
还有怎么负责任地用它。
站在手握强大工具的人的位置上，
和 AI 一起去寻找更好的答案吧。