什么是 AI 伦理

数据偏了，AI 也会偏

AI 从数据里学。给它看很多例子，它就照着里面的模式做判断。可要是给它看的例子偏向一边，AI 连这份偏向也原样学了去。只看了一大堆同一类例子的 AI，就认不好别的种类。
偏差不只来自数量不均。如果过去人们做出的决定里掺着偏见，用这些记录学出来的 AI 也会重复同样的偏见。比如，用过去的招聘记录训练的 AI，可能会少录用某一类求职者。

点圆形或三角的例子按钮，只让一边变多。数据偏向一边，界线就被推过去，少的那一边老是被判错。

只增加一边的例子，界线就被推了过去。看得多的一边判得准，看得少的一边老出错。这不是 AI 坏，而是它学的材料偏了。这就叫偏见，也叫偏差。
所以做 AI 时，要由人检查数据收集得是否均匀，里面有没有藏着旧的偏见。做好以后，还要分别测一测，看它对不同群体的准确度是否差不多。

不知道的也敢自信地编

前面学过，LLM 凭概率挑下一个词，把话接下去。它的目标是接得像样，所以并不另外核对说的是不是事实。于是问到它不知道的事，它往往不说不知道，而是编出一段像模像样的话。
语气很自信，内容却是错的。这就叫幻觉。

依次点 AI 能回答和不能回答的问题。像明天的彩票号码这种谁也不知道的事，它也不停下来，照样编出像样的答案，这就是幻觉。

知道的问题，答案是对的；可谁也答不出的问题，它也用一模一样的自信语气编出了答案。再说，LLM 只知道训练截止时的资料，那之后发生的事它不太清楚。
所以 AI 的回答总要核对是不是事实。尤其是数字、出处和最近的事，最好到可靠的资料里亲自再查一遍。现在也有系统在回答时一并列出搜索结果，方便人核对。

同一项技术，可善可恶

AI 能画图，能模仿声音，能流畅地写文章。这些本事很有用：能把模糊的老照片修得清清楚楚，能让因病失声的人找回自己的声音，能把难懂的文字讲得通俗易懂。
可同样的本事，也能造出以假乱真的假脸、假声音去骗人。这种假东西叫深度伪造。工具只有一个，用途却可能完全相反。

选一种技术，把有益的用法和有害的用法并排看看。同一个工具，怎么用决定了它是好是坏。

同一项技术，在这边帮了忙，在那边造成了伤害。技术本身没有好坏，分出好坏的是使用者的选择。所以工具越强大，越需要关于怎么用的约定。
用 AI 做出的东西要标明是 AI 做的，不经同意不用别人的脸和声音，不随意拿别人的作品和个人信息来用，这些就是那样的约定。已经有不少国家开始把这些约定写进法律。

人来核对，透明，公平

那么，负责任地使用 AI 要守住什么？记住三点就好。第一，人来核对：不要照单全收 AI 的回答，重要的决定要由人再看一遍。
第二，保持透明：用了什么数据、怎么做出来的、哪里用了 AI，都不隐瞒。第三，留意公平：别让某一群人单方面吃亏。

依次点亮三项检查，让它们通过。人来核对、透明、公平全都点亮，AI 才算到了可以放心用的状态。

三项都点亮以后，才终于可以放心使用。回头看，前面学过的东西在这里汇到了一起：AI 从数据里学，叠起神经元和层来抓模式，LLM 凭概率把话接下去。
它有多强大，局限就有多明显。所以最后一格永远是人的份：核对、说明、公平地用。

小结

归纳起来是这样：AI 强大，但不完美。数据偏了，判断就偏(偏见)；不知道的事会自信地编(幻觉)；同一项技术也可能被拿去伤人(滥用)。
所以由人核对、公开透明、公平使用的责任，必须始终跟着走。AI 越聪明，负责任地使用这份本事就越重要。

依次点亮 AI 之旅，把它收尾。(从数据里学 → 用神经元和层抓模式 → LLM 靠概率把话接起来 → 局限是偏见、幻觉、滥用 → 负责任地用)

一路走来，我们走了很远。从数据出发，看了一个神经元、一层层叠起的神经网络、看图像的 CNN、给词配坐标的嵌入、读上下文的注意力、凭概率接话的 LLM，还有造出新东西的生成式 AI。
最后我们又多得到一样东西：不只是聪明地用 AI，还要负责任地用 AI。分辨 AI 给的答案，决定在哪里、怎么用它，这份判断始终留在人的手里。