わかりやすく AI倫理 とは

データがかたよるとAIもかたよる

AIはデータから学びます。例をたくさん見せると、その中のパターンにしたがって判断します。ところが、見せた例が一方にかたよっていると、AIはそのかたよりまでそのまま学んでしまいます。一つの種類の例ばかり見たAIは、ほかの種類をうまく見分けられません。
かたよりは、数の不つり合いだけから生まれるわけではありません。過去に人が下した決定に偏見がまじっていれば、その記録から学んだAIも同じ偏見を繰り返します。たとえば、昔の採用記録で学んだAIが、ある応募者たちを選びにくくなるといったことです。

丸か三角の例のボタンを押して、片方だけを増やしてみましょう。データが一方にかたよると境界線が押しやられ、少ないほうをくり返しまちがえます。

片方の例だけを増やすと、境界線が押しやられました。たくさん見たほうはよく当たりますが、少ししか見ていないほうはまちがいが続きます。AIが悪いのではなく、学んだ材料がかたよっていたからです。これをバイアス(偏り)と呼びます。
だからAIを作るときは、データがまんべんなく集まっているか、そこに昔の偏見が隠れていないかを人が確かめる必要があります。作ったあとも、グループごとに正確さが同じくらいかを別々に測ります。

知らないことも自信たっぷりに作り上げる

前に、LLMは次に来る言葉を確率で選んでつなぐと学びました。目標はもっともらしくつなぐことなので、その言葉が事実かどうかを別に確かめているわけではありません。だから、知らないことを聞かれても、知らないと言うより、もっともらしい文を作り上げてしまうことがあります。
口調は自信たっぷりなのに、中身はまちがっているのです。これを幻覚(ハルシネーション)と呼びます。

AIが答えられる質問と答えられない質問を順に押してみましょう。明日の宝くじの番号のように誰にもわからないことにも止まらず、もっともらしい答えを作り上げるのが幻覚です。

知っている質問には正しい答えが出ましたが、誰にも答えられない質問にも、まったく同じ自信たっぷりの口調で答えを作り上げました。そのうえLLMは、学習した時点までの資料しか知らないので、そのあとに起きたことはよくわかりません。
だからAIの答えは、いつも事実かどうか確かめる必要があります。とくに数字や出典、最近のできごとは、信頼できる資料で自分で調べ直すのが安全です。最近は、答えといっしょに検索結果を示して、確かめやすくするしくみも使われています。

同じ技術が、よくも悪くも使われる

AIは絵を作り、声をまね、文章をすらすら書けます。この力はとても役に立ちます。ぼやけた古い写真をくっきりよみがえらせたり、病気で声を失った人に自分の声を取り戻させたり、難しい文章をやさしく言いかえたりできます。
けれども、まったく同じ力で、本物そっくりの偽の顔や声を作り、人をだますこともできます。こうした偽物をディープフェイクと呼びます。道具は一つでも、使い道は正反対になりえます。

技術を一つ選んで、役に立つ使い方と害になる使い方を並べて見てみましょう。同じ道具でも、どう使うかで良し悪しが分かれることがわかります。

同じ技術が、一方では助けになり、もう一方では害になりました。技術そのものに良し悪しはなく、それを分けるのは使う人の選択です。だから強力な道具ほど、使い方についての約束が必要になります。
AIで作ったものにはAIで作ったと示すこと、他人の顔や声を許可なく使わないこと、他人の作品や個人情報を勝手に使わないことが、そうした約束です。こうした約束を法律で定めはじめた国もいくつもあります。

人が確かめ、透明に、公平に

では、AIを責任をもって使うには何を守ればよいのでしょうか。三つのことを覚えておくとよいでしょう。一つ目は、人が確かめることです。AIの答えをそのまま信じず、大事な決定は人が見直します。
二つ目は、透明にすることです。どんなデータでどう作ったのか、どこにAIを使ったのかを隠しません。三つ目は、公平かどうかを確かめることです。特定の人たちだけが損をしていないかに気を配ります。

三つの点検項目を順に押して、通してみましょう。人の確認、透明、公平がすべてそろって、はじめてAIを安心して使える状態になります。

三つがすべてそろうと、ようやく安心して使えるようになりました。ふり返ると、これまで学んだことがここで一つにまとまります。AIはデータから学び、ニューロンと層を重ねてパターンをとらえ、LLMは確率で言葉をつなぎます。
強力なぶん、限界もはっきりしています。だから最後のひとマスは、いつも人の役目です。確かめること、明らかにすること、公平に使うことです。

まとめ

まとめるとこうです。AIは強力ですが、完璧ではありません。データがかたよれば判断もかたより(バイアス)、知らないことを自信たっぷりに作り上げ(幻覚)、同じ技術が人を傷つけるのに使われることもあります(悪用)。
だから、人が確かめ、透明に明らかにし、公平に使う責任が、いつもいっしょについてまわります。AIが賢くなるほど、その力を責任をもって使うことが大切になります。

AIの旅を順に押して締めくくりましょう。(データで学ぶ → ニューロンと層でパターン → LLMは確率で言葉をつなぐ → 限界はバイアス・幻覚・悪用 → 責任をもって使う)

ここまで長い道のりでした。データから出発して、一つのニューロン、層に重ねたニューラルネットワーク、画像を見るCNN、単語に座標を与えるエンベディング、文脈を読むアテンション、確率で言葉をつなぐLLM、そして新しいものを作る生成AIまで見てきました。
最後に、もう一つ手に入れました。AIを賢く使う方法だけでなく、責任をもって使う方法です。AIの答えを見きわめ、どこでどう使うかを決める判断は、最後まで人に残ります。