かしこい AI、せきにん ある AI

データが かたよると AI も かたよる

まえに AI は データで まなぶと いいました。
れいを たくさん みせると
その なかの パターンに そって けっていを します。
でも もし みせた れいが
かたほうに かたよっていたら どう なる?
AI は その かたよりまで そのまま まなびます。
たとえば ひとつの しゅるいの れいだけ たくさん みると
ほかの しゅるいは よく みわけられません。
ひとの へんけんでなく データの ふきんこうが
そのまま AI の けっていに ながれこむのです。

れいを かたほうに かためて いれてみて。データが ひとつの いろに かたよると AI の けっていせんも そちらへ かたむき、すくない ほうを よく まちがえます。

データを かたほうに かためると
AI の はんだんも いっしょに かたむきましたね。
たくさん みた ほうは よく あてますが
すくなく みた ほうは よく まちがえます。
AI が わるいからでは ありません。
まなんだ ざいりょうが かたよったからです。
これを へんこうと いいます。
だから AI を つくる ときは
データが まんべんなく あつまったか
ひとが かならず しらべる ひつようが あります。

しらない ことを じしん もって でっちあげる

まえに LLM は つぎに くる ことばを
かくりつで えらんで つなぐと まなびましたね。
それらしく つなぐのが もくひょうなので
じじつかどうかを べつに しっては いません。
だから しらない ことを きかれても
しらないと いうより
それらしい ぶんを すらすら でっちあげる ことが あります。
くちょうは とても じしん ありげなのに
ないようは まちがっている。
これを かんかくと いいます。

AI が しっている しつもんと しらない しつもんを おしてみて。しらない ことにも とまらず それらしい こたえを じしん もって でっちあげるのが かんかくです。

しっている しつもんには ただしい こたえが でましたが
しらない しつもんにも とまらず
それらしい こたえを つくりだしましたね。
そのうえ LLM は がくしゅうした じてんまでの
しりょうだけを しるので
その あとの あたらしい ことは よく しりません。
だから AI の こたえは
いつも じじつか たしかめる ひつようが あります。
とくに すうじや でどころ、さいきんの ことは
ひとが じぶんで みなおすのが あんぜんです。

おなじ ぎじゅつ、よくも わるくも

AI は えも つくり こえも まねし
ぶんしょうも すらすら かけます。
この ちからは ほんとうに やくに たちます。
なくした ふるい しゃしんを くっきり よみがえらせ
まえが みえない ひとに ぶんを よみあげ
がいこくごを その ばで つうやくも します。
でも おなじ ちからで
ほんものらしく みえる にせものを つくって
ひとを だますのに つかう ことも できます。
どうぐは ひとつなのに つかう こころが ふたつなのです。

ひとつの ぎじゅつを えらび、やくに たつ つかいかたと がいに なる つかいかたを ならべて つけてみて。おなじ どうぐでも つかいかたが よしあしを わける ことが みえます。

おなじ ぎじゅつが かたほうでは たすけに なり
もう かたほうでは がいに なりえました。
ぎじゅつ そのものには よしあしが ありません。
よしあしを わけるのは
それを つかう ひとの えらびです。
だから つよい どうぐほど
どう つかうかの やくそくが いります。
にせものを つくっても にせものと しめし
ひとに がいを あたえないよう せんを ひく
そういう やくそくです。

ひとが たしかめ、とうめいに、こうへいに

では AI を どう せきにん もって つかう?
みっつだけ おぼえると いいです。
ひとつめ、ひとが たしかめる。
AI の こたえを そのまま しんじず
たいせつな けっていは ひとが みなおす。
ふたつめ、とうめいに しめす。
どんな データで どう つくったかを
かくさず あらわす。
みっつめ、こうへいかを みる。
とくていの がわだけ そんを しないよう きを くばる。

みっつの てんけんを じゅんに おして とおしてみて。ひとの かくにん、とうめい、こうへいを ぜんぶ つけて はじめて AI が あんしんして つかえる じょうたいに なります。

みっつを ぜんぶ つけると
やっと あんしんして つかえるように なりましたね。
ふりかえると わたしたちが まなんだものが
ここで ひとつに あつまります。
AI は データで まなび、
ニューロンと そうを かさねて パターンを とらえ、
LLM は かくりつで ことばを つなぎます。
つよい ぶん げんかいも はっきり。
だから さいごの ひとマスは いつも ひとの やくめです。
たしかめ、しめし、こうへいに。

まとめて みましょう

ひとことに まとめると こうです。
AI は つよいですが かんぺきでは ありません。
データが かたよると けっていも かたより(へんこう)、
しらない ことを じしん もって でっちあげ(かんかく)、
おなじ ぎじゅつが わるくも つかえます(あくよう)。
だから ひとが たしかめ、とうめいに、こうへいに
つかう せきにんが いつも いっしょに いきます。
AI が かしこいほど
その かしこさを せきにん もって つかうのが たいせつです。

AI の たびを じゅんに おして しめてみて。(データで まなぶ -> ニューロンと そうで パターン -> LLM は かくりつで ことば -> げんかいは へんこう・かんかく・あくよう -> せきにん もって つかう)

ここまで ほんとうに とおく きました。
データから しゅっぱつして
ニューロン ひとマス、かさねた ニューラルネット、
かくりつで ことばを つなぐ LLM、
そして あたらしいものを つくる AI まで。
いま さいごに もう ひとつ えました。
AI を かしこく つかう ほうだけでなく
せきにん もって つかう ほうを。
つよい どうぐを てに した ひとの ばしょから
AI と ともに より よい こたえを さがして いきましょう。