第452回 シーズン46 エピソード2

生成AIと学ぶ：答えてくれないAI（後編） ただいま無料

AIは使っちゃダメなの？

ユーリ「AIクンにほめらりた（・・・・・）ぜ」

僕「ところで、さっきの話だけど……どうして僕のコンピュータをわざわざ使うんだろう（第451回参照）」

ユーリ「んーと、あのね。話しにくいんだけど……」

僕「言いにくかったら、無理に言わなくてもいいけどね」

ユーリ「話、聞いてよ！」

僕「どっちだよ」

ユーリ「おとーさんとおかーさんが『使うな』って」

僕「コンピュータを？　いまどき？」

ユーリ「あのね、 勉強するとき、 コンピュータはできるだけ使うなって。 えーあい（AI） も使っちゃダメって言われた」

僕「へー……ウチは何にも言われないなあ」

ユーリ「高校生だから？」

僕「どうして使っちゃ駄目なんだろう」

ユーリ「『AI使うと、自分で考えなくなるから使っちゃダメ』 だって！　 そんなこと、 ないよねえ！」

信用の問題

僕「AIを使うと、自分で考えなくなるとは僕は思わないけど——ああ、でも、 使う人によるかもしれない。 宿題を全部AIに解かせてる奴、クラスにいたからなあ……」

ユーリ「宿題をAIにやらせる！　それ、便利じゃん！」

僕「あのね……ユーリにそう考えてほしくないから『使うな』って言うんだと思うよ」

ユーリ「ぎく」

僕「やっぱり、誘惑になるからかな。 宿題をそのままAIに渡せば答えが返ってくる。 その答えを書き写せば宿題が終わる。 そりゃ、親も先生も使ってほしくないよね」

ユーリ「やだなー。『AIに宿題やらせたら便利』って、言葉のアヤですぜ、ダンナ」

僕「誰がダンナだよ」

ユーリ「ユーリは、AIとおしゃべりしてみたいだけなんだよー。お兄ちゃんと《数学トーク》するみたいに。 そんなことできるかどーか、わかんないけど」

僕「なるほどね」

ユーリ「結局さ、ユーリは親から信用されてないんだよね。AIがあったら勉強をサボるって思われてる。 なんてこった！　ぐすん……」

僕「ウソ泣きやめい」

正しさの問題

ユーリ「それからね。 『AIは、間違ったことを教えるかもしれない』から使っちゃダメだって」

僕「うん？」

ユーリ「だーかーらー、AIを使っちゃダメなのは 『ウソつくこともあるから』 なんだって。 AIって、ウソつくの？」

僕「ああ、ハルシネーションのことだよね。 AIは、世の中のデータを学習するんだけど、 それとは関係がない間違ったことをいかにもそれっぽく語るときがある。 確かにそれには注意する必要があるよね」

ユーリ「AIって、いつも正しく答えると思ってたよ。 コンピュータのプログラムなのにバシッと答えが出ないなんておかしくね？」

僕「僕も生成AIの仕組みを詳しく知ってるわけじゃないけど……そこには複数の『正しさ』が混じっているような気がする」

ユーリ「お兄ちゃん、何を言ってるデスカー？　複数の正しさ？　正しさはいつもひとつ！」

僕「コナンやめい。 プログラム自体は、いつも『正しい』動作をしているはずだよ。 ちゃんと決まった通りに動いている。 でも、そのプログラムが出してくる回答がいつも内容として『正しい』回答だとは限らない」

ユーリ「へー……そんなことあるんだ」

僕「考えているレベルが違うから。これはたとえ話だけど、 人間の身体はものすごくたくさんの分子でできている。 そしてそれはすべて物理学的に『正しい』動作をしている。 ちゃんと決まった通りに動いている。 でも、その分子が集まってできた人間が出してくる回答がいつも内容として『正しい』回答だとは限らない」

ユーリ「お、おおおお！　なんだかナットクさせられた！　そーいえば人間だってウソつくもんね」

僕「ウソ泣きもするし」

ユーリ「蒸し返すのやめい」

正しさとは？

僕「だから、AIの回答だからといっていつも正しいとは限らない。 なので、いつも『これは正しいだろうか』って考えながら回答を聞かなくちゃね……ユーリ？」

ユーリ「ほーらね？」

僕「何が『ほーらね』なんだろう」

ユーリ「AIクンだって『自分でも考えることが大事だ』ってオススメしてる。 だから、AIを使うからって考えなくなるわけじゃない。むしろ逆じゃん。 ウチの親のこと、 AIクンが説得してくんないかにゃあ（・・・）！」

僕「それ自体もAIからのヒントに過ぎないんだけどね。 いまAIは『AIが間違ったことをいう理由』を説明してくれた」

ユーリ「そだね。AIクン、やるじゃん」

僕「でも、 『AIが間違ったことをいう理由』の説明そのものがAIの説明なんだから、 簡単には信用できないよ。 ちゃんと自分で『この説明は本当だろうか』って考えないといけない」

ユーリ「うっわー！　確かに！　おもしろ！　でも、 そんなこと言ってたら疑り深い人間になりそーだね」

僕「《疑り深い》というと聞こえが悪いけれど、 僕が言いたいのは《自分で確かめようとする態度》が大事だってことだよ……」

ユーリ「わかってるって。お兄ちゃん、真面目かよ」

僕「それに、ユーリは自分で確かめるのがとても得意じゃないか。僕が説明していて、 あやしくなるとすぐに《ダウト》って言ってくるよね。 あれはすごくいい。 ユーリはよく考えて聞いていて『あれ、変だぞ』というときにダウトを宣言してる。 まさに、その態度のことだよ。僕が言いたいのは」

ユーリ「お兄ちゃんにもほめらりた（・・・・・）ぜ。 ……はっ！　すごいこと思いついた！」

ユーリ「AIクン、お兄ちゃんと同じこと言ってきたぞ。 もしかして、お兄ちゃんってAIなの？」

僕「僕は人間だよ、一応。 ところでこのAIの回答はうまくできてる」

ユーリ「？」

僕「ほら、ユーリは『$1+1$ の答えも間違うの？』って尋ねているだけなのに、 AIは『$1+1$ みたいな簡単な計算でも、間違うことはある』って答えている。 さりげなく《簡単な計算》と言葉を補って回答している。 この回答を読むと、 質問したユーリの方は『ちゃんと自分の意図が伝わっている』と感じるわけだね。 ユーリは $1+1$ を《簡単な計算》のつもりで言ったから」

ユーリ「ほんとだ……気づかなかった」

僕「それから答えの最後で『それがいちばん賢いやり方なんだよ』とまとめている。 もしかしたら、《いちばん賢いやり方》という表現を使うとユーリにうまく刺さる（・・・） ということでこの表現が選ばれたのかもしれない。 ユーリとやりとりしているうちに、 AIはユーリのことをそう理解したのかも」

ユーリ「おお？」

僕「人間の考えにたとえるなら、こんな感じかな。 『このユーリとやらは、バシッとわかることにこだわってるな。 さっきは微分などを尋ねてきたぞ。 なかなか賢い子じゃ。 とすると《賢さ》にこだわりがあるのかもしれんな。 それでは《賢いやり方》と表現すると納得してもらえるかもしれんぞ』」

ユーリ「うわあ……あれ、 でも、別にAIはそんなふうに《考える》わけじゃないよね。 それっぽい言葉を組み合わせてるだけじゃないの？　わかんなくなったぞー」

僕「なかなか難しいね。さっきは人間の考えにたとえて表現しちゃったけど、 実際にAIの中で何が起きているのかは僕にもわからないし、 AIの中で何が起きているかを表現する言葉もわからない。 ただ、 人間が考えているときの様子を表す言葉を借りて、 AIの回答を表現してみただけだよ」

AIと証明

ユーリ「AIに、もっと別のことを聞いてみたい」

僕「たとえばこんな問題はどう？」

ユーリ「知ってる。 背理法（はいりほう）使うんでしょ。 こんなの簡単すぎるよ。 お兄ちゃん、教えてくれたじゃん」

【ＣＭ】

ノナ「詳しくはフェルマーの最終定理を読んで……お読みください $\NONA$」

僕「だからいいんじゃないか。 AIの回答を見てユーリが正しいかどうか判断できるだろ？」

ユーリ「そっか！」

僕「おいおい。ユーリ、そんなにキーボード叩くなよ」

ユーリ「だって、AIクンの回答がうざいんだもん。 『賢いユーリならきっと理解できるはず』とか言ってくるし！」

僕「そういう回答だと、ユーリがムッと来るってAIはわかってないんだね。 そういう回答が嫌だったら 《回答の仕方》も伝えてみたら？　『子供扱いするような言い方はやめて、 簡潔に回答してください』のように」

ユーリ「なーるほど！　《回答の仕方》も指定できるのかー」

僕「……」

ユーリ「……」

僕「……」

ユーリ「ふー……なかなかAIクンもやるのう」

僕「AIの証明を順番に追ってみたの？」

ユーリ「そーだよ！もちろん。そのためにやってるんだもん。 さすがに、この証明は正しいんじゃない？」

僕「まあ、そうだね」

ユーリ「引っかかる言い方」

僕「結論のところがちょっとね」

ユーリ「これがおかしいの？」

僕「細かい話だけど、仮定は『誤り』というよりも『偽（ぎ）』と言ってほしかった気持ちはある」

ユーリ「ふーん」

僕「それから、これも細かい話だけど、 軽くツッコミを入れたくなるところがある。 それは、 『$\sqrt2$ が有理数である』が偽だと、どうして『$\sqrt2$ は無理数である』といえるのか」

ユーリ「それが背理法だから」

僕「『$\sqrt2$ が有理数である』が偽なら、 いえることは『$\sqrt2$ は有理数ではない』だよね？」

ユーリ「えー、だって有理数じゃなかったら無理数じゃん？」

僕「虚数単位 $i$ （アイ）は有理数じゃないけど、無理数でもないよ」

ユーリ「だって $i$ は複素数だもん！」

僕「そこだよ。つまり大前提として $\sqrt2$ は実数であり、 $\sqrt2$ が有理数でなかったら無理数であるというのが隠れている……といっても、 さっきから言ってるけど、これは細かい話だよ。いや細かくはないんだけど」

ユーリ「どっちや」

僕「証明にどこまで書くかは難しいって話」

ユーリ「あ、それユーリも思ったよ。 あのね、『$a^2$ は偶数です。したがって、 $a$ も偶数とわかります』ってところ。 一瞬『なんでじゃ』と思ったけど、少し考えたらわかった」

僕「なるほど。 $a^2$ が偶数なら $a$ が偶数である理由まで証明の中に書いてもいいけど、 この場合には書いていない。 そこの部分は書かなくてもすぐにわかるとAIは判断したんだね」

ユーリ「AIは《判断》したの？」

僕「AIの振る舞いを表現するのは、なかなか難しいなあ……」

理解とは？

ユーリ「ところで、これってAIが証明を理解してるってこと？」

僕「それは『理解とは何か』って話になるから難しそうだよ。 AIはいまみたいに 『$\sqrt2$ が無理数であることの証明』 を書くことはできる。 でも、証明を書くことができたら理解しているといえるだろうか。 もしかしたら丸暗記しているのかもしれない」

ユーリ「丸暗記かどうかって、わかんの？」

僕「証明について質問をしてみたらどうだろう」

ユーリ「ほえー……おもしろーい！　これこれ！　ユーリはね、 AIとこういう話がしたかったの！」

僕「質問はまだまだ続けることができるし、 このくらいのことなら、AIは正しく答えられそうだね。 こういう振る舞いをする存在に対して、 『証明を丸暗記しているだけであって、理解していない』 なんて僕には言えないなあ……もしも、 これで理解していないというなら、僕だって理解していない」

AIはどんな存在？

ユーリ「$\sqrt2$ が無理数であることの証明はさておき……AIの回答を、 自分が正しいかどうか確かめなくちゃいけないとしたら、 『自分が答えを知ってる問題』にしかAIは使えないってこと？」

僕「ユーリは鋭いなあ。ある意味ではそうだね」

ユーリ「そーなるよね。それっぽいことを言うけど、 間違いを言うかもしれない。 自分で確認しなくちゃダメなんだもん」

僕「いや、ちょっと待って、何か変だな」

ユーリ「自分が答えを知ってる問題にしか使えないなら、あんまし役に立たない……」

僕「いやいや、役に立たないなんてことはないよね。 役に立つけど、うのみにしては駄目で、あてにするのは危険なときがある」

ユーリ「あてにできないなら、役に立たないのでは？」

僕「AIを《正解を教えてくれる存在》と考えるならね。 でも《考えることを助けてくれる存在》と考えたらどうだろう」

ユーリ「考えることを助ける？」

僕「自分の力では考えを進められなくなったときにAIに尋ねる。 するとAIの回答がヒントになって、 考えを広げるきっかけになる……みたいな感じかな。 そういえば、さっきAIも『ヒント』っていってたね」

ユーリ「そっか！」