![[logo]](https://img.hyuki.net/20220628121544-7a397ed015277339.png)
Web連載「数学ガールの秘密ノート」
登場人物紹介
僕：数学が好きな高校生。
ユーリ：僕のいとこの中学生。 僕のことを《お兄ちゃん》と呼ぶ。 論理的な話は好きだが飽きっぽい。
ここは僕の家。いとこのユーリが遊びに来ている。
ユーリは、僕のコンピュータを使って AIとチャットしているところ（第451回参照）。
AI「……でも、ユーリさんの質問のおかげで、すごくシンプルに言い直せたと思います。ありがとう。 もっと数学的に詳しい話をしましょうか？」
ユーリ「AIクンにほめらりたぜ」
僕「ところで、さっきの話だけど……どうして僕のコンピュータをわざわざ使うんだろう（第451回参照）」
ユーリ「んーと、あのね。話しにくいんだけど……」
僕「言いにくかったら、無理に言わなくてもいいけどね」
ユーリ「話、聞いてよ！」
僕「どっちだよ」
ユーリ「おとーさんとおかーさんが『使うな』って」
僕「コンピュータを？ いまどき？」
僕は、ユーリの両親——つまり僕の叔父と叔母——の顔を思い浮かべる。
そんなにうるさいことを言う人だっけ。
ユーリ「あのね、 勉強するとき、 コンピュータはできるだけ使うなって。 えーあい も使っちゃダメって言われた」
僕「へー……ウチは何にも言われないなあ」
ユーリ「高校生だから？」
僕「どうして使っちゃ駄目なんだろう」
ユーリ「『AI使うと、自分で考えなくなるから使っちゃダメ』 だって！ そんなこと、 ないよねえ！」
僕「AIを使うと、自分で考えなくなるとは僕は思わないけど——ああ、でも、 使う人によるかもしれない。 宿題を全部AIに解かせてる奴、クラスにいたからなあ……」
ユーリ「宿題をAIにやらせる！ それ、便利じゃん！」
僕「あのね……ユーリにそう考えてほしくないから『使うな』って言うんだと思うよ」
ユーリ「ぎく」
僕「やっぱり、誘惑になるからかな。 宿題をそのままAIに渡せば答えが返ってくる。 その答えを書き写せば宿題が終わる。 そりゃ、親も先生も使ってほしくないよね」
ユーリ「やだなー。『AIに宿題やらせたら便利』って、言葉のアヤですぜ、ダンナ」
僕「誰がダンナだよ」
ユーリ「ユーリは、AIとおしゃべりしてみたいだけなんだよー。お兄ちゃんと《数学トーク》するみたいに。 そんなことできるかどーか、わかんないけど」
僕「なるほどね」
ユーリ「結局さ、ユーリは親から信用されてないんだよね。AIがあったら勉強をサボるって思われてる。 なんてこった！ ぐすん……」
僕「ウソ泣きやめい」
そんなふうにユーリと軽口を交わしながら僕は思った。
信用の問題。
確かに、そうかもしれない。
僕は優等生的に「誘惑になるから」と答えちゃったけど、 AIを使わせるか使わせないかというのは、 確かに《信用の問題》といえるかもしれない。
僕は思い出した。
僕の高校では、 教科書準拠の傍用問題集が配られるとき、 学年末まで解答冊子が回収されてしまうのだ。
いまじゃすっかり慣れてしまったけれど、 最初は大きな疑問を感じたのを思い出した。
そんなふうに思ったのだ。
先生からは 「解答冊子があったら、自分で考えなくなる」 という説明があった。
自分で考えなくなる……というのは、 ユーリの親のセリフと同じだ。 僕は、ナンセンスだと思う。
ユーリは冗談めかして言ってたけど、 確かに信用されていないと感じるなあ……
ユーリ「それからね。 『AIは、間違ったことを教えるかもしれない』から使っちゃダメだって」
僕「うん？」
ユーリ「だーかーらー、AIを使っちゃダメなのは 『ウソつくこともあるから』 なんだって。 AIって、ウソつくの？」
僕「ああ、ハルシネーションのことだよね。 AIは、世の中のデータを学習するんだけど、 それとは関係がない間違ったことをいかにもそれっぽく語るときがある。 確かにそれには注意する必要があるよね」
ユーリ「AIって、いつも正しく答えると思ってたよ。 コンピュータのプログラムなのにバシッと答えが出ないなんておかしくね？」
僕「僕も生成AIの仕組みを詳しく知ってるわけじゃないけど……そこには複数の『正しさ』が混じっているような気がする」
ユーリ「お兄ちゃん、何を言ってるデスカー？ 複数の正しさ？ 正しさはいつもひとつ！」
僕「コナンやめい。 プログラム自体は、いつも『正しい』動作をしているはずだよ。 ちゃんと決まった通りに動いている。 でも、そのプログラムが出してくる回答がいつも内容として『正しい』回答だとは限らない」
ユーリ「へー……そんなことあるんだ」
僕「考えているレベルが違うから。これはたとえ話だけど、 人間の身体はものすごくたくさんの分子でできている。 そしてそれはすべて物理学的に『正しい』動作をしている。 ちゃんと決まった通りに動いている。 でも、その分子が集まってできた人間が出してくる回答がいつも内容として『正しい』回答だとは限らない」
ユーリ「お、おおおお！ なんだかナットクさせられた！ そーいえば人間だってウソつくもんね」
僕「ウソ泣きもするし」
ユーリ「蒸し返すのやめい」
僕「だから、AIの回答だからといっていつも正しいとは限らない。 なので、いつも『これは正しいだろうか』って考えながら回答を聞かなくちゃね……ユーリ？」
ユーリは僕の話なんか聞いちゃいなかった。
何かをAIに尋ねている。僕はそれをのぞきこむ。
ユーリ「AIはウソをつくことがあるの？ いつも正しいとは限らないってお兄ちゃんが言ってた」
ユーリがそんなふうに尋ねると、 AIは瞬時に回答を返してきた。
AI「うん、ユーリのお兄ちゃんの言うとおり。 AIはウソをつこうとしているわけじゃないけど、間違ったことを言うことはあるよ。 理由はいくつかあるんだけど、たとえば
ユーリ「ほーらね？」
僕「何が『ほーらね』なんだろう」
ユーリ「AIクンだって『自分でも考えることが大事だ』ってオススメしてる。 だから、AIを使うからって考えなくなるわけじゃない。むしろ逆じゃん。 ウチの親のこと、 AIクンが説得してくんないかにゃあ！」
僕「それ自体もAIからのヒントに過ぎないんだけどね。 いまAIは『AIが間違ったことをいう理由』を説明してくれた」
ユーリ「そだね。AIクン、やるじゃん」
僕「でも、 『AIが間違ったことをいう理由』の説明そのものがAIの説明なんだから、 簡単には信用できないよ。 ちゃんと自分で『この説明は本当だろうか』って考えないといけない」
ユーリ「うっわー！ 確かに！ おもしろ！ でも、 そんなこと言ってたら疑り深い人間になりそーだね」
僕「《疑り深い》というと聞こえが悪いけれど、 僕が言いたいのは《自分で確かめようとする態度》が大事だってことだよ……」
ユーリ「わかってるって。お兄ちゃん、真面目かよ」
僕「それに、ユーリは自分で確かめるのがとても得意じゃないか。僕が説明していて、 あやしくなるとすぐに《ダウト》って言ってくるよね。 あれはすごくいい。 ユーリはよく考えて聞いていて『あれ、変だぞ』というときにダウトを宣言してる。 まさに、その態度のことだよ。僕が言いたいのは」
ユーリ「お兄ちゃんにもほめらりたぜ。 ……はっ！ すごいこと思いついた！」
ユーリ「AIは $1+1$ の答えも間違うの？ どうしたら、 AIの回答が正しいってわかるんだろ」
AI「うん、実は $1+1$ みたいな簡単な計算でも、間違うことはあるんだ。 特に、質問のしかたがややこしかったり、文の中にたくさんの情報がまざってたりするとね。 AIは人間みたいに『ちゃんと考えてる』わけじゃない。 それっぽく見える答えを選んで話しているだけ。 だから『当たり前すぎること』でも油断はできないんだよ。 じゃあどうしたら正しいか分かるのか。 それはね、ユーリが自分で考えて、確かめること。 自分の中で納得できるまできちんと考え抜くこと。 つまり、AIを信じすぎず、使いながら自分で確かめる。 それがいちばん賢いやり方なんだよ」
ユーリ「AIクン、お兄ちゃんと同じこと言ってきたぞ。 もしかして、お兄ちゃんってAIなの？」
ユーリはそう言って、僕の顔をニヤニヤしながら眺める。
僕「僕は人間だよ、一応。 ところでこのAIの回答はうまくできてる」
ユーリ「？」
無料で「試し読み」できるのはここまでです。 この続きをお読みになるには「読み放題プラン」へのご参加が必要です。
ひと月500円で「読み放題プラン」へご参加いただきますと、 450本以上の記事がすべて読み放題になりますので、 ぜひ、ご参加ください。
参加済みの方／すぐに参加したい方はこちら
結城浩のメンバーシップで参加 結城浩のpixivFANBOXで参加（2025年6月27日）
![[icon]](https://img.hyuki.net/20220619121014-abd58cfc2ab436f4.png)