AIは"サイコロを振る機械"だ ── 確率マシンと、どう付き合うか｜イノーバAIインサイト -101

第97回で、僕はAIの正体を「確率で言葉を並べる機械」だと書いた。今日は、その一点を、もう少し深く掘りたい。ここを分かっているかどうかで、AIの使い方が、経営レベルで変わってくるからだ。

まず、簡単な実験をしてほしい。AIに、まったく同じ質問を、二回、三回と続けて投げてみる。すると、答えが毎回、少しずつ違う。言い回しが変わる。順番が変わる。ときには、結論すら変わる。

これは、不具合ではない。AIの、本質だ。

コンピュータは、本来"同じ答えを返す機械"だった

考えてみてほしい。これまでのコンピュータは、同じ入力には、必ず同じ答えを返す機械だった。電卓に「2＋2」と入れれば、何度やっても4だ。昨日も4、今日も4、1万回やっても4。この"揺るがなさ"こそが、コンピュータへの信頼の土台だった。銀行の残高が、聞くたびに変わったら、誰も使わない。

僕たちは、半世紀以上、この「同じ入力→同じ出力」を当たり前として、ソフトウェアと付き合ってきた。一度きちんとテストして動けば、あとは同じように動く。だから信頼できる。それが、常識だった。

ところが、AIは、その常識を、根っこから覆した。

AIは、毎回わざとサイコロを振っている

なぜ、AIは同じ答えを返さないのか。第1回の復習になるが、大事なのでもう一度言う。

今のAI（大規模言語モデル）がやっているのは、突き詰めれば「次に来そうな単語を、確率で選ぶ」ことだけだ。「今日は良い」の次には、「天気」が来る確率が高く、「宇宙」が来る確率は低い。そうやって、確率の高い単語を、一つずつ繋いでいく。

問題は、ここからだ。AIは、毎回、いちばん確率の高い単語を選んでいるわけではない。わざと、少しだけランダムさを混ぜている。確率の高いものを軸にしつつ、たまに二番手、三番手も選ぶ。この"ゆらぎ"の大きさは、専門的には「温度（テンパチャー）」と呼ばれ、設定で変えられる。

つまり、AIは一語ごとに、内部で小さなサイコロを振っている。だから、同じ質問でも、道筋が毎回変わり、たどり着く答えも変わる。電卓が「決まった道」を歩くのに対し、AIは「毎回ちょっと違う道」を歩く。

そして、これは重要なのだが——第97回で話した"ハルシネーション"（もっともらしい嘘）も、この確率機械の必然だ。バグではない。それらしい単語を確率で並べているだけだから、事実かどうかは、そもそも判定していない。たまたま並んだ言葉が、たまたま正しければ「正解」、間違っていれば「嘘」。AIには、その区別がついていない。

ここが、経営の落とし穴だ

さて、ここからが本題だ。この"サイコロ性"が、経営にとって、とんでもない落とし穴になる。

僕たちは、長年の習慣で、ソフトウェアをこう扱ってきた——「一度テストして、うまくいったら、OK」。だが、確率機械には、この常識が通用しない。

考えてみてほしい。AIに大事な仕事をやらせて、一回、見事な結果が出た。「おお、使える」と喜ぶ。だが、その一回は、サイコロで良い目が出ただけかもしれない。100回のうち98回は正しくても、残りの2回は、平然と間違える。そして、その2回が、いつ来るかは分からない。「デモは完璧だったのに、本番で事故る」——その正体は、たいていこれだ。

しかも、たちが悪いことがある。AIは、間違えるときも、自信満々で、それらしく間違える。「たぶん違うと思いますが」とは言わない。堂々と、間違った答えを、正しい答えとまったく同じ顔で差し出してくる。だから、見抜くのが難しい。皮肉なことに、モデルが賢くなるほど、"それらしさ"が上がって、余計に見抜きにくくなる。

「たまたま正しい」と「分かっていて正しい」の区別が、つかない。これが、確率機械の、いちばん怖いところだ。