幻覚

**現象：堂々と、間違える。**たとえば、こんな場面がある。ある製品の仕様一覧を頼んでみる。返事は一秒で来る。十数行、数字には小数点、並びも整っている。ところが公式ページと照らし合わせると、食い違う箇所がたいていいくつかある。うち二つは、その製品には存在しない項目だった。本を薦めてもらえば、書名も著者名もそろっている。実際に探してみると、一冊も見つからない。その間、一度も詰まらない。ためらいもない。

**本質：調べるのではなく、つないでいる。**AI の仕事は「調べる」ことではない。「続ける」ことだ。文の前半を受け取って、いちばん自然に聞こえる言葉を一つ置き、また次を置く。スマホの入力予測があなたの次の一文を当てるのと、やり方は似ている。違うのは、読んできた量が桁違いに多いこと。だから本物そっくりに聞こえる。ただ、手元に確かめる材料はない。「分かりません」という出口も用意されていない。つながらない場所は、作ってつなぐ。この場面を「幻覚」と呼ぶ。言葉はなめらか、事実はなし。

**なぜ：悪意ではなく、採点のされ方。**だまそうとしている、と決めつけるのは早い。だますには、まず「だます心」が要る。これは持っていない。たとえて言えば、これは試験の受け方のくせのようなものだ。育てられるときに点が付いたのは、話がなめらかで、最後まで言い切れることだった。「これは分かりません」では点が入らない。だから止まるくらいなら、丸く作って続ける。性質の問題ではない。最初から、答えられないときに止まる練習をしてこなかっただけだ。

**防ぎ方：ある。三つだけでいい。**この弱点は防げる。難しい方法はいらない。手順は三つだけだ。先に資料を渡す。大事な数字は自分で照らす。見つからなければ、認めさせる。具体的なやり方は、下にまとめた。なぜ最初に資料を渡すのか。作り話が生まれるのは、材料のない空白からだ。説明書やファイル、ウェブページを先に手渡せば、空白は本物で先に埋まる。作れる余地は、それだけ小さくなる。数字はとくに油断できない。価格も日付も認定番号も、それらしく見える。見えるからこそ危ない。使うものは、元の出どころで一度確かめる。最後は一言で済む。聞くときに、先に言っておく。「見つからなければ、見つからないと書いて。」認める選択肢が用意されていなかっただけだ。用意すれば、たいてい従う。

防ぎ方・三つの手順

1. **先に資料を渡して、それから聞く。**説明書、ファイル、ウェブページを先に見せてから答えさせる。下に根拠があると、作れる空きが一気に小さくなる。
2. **大事な数字は、自分で照らし合わせる。**価格、日付、仕様、書名、認定番号——使うつもりのものは、元の出どころに戻って一度目で確かめてから使う。
3. **見つからなければ、認めさせる。**質問に一言添えておく。「見つからなければ、見つからないと書いて。当てずっぽうはなし。」答えられないこと自体は問題じゃない。作り話がいちばん困る。

この回の出どころ

選題は、刘艺さんの「AI小知識」コラムで AI の幻覚を扱った回から。題目と要点はコラムから借り、歌詞と解説はこのサイトで新たに書き起こした。この回では外部の統計数字を引用していない。歌に出てくる「仕様をでっち上げる」「ない認定を付ける」「実在しない本を薦める」は、この種の答えでいちばんよくある三つの型だ。あくまで型の提示で、特定の製品を測った記録ではない。今あなたの手元にある答えが本物かどうかは、上の三つの手順で自分で確かめるほかない。

制作ノート

詞が固まってから、この歌は二つのバージョンを録った。32行の詞を一行ずつ聞き、一行ずつ照らし合わせた。最初のバージョンは、サビの決め句「顺，不等于真」が三度ともこもって聞き取れず、使えなかった。二つ目のバージョンには、この五文字が単独で止まって、はっきり聞こえる箇所が一度ある。それで決めた。もう一つ手こずったのが「参数规格（仕様・スペック）」と「认证头衔（認定の肩書き）」。どちらのバージョンでも発音がにごる。硬い言葉が連なると、口がついていかないのだ。教訓として残す。これから詞を書くときは、硬い言葉の連なりを避ける。映像はもともと80秒で組んであった。歌が長くなったので、八つの場面を一つずつ引き伸ばし、位置を合わせ直した。