AIは「幻覚」を見ているのか。ハルシネーションの倫理について

生成AIを使っていると、ときどき驚くほど堂々と間違ったことを言う。

存在しない論文を引用する。
ありもしない判例をつくる。
知らないはずの出来事を、まるで見てきたかのように語る。
私たちはそれを「ハルシネーション」と呼ぶ。

けれど、この言葉は少し奇妙だ。
幻覚を見るには、見る主体が必要だからだ。AIは何かを見ているわけではない。世界を経験しているわけでもない。身体を持ち、失敗の痛みを引き受けているわけでもない。

では、AIのハルシネーションとは何なのか。

それは、AIが「夢を見ている」ことではない。むしろ、“わからない”と言うべき場所で、もっともらしい答えを出してしまう社会的な装置の問題なのだと思う。

自然言語生成におけるハルシネーション研究では、AIの出力が流暢で自然に見えるにもかかわらず、事実や入力内容に忠実でない現象が問題化されてきた。Ji らのサーベイは、要約、対話、質問応答、機械翻訳、視覚言語生成など、さまざまな生成タスクでハルシネーションが起こることを整理している。つまりこれは、チャットAIだけの欠陥ではなく、「生成する機械」一般にまとわりつく構造的な問題である。

特に恐ろしいのは、AIの間違いが「間違いらしくない」ことだ。
人間の嘘には、どこかに焦りやためらいが混じることがある。しかしAIの誤答は、しばしば滑らかで、整っていて、礼儀正しい。間違っているのに、正しそうに見える。

TruthfulQA という研究では、言語モデルが人間の誤信や俗説をどの程度まねてしまうかが測定された。このベンチマークは健康、法律、金融、政治などを含む817問・38カテゴリの質問からなり、実験では当時の最良モデルの真実性が58%だったのに対し、人間は94%だった。さらに重要なのは、モデルが単に知らないことを間違えるだけではなく、訓練データに含まれる人間社会の誤信を模倣してしまう点である。

ここでハルシネーションは、単なる「技術的ミス」ではなくなる。

AIは真空の中で間違えるのではない。
私たちが書いた文章、私たちが信じてきた俗説、私たちが繰り返してきた偏見、私たちが正しいものとして流通させてきた言葉の堆積の上で、AIは間違える。

だから、AIのハルシネーションを倫理の問題として考えるとき、問うべきなのは「AIはなぜ嘘をつくのか」だけではない。むしろ問うべきなのは、どのような社会が、AIに自信満々の誤答を出させているのかである。

2026年に Nature に掲載された Kalai らの論文は、この点を示唆的に説明している。