hallucinationは「幻覚」を借りたたとえ

hallucination(ハルシネーション)は、もとはそこにないものが見えたり聞こえたりする「幻覚」のこと。AIが事実でないことを本当らしく答えると、こう呼ばれます。人の「幻覚」になぞらえた呼び名で、AIが意図的にだましたと判断する言葉ではありません。2023年には、動詞のhallucinateがケンブリッジ辞典の「今年の単語」に選ばれました。

考えながら質問する若葉直人

若葉 直人
ニュースで「ハルシネーション」って見たんですけど、AIの嘘のことですか?

やさしく助言する東海林清春

東海林 清春
半分正解。でも、なんで「嘘」って呼ばないんだと思う?

AIに質問したら、ない本の題名や、存在しない数字を、自信たっぷりに答えてきた。そんな経験をした人は多いはずです。この現象の名前が「ハルシネーション」。病院で聞くような重い言葉が、なぜAIの話に使われているのでしょうか。

ハルシネーションの語源は?英語hallucinationのもとの意味

オックスフォードの学習者向け辞書によると、hallucinationは17世紀の初めから使われている語で、ラテン語のhallucinariから来ています。動詞のhallucinateの項には、その意味が「考えの中で道に迷った」とあります。さらにさかのぼると、ギリシャ語の「不安になる、心が乱れる」という語にたどり着きます。

もとの意味は、病気や薬のせいで、そこにないものが見えたり聞こえたりすること。見ている本人には、本物にしか思えません。ここが、AIの話につながる大事な点です。

なぜhallucinationと呼ぶ?lieやerrorと語感が違う

まちがいを表す英語はいろいろあります。どれを選ぶかで、だれのせいか、わざとかどうかが変わります。

語意味わざと?
lie嘘だますつもりがある
error / mistakeまちがいわざとではない。何のまちがいでもよい
hallucination幻覚わざとではない。本当らしく見える

オックスフォードの辞書は、AIのhallucinationを「本当らしく見えるが、まちがった情報を含む答え」と説明しています。人についてlieと言えば、意図的にだます響きがあります。一方、hallucinationは、もっともらしい誤情報の出力に注目した語です。かといって、ただのerrorでは、「自信たっぷりに本当らしく言う」という特徴が伝わらない。本人には本物に見える「幻覚」が、ちょうどよいたとえだったのです。

ケンブリッジ大学のAI倫理の研究者は、この語が選ばれたことについて、私たちがAIを人のように見ていることを映す「興味深いスナップショット」だと話しています。幻覚を見ているのは使う人ではなく、AIのほうだ、というわけです。

※この呼び方に反対する研究者もいます。2024年、イギリスのグラスゴー大学の研究者たちは論文で、AIは何かを見ようとしているわけではなく、本当かどうかを気にせず文を作っているだけなので、「幻覚」というたとえは誤解を招くと論じました。

ニュースのhallucinationの出方と動詞hallucinate

2023年、ケンブリッジ辞典は動詞のhallucinateを「今年の単語」に選び、「AIが幻覚を見る=まちがった情報を作り出す」という新しい意味を加えました。今ではニュースでこんな形で出てきます。

The chatbot hallucinated a source that doesn’t exist.

そのチャットボットは、存在しない出典を作り出した。

AI hallucinations
AIの幻覚。数えられる名詞なので複数形にもなる
reduce hallucinations
幻覚を減らす
prone to hallucinations
幻覚を起こしやすい。prone toは「〜しがちな」
hallucinate
動詞。「AIがでっちあげる」の意味で、目的語をとることもある

「AIは〜と言った」をどう書くかも、ニュースの英語では大事です。saysとclaimsの差はsaysとclaimsの違いで読めます。

AIを作っている側の説明を英語で聞いてみたい人には、AIのClaudeのYouTubeチャンネルが出している5分の動画があります。

Why do AI models hallucinate?

Claude 長さ 5:14

YouTubeで見る

hallucinationの発音はハルーシネイション

辞書の発音は/həˌluːsɪˈneɪʃn/。カタカナに近づけると「ハルーシネイション」です。

  • いちばん強いのはnay(ネイ)の所。
  • 2番目のluは「ルー」と少しのばす。
  • 最初のhaは弱く、軽く「ハ」と言う程度。

日本語の「ハルシネーション」は平らに言いがちなので、「ネイ」を強く、ほかを軽くするだけで、ぐっと英語らしくなります。動詞のhallucinateはluが一番強くなるので、名詞と強く読む所がずれる点にも注意してください。

同僚にハルシネーションを英語で説明するなら

仕事でAIを使う場面が増えると、「ハルシネーションに気をつけて」と英語で言う機会も出てきます。

ハルシネーションを説明する

A hallucination is when AI makes something up and sounds sure about it.

「ハルシネーションは、AIが何かをでっちあげて、しかもそれを自信ありげに言うこと」。make something upは「でっちあげる、作り話をする」。人にもAIにも使えます。

確認をお願いする

Please double-check the numbers. AI can hallucinate.

「数字はもう一度確かめてね。AIはまちがった情報を作ることがあるから」。double-checkは「念のためもう一度確かめる」です。

本文を見ずに考えてみる:AIのまちがいを「lie(嘘)」ではなく「hallucination」と呼ぶのはなぜでしょうか。

考え方と答えを確認する

lieは意図的にだます響きがあるのに対し、hallucinationは、本当らしい誤情報を「幻覚」になぞらえた呼び名だからです。AIが人のように何かを見ているという意味ではありません。

確かめた資料