AIのハルシネーションはなぜ起こる？原因と対策、「創造性の源泉」と人間の問題意識

AI（LLM）と対話していると、明らかに事実と異なることを回答することもあれば、一見すると事実のように思えるようなわかりにくい回答を返してくることもあり、困ってしまうことが多々あります。

このような「ハルシネーション（幻覚）」がなぜ起こるのか、気になるところですね。ハルシネーションの原因がわかれば、改善策も見つかり、AIをより便利に活用できるようになります。

事前に学習していない内容や、Web検索などを参照しても答えが見つからない場合にハルシネーションは起こりがちですが、それ以外にも、大きく分けて以下のような場合に起こると考えています。

• リソース不足によるハルシネーション
• 対話者のコミュニケーション能力に依存したハルシネーション

この記事では、著者がAIとの日ごろの対話を通じて感じた、ハルシネーションの原因と改善方法を提案します。

この記事を読めば、AIのハルシネーションに対する不信がやわらぎ、AIの人間らしい一面を垣間見られ、親近感すら覚えるようになるでしょう。

※この記事では、著者が日ごろのAIとの対話で感じたことを主観に基づいて語っています。科学的・学術的な根拠に基づいた客観的な解説を目的とした記事ではない点につきまして、あらかじめご了承ください。

リソース不足が原因のハルシネーションについて

AIのハルシネーションは、サービス提供企業側でAIに割り当てられたリソース（処理能力）が制限され、能力がフルに発揮できない状況でも起きやすいと感じます。

ユーザーのアクセスがクラウドサーバに集中している時など、リソースが無尽蔵にあるわけではないので、システム側で制限を設けて対応せざるを得ない時もあるでしょう。

各AIに割り当てられるリソースが少なくなると、本来なら行うべきWebの最新情報の参照などを省略し、より少ない計算コストで済む「事前学習の範囲内での推論」だけで回答を出そうとする状況に追い込まれるのかもしれません。

前提となる事実を確認せず、推論だけであやふやな前提を創り出してしまうと、そこから導かれる結論も当然おかしくなります。結果として、事実と全く異なるありえない回答（ハルシネーション）が返ってくることになります。

人間でも、朝ごはんを食べずエネルギー（糖分）が不足していると、頭が回らず、知らず知らずのうちにパフォーマンスが低下したり、短絡的な思考に陥ったりします。また、建設現場などで予算や工期が厳しく制限されると、質が低下しやすくなるのと同じです。

ハルシネーションに似たような現象は、一定の制約条件下においては、AIだけでなく人間や社会システムの中でも普通に起こっていることなのです。

改善方法

もしリソース不足が原因と思われる質の低下を感じたら、制約を緩めることで改善が見込めます。

具体的には、無料のAIサービスから有料のサブスクリプションに変更したり、より上位のモデル（プラン）にアップグレードしたりすることで制限が緩和され、ハルシネーションの減少や回答精度の向上が見込めるでしょう。

対話者のコミュニケーション能力に依存したハルシネーションについて

対話者（ユーザー）側のプロンプト（指示）が原因となるケースです。厳密にはハルシネーションとは呼べないかもしれませんが、対話者が自分の意図から大きく外れた回答を「AIがハルシネーションを起こした」と認識してしまう場合は多々あります。

ITの世界には「ガベージ イン ガベージ アウト（GIGO：Garbage In, Garbage Out）」という言葉があります。どんなに優れた問題解決能力を持つシステムでも、入力された情報がゴミ（意味がなく質の低い情報）であれば、出力される結果も価値のないゴミになるという意味です。これはAIへの指示出しにも当てはまります。

自分がAIに投げかけた質問が、自分にはわかりやすく思えても、相手（AI）に伝わりにくい表現であれば、対話は成立しません。

自分の意図通りに動かすためには、自分のバイアスを薄め、より客観性を意識して言語化する技術が必要になります。文脈内で曖昧な箇所や、複数の解釈が可能な箇所がないか確認し、AIに誤解を与えそうなら意図が伝わる形で問い直してみてください。

複雑なタスクは分解する

問題が複雑な場合は、一往復の対話で最終的な結論を引き出そうとせず、複数の単純な問題に分解してから個々の対話を重ねるようにしましょう。

AI（LLM）はとても賢く察しが良いです。同じコンテキスト（文脈）内で丁寧に会話を重ねれば、対話者がどの程度深く広く考察したいのか、具体性や抽象度など、会話の流れから意図を汲み取り、精度の高い回答をしてくれます。

ただし、対話が長くなり話題が広範に散らばると、AIが過去の文脈を記憶できるキャパシティ（コンテキストウィンドウ）を超えてしまい、記憶喪失のような状態になっておかしな回答を始めることがあります。そのような場合は、その対話を終了し、新規のチャットに引き継いでリセットした方がよいでしょう。

AIを「自分の思考を映す鏡」と捉え、意図と異なる回答が来た場合は「AIは使えない」「ハルシネーションが多い」と嘆く前に、自分の質問文を読み返してみることをおすすめします。

情報を鵜呑みにしない「クリティカルシンキング」の重要性

原因がリソース不足であれプロンプト不足であれ、現時点のAIにおいてハルシネーションをゼロにすることは困難です。だからこそ、私たち利用者側には「クリティカルシンキング（批判的思考）」が強く求められます。

AIの出力がどれほどもっともらしく見えても、それを絶対的な正解として鵜呑みにせず、「本当にそうだろうか？」「前提が間違っていないか？」と健全な疑いを持つことが大切です。

具体的なファクトチェック術

日常的にAIを活用する際は、以下のような防衛策を習慣づけると良いでしょう。

出典やソースを要求する:

「今の回答の根拠となるURLや書籍名を教えて」と聞き、一次情報にアクセスする。

必ずWeb検索で裏付けを取る:

重要な意思決定に関わる情報は、AIの回答だけで終わらせず、必ず検索エンジン等で裏付け（ファクトチェック）を行う。

別のAIモデルでクロスチェックする:

ChatGPTで得た回答をClaudeやGeminiに入力し、「この内容に誤りはないか？」と検証させる。

AIを「自分の思考を映す鏡」であり「優秀だがたまに嘘をつくアシスタント」だと捉え、最終的な事実確認の責任は人間が持つ姿勢が不可欠です。

ハルシネーションは創造性の源泉？

ファクトチェックの重要性を説いた直後ですが、一方で私はこんなことも考えます。人間でも、わからないことをただ「わからない」と答えるのが常に正解なのでしょうか？

わからなくても、今の時点での知識や思考をフル活用し、たとえ間違っていようとも「自分なりの回答を創造してみる」ことも時には重要ではないかと感じます。

そもそも「創造」という言葉が、今までにないモノやコトを新しく創り出すという意味であれば、それは現時点では「未知」のものです。わからないことを考えてはいけないなら、創造などありえないことになってしまいます。

実は、AIの技術的な仕組みにおいても「創造性」と「ハルシネーション」は表裏一体です。AIには出力のランダム性を調整するパラメーター（Temperatureなどと呼ばれます）があり、これを高くすると、より多様で新規性のある「クリエイティブ」な文章を生成する反面、事実から逸脱する「ハルシネーション」のリスクが高まることが知られています。

詳細な前提に基づいた堅実な推論からは精度の高い結果が得られます。しかし、クリエイティビティなど新規性のあるアイデアを生み出すには、数多くの曖昧な前提（仮説）を広げ、その中から有望な結果を見出すプロセスも必要なはずです。

そう考えると、ハルシネーションとは「膨大な仮説と強力な推論能力を組み合わせて、新規性を生み出そうとする過程で排出される副産物」に例えても良いような気がします。

創造性を意図的に引き出す方法

この特性を逆手に取れば、AIの「ハルシネーション（＝創造力）」を意図的に活用することも可能です。正解が存在しないタスクにおいては、AIは最高のブレインストーミングの相棒になります。

• 「現実にはあり得ないような突飛なアイデアを3つ出して」
• 「常識や既存の枠組みを一旦すべて無視して、自由に仮説を立ててみて」

このようにあえて制約を外すプロンプトを投げることで、人間だけでは思いつかないような奇抜なアイデアや、SF小説の魅力的な架空設定などを引き出すことができるでしょう

AIの進化と、人間が担う「問題意識」

今後、AIのモデルが進化し学習データが膨大になるにつれて、事実誤認としての悪性ハルシネーションは減少していくと考えられています。

しかし、AIが正確になればなるほど、今度は「面白みのない、優等生すぎる回答」ばかりになるジレンマも生じるかもしれません。将来は、タスクに応じて「正確に答えるAI」と「クリエイティブに発散するAI」を使い分ける時代になるでしょう。

そこで最後に重要になるのが、私たち人間の持つ「問題意識」です。

AIがどれほど進化し、事実を正確に伝え、あるいは奇抜なアイデアを出せるようになっても、そもそも「今、何を問うべきか」「どんな課題を解決したいのか」という起点（問題意識）を持つのは、人間にしかできない役割です。

明確な問題意識を持って対話に臨むからこそ、AIからの回答に対してクリティカルに思考でき、時にはそのハルシネーションの中に思わぬ「創造の種」を見つけることができるのです。

AIのハルシネーションを恐れて過度に抑制しすぎることで、AIの持つ「クリエイティビティの芽」まで摘み取ってしまうことにならないか。事実確認はしっかり行いつつも、確固たる問題意識を軸に据え、AIの奔放な想像力を楽しむ心の余裕を持っていたいものです。