ハルシネーションとは？

詳細解説

ハルシネーション（Hallucination: 幻覚）は、大規模言語モデル（LLM）などの生成AIが、事実と異なる情報・存在しない人物・架空の文献・誤ったデータを、まるで正確な情報であるかのように自信を持って生成してしまう現象です。AIが確認せずに「もっともらしい文章」を確率的に生成するという仕組みから生じる根本的な問題です。ハルシネーションの具体例は「実在しない論文の引用」「架空の法律・判例の生成（弁護士が使って問題になった事例あり）」「存在しない企業・製品の説明」「計算や日付の間違い」などです。発生原因は学習データの偏り・最新情報の欠如（学習データの知識カットオフ）・確率的なトークン生成の性質・ファインチューニングの不足などが挙げられます。ハルシネーションへの対策技術はRAG（Retrieval-Augmented Generation）が代表的で、外部の信頼できるデータベースを検索した結果をAIへの入力に加えることで事実に基づいた回答を生成させます。ユーザー側の対策は「AIの出力を鵜呑みにしない」「重要情報は必ず一次情報を確認する」「事実確認（ファクトチェック）を習慣化する」です。ITパスポートではシラバス6.5で「ハルシネーションの定義と対策」「RAGとの関係」が重要出題テーマです。

ITパスポートでの出題ポイント

• 1AIが誤った情報を自信を持って生成する現象（根本的な問題）
• 2実在しない論文・法律・人物を正確情報として出力するリスク
• 3RAGで外部DBを参照させてハルシネーションを低減
• 4AI出力の鵜呑みは禁物、一次情報での事実確認が必須

関連用語