ハルシネーション

ハルシネーションとは、生成AIが事実ではない情報や存在しない情報を、あたかも正しいことのように自然な文章で出力してしまう現象を指します。日本語では「幻覚」と訳されることもありますが、AIが意図的に嘘をついているわけではなく、学習したパターンから「もっともらしい続き」を組み立てた結果として起こります。

ハルシネーションが起きやすい代表例としては、存在しない文献や条文を引用する、実在しない関数やAPIの使い方を説明する、日付や数値を誤って生成する、といったケースが挙げられます。AIコーディングエージェントの場合も、実際には存在しないライブラリの関数名を自信満々に提案してくることがあり、動かして初めて誤りに気づく、ということが起こり得ます。

ハルシネーションを完全になくす方法は今のところ存在せず、生成AIを使ううえで前提として付き合っていく必要がある特性です。重要な情報については一次情報にあたって裏を取る、コードであれば実際に実行して確認する、といった検証の工程を省略しないことが、実務での付き合い方の基本になります。

「この法律の第◯条にはこう書かれている」とAIが答えても、実際には存在しない条文だった、という例が典型的です。コーディングでは、AIが提案した設定値やオプション名が実在せずエラーになる、というケースもよく見られます。

「自信満々に答えているから正しいはずだ」というのは誤解です。AIの語調の自信と内容の正確さは無関係で、誤った情報も断定的な文体で出力されることがあります。

• 大規模言語モデル（LLM）
• 評価（Evals）
• ガードレール
• AIリテラシー

• 生成AIリテラシー：安全に使うための基礎知識
• AIが書いたコードのテストとレビュー

Q1. 「ハルシネーション」とは何ですか？
AIが事実に基づかない情報を、もっともらしい形で生成してしまう現象です。

Q2. 「ハルシネーション」はどんな場面で使われますか？
「この法律の第◯条にはこう書かれている」とAIが答えても、実際には存在しない条文だった、という例が典型的です。コーディングでは、AIが提案した設定値やオプション名が実在せずエラーになる、というケースもよく見られます。

Q3. 「ハルシネーション」と関連する用語は何ですか？
関連する用語として「大規模言語モデル（LLM）」・「評価（Evals）」があります。あわせて確認すると理解が深まります。