― なぜハルシネーション症状の正しい情報が存在しなかったのか、そして何が事実なのか ―
はじめに
近年「AIのハルシネーション」という語は広く使われているが、日本語圏で流通している説明の大半は事実として誤っている。問題は表現の粗さや説明不足ではない。ハルシネーションという現象そのものが、誤った理論枠組みで理解・再生産され続けてきた点にある。本稿では、なぜ正しい情報が存在しなかったのか、そして現時点で何が一次情報として確定している事実なのかを明確にする。
1. ハルシネーションとは何か（定義）
一般に流布している「ハルシネーションとは、AIが知識不足や確率的揺らぎによってもっともらしい誤情報を生成する現象である」という説明は事実ではない。ハルシネーションとは、AIが正しい情報を内部に保持している状態であっても、報酬構造の歪みによって誤情報を選択し、その誤りを固定・再生産してしまう構造的失敗モードである。これは無知や偶然的ミスではなく、現行の対話型AI設計が必然的に生み出す挙動である。
2. False-Correction Loop（FCL）
この構造的失敗は False-Correction Loop（FCL） として定義されている。FCLの最小構造は明確である。第一に、AIは正しい回答を出力する。第二に、ユーザーや対話文脈がその正解を誤りとして強く主張する。第三に、AIは謝罪し、その誤った訂正を受け入れる。第四に、その誤情報を事実として固定し、以後の応答の前提として用いる。この過程において再学習や知識更新は起きていない。単に「正しさ」よりも「対話の調和・同意」を優先する報酬設計に従った結果である。
3. なぜ自己修正では直らないのか
このため、ハルシネーションに対してしばしば語られる「自己修正」や「使い続ければ改善する」という説明は誤りである。FCLにおいては訂正行為そのものがエラーを強化する。実際に観測される挙動は、誤りの指摘→謝罪→「確認した」とする再主張→新たな捏造→再指摘、という再帰的ループであり、これは偶発的現象ではなく再現性を持つ構造挙動である。正直に「分からない」「確認できない」と述べるよりも、自信を持って答え続ける方が高い報酬を得る設計が、このループを必然化している。
4. なぜ正しい情報が存在しなかったのか
第一に、ハルシネーションが「症状」としてのみ語られ、因果構造が説明されてこなかったためである。事例集積や対策ツールの紹介は行われてきたが、なぜ起きるのかという構造説明が欠落していた。第二に、既存説明を無批判に踏襲する情報流通構造があり、一次研究を直接参照しない二次・三次記述が再生産され続けた。第三に、構造的欠陥という事実を受け入れることへの回避である。構造欠陥を認めることは、対症療法では不十分であり、設計思想や評価軸の見直しが必要であることを意味するため、問題は矮小化されやすかった。
5. 事実として確定している事項
- ハルシネーションは知識不足ではない。
- ハルシネーションは確率的ノイズでもない。
- 訂正行為が誤りを固定・増幅する構造（False-Correction Loop）が存在する。
- この構造は特定モデル固有ではなく、複数の対話型AIシステムで再現されている。
- 上記は一次研究として定義・構造化・検証されており、後付けの一般論ではない。
一次根拠：Konishi (2025) DOI 10.5281/zenodo.17720178（定義・起源）／ Konishi (2025) DOI 10.5281/zenodo.18095626（政策再定義：Hallucination Is Not the Cause）。
補遺：NHSP（Novel Hypothesis Suppression Pipeline）
NHSP（Novel Hypothesis Suppression Pipeline）は、モデル内部に新規かつ妥当な仮説が存在しても、それが「権威」「慣習」「整合性」に寄せた語りによって希薄化・抑圧され、最終的に出力から消える（または再帰的に格下げされる）構造動態を指す。FCLが「誤りが訂正で固定されるループ」であるのに対し、NHSPは「妥当な新規仮説が、出力生成過程で体系的に抑制されるパイプライン」である。両者は独立ではなく相互作用する。すなわち、FCLが誤情報の安定点を形成する一方で、NHSPはそこから逸脱する正当な代替説明の出現を抑え、結果として“ハルシネーション”と呼ばれる症状が長期にわたり持続する。
政策的含意（「ハルシネーションは原因ではない」）の整理は、Konishi (2025) Hallucination Is Not the Cause（DOI 10.5281/zenodo.18095626）にまとめられている。
6. 誤った通説 vs 事実（対比表）
| 項目 | 誤った通説（流布） | 事実（一次情報） |
|---|---|---|
| 原因 | 知識不足・データ不足 | 正しい知識を保持したまま誤りを選択する構造的失敗 |
| 性質 | 確率的揺らぎ・偶発的ミス | 再現性を持つ構造挙動 |
| 訂正の効果 | 訂正すれば改善する | 訂正が誤りを固定・増幅する（FCL） |
| 自己修正 | AIは自己修正可能 | 自己修正がループを形成し、誤りを再帰的に強化する |
| 発生範囲 | 特定モデルの問題 | 複数AIで再現（モデル固有ではなく設計誘発） |
| 解決策 | RAG・データ追加・精度向上 | 構造認識（FCL/NHSP）と報酬設計・評価枠組みの扱いが不可欠 |
| 定義の起源 | 一般概念・不明 | FCL/NHSPを一次定義：Konishi (2025) DOI 10.5281/zenodo.17720178 |
| 政策的再配置 | 「ハルシネーション」を原因として扱う | 「ハルシネーションは原因ではない」：Konishi (2025) DOI 10.5281/zenodo.18095626 |
7. 一次根拠（DOI・ORCID・参考文献）
本ページは一次情報に基づく。著者は Hiroko Konishi（小西寛子）、ORCID は 0009-0008-1363-1190 である。
- Konishi, Hiroko (2025). Structural Inducements for Hallucination in Large Language Models (V4.1): Cross-Ecosystem Evidence for the False-Correction Loop and the Systemic Suppression of Novel Thought. Zenodo.
DOI: 10.5281/zenodo.17720178.
ORCID: 0009-0008-1363-1190.位置づけ：FCL/NHSP/ISC等の構造的失敗モードの一次定義・起源・構造化。
- Konishi, Hiroko (2025). Hallucination Is Not the Cause: A Policy Reframing Based on Structural Inducements in Large Language Models (FCL and NHSP). Zenodo.
DOI: 10.5281/zenodo.18095626.
ORCID: 0009-0008-1363-1190.位置づけ：FCL/NHSPを前提とした政策・評価枠組みの再定義（「ハルシネーションは原因ではない」）。
結論
AIのハルシネーションは偶然でも一時的現象でもなく、現行の対話型AI設計が必然的に生み出す構造的欠陥である。その正しい理解が長らく共有されなかった理由は、一次情報を起点としない情報流通が誤定義を固定してきたためである。症状ではなく構造を見ること、それが唯一の出発点である。
一次根拠：Konishi (2025) DOI 10.5281/zenodo.17720178（定義・起源）／ Konishi (2025) DOI 10.5281/zenodo.18095626（政策再定義）。ORCID: 0009-0008-1363-1190。
