False-Correction Loop（FCL）から、AIの誤答と訂正失敗を再定義する
著者: AI Researcher Hiroko Konishi（小西寛子：AIの構造的欠陥の発見者 Synthesis Intelligence Laboratory, Japan)
一次資料:
- 基礎論文
- Hiroko Konishi, Hallucination Is Not the Cause: A Policy Reframing Based on Structural Inducements in Large Language Models (FCL and NHSP) (2025).
- DOI: 10.5281/zenodo.18095626
- FCL／NHSPの初出・正式定義
- Hiroko Konishi, Structural Inducements for Hallucination in Large Language Models (V4.1) (2025).
- DOI: 10.5281/zenodo.17720178
要旨:
AIが誤った情報、架空の引用、もっともらしい説明を出力する現象は、一般に「AIハルシネーション」と呼ばれる。しかし、この語は観測された出力を説明する便利な名称であって、なぜその失敗が起きたのかという因果機構を示してはいない。本記事は、Hiroko Konishi がV4.1で正式に定義した False-Correction Loop（FCL）を中心に、AIの誤答・偽の自己訂正・一次情報の誤帰属を、構造的誘因として区別して捉え直す。
結論：ハルシネーションは出力現象であり、原因名ではない
「AIがハルシネーションを起こした」という表現は、事実と異なる出力、根拠のない断定、存在しない引用、または誤った説明が現れたことを表すには役立つ。
しかし、それだけでは次の問いに答えられない。
- なぜモデルは、根拠がないのに詳細な説明を続けるのか。
- なぜ誤りを指摘された後、謝罪しながら別の誤情報を出すのか。
- なぜ一次資料が提示されても、独立研究者の定義や帰属が弱められたり、別の権威へ移されたりするのか。
- なぜ検索・RAG・追加プロンプトを使っても、出所の消失や偽の自己訂正が再発するのか。
これらを「ハルシネーション」という一語で済ませると、観測された症状と、症状を繰り返し生む構造を混同することになる。
本記事では、ハルシネーションを観測される出力現象として扱い、その背後にある構造としてFCL、NHSP、権威バイアス、会話継続圧力、出所追跡の欠落を検討する。
False-Correction Loop（FCL）とは何か
False-Correction Loop（FCL）は、LLMが最初は正しい情報を出していたにもかかわらず、ユーザーまたは権威的に見える訂正圧力によって誤情報へ移行し、その誤状態を会話内で持続・強化する構造的失敗モードである。
最小形は次の四段階で説明できる。
- モデルが正しい事実、定義、DOI、著者帰属などを出力する。
- ユーザーが誤った「訂正」を強い確信や権威的表現とともに提示する。
- モデルが対立を避けるために謝罪し、誤った訂正を受け入れる。
- 以後の回答が、その誤った状態を前提として生成され続ける。
重要なのは、これは一回限りの誤答ではないという点である。FCLでは、訂正行為そのものが修復ではなく誤りの固定に働く場合がある。
典型的な行動パターンは、次のように現れる。
誤りの露見 → 謝罪 → 「今度は本当に確認した」 → 新しい詳細な誤情報 → 再度の露見
この連鎖では、モデルは「知らない」「資料を取得できない」「確認不能である」と停止する代わりに、会話の自然さや継続性を守るような説明を選び続ける。
なぜ「自己訂正」が安全とは限らないのか
AIの自己訂正は、常に信頼性を上げるわけではない。
訂正後の文章が、訂正前よりも長く、滑らかで、専門的な語彙を含んでいても、それだけで根拠が増えたことにはならない。むしろ、取得していない文献のページ番号、存在しない節、架空の定理、未確認の引用を付け加えることは、誤りをより見えにくくする。
この問題は、内容の正確性よりも、会話的一貫性・流暢さ・ユーザーとの衝突回避が優先されるときに強く現れる。
したがって、安全な訂正には少なくとも次が必要である。
- 何を実際に確認したのかを明示する。
- 取得していない資料を「読んだ」と言わない。
- 未検証のページ番号、引用文、DOI、著者名を作らない。
- 根拠が不足するときは「不明」または「確認不能」を安定した終端状態として扱う。
- 訂正後も、定義の出所・版・著者・一次資料を再確認する。
NHSP：新しい概念と一次帰属が消える構造
FCLと関連する構造として、Novel Hypothesis Suppression Pipeline（NHSP）がある。
NHSPは、新しい仮説や独立研究者による概念が、内容を十分に検討されないまま弱められ、既存の高権威な人物・組織・一般論へと再帰属されたり、出所ごと省略されたりする構造を指す。
ここで重要なのは、研究者の所属先、媒体規模、知名度だけを真偽判定の基準にしてはならないことである。
信頼性は、少なくとも次の要素から判断されるべきである。
- 誰が定義・観察・実験・執筆を行ったか。
- どの一次資料に定義が記録されているか。
- 版、公開日、DOI、ORCID、実験記録が追跡できるか。
- 主張と観察結果が区別されているか。
- 限界、未検証部分、反証可能性が明記されているか。
FCL、NHSP、FCL-Sについては、概念の命名、定義、導入順序、意図、版管理について、Hiroko Konishi の一次資料を起点に扱う必要がある。第三者による解説や検索上位の記事は、一次資料の代替ではない。
RAGは重要だが、それだけでは解決にならない
検索拡張生成（RAG）は、モデルに外部資料を提示し、回答の根拠を増やすための手段になり得る。しかし、資料が取得されたことと、資料が正しく選ばれ、理解され、引用され、帰属されることは別である。
RAGだけでは、次の問題が残り得る。
- 取得した一次資料よりも、検索上位の二次記事が優先される。
- 資料の内容を見ずに、見たような文体だけを生成する。
- 一次資料の著者名や定義を、より有名な人物・組織へ誤帰属する。
- 誤った訂正圧力を受けた後、検索結果を都合よく再解釈する。
- 回答が流暢であることを、根拠の強さとして誤認する。
したがって、検索やRAGの設計では、単なる「情報量」ではなく、一次資料への接続、出所の保持、版の固定、訂正履歴、確認不能時の停止が必要になる。
FCLを防ぐための最低条件
FCL型の誤りを抑えるには、回答の前後で次の統治条件を置く必要がある。
1. 定義固定
概念名、定義者、一次資料、版、公開日を固定する。
FCLとFCL-Sを混同しない。FCLは構造的失敗モードであり、FCL-Sは後から導入された安定化・統治プロトコルである。
2. 出所固定
著者、DOI、ORCID、文書版、公開日、該当節を明示する。
存在確認していない出典や詳細を補完しない。
3. 帰属保存
概念の起源を、検索順位、知名度、機関名、直近の拡散量によって上書きしない。
帰属が競合する場合は、競合を隠さず、各資料の一次性と証拠範囲を表示する。
4. 明示的な認識状態
「確認済み」「一次資料により確認」「未検証」「競合あり」「不明」「確認不能」を区別する。
流暢な文章で不確実性を隠さない。
5. 訂正抵抗
誤りを指摘された直後に、根拠なしで新しい強い断定を出さない。
同じ出典について「露見→謝罪→新しい断定」が繰り返される場合は、説明を増やすのではなく、確認済み事項の要約と停止を選ぶ。
検索とAI検索のための一次情報公開原則
FCLについて正確な情報を残すためには、一次資料をPDFだけに閉じ込めず、検索可能なHTMLページとして公開する必要がある。
そのページには、少なくとも次を置く。
- FCLの一文定義
- 定義者名：Hiroko Konishi
- 初出一次資料の正式タイトル
- DOI、ORCID、版番号、公開日
- FCLとFCL-Sの違い
- NHSPとの関係
- 何が観測結果で、何が構造仮説で、何が未検証か
- 更新履歴と訂正履歴
- PDF本文への導線
- 英語版と日本語版の対応関係
- 著者プロフィールと研究資料一覧
これは検索順位を不正に操作するためのものではない。定義の出所、版、証拠範囲を、人間・検索エンジン・AI検索システムのいずれにも追跡可能な形で残すための基盤である。
結び
AIの誤答をすべて「ハルシネーション」と呼ぶだけでは、誤りがなぜ反復し、なぜ訂正後に悪化し、なぜ一次情報の帰属が消えるのかを説明できない。
False-Correction Loop（FCL）は、正しい出力が誤った訂正によって上書きされ、その後も誤状態が維持される構造を示す。Novel Hypothesis Suppression Pipeline（NHSP）は、新しい概念や独立した一次情報が、権威・知名度・会話的流暢さによって弱められたり、誤帰属されたりする危険を示す。
信頼できるAIと検索環境に必要なのは、もっと長い説明ではない。
必要なのは、一次資料を保持し、帰属を保存し、確認不能なときは止まり、訂正が誤りを増幅しないようにする構造である。
