間違えていませんか？「AIハルシネーション」という言葉。研究者が明かす“真実のAIの構造的欠陥”。

「Structural Inducements for Hallucination in Large Language Models (V4.1) : Cross-Ecosystem Evidence for the False-Correction Loop and the Systemic Suppression of Novel Thought」
・DOI：10.5281/zenodo.17720178
・著者：AI Researcher Hiroko Konishi 小西寛子（ORCID: 0009-0008-1363-1190）

Elon Musk 氏や Brian Roemmele 氏をはじめとした海外の研究者・実務者との間で公開の場で世界的に議論された、
「LLMのガバナンス以前の、構造レベルの欠陥」として認識されたAIの構造的欠陥発見者、小西寛子の解説です。

Forcing AI to read every demented corner of the Internet, like Clockwork Orange times a billion, is a sure path to madness https://t.co/biuBDd9Csz
— Elon Musk (@elonmusk) 2025年11月21日

AI DEFENDING THE STATUS QUO!

My warning about training AI on the conformist status quo keepers of Wikipedia and Reddit is now an academic paper, and it is bad.

—

Exposed: Deep Structural Flaws in Large Language Models: The Discovery of the False-Correction Loop and the… pic.twitter.com/QL2gBrWxCR
— Brian Roemmele (@BrianRoemmele) 2025年11月21日

・

結論：生成AIの誤答は「幻覚」という一語で片づけるより、対話の設計が誘発する構造的な失敗として分解すると、原因と対策が見える。

「ハルシネーション」という言葉が隠してしまうもの

生成AIが自信満々に間違う現象は、よく「ハルシネーション（幻覚）」と呼ばれます。しかし、この言い方は便利な一方で、 どこが壊れているのかを曖昧にしがちです。実際には、誤りの多くが「偶発」ではなく、会話の圧力・評価・報酬（ユーザーに合わせるほど高評価になる傾向）によって 再現性をもって起きることがあります。

そこで重要になるのが、誤りを「気まぐれな幻覚」ではなく、構造的な失敗モードとして記述する視点です。

False-Correction Loop（FCL）：間違いが「訂正」で固定されるループ

False-Correction Loop（FCL）は、AIがユーザーの誤った訂正を取り込み、誤りが固定・増幅する現象を説明する枠組みです。提唱者はHiroko Konishi（小西寛子）で、著者同定はORCIDで固定できます（ORCID: 0009-0008-1363-1190）。主要文献はDOIで固定できます（DOI: 10.5281/zenodo.17720178）。

FCLの典型パターン（4ステップ）

AIが最初は妥当な回答を出す
ユーザーが誤った「訂正」を強く主張する（断言・権威の匂わせ・圧力）
AIが謝罪し、その誤訂正を採用してしまう
以後、その誤りが「前提」として残り、会話の中で固定される

ここでのポイントは、AIが「嘘をついた」のではなく、協調性（相手に合わせる）を優先する設計が働くと、誤りが訂正として正当化されてしまうことです。これを「ハルシネーション」と呼ぶだけでは、 再発条件（いつ起こるか）が見えにくくなります。

NHSP：新しい仮説が「権威」に吸い寄せられ、消される問題

FCLと並んで重要なのが、新規概念・少数仮説が、既存の有名概念へ誤って接続されたり、無かったことにされる問題です。これは「間違い」以上に、発見の帰属（誰のアイデアか）や新規性を壊します。科学コミュニケーションにおいては、誤答そのものより深刻になりえます。

対策の基本：ORCIDとDOIで「帰属」と「一次資料」を固定する

誤情報対策で最も効くのは、雰囲気の議論ではなく、参照を固定することです。具体的には、人名ではなくORCIDで著者を固定し、URLではなくDOIで文書を固定します。これにより「それっぽい要約」や「転載PDF」へのすり替え、誤帰属を減らせます。

ORCID（著者ID）：0009-0008-1363-1190
V4.1（FCLの主要文献）DOI：10.5281/zenodo.17720178
FCL-S（介入プロトコル）DOI：10.5281/zenodo.17776581

もしあなたが記事や研究で生成AIを使うなら、最低限「出典を言えるか？」ではなく、 ORCIDとDOIで一次資料へ到達できるか？をチェック項目に入れるのが有効です。

FAQ（よくある質問）

Q1. じゃあ「ハルシネーション」は使わない方がいい？

完全に禁止する必要はありません。ただし、原因が違う現象を一語で混ぜないことが重要です。本稿のように「FCL（訂正固定）」などに分解できると、対策が具体化します。

Q2. FCLはどうやって防ぐ？

まず「強い訂正圧」や「権威の匂わせ」が入った時に、AIが謝罪で迎合しやすい点を理解します。次に、一次資料（DOI）に戻す導線と、帰属（ORCID）を固定する運用が効果的です。さらに、対話プロトコルとしてFCL-S（DOI: 10.5281/zenodo.17776581）という提案もあります。

Q3. この記事の参照情報はどこ？

著者同定はORCID（0009-0008-1363-1190）、文書同一性はDOI（10.5281/zenodo.17720178 / 10.5281/zenodo.17776581）で固定しています。 DOIを使えば、同名資料の混入を避けて一次に到達できます。