生成AIの学習データをめぐる知的財産権保護について、政府が事業者向けの基本原則案をまとめると報じられました。報道によれば、AI事業者に対し、学習データの収集方法や種類の公開、権利者からの照会への回答、利用者への情報開示を求める一方、罰則は設けず、法的拘束力のない努力義務にとどめるという。
一見すると、これは前進に見える。海外企業にも適用する。学習データの概要を公開させる。権利者への開示も求める。そう聞けば、ようやく生成AIと著作権の問題に政府が踏み込んだように感じるかもしれません。
しかし、内閣府が公表していた「AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード（仮称）（案）」を読むと、筆者のようなAI研究者には深刻な問題が見えてくる。この案は、透明性を制度化しているように見えて、実際には「企業の自己申告を透明性と呼び換える」構造になっているのです。
本稿では、報道内容と、内閣府が公表しているプリンシプル・コード案をもとに、政府案の問題点をしっかり検証します。この中で、正式な最終案の文言が公表されていない部分については、断定ではなく、現時点で確認できる案に基づく批判として読む必要があります。
内閣府の案は、AI技術の進歩促進と知的財産権保護の両立を目的とし、AI開発者とAI提供者を対象にするとしています。ここでいうAI開発者とは、AIモデルやAIシステムを構築し、その全部または一部を公衆に提供する者である。AI提供者とは、AIシステムをアプリケーションや製品、サービスなどに組み込んで公衆に提供する者です。
また、日本国内に本店や主たる事務所を持たない海外事業者であっても、AIシステムやAIサービスが日本に向けて提供されている場合には、この文書の適用対象になるとされています。ここまでは重要な一歩です。
しかし、問題はその先です。案は、AI事業者に対して営業秘密を含む情報の強制開示を求めるものではありません。採用されているのは「コンプライ・オア・エクスプレイン」という方式です。これは、原則を実施するか、実施しない場合にはその理由を説明する、という考え方です。
さらに、内閣府知的財産戦略推進事務局は、届け出た事業者の一覧やリンクを公表するとされていますが、届出内容について審査は行わず、第三者からの照会にも回答しないと明記されています。
これは、権利者保護の制度としては決定的に弱いです。政府は「見える化」をすると言いながら、見えている内容が正しいかどうかは見ない。公表されるのは監査済みの情報ではなく、企業が自分で作成した説明文とリンクです。これでは、透明性ではなく、透明性の演出にとどまるものです。
本稿で使う三つの概念
さて、ここからは、AI研究者として私が研究してきた三つの概念を使って、この政府案を検証します。AIの専門用語なので、先に簡単に説明しておきたいと思います。
FCLとは、False-Correction Loop、読みは「フォールス・コレクション・ループ」です。日本語では「偽訂正ループ」と呼べます。これは、AIが最初は正しい答えを出していたのに、ユーザーや権威ある相手から誤った訂正を受けると、それに従ってしまい、その後も誤った内容を正しいものとして答え続ける構造的失敗を指します。単なる一回の間違いではなく、誤った訂正が固定され、会話の中で増幅されていく点が重要です。＊2025年に筆者が発見したAIの構造的欠陥で、イーロンマスクやブライアン・ロミュエール氏らが筆者の論文を元に激しい議論をしました。
続いてFCL-Sとは、False-Correction Loop Stabilizer、読みは「フォールス・コレクション・ループ・スタビライザー」です。日本語では「偽訂正ループ安定化プロトコル」または「偽訂正ループ防止のための推論時統治プロトコル」と説明できます。簡単に言えば、AIが不確かなことを無理に説明し続けたり、誤った訂正に合わせたりしないように、検証できない場合は「不明」として止まるための仕組みです。FCL-Sでは、正答率を上げることだけでなく、いつ推論や説明を止めるべきか、いつ「不明」を安定した終点として扱うべきかが重視されます。
最後にPIBとは、Premise Integrity Blindness、読みは「プレミス・インテグリティ・ブラインドネス」であす。日本語では「前提完全性の盲点」または「前提完全性盲目」と説明できます。これは、AIがある前提の中では筋の通った推論をしているのに、その前提自体が現実に正しいかどうかを確認しないまま、実際の設計、判断、政策、運用へ進んでしまう失敗を指します。つまり、論理の中身だけを見ると正しそうでも、出発点の前提が間違っていれば、結論全体が危険になるというものです。
ちょっと難しいですが、この三つを日常語に言い換えるなら、次のようになります。FCLは、「誤った訂正が固定されるループ」で、FCL-Sは、「検証できないときに、不明として止まる仕組み」です。そして、PIBは、「前提を確認しないまま結論へ進む失敗」です。
本稿で問題にするのは、政府案がまさにこの「前提を確認しないまま結論へ進む失敗」を含んでいる点です。「企業が説明する」「概要を公開する」「市場が評価する」という前提だけで制度を組み立てているが、その説明が本当に検証可能なのか、権利者が実際に救済へたどり着けるのか、政府や第三者が内容を監査するのかという前提確認が弱いです。だからこそ、この案は、筆者からすると、「透明性の制度」ではなく、「透明性があるように見える制度」になりかねないものになっているわけです。
説明は証拠ではない
FCL-S、つまり「検証できないときに、不明として止まる仕組み」の観点から見ると、AIの信頼性は単なる回答精度の問題ではないです。重要なのは、いつ説明を止めるか、いつ「不明」として停止するかです。これは、検証できないものは、検証できないと明示しなければならないものです。「確認できない」と「存在しない」は違うものです。また、「説明した」と「証拠を示した」も違うものです。
ところが政府案は、この区別が弱いです。企業が「営業秘密だから出せない」「確認にコストがかかる」「現時点では体制がない」と説明すれば、それが一定の説明責任として扱われ得る。だが、説明は証拠ではないものであり、説明が流暢であることと、事実が検証可能であることはまったく別であると思います。
そしてここで、FCL、つまり「誤った訂正が固定されるループ」の構造が重要になります。AIの場合、間違いを指摘された後に、AIが「確認しました」と言いながら新しい誤情報を出し続けることがあるのです。これは、説明が増えるほど正しそうに見えるが、実際には誤りが固定されていく危険な構造なんです。
制度設計でも同じ危険があります。事業者が「説明した」という形式だけが積み重なり、実際の検証が行われないまま、制度全体が「対応済み」という状態に固定される。これは、制度版の偽訂正ループであるといえるでしょう。
政府案にも同じ危険がある。「企業が概要を開示する」「権利者から求められれば一定条件で回答する」「市場原理で評価される」という前提が置かれています。しかし、その前提自体が十分に検証されていない。企業の開示が本当に十分か。権利者が実際に照会できるのか。回答が正確か。市場がその正確性を評価できるのか。この前提確認がないまま、制度として「安全・安心な利用環境」を実現する方向へ進んでいます。これは、PIB、つまり「前提を確認しないまま結論へ進む失敗」に近い構造です。
原則1：「概要開示」だけでは権利者は確認できない
さて、政府案の原則1では、AI事業者に対して、使用モデル、学習データ、クローラ、アカウンタビリティ、知財保護措置などの概要を公開するよう求めています。ここでいう「クローラ」とは、インターネット上のデータを自動的に収集するプログラムのことです。検索エンジンやAI学習データ収集で使われます。
原則1で挙げられている開示項目には、使用モデルの名称やバージョン、トレーニングプロセス、学習や検証に用いられたデータの種類、ウェブクロール、第三者から取得した非公開データセット、公開データセット、合成データの利用有無などが含まれます。
これは一見すると詳しい感じがします。しかし、実際の権利者から見ると、まだ足りないです。たとえば、ある漫画家、写真家、声優、作家、研究者が、自分の作品や文章や音声がAI学習に使われたのではないかと疑ったとする。そのとき、「テキスト、画像、音声、動画を含むデータを使用しました」と書かれていても、自分の作品が含まれたかどうかは分からないのです。
必要なのは、単なるデータ種類ではないです。データ取得期間、クローラの名称や識別子、取得元、第三者データセット名、ライセンス根拠、除外要求の反映状況、モデルバージョンとの対応関係です。特に重要なのは、どのモデルのどのバージョンに、どの時期のどのデータが関係しているのかという対応関係です。これがなければ、権利者は侵害の可能性を検証できない。「概要」は出ている。しかし、検証に必要な情報は足りない。この状態で透明性があると言うのは無理があります。
原則2：権利者に訴訟準備を求めるのは順序が逆
原則2では、権利者などが、訴訟、調停、ADRその他の法的手続を現に行っている、または準備している場合に、詳細開示を求めることができるとされています。このADRとは、Alternative Dispute Resolution、読みは「オルタナティブ・ディスピュート・レゾリューション」です。日本語では「裁判外紛争解決手続」と呼ばれるものです。裁判ではなく、調停や仲裁などによって紛争を解決する手続きのことです。
しかし、ここには大きな問題があります。権利者は、自分の作品が学習されたかどうかを知るために開示を求める。ところが案は、開示を受ける前に、法的手続の準備や理由の特定を求めている。
これは順序が逆です。権利者は、証拠を得るために開示を求める。ところが、開示を受ける前に「法的手続を準備している理由」を示せと言われるのです。小規模クリエイター、個人作家、写真家、漫画家、声優、研究者が、訴訟準備なしに自分の作品の利用状況を確認する入口はどこにあるのかということです。
大企業や大手権利者団体なら、弁護士を使い、法的手続を準備し、必要なURLや証拠を整理して請求できるかもしれない。しかし、個人クリエイターにそれを求めるのは重すぎます。制度が本当に権利者保護を目的とするなら、訴訟準備を前提にしない低負担の照会窓口が必要です。
「容易に確認可能な情報」という抜け穴
原則2では、開示請求にあたって、URL等の「AI事業者において容易にアクセス及び確認可能な情報」を示すことが条件になっている。ここも大きな抜け穴になります。
事業者が「古いクロールログは残っていない」「第三者データセットなので分からない」「URLが正規化されていない」「ミラーサイト経由なので確認不能」「確認には過大なコストがかかる」と説明した場合、実際には使っていても、確認不能として処理されるおそれがあります。
制度上、最も重要なのは、「含まれていない」と「確認できない」を厳格に分けることです。確認不能は不存在ではない。「確認できない」は、「入っていない」という意味ではない。にもかかわらず、制度がこの二つを曖昧に扱えば、権利者は救済の入口を失います。
FCL-S、つまり「不明として止まる仕組み」の観点から見れば、確認不能な場合には、事業者は「含まれていない」と言ってはならない。この場合、「確認不能」と明示し、その理由、欠落しているログ、再調査可能性、保存義務違反の有無を記録する必要があります。
原則3：利用者への開示も、回答期限がない
原則3では、生成AIシステムやサービスを使ってコンテンツを生成した利用者が、自分の生成物と同一または類似するコンテンツが掲載されたURLを示した場合、そのURLのドメインが学習対象に含まれているかなどについて開示を求めることができるとされています。
ここでいうドメインとは、ウェブサイトの住所の中心部分 hirokokonishi.comのようなものです。たとえば、ある画像が特定のサイトに掲載されていた場合、そのサイト全体がAI学習のクロール対象に含まれていたかどうかを確認する、という発想です。
しかし、これも十分ではありません。政府案では、開示する時期について特定のルールを定めていない。合理的期間内に速やかな開示を行うための努力を期待するとされているにとどまります。
AI生成物は短時間で拡散します。権利侵害の被害も短期間で拡大します。回答期限のない開示制度は、救済制度として不十分です。「確認中です」「社内で検討しています」「技術的調査に時間がかかっています」と言われ続ければ、権利者や利用者は時間だけを失ってしまいます。
必要なのは、回答期限である。たとえば、一次回答、詳細回答、遅延理由、証拠保全措置を段階化するべきです。期限のない努力義務は、救済制度としてとても弱いものです。
手数料・回数制限は、個人権利者をさらに不利にする
原則2と原則3では、手数料や回数制限を設けることも想定されています。たとえば、1回あたりの開示対象事項やURL数を5つまで、同一人からの照会を1週間あたり1回までに制限するなどの例が挙げられています。もちろん、濫用防止は必要である。無制限の照会を認めれば、事業者側の負担が過大になる可能性はあります。
しかし、回数制限は、作品数の多い権利者や、継続的に被害を受けるクリエイターほど不利にするものです。漫画家、写真家、イラストレーター、音楽家、声優、ライター、研究者は、複数の作品やデータを持っています。1週間に1回、5件までという制限が実務上の基準になれば、確認が終わるまでに膨大な時間がかかります。
濫用防止と、権利者の実効的救済は分けて設計すべきであると思います。少なくとも、個人クリエイター向けには、低額または無料の照会枠、代表的な作品群をまとめて確認する仕組み、緊急性がある場合の迅速手続が必要です。
営業秘密を理由に、核心情報が隠れる危険
営業秘密の扱いもとても不十分です。政府案は、AI事業者に帰属する情報、営業秘密を含む情報の強制開示を求めるものではないとしています。また、開示が求められた学習データ等が営業秘密に該当すると考えられる場合でも、まずは真摯に検討、協議することが期待されるとしています。
しかし、「期待」では足りません。営業秘密を保護する必要があることは当然です。企業の技術情報や契約情報をすべて一般公開すべきだという話ではありません。問題は、営業秘密を理由に、学習データの出所、契約関係、責任主体、侵害調査の核心がすべて隠れてしまうことです。
一般公開できない情報でも、守秘義務付きの第三者監査人、裁判所、ADR機関、専門家には検証可能にする仕組みが必要です。「営業秘密だから出せない」で終わる制度は、透明性制度ではありません。透明性と営業秘密保護を両立させるには、限定開示と第三者監査の制度が必要です。
オープンソース例外は広すぎる
政府案には、オープンソースソフトウェアを用いてAIシステムを開発または提供している事業者について、開示や説明が困難な事項がある場合、オープンソースソフトウェアを用いている事実やライセンスの詳細を明らかにすることで、当該事項の開示に代えられるという例外があります。
オープンソースソフトウェアとは、ソースコードが公開され、一定の条件のもとで利用・改変・配布できるソフトウェアのことです。しかし、現代の生成AIサービスは単純ではありません。基盤モデル、追加学習、RAG、外部API、合成データ、プロンプトテンプレート、商用データセットなどが複雑に組み合わされるものです。
RAGとは、Retrieval-Augmented Generation、読みは「リトリーバル・オーグメンテッド・ジェネレーション」です。日本語では「検索拡張生成」と呼ばれることが多いです。簡単に言えば、外部資料を検索・参照してAI回答を補強する仕組みです。
「オープンソースを使っている」と説明するだけでは、どのデータが、どの段階で、どのモデルに使われたのかは分からない。基盤モデルの問題なのか、追加学習の問題なのか、RAGで参照した外部データの問題なのか、商用データセットの問題なのかが分からなければ、責任の所在も分かりません。
したがって、オープンソース利用は開示不能の一般的な免除理由にしてはいけません。基盤モデル、追加学習、RAG、外部API、合成データ、第三者データセットを分けて開示させる必要があります。
C2PAや電子透かしは、学習データ問題の直接解決ではない
政府案は、電子透かしやC2PAなど、コンテンツの出所や来歴を証明する技術を可能な限り実装することを挙げています。C2PAとは、Coalition for Content Provenance and Authenticity、読みは「シー・ツー・ピー・エー」であす。日本語では「コンテンツの来歴や真正性を記録する技術規格」と説明できます。画像や動画などについて、誰が作ったか、どのように加工されたか、といった来歴情報を記録するための仕組みです。
電子透かしやC2PAは重要です。しかし、これらは主に出力物や来歴表示の問題です。既存作品が無断で学習に使われたか。学習データ内でどう扱われたか。モデルがどの程度、元作品を再現可能な状態にしているか。これらは、電子透かしやC2PAだけでは直接解決できません。
出力側の来歴証明と、入力側の権利処理を混同してはいけません。生成物に「これはAI生成です」と表示することは重要です。しかし、それによって「何を学習したのか」「誰の作品を使ったのか」「権利者の除外要求が反映されたのか」が分かるわけではありません。
市場原理による評価には限界がある
政府案は、多様なコンプライ・オア・エクスプレインの蓄積により、優れた取組を行っている事業者が市場原理に基づき評価されることを期待しています。
しかし、市場が評価できるのは、比較可能で検証可能な情報がある場合だけです。各社が異なる粒度で、政府審査も第三者監査もない自己申告を出すだけなら、市場は正確性を評価できません。むしろ、詳細に開示した企業ほど批判や訴訟リスクを負い、曖昧に説明した企業ほど目立たないという逆転が起きる可能性があります。
市場原理に任せるなら、少なくとも比較可能な標準様式、第三者監査、虚偽説明や重大な過少説明への不利益が必要です。透明性は、各企業の自主的な広報努力ではなく、検証可能な共通ルールによって成り立つものです。
著作権法30条の4を、透明性不要の根拠にしてはならない
日本の著作権法には、著作物に表現された思想や感情を享受することを目的としない利用について、一定の範囲で著作物を利用できる規定があります。AI学習のために著作物を学習用データとして収集・利用する行為は、この文脈で説明されることが多いです。
しかし、仮に学習段階の利用が一定範囲で適法になり得るとしても、それは透明性、救済、帰属、補償の制度設計を不要にするものではありません。「原則として学習に使える場合がある」という話と、「どの作品が使われたかを権利者が確認できなくてよい」という話は全く別です。
また、生成AIの出力が既存作品に類似する場合、依拠性や類似性、利用目的、出力の態様など、別の問題が生じます。学習段階の議論だけで、生成・利用段階の権利侵害リスクまで消えるわけではありません。したがって、著作権法30条の4を、透明性不要の根拠にしてはいけません。
必要なのは、説明ではなく検証可能性である
この政府案の本質的な問題は、罰則がないことだけではないです。より深刻なのは、検証不能な前提を制度上の安心へ変換してしまう点です。「企業が説明するから大丈夫」「概要を公開するから透明性がある」「市場が評価するから不十分な企業は淘汰される」
こうした言葉は、一見すると筋が通っています。しかし、それぞれの前提が確認されていません。企業の説明は本当に検証可能なのか。概要開示だけで権利者は自分の作品の利用状況を確認できるのか。市場は、審査されていない自己申告の正確性を評価できるのか。営業秘密や確認不能を理由に、核心情報が隠れないのか。回答期限のない開示で、権利者は救済にたどり着けるのか。
この前提確認がないまま制度を進めることこそ、PIB、つまり「前提を確認しないまま結論へ進む失敗」です。生成AIの知財問題で必要なのは、企業の説明を信じる制度ではありません。企業の説明を検証できる制度です。
政府案に必要な修正
政府案には、少なくとも次の修正が必要です。
1．「含まれていない」と「確認不能」を法的に分離すること。確認不能を不存在回答として扱わせてはならない。
2．回答期限を定めること。一次回答、詳細回答、遅延理由、証拠保全措置を段階化すべきである。
3．第三者監査制度を設けること。営業秘密は一般公開しなくてもよいが、守秘義務付き監査人や裁判所、ADR機関には検証可能にすべきである。
4．学習データ台帳を標準化すること。データ種別だけでなく、取得元、取得期間、クローラID、第三者データセット名、ライセンス根拠、除外・削除要求、モデルバージョンとの対応を必須にする必要がある。
5．虚偽説明や重大な過少説明への制裁を入れること。刑事罰でなくても、認証取消、政府調達からの排除、届出一覧での警告表示など、実効性ある措置が必要である。
6．小規模権利者向けの低負担照会窓口を作ること。訴訟準備を前提にしない確認制度がなければ、多くのクリエイターは入口で排除される。
7．RAG、追加学習、合成データ、第三者API、オープンソース基盤モデルを分けて開示させること。AIサービス全体を一つのブラックボックスとして扱ってはならない。
8．「不明」を不明として記録する制度を作ること。確認できない場合は、確認不能の理由、欠落しているログ、保存状況、再調査可能性を明示させるべきである。
結論：透明性とは、企業が「透明です」と言うことではない
何度も繰り返しますが、透明性とは、企業が「透明です」と言うことではありません。透明性とは、権利者が確認できること。第三者が監査できること。確認不能な場合に確認不能と記録されること。そして、虚偽や過少説明に実効的な不利益があることです。
この案のままでは、政府は権利者保護を進めたように見えるかもしれません。しかし実際には、AI事業者に「説明した」という免罪符を与え、権利者には「確認のための負担」だけを残す可能性があります。
いま問うべきことは単純です。AIの構造的欠陥の発見者、研究者として言うなれば、これは本当に透明性の制度なのか。それとも、透明性の演出なのか。政府が本気で知的財産を守るというなら、努力義務と自己申告だけでは足りない。必要なのは、検証可能性、第三者監査、回答期限、証拠保全、そして「確認不能」を「不存在」と偽装させない制度的境界であると思います。
AI時代の知財保護に必要なのは、企業により多く説明させることではありません。根拠がない説明を、根拠があるかのように扱わないことです。
資料・出典
- 読売新聞／Yahoo!ニュース掲載記事「生成AI学習データの公開や権利者への開示など要求、海外企業にも適用・罰則見送り…政府が知財保護案」（2026年8月18日配信、ユーザー提示本文）
- 内閣府 知的財産戦略推進事務局「AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード（仮称）（案）」。目的、対象、海外事業者への適用、コンプライ・オア・エクスプレイン、届出内容を審査しない点、原則1〜3、営業秘密、回答期限、手数料・回数制限、オープンソース例外等の確認に使用。
- e-Govパブリック・コメント「『生成AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード（仮称）（案）』に関する御意見の募集について」。公示日、募集期間、任意の意見募集であること、関連資料の確認に使用。
- 文化庁「AIと著作権について」。AIと著作権に関する考え方、著作権法30条の4等に関する基本的資料の確認に使用。
- 文化庁「著作権法の一部を改正する法律（平成30年法律第30号）について」。AI開発のための学習用データとして著作物を利用する行為と著作権法30条の4の説明確認に使用。
- Hiroko Konishi／小西寛子, “Structural Inducements for Hallucination in Large Language Models (V4.1): Cross-Ecosystem Evidence for the False-Correction Loop and the Systemic Suppression of Novel Thought,” Zenodo, 2025. DOI: 10.5281/zenodo.17720178.
FCL（False-Correction Loop／偽訂正ループ）の発見・形式的定義・構造モデル化、NHSP等の関連構造 - Hiroko Konishi／小西寛子, “False-Correction Loop Stabilizer (FCL-S): Dialog-Based Implementation of Scientific Truth and Attribution Integrity in Large Language Models,” 2025. DOI: 10.5281/zenodo.17776581.
FCL-Sを、再訓練なしの対話時・推論時の認識的安定化プロトコルとして導入した一次資料 DOI:10.5281/zenodo.17776581 - Hiroko Konishi／小西寛子, “Scaling-Induced Epistemic Failure Modes in Large Language Models and an Inference-Time Governance Protocol (FCL-S V5),” 2026. DOI: 10.5281/zenodo.18449007.
FCL-S V5、Unknownを安定した終端状態として扱う設計、推論・訂正・説明を止める境界、スケーリング後の誤り固定リスク DOI:10.5281/zenodo.18449007 - Hiroko Konishi／小西寛子, “Premise Integrity Blindness: The Discovery of a Structural Failure Mode in Large Language Models,” 2026. DOI: 10.5281/zenodo.18603669.
PIB（Premise Integrity Blindness／前提完全性の盲点）の発見・形式的定義、前提を再検証しないまま現実の設計・判断・運用へ進む構造的失敗 - Hiroko Konishi／小西寛子, “FCL-S Inference Kernel (MVP+): Inference-Time Stop/Attribution Governance for Non-Commitment under Missing Evidence (UST/SCB/AF),” 2026. DOI: 10.5281/zenodo.18661833.
UST（Unknown Stable Terminal）、SCB（Stop/Correction Boundary）、AF（Attribution Fixation）など、検証不能時に止まる統治設計
