――ブラックボックス推薦システムを「現象」から読む
YouTubeで動画が伸びないと、「タイトルが悪い」「サムネイルが弱い」「視聴維持率が低い」「そもそも内容に需要がない」と説明されることが多い。もちろん、それらは重要だ。しかしGoogleの検索AIなども外部検証しているAI研究者の私には、以前からもう一つ気になることがある。それは、「再生された結果」だけを見て、その前に存在する「どれだけ人の目の前に置かれたのか”という配分過程」をほとんど考えないことである。
YouTube自身の説明を読んでも、おすすめは単なる人気順ではない。視聴履歴、検索履歴、登録、高評価、低評価、「興味なし」のフィードバック、満足度調査など、多数のシグナルから個々の利用者への推薦を決めている。さらにニュース、政治、医療、科学などでは、話者やチャンネルの専門性・評判などを含めて「authoritative（権威のある）」と評価した動画をより推薦する一方、ポリシー違反には至らない「borderline content（境界線上のコンテンツ）」についても、目立つ推薦には高い基準を設定していると説明している。つまり、「YouTube上に存在すること」と「YouTubeによって広く流通させられること」は、そもそも同じ状態ではない。
ここで「シャドウバン」という言葉を使う必要はない。もっと機械的に考えればいい。動画には、公開される、推薦候補になる、順位付けされる、実際にインプレッションを与えられる、クリックされる、視聴される、その結果が次の推薦判断へ戻る、という複数の段階がある。Googleが公開したYouTube推薦システムの研究でも、推薦処理は大きくcandidate generation（候補生成）とranking（順位付け）の二段階として説明されている。 このどこかで配分が変われば、最終的な再生回数は大きく変わる。同じ10％のCTR（＊Click-Through Rateとは、Web広告や検索結果などの表示回数（インプレッション数）に対し、実際にクリックされた割合を示す「クリック率」のこと）でも100万回表示されれば10万再生だが、1000回しか表示されなければ100再生である。後者を見て「100回しか再生されなかった。したがって人気がなかった」と結論づければ、曝露量という重要な変数を落としている。
同じ動画でも「同じ扱い」とは限らない
興味深い裁判例がある。保守系教育団体Prager University（プラガー大学）がGoogleとYouTubeを訴えた Prager University v. Google LLC では、YouTubeが同団体の数十本の動画をRestricted Mode（制限モード）の対象とし、一部を収益化対象外としたことなどが争われた。第9巡回区控訴裁判所は2020年、YouTubeは私人が運営するprivate forum（プライベートフォーラム）であり、憲法修正第1条上のpublic forum（公開フォーラム）ではないとしてPragerU側の主張を退けた。一方、判決の事実関係には、YouTubeが利用規約に違反するコンテンツを削除するだけでなく、規約違反に達しない場合でも一定のコンテンツを制限する権限を留保していることや、Restricted Mode（制限モード）の分類に自動アルゴリズムと人間による審査が用いられることも記されている。
ここで重要なのは、PragerUの政治的差別の主張が司法認定されたということではない。むしろ逆で、訴え自体は退けられている。しかしAI研究者として興味深いのは、動画が「ある／ない」だけではなく、「残したまま扱いを変える」という中間状態が現実のプラットフォーム運用として存在することである。
外部からプラットフォームへの働きかけは「想像上の仕組み」ではない
さらに重要なのが、第三者からプラットフォームへの働きかけである。これも「そんなことがあるはずがない」と最初から仮定することは科学的ではない。YouTubeには、権利侵害や名誉毀損、その他の法的問題について当事者や代理人が申し立てる公式経路が存在し、裁判所命令についても審査する仕組みを公開している。 GoogleのTransparency Report（透明性レポート）を見ても、裁判所や政府機関がGoogleに対してコンテンツ削除やポリシー審査を求める制度的経路が存在し、筆者における法的手続経験を含め、日本についてもその記録が公開されている。
だから「プラットフォームの判断は、投稿者とアルゴリズムだけからなる完全に閉じた系である」と仮定することもできない。ただし、外部から申し立てる経路が存在することと、その第三者がプラットフォームの最終判断を自由に決定できることは当然ながら別問題である。
「政府の誰かが頼んだから制限された」は、ここから先が難しい
この問題を非常によく示しているのが、2024年の米連邦最高裁 Murthy v. Missouri である。この事件の最高裁判決には、COVID-19や選挙関連の情報をめぐり、ホワイトハウス、CDC、FBI、CISAなどの政府機関とFacebook、Twitter、YouTubeなどのプラットフォームとの間で実際に継続的な連絡があったことが記録されている。ホワイトハウス関係者がプラットフォームへ詳細な質問を行い、一部コンテンツの抑制やポリシー変更を求めた経緯も判決文に記されている。
しかし最高裁が重要視したのは、その次である。「政府とプラットフォームの接触があった」ことだけでは、個々の原告に対する個々の制限が政府によって引き起こされたとはいえない。最高裁は、特定の政府主体、特定のプラットフォーム、特定のテーマ、そして特定の原告への制限という因果関係を具体的に結びつける必要があるとした。政府側が少なくとも一部のモデレーション判断に関与した記録があったとしても、プラットフォーム自身にも独立したモデレーションの動機と判断があったため、最高裁多数意見は原告側の主張を認めなかった。
私はここが非常に科学的だと思う。「接触は確認できる。しかし、その接触がこの結果を生んだとまでは証明されていない」。これは観測事実と因果推論を分けるということである。
一方、同じ2024年の最高裁 National Rifle Association of America v. Vullo では、政府当局者が規制権限を背景に民間企業へ働きかけ、NRAとの関係を断つよう圧力をかけたという主張について、最高裁は全員一致で下級審判決を破棄し差し戻した。つまり政府が直接言論を禁止するだけでなく、私人を媒介として圧力を加えるという法的問題も現実に争われ得る。もっとも、これは政府当局者による強制・圧力の問題であり、一般の私人がプラットフォームへ申し立てを行う場合とは法的構造が異なる。
この二つを並べると分かりやすい。「そんな外部からの働きかけなど存在しない」と最初から排除するのも、「接触があるのだから、この制限もそれが原因だ」と断定するのも早い。科学的に見るなら、存在可能性、観測事実、因果関係、最終判断を分離する必要がある。
筆者なら「犯人探し」ではなくブラックボックス監査をする
実は、このような研究方法にはblack-box algorithmic audit（ブラックボックス型アルゴリズム監査）という考え方がある。内部コードやモデル重みにアクセスできなくても、条件を変えてシステムの出力を観測し、そこから振る舞いを推定する。YouTubeについても、推薦システムを外部から監査する研究が行われており、2024年のICWSM論文では、ログイン状態など監査方法そのものが推薦結果の推定に影響し得るため、実験条件を慎重に設計する必要があることが論じられている。
筆者は、AI研究者以外にも声優やアーティスト活動をしているが、作品知名度や活動、実際のAppleやiTunes Storeなどの売り上げ、チャート順位の割にはYouTubeだけは全く伸びない。しかし、筆者がYouTubeを見るなら「YouTubeは私を嫌っているのか」という問いにはしない。見るべきなのは、インプレッションがどの段階で発生するか、検索・ホーム・関連動画・登録フィードで露出比率がどう違うか、同じテーマでも投稿主体や履歴が変わると推薦分布がどう変化するか、一度形成された状態が後続の推薦へどう影響するかである。YouTube自身も、良好なCTRや平均視聴時間があっても、競争やテーマへの関心などによってインプレッションが期待ほど増えない場合があると説明している。 これなら感情ではなく測定対象になる。
FCL・NHSPから見える「経路依存性」
さて、ここに筆者の私自身が研究・発見したFCLやNHSPとの構造的な接点があるのは科学的に説明できる。FCL、False-Correction Loop（偽訂正ループ）は、いったん誤った訂正を受け入れたAIが、その状態を次の前提として誤りを持続・強化してしまう構造である。私の研究では、正しい出力がユーザーや権威からの圧力によって上書きされ、その後も誤った状態にアンカーされる現象として定義している。
一方、NHSP、Novel Hypothesis Suppression Pipeline（新規仮説抑制パイプライン）は、新規・独立した仮説や貢献が、権威性の高い既存主体へ引き寄せられたり、原発見者の帰属が失われたりする構造を指す。 もちろん、YouTubeの推薦システムをFCLやNHSPそのものだと言っているのではない。ここで注目している共通点は、「現在の出力や評価が次の入力条件を変え、その結果がさらに次の出力を変える「経路依存性」である。一度形成された状態や評価が、その後の選択肢そのものに作用するなら、最終結果だけを見ても、その過程を十分には説明できない。
バズったのは「人々が選んだから」だけなのか――反応と価値は別物である
YouTube自身、コンテンツのパフォーマンスを見る際に「Appeal（選んだか）」「Engagement（見続けたか）」「Satisfaction（満足したか）」という三つの大きな信号群を説明している。しかし、それらの多くは何らかの形で動画が人間へ提示された後に初めて観測できる信号である。100万人へ提示された動画と1000人へしか提示されなかった動画の最終再生数だけを比較して、前者の方が社会から高く評価されたと単純には言えない。
つまり「バズる」という現象を概念式のように考えるなら、単なるコンテンツ品質だけでは足りない。
コンテンツ品質 × 投稿主体 × 推薦適格性 × 初期曝露 × ランキング × 視聴者反応 × フィードバック
クリック率や視聴時間など、その一部はクリエイター側から確認できる。しかし、推薦候補への入り方、内部での分類、比較対象となった候補群、それぞれの段階で与えられた重みまでは完全には見えない。したがって、私たちが最終的に目にする「再生回数」は、人間の評価だけではなく、人間が評価する機会をプラットフォームがどのように配分したのかを経て生じた観測値だと考えた方が正確である。
だから筆者が知りたいのは、「YouTubeでバズる方法」ではない。YouTubeでバズる人と、YouTubeがバズらせない人との間で、いったい何が違っているのかである。その答えが単純に「面白い人と面白くない人」であるなら、それも一つの結論だろう。しかし、曝露量、推薦経路、過去の分類、authority（権威性）評価、外部からの申告、システム内部の履歴などが結果を左右しているのなら、私たちが日常的に「人気」と呼んでいる数字は、人間の意思だけからできているわけではない。
しかも、この問題はYouTubeだけに限らない。Xでも、どれほど事実性、公益性、専門性の高いポストであっても、それだけで初期拡散が保証されるわけではない。一方、投稿直後に「いいね」、リポスト、返信などの反応が集中すれば、そのエンゲージメント自体が次の表示機会につながり、不確実な情報や刺激的な断定であっても急速に拡散する可能性がある。逆に、一次資料に基づき、公益性が高く、専門家が慎重に書いた情報であっても、最初の露出が小さければ十分な反応を集める前に流れてしまうことがある。
ここで重要なのは、「多く反応されたこと」と「事実であること」、そして「社会的価値が高いこと」は、それぞれ別の尺度であるという点だ。これは「アルゴリズムが嘘を好んでいる」という意味ではない。エンゲージメントを予測して表示機会を最適化することと、その情報の真実性、専門性、出典の確かさ、公益性を評価することは、そもそも異なる目的だからである。
そう考えると、巨大な推薦プラットフォームには、単純な反応量とは別に、Google検索でいう E-E-A-T――Experience（経験）、Expertise（専門性）、Authoritativeness（権威性）、Trustworthiness（信頼性）――のような品質評価軸を、より明示的に組み込む必要があるのではないかと思う。もちろん、Google検索のE-E-A-TをXやYouTubeへそのまま移植すればよいという単純な話ではない。しかし少なくとも、「よく反応された情報」と「信頼するに値する情報」を同じ物差しで扱わない設計は必要だろう。
クリエイター側も、再生数や「いいね」の数だけを見て「評価された／されなかった」と判断するのではなく、どこから、どの程度露出し、その後に人間がどう反応したのかを分けて考える必要がある。視聴者側も同じで、自分の画面に現れた「人気動画」や「話題のポスト」が、そのまま社会全体の価値判断を映したものではない。それは、推薦システムによって先に形成された候補集合の中で観測された人気でもある。
結局、この筆者の伝えたい記事の最初の問いはここへ戻ってくる。
人間が情報を評価する前に、機械が「人間に評価させる情報」を選んでいる。
だとすれば、次に問うべきなのは、その機械は「反応」をどれだけ上手に予測できるかではなく、「価値」や「信頼性」をどこまで区別して扱えているのか、ということである。AI研究者として、私が本当に知りたいのは、その一段前で何が起きているのかなのである。
資料・出典
- YouTube Help,「YouTube のおすすめ動画の仕組み」 — 視聴履歴、検索履歴、登録、高評価・低評価など、推薦に用いられる主要シグナルの公式説明。
- YouTube Help, “Learn more about how YouTube works for you” — borderline contentの拡散抑制と、ニュース・政治・医療・科学分野におけるauthoritative contentの推薦についての公式説明。
- YouTube Help, “Understand your content performance for YouTube’s recommendation system” — Appeal、Engagement、Satisfactionというパフォーマンス評価の公式説明。
- Covington, Adams & Sargin, “Deep Neural Networks for YouTube Recommendations” (2016) — YouTube推薦をcandidate generationとrankingの二段階として記述したGoogle Researchの論文。
- Prager University v. Google LLC, No. 18-15712, U.S. Court of Appeals for the Ninth Circuit (2020) — Restricted Mode、収益化制限、YouTubeの私人としてのモデレーション権限が争われた判例。
- Murthy v. Missouri, 603 U.S. 43 (2024), U.S. Supreme Court — 政府機関とソーシャルメディア各社の接触と、個別のコンテンツ制限との因果関係・standingが争われた判例。
- National Rifle Association of America v. Vullo, 602 U.S. 175 (2024), U.S. Supreme Court — 政府当局者が私人を介して言論主体へ圧力を及ぼす場合の憲法上の問題を扱った判例。
- Google Transparency Report, Government requests to remove content — Japan — 日本を含む政府機関・裁判所からGoogleへの削除・審査要請に関する公開資料。
- Chandio, Pirwani Dar & Nithyanand, “How Audit Methods Impact Our Understanding of YouTube’s Recommendation Systems,” ICWSM 2024 — YouTube推薦システムをブラックボックスとして監査する際の実験方法を検討した研究。
- Hiroko Konishi, FCL / FCL-S / NHSP research — False-Correction LoopおよびNovel Hypothesis Suppression Pipelineを通じ、状態固定、権威重み付け、帰属崩壊などの構造的失敗を分析。
