欧州委員会は2026年9月17日、子どものオンライン安全を強化する新たな規則案「EU KIDS Act」を発表した。13歳未満のソーシャルメディア利用を制限し、13歳と14歳については保護者管理下での限定利用を想定する。15歳からは自分でアカウントを開設できる仕組みだ。
AI研究者として、筆者が今回の提案で注目したいのは、SNSだけでなく、AIコンパニオンや汎用対話型チャットボットも対象に含まれている点だ。EUは、子どもに対するAIの安全性を「何を答えるか」だけでなく、「どのような関係をつくるか」という設計の問題として扱い始めている。
13歳未満はSNSアカウントを制限
欧州委員会の提案では、13歳未満は原則としてソーシャルメディアのアカウントを持つことができない。13歳から15歳未満は保護者が設定・管理する限定的なアカウントを利用し、15歳から自分自身でアカウントを開設できるようにする。
ただし、これは「13歳未満はインターネットを利用できない」という制度ではない。また、SNSの年齢制限とAIチャットボットに対する規制も別の枠組みだ。中でも、AIについて焦点となっているのは、子どもとの会話、記憶、感情的な関係形成などである。
AIチャットボットも規制対象に
KIDS Act案では、AIコンパニオンと汎用対話型チャットボットを明確に規制対象としている。このAIコンパニオンとは、継続的で個人的なやり取りを通じて、人間との社会的・感情的な関係を模倣したり、促したりするAIを指す。一方、汎用対話型チャットボットは、幅広い分野についてユーザーと直接会話するAIを想定している。
また、カスタマーサービスや技術サポートなど、用途が限定された専門的なAIについては同じ定義には含まれない。ここから分かるのは、EUが「AIかどうか」だけではなく、人間との関係を形成する能力を規制上の重要な要素として見ていることだ。
子どもをAIに依存させる設計を問題視
規則案では、未成年者が利用するAIについて、健康、安全、基本的権利、幸福、発達を保護する措置を求めている。特に注目されるのが、人間関係をシミュレートし、子どもに感情的依存を生じさせる可能性のある設計を避けるよう求めている点だ。
生成AIの安全性はこれまで、誤情報、有害コンテンツ、不適切な回答など「出力」に注目して語られることが多かった。しかし対話型AIでは、一つひとつの回答に問題がなくても、長期間のやり取りによってユーザーとの関係性が変化する可能性がある。今回の提案は、そうした長期的な相互作用そのものを安全性の問題として扱っている。
AIの「長期記憶」にも制限
KIDS Act案では、未成年者との過去の会話から得られた情報や分析を、その後の会話で継続的に利用する機能についても制限を設ける方向が示されている。現在の生成AIでは、過去の会話を覚える長期メモリー機能が利便性の向上につながるとして開発が進んでいる。利用者の好みや状況を記憶すれば、より個人化された応答が可能になる。
一方で、子どもの悩み、感情、人間関係、行動傾向といった情報が長期間保持される可能性もある。ここで重要になるのは、「AIがどこまで覚えられるか」ではなく、AIに何を覚えさせてよいのかという問題だ。——AIの性能競争では記憶できることが強みになるが、安全性の観点では「覚えない」「忘れる」「状態を切る」といった機能も重要になる。
AIを自動的に起動させない
SNSや動画サービス、オンラインゲームなどにAIチャットボットが組み込まれている場合についても制約が設けられる。この提案では、未成年者向けにAIを自動的に有効化しないことや、利用を積極的に促さないこと、簡単に無効化できることなどが求められている。
今後、AIは単独のサービスだけでなく、SNS、検索、ゲーム、教育、ショッピングなどさまざまなサービスに組み込まれていく。そのため安全性を考える際には、「AIが搭載されているか」だけでは不十分になる。いつAIが現れるのか、どのように利用を促すのか、何を記憶するのかといったインターフェース設計も重要になる。
公開後のAIも継続監視
KIDS Act案では、AIコンパニオンや汎用チャットボットについて、サービス公開前のリスク評価だけでなく、公開後の監視も求めている。
生成AIは利用者や会話内容、文脈、モデル更新によって振る舞いが変化する。そのため、一度テストして安全と判断すれば終わりという従来型の評価では不十分になる可能性がある。実際の利用環境で問題が起きていないかを継続的に確認し、必要に応じて修正する考え方が強まっている。
年齢確認はプライバシーとの両立が課題
年齢制限を実施するためには、利用者の年齢を確認する必要がある。ただし、年齢確認のために大量の個人情報を集めれば、別のプライバシー問題が生じる。欧州委員会は、プラットフォーム自身が身分証明書を直接収集するのではなく、独立した年齢確認手段を利用し、「基準年齢以上か以下か」といった必要最小限の情報のみを伝える方式を想定している。
一方、業界側からは、大規模な年齢確認システムがプライバシーやセキュリティと両立できるのかという懸念も出ている。子どもの安全を高めながら、どこまで個人情報の収集を減らせるかが今後の焦点になる。
AIの安全性は「回答」だけでは測れない
AI研究の視点から見ると、今回のKIDS Actで重要なのは、AI安全性の対象が広がっていることだ。——これまでは「AIが何を答えたか」が中心だった。今後は、それに加えて「誰と、どのくらい長く話したか」「何を記憶したか」「どのような関係を形成したか」まで評価する必要が出てくる。
AIの出力内容、会話の継続性、長期メモリー、感情的関係、利用を促すインターフェース。これらは個別の問題ではなく、相互作用全体として見る必要がある。一方で、実際の評価方法にはまだ課題が多い。感情的依存をどのように測定するのか、親しみやすい対話と依存を促す対話の境界をどこに置くのか、教育AIと汎用AIをどう区別するのかなど、技術的にも制度的にも未解決の問題が残る。
現時点では「規則案」
EU KIDS Actは、2026年9月17日に欧州委員会が提出した規則案であり、現時点で成立・施行された法律ではない。今後、欧州議会とEU理事会で審議され、条文が変更される可能性もある。そのため「EUで13歳未満のSNSが禁止された」「子どもはAIチャットボットを使えなくなった」と断定するのは正確ではない。
ただし、今回の提案からは一つの方向性が見える。AI規制の焦点が、「AIは何を言ってはいけないか」から、AIは人間とどのような関係を形成するよう設計されてよいのかへと広がり始めていることだ。子どもとAIをめぐる今回の制度案は、その変化を象徴するものになりそうだ。
資料（出典）
・欧州委員会「EU KIDS Act: helping children navigate a safer online world」2026年9月17日
・European Commission / Shaping Europe’s digital future「The KIDS Act explained」2026年9月17日
・EUR-Lex, COM(2026) 681 final「Proposal for a Regulation — EU KIDS Act」
・欧州委員会「Proposal for EU KIDS Act — EU Keeping Internet Digital Spaces Accountable and Trustworthy」2026年9月17日
・CCIA Europe「EU Online Age Checks Make Privacy Trade-Offs Unavoidable, CCIA Europe Warns」2026年9月17日
・Reuters「What is in the EU’s planned KIDS Act?」2026年9月17日
