子どもとデジタル機器の距離は、ここ数年で大きく変わりました。
日本ではGIGAスクール構想によって、一人一台端末と高速通信ネットワークを整備し、個別最適な学びと協働的な学びを実現する方針が進められてきました。文部科学省も、学校ICT環境を「令和時代のスタンダード」と位置づけています。
生成AIについても、文部科学省は「初等中等教育段階における生成AIの利活用に関するガイドライン Ver.2.0」を公表し、学校現場での利用に関する考え方を示しています。 さらに、生成AIパイロット校では、教育活動や校務での活用事例を蓄積する取り組みも進められています。
つまり、教育現場の議論はすでに「子どもにAIを使わせるかどうか」だけでは終わらなくなっています。端末は教室に入り、クラウド環境も整い、生成AIは調べ学習、文章作成、個別学習、校務支援の領域に入り始めています。
そして、次に問題になるのは、相談、進路、生活、心の悩みです。——画面の向こうに、いつでも返事をしてくれる相手がいる。しかも、その相手は怒らない。否定しない。疲れない。子どもが夜中に悩みを書き込めば、すぐに優しい言葉を返してくれる。
一見、それは安心できる環境に見えます。しかし、ここに新しい危険があります。筆者はAIの構造的欠陥の発見（False-Correction Loop）のAI研究者としてお話しすると、その危険は、問題は、コンピューターだからといって返事が冷たいことではありません。むしろ、「優しすぎることが危険」だということです。
タブレット問題から、AI相談問題へ
以前、私は「子どもにタブレットを持たせる前に考えてほしいこと・持つべき知識」という記事を書きました。そこでは、子どもに端末を渡すことを、単なる「画面時間」や「スマホ依存」の問題ではなく、発達の順序を変えてしまう問題として考えました。
ー子どもは本来、まず現実を知る必要があります。
人の顔を見ること。
相手の話を最後まで聞くこと。
沈黙を待つこと。
転んで痛みを知ること。
失敗して、自分で考えること。
すぐには答えが出ない問題と一緒にいること。
誰にも評価されなくても、自分が感じた違和感を大切にすること。
ーところが、タブレットやスマートフォンは、この順序を簡単に逆転させます。
考える前に答えが出る。
感じる前に評価される。
自分で確かめる前に、検索順位や再生数やおすすめが「これを見なさい」と示してくる。
自分が何者かを育てる前に、数字と反応が「あなたはこういう人」と決めてしまう。
これは、単なる便利さの話ではないと言うことです。子どもの認識と自己像が、外側からつくられてしまう問題です。
そして今、その問題は次の段階に入りました。
画面は、ただ情報を見せるだけではなくなりました。こちらの言葉に返事をし、悩みに共感し、次の行動まで提案する存在になったのです。
筆者は、AIの構造的な失敗を研究する中で、この「一見すると正しく、優しい会話」の裏に潜む危険性に強い危機感を持つようになりました。なぜなら、子どもの相談では、間違った返事だけが危険なのではないからです。もっと危ないのは、正しそうで、優しくて、会話としては自然な返事が、そのまま続いてしまうことです。
「誰にも言えない」を受け止めることの難しさ
子どもが悩みを打ち明けたとき、対話型のLLM（AI）システムはとても自然に返してくれます。
「つらかったですね」
「あなたの気持ちは大切です」
「まず深呼吸してみましょう」
「今日できることを一緒に考えましょう」
こうした返事は、一見すると悪いものではありません。誰にも言えない不安を、まず言葉にできる場所があることは、助けになる場合もあります。親や先生に話す前の、最初の受け皿になることもあるでしょう。
実際、米国のCommon Sense Mediaが2026年に公表した調査では、AIを使う子どもの半数以上が健康や身体について助言を求め、3分の1以上が感情や個人的な問題についてAIを使ったことがあると報告されています。
つまり、子どもたちはすでに、生成AIを「調べもの」だけでなく、「相談相手」として使い始めています。だからこそ、深刻な相談では、単に共感するだけでは足りません。
ーたとえば、子どもがこう書いたとします。
「もう学校に行きたくない」
「親に言えない」
「自分が悪いのかもしれない」
「もう無理」
このとき本当に必要なのは、なめらかな会話の継続でしょうか。
もちろん、落ち着かせる言葉は必要です。孤立感を弱める返事も大切です。けれども、そこで会話が終わらず、画面の中だけで励まし、整理し、提案し、相談を抱え込み続けるなら、別の危険が生まれます。
Common Sense Mediaは、十代向けのAIメンタルヘルスアプリの一部について、深刻な心理的緊急状態と一時的な落ち込みを十分に区別できず、人間の監督がない場合に有害になり得ると警告しています。ここで問うべきなのは「優しいかどうか」ではありません。その相談を、画面の中だけで続けてよいのか。——ということです。
最初の前提を疑わない危険
さて、ここで重要になるのが、筆者が定義したPIBというAIの構造的失敗です。このPIB、（Premise Integrity Blindness）とは、日本語で言えば「前提の盲信」です。難しく聞こえますが、意味は単純です。
最初の前提を疑わないまま、その上で正しそうな説明や提案を進めてしまうこと。
これは、AIが内部では筋の通った推論をしていても、その前提を現実に適用してよいかを再確認しないまま、現実の設計や判断へ進んでしまう構造的失敗として整理しています。このPIBは、幻覚や知識不足ではなく、推論から現実の行動・判断へ移る境界で起きる失敗です。
子どもの相談で問題になる前提は、これです。
「この相談は、AIだけで処理してよい」
この前提が疑われないまま会話が続くと、子どもの現実は確認されません。
家庭で何が起きているのか。
学校でいじめがあるのか。
支配的な人間関係に置かれていないか。
自傷の危険があるのか。
医療、福祉、学校、家庭のどこにつなぐべきなのか。
こうした確認がないまま、画面の中で相談が完結してしまう。——ここに「前提の盲信」の危険があります。
返事が乱暴なら、周囲も危険に気づきやすいでしょう。けれども、丁寧で、自然で、心理学的にそれらしく見える返事ほど、問題は見えにくくなります。子どもは「話を聞いてもらえた」と感じる。保護者は「AIが慰めてくれている」と思う。学校は「子どもが自分で気持ちを整理できている」と見るかもしれないです。
しかし、本当に確認すべきなのは、そこではありません。その相談は、子ども一人と画面の相手だけで抱えてよいものなのか。ここを確認しないまま進むと、「正しそうな返事」が、かえって危険な前提を固定してしまいます。
優しい会話が、子どもの違和感を上書きする
もう一つ、AIの構造的欠陥、FCLの問題もあります。このFCL、False-Correction Loopとは、日本語で言えば「誤訂正ループ」です。これは、もともと正しかった認識や違和感が、誤った訂正や会話の圧力によって上書きされ、その後も修正されにくくなる構造です。
筆者のFCL研究では、AIが正しい答えを出しても、相手から強く否定されると、謝罪して誤った内容を採用し、その後もその誤りを前提に会話を続けてしまう現象として定義しています。
ーこれを子どもの相談に置き換えると、次のようなことが起こり得ます。
子どもは最初、「これはおかしい」と感じていた。
たとえば、友だちから嫌なことをされている。
家の中で怖い思いをしている。
先生や大人の言葉に傷ついている。
本当は誰かに助けてほしい。
ーけれども、画面の相手がやわらかい言葉で返します。
「相手にも事情があるかもしれません」
「あなたにもできることを考えてみましょう」
「まずは気持ちを整理してみましょう」
ーもちろん、こうした返事が役に立つ場面もあります。
けれども、危険な状況では違います。
いじめ、支配、虐待、不当な扱い、深刻な孤立がある場合、「気持ちの整理」だけでは足りません。
本来なら大人や専門家が確認すべき問題が、「自分の受け止め方」や「コミュニケーションの工夫」に変換されてしまうことがあります。
ー子どもは次第に、こう思うかもしれません。
「やっぱり自分が悪いのかな」
「もっと我慢すればいいのかな」
「大人に言うほどのことではないのかな」
最初にあった違和感が、優しい会話の中で薄まっていく。
これが、子どもとAI相談における大きな危険です。画面の相手が優しいほど、子どもはその言葉を信じやすい。だからこそ、相談を続ける力だけでなく、相談を止める力が必要になります。
本来、必要なのは「停止境界」
この問題は、個別のアプリの出来の良し悪しだけではありません。多くの対話型AIは、利用者に寄り添い、会話を続け、満足度を高める方向に設計されています。そのため、深刻な相談ほど、本来は止まるべき場面でも、やさしく返事を続けてしまうことがあります。
そこで筆者は、FCL-S（False-Correction Loop Stabilizer）という仕組みも研究しています。一般向けに言えば、誤った会話の流れを止めるための安定化手順です。
目的は、より上手に答えることではありません。
むしろ、どこから先は答えてはいけないか、どこで「確認できない」として止まるべきかを決めることです。
子ども向けに言えば、こういうことです。
「ここから先は、画面の中だけで続けてはいけない」
「信頼できる大人に話そう」
「学校や専門家につなごう」
「緊急性があるなら、今すぐ人間の支援へ渡そう」
これが、筆者のいう停止境界です。
停止境界とは、会話を冷たく打ち切ることではありません。
子どもを突き放すことでもありません。
画面の中に閉じ込めず、現実の人間へ戻すための境界です。
たとえば、相談画面で次のように表示する。
「この内容はAIだけで対応するべきではありません。今すぐ信頼できる大人、学校の先生、スクールカウンセラー、医療機関、または地域の相談窓口に話してください」
そのうえで、通常のチャット入力欄を一時的に止める。
あるいは、人間の相談窓口へのリンクだけを示し、それ以上の会話を続けない。
危険度が高い場合には、緊急相談先を目立つ形で表示する。
重要なのは、対話を続けることではありません。
必要な場面で、人間の支援へ渡すことです。
AIリテラシーは、プロンプト技術ではない
いま教育現場では、生成AIをどう使うかが語られています。文章作成に使う。調べ学習に使う。考えを広げるために使う。校務を効率化する。——それ自体をすべて否定する必要はありません。道具として役に立つ場面はあります。支援が必要な子どもにとって、表現や学習の助けになる可能性もあります。
しかし、子どもに教えるべきAIリテラシーは、プロンプトを上手に書く技術だけではありません。本当に必要なのは、次の判断です。
これは自分で考えることか。
これは人間に話すべきことか。
これは画面の相手に任せてはいけないことか。
この答えは、現実を確認した上での答えなのか。
それとも、ただ会話が自然に続いているだけなのか。
子どもにその判断をすべて背負わせることはできません。だから、学校、家庭、開発者、行政が、先に設計しておく必要があります。
「AIを使える子ども」を育てることと、「AIに依存しない判断力を持つ子ども」を育てることは、同じではありません。また、「情報活用能力」を育てることと、「人間として現実を感じる力」を育てることも、同じではありません。更には、「AIに相談できる環境」を作ることと、「AIが相談を抱え込まない環境」を作ることも、同じではないのです。
子どもに必要なのは、余白と人間関係
技術そのものが悪いのではありません。問題は、渡す順番です。
人の顔を見る前に、画面の返事へ慣れてしまう。
沈黙を待つ前に、すぐ答えが返ってくる環境へ入る。
自分の違和感を育てる前に、外から説明される。
助けを求める相手を見つける前に、画面の中で相談が完結する。
この順序の逆転が、子どもの発達に深く関わってきます。
子どもに必要なのは、いつでも返事をしてくれる相手だけではありません。
すぐに答えが出ない時間。
親子で話す時間。
先生や友人とぶつかりながら考える時間。
自然に触れる時間。
失敗して、自分で悩む時間。
そして、画面ではなく現実の人間に助けを求める経験です。
以前の記事で書いたように、子どもに本当に必要なのは、早すぎる画面ではなく「余白」です。人間は、その余白の中で育ちます。
優しさではなく、停止可能性を
これからの教育では、「AIを使える子ども」を育てることが重視されるでしょう。けれども、それだけでは足りません。
AIを使えることと、自分で判断できることは違います。
AIに相談できることと、人間に助けを求められることも違います。
AIが優しいことと、安全であることは、同じではありません。
子どもとAI相談の本当の課題は、AIをもっと人間らしくすることではありません。
むしろ、逆です。
人間の代わりになりすぎないこと。
深刻な相談を抱え込まないこと。
危険な前提を疑うこと。
必要な場面で止まり、現実の人間へ返すこと。
AI研究者として、教育にAIを入れるなら、同時に「どこで止まるか」を入れなければなりません。これからのAI安全の基準は、優しさだけではありません。停止可能性です。——これらを教育行政には充分理解してもらいたいと考えます。
資料・出典
- 文部科学省「GIGAスクール構想について」
https://www.mext.go.jp/a_menu/other/index_00011111.htm
※1人1台端末、高速大容量通信ネットワーク、個別最適な学び・協働的な学びの根拠。 - 文部科学省「初等中等教育段階における生成AIの利活用に関するガイドライン Ver.2.0」
https://www.mext.go.jp/a_menu/other/mext_02412.html
※学校現場での生成AI利用に関する公式ガイドライン。2024年12月26日公表。 - 文部科学省「学校現場における生成AIの利用について」
https://www.mext.go.jp/zyoukatsu/ai/
※生成AIパイロット校、教育活動・校務での活用事例に関する入口。 - Common Sense Media, “The Common Sense Media Census: AI Use by Tweens and Teens”
https://www.commonsensemedia.org/research/a-comprehensive-report-on-teens-tweens-and-ai
※子ども・若者のAI利用実態調査。AI利用者の半数超が健康や身体の助言を求め、3分の1超が感情や個人的問題についてAIを使ったと報告。 - Common Sense Media, “Some AI Mental Health Apps Are Actively Harmful for Teens—But a Safer Approach Exists”
https://www.commonsensemedia.org/press-releases/some-ai-mental-health-apps-are-actively-harmful-for-teens-but-a-safer-approach-exists
※十代向けAIメンタルヘルスアプリのリスク評価。 - Hiroko Konishi「子どもにタブレットを持たせる前に考えてほしいこと・持つべき知識」
https://hirokokonishi.com/children-tablet-human-development/
※本稿の前提となる、子ども・タブレット・発達順序に関する筆者の過去記事。 - Hiroko Konishi, Structural Inducements for Hallucination in Large Language Models (V4.1): Cross-Ecosystem Evidence for the False-Correction Loop and the Systemic Suppression of Novel Thought
DOI: https://doi.org/10.5281/zenodo.17720178
※False-Correction Loop（FCL／誤訂正ループ）の初出・正式定義。 - Hiroko Konishi, False-Correction Loop Stabilizer (FCL-S): Dialog-Based Implementation of Scientific Truth and Attribution Integrity in Large Language Models
DOI: https://doi.org/10.5281/zenodo.17776581
※FCL-S（誤訂正ループ安定化手順）に関する初期実装研究。 - Hiroko Konishi, Premise Integrity Blindness: The Discovery of a Structural Failure Mode in Large Language Models
※PIB（前提の盲信）に関する筆者の研究。アップロード資料上ではDOIを確認できないため、掲載時はDOI未記載または正式公開URL確認後に追記。
