結論から先に： はい、AIは間違えます。しかも流暢で自信のある口調で間違えるので、子どもには見抜けません。設計を工夫すれば頻度は下げられますし、被害も小さくできますが、「絶対に間違えない」と言える人はいません。お子さんを本当に守るのはフィルターではなく、**「ほんとかな、確かめてみようか」**という習慣です。そしてこれを7歳で身につけるのは、17歳で身につけるよりずっと価値があります。
保護者の方からいちばん多くいただく質問です。たいてい、少し遠慮がちに聞かれます。
「あの……もし、でたらめを言ったらどうなるんですか？」
とてもまっとうな質問です。正直にお答えします。
なぜAIは間違えるのか
AIは調べていません。ここは意外に思われるところなので、はっきり書いておきます。
お子さんが「なんで空は青いの？」と聞いたとき、AIは事典を引いて読み上げているのではありません。膨大な文章を読んだ経験から、その質問のあとに続く可能性がいちばん高い言葉を作り出しています。
多くの場合、いちばんありそうな言葉はたまたま正しい言葉でもあります。空について書かれた文章の大半が正しいからです。だからこそ実用になります。
けれどこの仕組みには、「知っている」と「たぶんそうだろう」を区別する感覚がありません。 答えを持っていないときも、AIは黙りません。正解を言うときとまったく同じ自信のある調子で、いちばんもっともらしい続きを作ります。
イメージとしては、とても物知りだけれど、何を聞かれても記憶だけで答え、一度も「ちょっと自信ないな」と言わない友人です。
「間違い」には3種類ある
ひとまとめにすると必要以上に怖くなります。実際には別々の問題です。
1. 作り話タイプ。 存在しない名前・年号・数字。いわゆる「ハルシネーション」です。細かくて具体的な質問ほど起きやすい——地元の小さなお祭り、マイナーな生き物、有名でない本のあらすじなど。
2. 情報が古いタイプ。 AIはある時点までの文章から学んでいます。その後変わったことを聞くと、「昔は正しかった答え」が自信満々で返ってきます。
3. 相手に合っていないタイプ。 事実としては正しいけれど、聞き手に合っていない。光合成の学術的に正確な説明は、5歳児を置いてけぼりにするならその子にとっては間違いです。正確性の議論では見落とされがちですが、子どもが実際にいちばんよく出会うのはこのタイプです。
本当に危ない質問はどれか
リスクは均一ではありません。間違えたときの代償の大きさで決まります。
| 質問の種類 | リスク | 理由 |
|---|---|---|
| 「なんで空は青いの？」「魚は寝るの？」 | 低 | よく書かれてきた領域で、多少ずれても実害がない |
| お話づくり、ことば遊び、「もし〜だったら」 | 低 | そもそも正解のない質問 |
| 年号、人口、「〇〇は何個あるの？」 | 中 | まさに数字の作り話が起きやすい領域 |
| 宿題の答え | 中 | 誤答をそのまま写すうえ、考える工程が飛ぶ |
| 症状・薬・分量など医療に関すること | 高 | 使わないでください。薬剤師か医師へ |
| 今日のニュース、今週の出来事 | 高 | 構造的にAIが確実には知らない領域 |
注目していただきたいのは、6歳が実際に聞くことの大半は上の2行に収まるという点です。日常の使い方はそもそも低リスクの側にあります——これは技術がすごいという話ではなく、幼い子どもの好奇心がそういう性質だという話です。
私たちがしていること
頻度は下げられます。被害の範囲も狭められます。ゼロにはできませんし、できたとも申しません。
- 最初から子ども向けに書かせています。 KidTalkにはお子さんの年齢を伝えてあり、その年齢に合わせて2〜4文で答えます。短い答えは長い答えより脱線の余地が小さく、3番目の「相手に合っていない間違い」はこの設計でほぼ解消します。
- 問いを返すように作ってあります。 ポピーは断定で終わらず、次の疑問や問いかけで終わるよう設計しています。会話の形は大事で、「どう思う？」と返す答えは、子どもが飲み込むのではなく関わる答えになります。
- 高リスクの行には踏み込みません。 医療アドバイスでもニュース配信でも宿題製造機でもありませんし、そのふりもしません。
- 会話は記録として残ります。 会話履歴は要約ではなくやりとりそのものの形でアカウント内に残り、アプリ内で読む機能はプレミアムプランでご利用いただけます。おかしな返答があったとき、記憶に頼らず現物を見て話ができます。
- 1日の回数制限があります。 課金上の都合ではなく設計上の立場です。使いすぎない使い方のほうが安全です。
一方で、「うちのAIは間違えません」とは申しません。 完全な正確性をうたう子ども向けAIがあれば、それは自社の技術を理解していないか、保護者が質問しないことを期待しているかのどちらかです。安全面の考え方全般は安全へのお約束もあわせてご覧ください。
いちばん効くのは、この習慣
ここから先が、上のすべてより大事な部分です。
お子さんはこれから、自信ありげな文章を生成する機械に囲まれて大人になっていきます。身を守る力は「避けること」ではなく「確かめること」で、しかもこれは幼いうちに身につきます。
1. 「確かめてみようか」を、合っているときにも言う。 疑わしいときだけ確認すると、確認が「疑いの表明」になってしまいます。いつでもやるから習慣になります。図鑑でも検索でもおじいちゃんに電話でも、方法は何でもかまいません。
2. 説明し直してもらう。 「ポピー、なんて言ってた？」——再現できない答えは、そもそも入っていません。再現できた答えは、そこから一緒に検討できます。
3. 「答え」ではなく「問い」に使う。 子どもとAIのいちばん良い使い方は、考える価値のあることを増やす使い方です。写して終わる完成品の答えが出てきた時点で価値は急落します——自由研究の記事もご参照ください。
4. 間違いを見つけさせる。 子どものAI教育で最高の瞬間は、自分で誤りに気づいた日です。取りつくろわないでください。「ほんとだ、間違ってるね。よく気づいたね」の一言は、正しい答え100回分の価値があります。
よくあるご質問
実際、どのくらいの頻度で間違えるんですか？ 正直な数字を出せる人はいません。何を聞くかで完全に変わるからです。幼い子の「なんで〜？」のような定番の質問では誤りはまれです。狭くて具体的なこと——小さな地名、正確な数字、最近の出来事——になると、急に上がります。
間違ったことを教えられるのは、危なくないですか？ 小さな子の質問の大半については、親戚のおじさんの少し怪しい説明と同程度の代償です。本当のリスクは上の表の「高」の行、とくに健康に関することで、そこは毎回大人が引き受けてください。
会話は全部チェックしたほうがいいですか？ いいえ。続きません。履歴はときどき眺める程度でよく、それより「今日は何の話したの？」と聞く回数を増やしてください。監査ではなく会話になるぶん、後者のほうが価値があります。
うちの子はAIの言うことを完全に信じています。まずいでしょうか。 自然なことです。子どもは自信のある大人の言うことも同じように信じます。だからこそ、AIの仕組みを説明するより確かめる習慣のほうが効きます。一度でも誤りを目の前で見れば、受け止め方が変わります。
間違いではなく、いやなことを言われた場合は？ 別の問題で、対処も別です。内容面は安全へのお約束、他社アプリを選ぶ際の観点は安全なAIアプリの選び方をご覧ください。
まとめ
AIは間違えます。しかも自信のある声で間違えます。これが正直な現在地です。私たちも例外ではありません。
- 調べているのではなく、ありそうな言葉を作っている
- 日常の「なんで？」は低リスク。健康と時事は違う
- 設計で頻度と被害は減らせるが、ゼロにはできない
- 本当の守りは「確かめてみよう」と言える子ども
自信満々の機械が間違えることを7歳で知った子は、この先ずっと使える力を持って大人になります。うまく扱えば、これは子ども向けAIの弱点ではなく、むしろいちばん役に立つ学びのひとつです。
