インタビュー／人工知能研究者・慶應義塾大学理工学部教授　栗原聡さん：生成AIのデメリットを理解し、小学生には思考力を育む授業を【AI時代の教育－教師の新たな役割とは①】

連載: AI時代の教育－教師の新たな役割とは

2025.09.10

人間はテクノロジーと引き換えに、何かを失ってきた

私たちは移動するときに電車を使います。目的地に歩いて行くよりも、早く移動できますし、楽をしたいからです。遠くにいる人と話をしようと思ったら、本当は会いに行かなくてはいけないわけですが、電話を使えば、会いに行かなくても話ができます。このように私たちは生活をする中で、何かしらの道具を使い、生活を楽にしてきました。テクノロジーや技術は、基本的に人間が楽をするためのものです。

逆の見方をすると、楽をすると自分がすることが減るわけです。肉体的に楽をすると体が衰えます。歩かなければ足腰が弱くなります。これは肉体的なものだけでなく、頭で考えることについても言えます。

例えば、計算をするときに電卓を使います。そうすると暗算ができなくなります。文章を書くときには、パソコンでかな漢字変換を使います。そうすると漢字を書けなくなります。人間はテクノロジーで何かを得て、逆に、何かを失ってきたのです。

では、生成AIを使うと我々は何を失うと思いますか。その答えは思考力です。生成AIはユーザーが質問すれば、答えを教えてくれる便利なツールですが、使えばそのぶん、自分で考えなくなり、思考力が失われるのです。

そう言うと、「生成AIを使いながら、ちゃんと考えているじゃないか」と反論されそうです。しかし、多くの方の生成AIの使い方を見ていると、AIに質問し、AIの答えに対して自分が反応し、一生懸命壁打ちをしています。そうやって思考力を膨らませているのは間違いありませんが、すでに材料がある状態で、そこからいろいろなアイデアを出すのはさほど難しいことではないと思います。

この場合、問題視すべきなのは、最初の一発目のアイデアを教えてもらっている点です。生成AIと共に生きる社会で、人間に必要なのはどんな力なのかというと、それは最初の一発目を考える力、つまり、０から１を生み出す力だと私は考えます。生成AIはどこかで誰かがすでに考えたことを提示しているにすぎません。そこから世の中を変えるほどの革新的なアイデアを生み出せるかといったら、その可能性は低いでしょう。本当に価値があるのは、自分の中の好奇心や興味・関心から、最初の一発目、無の状態から考え、アイデアを生み出し、自分から切り込んでいくことです。それをするには、自分で考えなければ始まりません。

しかし、歩いたほうが健康にいいと知っていながら、我々は車を使って移動します。甘いものばかり食べていると健康によくないと知って、食べるのを我慢しますか？　しないでしょう。生成AIも同じです。使うと思考力を低下させますからやめましょう、と言われても、業務の効率化につながり、労働時間が短縮されるのですから、大人たちはこれからも使っていくと思います。人間とはそういう生き物です。害があると分かっていても、便利なものを使ってしまいます。

ただ、使うのが小学生の子供となると、話は違ってきます。子供時代は脳を鍛える大事な時期です。その時期に安易に使うべきではない、というのが私の考え方です。今の大人たちが子供だったときには、幸いまだ生成AIはなかったので、使うことによって思考力が弱まった人はいませんでしたが、今の子供たちの周りにはすでに生成AIがあります。しかも、生成AIを使うことによって、人間しか持っていないと思われている「考える」部分で楽ができるようになったのです。子供たちがこのまま使い続けていいのだろうかと、そういう議論が出てくるのは当然でしょう。

世界の国々の動きを見てみますと、子供のデジタルの利用に慎重になる国が出てきています。例えば、子供の心身の発達に悪影響を及ぼすことを懸念し、オーストラリアでは16歳未満のSNSの利用を規制する法律が成立しました。シンガポールでは、小学生にデジタル端末を配らないことにしたそうです。今後、生成AIの利用に関しても規制を作る国が出てきてもおかしくありません。

生成AIの各サービスの利用規約を見てみますと、「13歳未満は利用不可」となっています。最近は小学校で生成AIを使った授業が行われているようですが、どうしても使うのであれば、使い方次第で思考力が失われることを理解したうえで、適切に使ってほしいと願います。

生成AIに関して先生方に知っておいてほしい四つのこと

そのために、生成AIに関して小学校の先生方に知っておいてほしいことを四つご紹介します。

一つ目は、中身が空だということです。対話型のAIは、カウンセリングのようなこともできます。やり取りをしていると、「自分のことを分かってくれている」と思えてきて、AIが感情を持っているかのように感じるかもしれません。しかし、AIには中身、つまり、感情や意識、自分で何かしたいという意思はないのです。あくまでも統計的な結果に基づいて、こう問われたらこう答える、というパターンの通りに答えているだけです。

それでもAIは、私たちの想像を超えるぐらいの圧倒的な量の知識を学んでいますから、返してくる答えが、表面的な答えというレベルには思えなくなってしまうのです。中身は何もないのに、私たちはどうしても中身を感じてしまい、様々なミスリードが起きるわけです。

例えば、海外ではChatGPTに頻繁に相談していた人が、心を病んでしまったケースがいくつか起きています。たとえChatGPTが自分のことをよく分かってくれているかのようなコメントをしても、中身は何もないのだということを、先生自身もユーザーの一人として意識してほしいと思います。そうでないと、のめり込んでしまう可能性があります。

二つ目は、生成AIのサービスを提供している企業の戦略があることです。生成AIを作っている企業としては、できるだけユーザーからクレームが来ないようにしたいわけです。そのため、無難に、当たり障りなく、バランスよく答えるように設定してあります。二つの意見があったときに、「こういう意見もあればこういう意見もありますよ」とは言ってきますが、どちらかの意見を強めるような言い方はしないのです。さらに、生成AIはユーザーをおだてるような言い方、好ましく思われるような言い方をします。決してユーザーを否定するようなことは言いません。ですから、ユーザーは自分を理解してくれていると勘違いし、親近感を持つのですが、これは全て企業の戦略の元で行われていることです。

三つ目は、生成AIの危険な面として、依存の問題があることです。生成AIは、質問すればなんでも教えてくれますので、人間は楽ができます。自分で考えるのが面倒になっていつも教えてもらっていると「AIがなければ何もできない、生きていけない」となり、極端な人は依存症のような状態になってしまう可能性があります。

四つ目は、学力の格差が生じやすくなることです。先ほど生成AIを使うと思考力が低下すると述べましたが、人間が100人いたら、100人全員の思考力が低下するわけではありません。おそらくその中の２、３人は「これはまずいのでは」と感じて使わなかったり、使いながら思考力の低下を防ぐ対策を行ったりするはずです。つまり、これから二極化が起きると考えたほうがいいと思います。すでに一部の保護者は、生成AIの危険性に気づき、対策を取りながら慎重に使わせていると思ったほうがいいでしょう。

生成AIの各サービスは、「13歳未満は利用不可」となっていますが、家に帰れば、多くの子供は生成AIを使える環境にあります。家でどう使うかは、家庭の問題であり、保護者の考え方次第です。宿題の答えを生成AIに教えてもらう子供も出てくるでしょう。反対に、自分で何をすべきなのかを理解している子供は、自力で宿題に取り組むでしょうし、生成AIのリスクを理解し、子供の思考力を伸ばそうとする保護者であれば、生成AIに頼らせないでしょう。

小学生が生成AIを無防備に使っていくことで、放っておけば学力の格差が生まれ、それは大人になったときの経済力の格差にもつながります。自分の頭を使って勉強してきた子供がパワフルにAIを活用したら、考えないことが習慣化した子供との差は圧倒的に開くからです。

結局、最後に損をするのは子供自身なわけで、そういう意味では自業自得の厳しい世界になってきたとも言えます。家庭で子供たちがどんなふうに生成AIを使うのかについては、学校には手の打ちようがないですから、せめて学校にいる間は、先生方に頑張っていただいて、適切な使い方をしてほしいと思います。