解説｜田中博之　生成AIの不適切な使い方と適切な使い方【｢生成AI利用ガイドライン」徹底解説 #3】

特集: 「生成AI利用ガイドライン」徹底解説

2023.08.30

生成AIの不適切な使い方とは？

文部科学省のガイドラインには、生成AIの利用にあたって「適切でないと考えられる例」と「活用が考えられる例」が紹介されています。
まず、｢適切でないと考えられる例」です。８例挙げられていますが、この中で特に注目して欲しいのは①から④です。
ガイドラインの内容を引用しながら解説します。

①生成AI自体の性質やメリット・デメリットに関する学習を十分に行っていないなど、情報モラルを含む情報活用能力が十分育成されていない段階において、自由に使わせること

生成AIを使って何をしてよくて何がダメなのかを児童生徒に意識させるような教育、つまり、AIリテラシー教育をまずは行う必要がありますので、この項目が1番目に書いてあるのは、非常に有意義なことだと思います。教科の授業で使う前に、このような生成AIを適切に活用する力を育てる授業を、最低１時間でも行うことが大切です。そのときにメリットやデメリットを、例を挙げながらわかりやすく教え、この連載の第１回でご紹介した子ども用のチェックリストも使いながら、子どもの意識を高めることが重要です。

ただ、ガイドラインでは、育成するものを「情報モラルを含む情報活用能力」に限定している点は、少々配慮する範囲が狭いと思います。安易に使うと、自分自身の思考力や問題解決能力などが育たなくなり、危険であることを子どもたちに十分理解させる必要があります。

②各種コンクールの作品やレポート・小論文などについて、生成AIによる生成物をそのまま自己の成果物として応募・提出すること

これもとても大切なことですが、コンクール用の作品でなければいいわけではなく、夏休みの宿題や学校で出される課題についても言えることです。夏休みの宿題で、文章に関わるものにはレポート、小論文、日記、読書感想文など、いろいろあります。このような課題に対しても、生成AIを使うことは適切ではありません。それは、小中高校生のうちに身に付けなければいけない、思考力や問題解決力が育たなくなるからであると、しっかりと子どもに伝える必要があります。

③詩や俳句の創作、音楽・美術等の表現・鑑賞など子どもの感性や独創性を発揮させたい場面、初発の感想を求める場面などで最初から安易に使わせること

これは、国語や音楽、図工、美術の授業のことを指しているのだと思います。ここでは感性や独創性が挙げられていますが、それ以外に、思考力、創造性、想像力、問題解決力も育たなくなります。ですから、安易に創作活動を生成AIに任せてはいけないのです。生成AIは、プロンプト（指示文）さえ書けば、条件に合う作品をつくってくれますが、創作の場面では、「最初は自分で考える」という大原則を教える必要があります。例えば、生成AIに文章を書いてもらうのであれば、最初は自分でテーマや構成、あらすじ、表現技法などを考えてみることが重要です。

④テーマに基づき調べる場面などで、教科書等の質の担保された教材を用いる前に安易に使わせること

これは社会と理科が該当するのだと思いますが、調べ学習においても、調べる観点や方法などを、「まずは自分で考える」ことが重要です。自分たちで考える前に、「何を調べるかを生成AIに聞いてみよう」などの丸投げはするべきではありません。そして、最後は自分で責任をもってまとめる、自己責任の原則もしっかり伝える必要があります。

生成AIの適切な使い方は？

次に、｢活用が考えられる例」の中で、解説が必要なのは①～③だと思います。詳しくご説明します。

①情報モラル教育の一環として、教師が生成AIが生成する誤りを含む回答を教材として使用し、その性質や限界等を生徒に気づかせること

生成AIには、事実と全く異なる内容、ハルシネーション（Hallucination）といわれる幻覚のように思える嘘を、本当のことのように答えてしまう癖があります。

生成AIは回答するときに、その確かさを、０％から100％まで判断しながら、答えを出しています。人間の場合は、確かさが10％だと「間違っているかもしれないけど……」と言うと思うのです。30％だったら、「かもね」と最後に付けるかもしれません。しかし、生成AIは、確かさが5％でも100％でも、同じように回答するようにプログラムされています。そのため、確かさが10％でもあたかも本当のことのように、誤った情報や不正確な情報を出してくるのです。

試しにChatGPTに私の著作物を尋ねてみると、まったく関係ない本の名前を出してきます。ですから、生成AIの誤りを含む回答を教材にして使用し、児童生徒にその限界を教えるのは重要なことです。

②生成AIをめぐる社会的論議について生徒自身が主体的に考え、議論する過程で、その素材として活用させること

現状では生成AIを推進すべきなのか、禁止すべきなのかは、国によって判断が分かれており、これは実際に社会で議論が続いているテーマです。中学校ならば公民、高等学校ならば公共や公民の授業の中に、社会的な問題について議論する時間があります。この時間を使って、生成AIを素材に、社会的な意義や問題点、メリットやデメリットなどについて生徒が主体的に考え、議論する機会をつくるといいと思います。

③グループの考えをまとめたり、アイデアを出す活動の途中段階で、生徒同士で一定の議論やまとめをした上で、足りない視点を見つけ議論を深める目的で活用させること

ChatGPTは、グループの議論の中で出てこなかったこと、足りない視点や新たな観点を見つけるのに役立ちます。私もそのような使い方をよくします。

これはいいことなのですが、少し補足しますと、必ず「最初に」グループの考えをまとめたり、自分たちでアイデアを出したりする活動をしてから使って欲しいと思います。

例えば、道徳の授業では、議論を活性化するために、子どもたちに異なる視点、多様な価値観に気づかせたいはずです。しかし、最近は、道徳の授業の中で、ユニークな意見、多様な意見を出す子どもが減り、反対に、先生が喜びそうな正解を出そうとする子どもが増えていないでしょうか。

道徳の授業で、多様な意見がなかなか出てこないときには、こんな使い方ができます。

グループに１台タブレットを置き、ChatGPTに「子どもが打ち込んだ意見と違う価値観、違う視点、違う意見をわざと出して、子どもと議論をするように会話をしてください」と指示するのです。それにより、ChatGPTがわざと違う視点の意見を出してくるので、それを元に子どもたちの議論を活性化することができます。

最新のChatGPT（GPT-4）では、Custom Instructions（一括指示設定）という機能が加えられて、このような指示を事前に生成AIに理解させることが可能になりましたので、ぜひ利用してみてください。

取材・文／林　孝美

【関連記事】

「生成AI利用ガイドライン」徹底解説シリーズはこちら！