「ハルシネーション」とは？【知っておきたい教育用語】
学校現場でも徐々に活用されるようになってきた生成AI。しかし生成AIは、ときとして「ハルシネーション」という現象を起こす場合があります。今回は、ハルシネーションの概要、学校現場での生成AI活用などについて見ていきます。
執筆／「みんなの教育技術」用語解説プロジェクトチーム
目次
ハルシネーションとは
【ハルシネーション】
生成AIが事実に基づかない回答を生成する現象。幻や幻覚を意味する英語“hallucination”に由来する。
生成AIは、ディープラーニングによる膨大なテキストデータを学習して言語処理を行うAIモデル「LMM（Large Language Models）」を利用して情報処理を行っています。LMMが統計的なパターンを学習して、その後に続く単語を予測して文章を生成するため、誤情報が紛れていても正誤の判断がつかず、まるで正しい情報かのように回答してしまいます。この現象が、「ハルシネーション」です。
ハルシネーションの主な原因として、次の４つが挙げられます。
●学習したデータの情報が古い、不足や誤りがある
●学習したデータの組み合わせが間違っている
●プロンプトが曖昧
●AIが文脈を理解できていない
生成AIが学習した膨大な学習データのなかには、すでに古くなった情報や事実と異なる情報があふれています。また専門性の高い分野や、その最新情報においては学習データが不足しがちであり、加えてデータの正誤判断ができないことで、インターネット上の間違った情報を学習してしまうこともあります。
学校現場における生成AIの利活用
文部科学省「初等中等教育段階における生成AIの利活用に関するガイドライン（以下、ガイドライン）」では、生成AIの学校現場での利活用について、以下のように述べています。
学校現場においても、一般向けの汎用的な生成AIサービスが利活用可能な状況にあるだけでなく、１人１台端末の標準仕様であるブラウザや学習支援ソフトウェア、普段利用する検索エンジン等にも組み込まれているほか、汎用的なモデルと連携することで、生成AIを用いた様々なサービスが教育分野においても導入され、利活用の幅が広がりつつある。このような状況の中、テスト問題や各種文書のたたき台作成等の校務における生成AIの利活用が進むほか、児童生徒の学習場面においても、一人一人のニーズや特性に合った学びを実現したり、新たな視点やより深い視点の出力から学びをより一層深めたりするなどの利活用が進むことが予想される。
文部科学省（PDF）「初等中等教育段階における生成AIの利活用に関するガイドライン」令和６年12月26日 Ver.2.0
実際、文部科学省は2025年度（令和７年度）の概算要求において生成AIを含む先端技術の利活用推進の補助事業を拡充する方針を示しています。GIGAスクール構想の下、学校現場でのICT活用が加速化し、NEXT GIGAのフェーズに進むなか、生成AIのより一層の利活用が期待されています。
また、ガイドラインでは「学校現場において押さえておくべきポイント」として、「児童生徒が学校活動で利活用する場面」において、下記２つのポイントを示しています。
●発達の段階や情報活用能力の育成状況に留意しつつ、リスクや懸念に対策を講じた上で利活用を検討すべき。その際、学習指導要領に定める資質・能力の育成に寄与するか、教育活動の目的を達成する観点から効果的であるかを吟味することが必要
文部科学省（PDF）「初等中等教育段階における生成AIの利活用に関するガイドライン」令和６年12月26日 Ver.2.0
●「生成AI自体を学ぶ場面」、「使い方を学ぶ場面」、「各教科等の学びにおいて積極的に用いる場面」を組み合わせたり往還したりしながら、生成AIの仕組みへの理解や学びに生かす力を高める
上記で示されているように、学校現場での生成AIの利活用にあたっては、ハルシネーションなどのリスクや懸念を踏まえたうえで、子どもたちが情報を正しく取捨選択できるよう、AIリテラシー向上をすること、そのための情報教育の充実が求められています。