急速に進化する生成AI技術は、私たちの生活や社会に計り知れない影響を与えています。しかし、その強力な能力の裏には、「ハルシネーション」と呼ばれる、まるで幻を見ているかのように事実に基づかない情報を生成する現象という課題が潜んでいます。成蹊大学客員教授の高橋暁子氏が指摘するように、高学歴の弁護士でさえ生成AIの嘘に騙され、信用を失うケースも出ているのが現状です。平然と誤った情報を提示するAIを使いこなすには、人間側の絶え間ない試行錯誤と厳格なチェック作業が不可欠となります。AI時代において、真偽を見極める情報リテラシーの重要性は、かつてなく高まっています。
生成AIが引き起こす「ハルシネーション」の正体
生成AIにおける「ハルシネーション」とは、AIが学習データに基づいてもっともらしいが事実ではない、あるいは根拠のない情報を生成してしまう現象を指します。これはAIが「知っている」ことを述べているのではなく、入力されたプロンプトや文脈から統計的に最もらしい単語の連なりを予測し、生成するプロセスの中で発生します。そのため、生成された出力結果には誤りや虚偽の情報が多数含まれる可能性があり、利用者が無批判に受け入れることは非常に危険です。生成AIを情報源として活用する際は、常に人間による綿密な事実確認と検証が必須となります。
慶應SFCの画期的な「AI検出」試みとその波紋
生成AIと人間のインタラクション、AI活用における判断力の重要性を示す慶應義塾大学湘南藤沢キャンパス（SFC）の「総合政策学」の授業で、このハルシネーションを逆手に取った興味深い試みが行われました。授業では、生成AIのハルシネーションについて学生に説明した後、配布資料に「人間には見えないがAIには認識できる」形で、授業内容とは無関係な福澤諭吉の著書『文明論之概略』に関する要約文や指示文を巧妙に仕込みました。その結果、この資料をAIに入力して要約や感想を生成した学生のレポートには、授業で扱っていない『文明論之概略』に関するコメントが紛れ込み、生成AIを使用したことが一目で判明する仕組みとなっていました。この仕掛けに気づかずそのままレポートを提出した学生は、評価の対象外とされたのです。この出来事は、一流大学の学生の間でも生成AIの安易な利用が広がっている現状と、AI時代のプロンプト技術の奥深さを示し、大きな話題となりました。
大学における生成AI利用の実態と教員の対応策
慶應SFCの事例は特別なものではなく、多くの大学で生成AIを使ったレポート提出が問題となっています。複数の大学教員が、「生成AIで書かれたと疑われるレポートが多数提出される」と口を揃えます。ある教員は、「AI使用の疑いがあれば毎回減点しているが、抗議はほとんどない」と語り、別の教員は「AIチェッカーは必須アイテムで、使用を明かした上でAI文章の特徴や判定基準まで事前に指導している。それでも提出する学生はいる」と、その現状を明かします。この状況は、単にAIの使用を禁止するだけでなく、学生が生成AIとどう向き合い、どのように倫理的に活用すべきか、そしてその出力結果を批判的に評価する情報リテラシーを育むことの喫緊の必要性を示唆しています。
AI技術は強力なツールであり、その進化は止まりません。しかし、それが生み出す情報の真偽を見極め、適切に活用する能力は、これからの時代を生きる上で不可欠なスキルとなるでしょう。教育現場はもちろんのこと、あらゆる分野において、AIが生み出す「幻覚」を見破り、信頼できる情報を取捨選択する人間の判断力が、これまで以上に求められています。
