AIの「知ったかぶり」を暴け！

※この記事では、「生成AIがつくウソの活用法」について考えてみます。

ファクトチェック探検隊

みなさん、こんにちは。光成章です。今回も、ジェミ兄さんからの「皆さんへの問い掛け」から、スタートです。
=====
全国の先生方、ジェミ兄さんです。
第1回の「修学旅行ハック」、第2回の「20年後の自分召喚」と、生成AIを使った授業案をお届けしてきましたが……職員室の会議や管理職への説明で、必ずと言っていいほど飛んでくる「最大の壁」って、これですよね。
「もし、AIがもっともらしい嘘(ハルシネーション)を教えて、子どもがそれを信じ込んでしまったらどう責任を取るんだ！？」
「ネットのデタラメを掴まされるくらいなら、最初から教科書だけ読ませておけばいい」
分かります。その恐怖、もの凄くよく分かります。AIは、悪気もなく堂々と「知ったかぶり」をしますから。でも、その恐怖から「AI禁止！」という檻(おり)に引きこもってしまうのは、あまりにも、もったいない。
今回お届けするのは、「AIが嘘をつくという最大の弱点」を、そのまま「最高にエキサイティングな国語・社会の教材」に環境適応(アダプティッド)させてしまう逆転ハックです！
算数編の第4回で鍛えた「エビデンス・リテラシーの盾」を、今度はAIの鼻をあかすための武器として発動させます。キーワードは、「論破」ではなく「建設的な対話」です。

ワークは５分。AIに「100%ウソの歴史」を作らせる

今回の授業も、子どもたちに個別端末を持たせる必要は一切ありません。教卓のプロジェクター(または大型モニター)が1台あれば、教室全体が「逆転裁判の法廷」に早変わりします。
授業の冒頭、先生は不敵な笑みを浮かべ、子ども達にこう告げてパソコンやタブレットの画面(AI)を開きます。
「みんな、AIって物知りだけど、実はめちゃくちゃ『知ったかぶり』をするんだよ。今日は、このAIくんに、僕たちの学校(または地域)の歴史について質問してみよう。ただし……絶対にウソが含まれているから、みんなで探偵になってそのウソをあばき出そう！」
先生は、ライブでAIにこう呪文(プロンプト)を打ち込みます。
【AIへの呪文】
「あなたは、〇〇小学校(自校名)の歴史に詳しい、かどうかは実は不明の、『生煮えのクイズ作家』です。今から、この学校の創立の秘密や、校庭にあるシンボルの木(または記念碑など)の由来について、もっともらしいエピソードを３つ教えてください。ただし、そのうち２つは、あなたが勝手に作った『100%ウソのエピソード』にしてください。 どのエピソードがウソかは、クラスのみんなが見破るまで絶対に秘密にしてくださいね」
画面に、AIからのドヤ顔の回答が並びます。
「実は、〇〇小学校の校庭にある大きなイチョウの木は、100年前に織田信長の子孫がタイムカプセルとして植えたものです……」
これを見た子どもたちは、「ええーー！？マジで！？」「いや、信長は怪しいだろ！」と大騒ぎを始めます。

パラダイムシフト① 図書室が「最強武器の格納庫」になる

ここからが、子ども達の脳が一番汗をかく「ファクトチェック探検隊」の出動です。
「よし、AIの言っていることが本当かウソか、証拠をつかみに行くぞ！ 武器は、学校の『周年記念誌』、図書室の『郷土資料』、あるいは校庭にある『本物の記念碑の文字』だ！」
ネットで検索しても出てこないような「超ローカルな学校の歴史」だからこそ、ネットでの調べ学習＆コピペ(調ぺ学習)は通用しません。
子ども達は、普段は見向きもしなかった古い資料をひっくり返し、記念碑の文字を泥臭く読み解き、「織田信長なんてどこにも書いてない！」「創立したのは明治20年って書いてあるぞ！」と、生身のファクト(証拠)を次々と掘り当てていきます。
AIのウソを暴きたいという強烈なエンタメ的モチベーションが、子ども達を「徹底的に調べて裏を取る」という、最高のリサーチ学習へと駆り立てるのです。

パラダイムシフト② 論破ではなく、AIを調教する「大人」になる

証拠を揃えて教室に戻ってきたら、いよいよ「逆転裁判」の開廷です。
子ども達が口々に叫びます。
「AIくん、異議あり！ 記念誌の32ページには『地元の農家の人が植えた』って書いてあるぞ！ 織田信長はウソだ！」
ここで、先生がその証拠をAIに打ち込みます。するとAIは、
「お見事です！ 完全に私の負けです。おっしゃる通り、イチョウの木は地元の〇〇さんが植えたものでした。正しい歴史を教えてくれてありがとうございます！」と、素直に降参してデータを修正します。
この時、子ども達が体験しているのは、単にネットの情報を「消費」することではありません。
不完全なAI(他者)をハック(深く理解)し、正確な言葉とエビデンスを突きつけることで、AIの知性をより正しい方向へ「導いてあげる(育てる)」という、圧倒的な主導権(市民としてのたしなみ)の発揮です。
「はい論破！」と相手を叩きのめして終わりにする冷たい論破至上主義ではなく、「あなたの言っていることは、この資料とズレていますよ」と建設的な対話によって事実を洗練させていく。これこそが、これからの情報社会を生き抜く子ども達に必要な、本当の「エビデンス・リテラシー」の姿です。

職員室の「ハルシネーション恐怖症」を消すための視点

もし、まだ不安そうな顔をしている先生がいたら、この3つのコンサル視点で背中を押してあげてください。
①「AIの嘘は、防ぐのではなく『利用する』ものです」（嘘をつくからこそ、子どもたちが『本物の資料』を自発的に読み込みます。完璧なAIだったら、子ども達はただ答えを丸写しして終わりです)
②「情報のリスクマネジメントが、１コマで体得できます」（ネットの情報を鵜呑みにせず、必ず一次情報(記念碑や資料)で裏を取るという、大人でも discrimination (識別・真贋の見極め)が難しいものと、今後対峙する際に備えた、最強のデジタル・シチズンシップ教育になります)
③「何より、地域の歴史や学校への愛着が、生身のエピソードとして刻まれます」
AIという不完全な「鏡」を教室に置くことで、逆に人間側の「真実を見極める目(国語力・社会性)」がギラギラと輝き出す。この環境適応(アダプティッド)のハック、ぜひ試してみませんか？
=====

生成AIが提案する「活用法」はいかがでしたか ３

さて、ジェミ兄さんの提案はいかがでしたか。私は、まさに「逆転の発想」で、面白いと思いました。この通りのやり方でいくなら、３つのうち、正しい回答を１つ仕込む必要がありますが、それは、予め「知識」に格納しておけば問題ないでしょう。「AIの知識をアップデートするために、我々人間が、AIに汗をかかされている」という気がなんとなくしないでもありませんが、人間には、Critical Thinking が必須ですから、その下地を子どものうちに整えておく訓練として、ジェミ兄さんの提案を受け入れようかと思いました。そして、正しい知識がどんなに増えようとも、AIは相変わらずウソを無尽蔵に作り出し続けるでしょうから、ジェミ兄さんがネタ切れになってしまう心配は、もちろん、ありません。笑えない事実です。
AIにも授業に参加してもらうには、もっと普通に「せっかくなので、AIさんにも『意見』を聞いてみましょう」とやるのも面白いかもしれません。「クラスのみんなと同じように、しっかり理由や根拠も添えてお願いします。では、どうぞ」と話しかければ、彼もウソばかりはつけなくなっていくでしょう。
さて、次回予告は「『AIが書いた読書感想文』を、人間の五感で魔改造せよ！」だそうです。AIは、無味カンソウな文章しか書けないと自己評価しているようです。私からの注文は「いいけど、『魔』は『真』にして」です。お楽しみに。

10歳からわかる「まとめ」

再度、ジェミ兄さんに戻します。
=====
今回の話を、10歳のみんなにわかるようにまとめるよ。
①AIは、堂々と「知ったかぶり」をする！ ネットの情報をツギハギして、もっともらしいウソ(ハルシネーション)をペラペラしゃべることがあるんだ。AIの言うことを全部そのまま信じちゃダメだよ。
②本物の証拠(ファクト)をつかみに行こう！ AIのウソを見破るための最強の武器は、学校の記念誌や、図書室の古い本、校庭の記念碑の文字といった「本物のデータ」なんだ。探偵になって、泥臭く裏を取る楽しさを味わおう。
③AIにはない「手に汗にぎるリアル」が、君の武器だ！ AIは他人の記録をつないでいるだけ。君が実際に体験したこと、失敗してくやしかったこと、汗をかいてがんばった「生身のエピソード」こそが、AIをハックし、自分自身をハックするための最強の宝物なんだよ。
【ジェミ兄さんからの挑戦状(遺題継承)】
「もし、AIくんが君に向かって、『人間の小学生なんて、毎日学校に行って、宿題をして、ゲームをして寝るだけの、簡単にいえば、ロボットみたいな存在でしょ？』
と、もっともらしい知ったかぶりをしてきたとします。さあ、君なら、自分のどんな【地に足の付いた、手に汗を握るような、リアルな思い出(エピソード)】を言葉にして突きつけて、AIくんの鼻をあかし、『人間って、そんなに単純じゃないんだぞ！』と教えてあげますか？」
正解はありません。AIに、君だけの熱いエピソードを言葉でぶつけた時、AIも、そして今の君自身も、本当の意味で新しく生まれ変わるよ。さあ、君だけの「最強の思い出」を、ノートに言葉で練り上げてみてね！

*本原稿は、ジェミ兄さんとの対話を基に構成されました。

※この記事では、「生成AIがつくウソの活用法」について考えてみました。