【第27回】生成AIは教育に百害あって一利なし〜手書きで人間の創造性を（東京大学教授　酒井邦嘉氏）

 

 

東京大学教授
酒井邦嘉氏（さかい・くによし）
1964年、東京生まれ。
東京大学大学院理学系研究科博士課程修了。
マサチューセッツ工科大学客員研究員を経て現職。
著書に「言語の脳科学」「科学者という仕事」「チョムスキーと言語脳科学」ほか。

 

活用前提の議論は危険

 

──教育現場の方々が困っています。チャットＧＰＴの扱いをどうしたものか。今のところ、活用する方向に傾いていますね。特にＩＣＴやＡＩの専門家は、「禁止はナンセンス」と言っていますが。

酒井　生成ＡＩには明らかなリスクがありますから、そうした決めつけや、使用を前提とした議論は危険です。「新しい技術を恐れてはいけない。使えるものは使わなくては」といった「あおり」行為がまかり通るはずはありません。それならドーピングやカンニングはもちろん、核兵器やロボット兵器なども活用すべきということになってしまいます。

──確かに。とはいえ、すでにさまざまな生成ＡＩが日常に入り込んでいて、排除できないのも事実です。

酒井　もう後戻りできないかもしれませんが、「だから使うしかない」と言うのは詭弁ではありませんか。

　教育に関する限り、生成ＡＩは百害あって一利なしです。教育の目標は、自分で独立して考えられる人材を育てることですから。

 

──同意します。とはいえ、対話型生成ＡＩは、質問に対しそれらしい回答を作り出すシステムだから使いたくなるのでしょう。

 

酒井　そうしたチャットボットに対して「対話型」と呼ぶのは適切ではありません。あくまで「対話風」に仕立てられているだけですから。

　対話とは、相手の考えている言外の意味を含めて推理することです。つまり発話意図や意味処理から心情理解までが必要です。「対話型」と言った時点で、あたかも普通に「対話」ができると錯覚させてしまいますが、これらの機能は全く搭載されていません。

 

──生成ＡＩはこちらの質問を理解しているわけではないということですか。

酒井　そもそも、人間と同じように言葉を理解させようという設計ではありません。

　例えば「太郎が花子に自分の写真を撮らせた」という文を考えてください。これは「太郎自身の写真を撮らせた」と「花子自身の写真を撮らせた」という二通りの理解ができます。ところが今の生成ＡＩは、前者しか認識できません。さらに問いかけると、関係のない文脈を持ち出してきたり、「通常、人は自分自身の写真を撮るために他人に頼むことはありません」と決めつけてきたりします。

 

──チャットＧＰＴとやりとりしていても、妙に噛み合わないと思っていました。使う側の意図を読めるように設計されていなかったからなのですね。

酒井　それに生成ＡＩはわれわれの感情などもわかりません。心がないからそれは当たり前ですが。人間側が勝手に感情移入して、「対話している」と勘違いしているだけです。かつて日本で流行したペット型ロボットに近いですね。

──そういえば、ペット型ロボットに名前を付けるのは、日本人だけと言われていました。チャットＧＰＴにしても「チャットくん」と呼んでいる人も見かけます。

酒井　日本人には新しいものに飛びつく傾向がありますからね。たとえ拙い「対話」でも、「あ、わかってくれたんだ」と考えてしまいがちです。依存度が上がることで、ＡＩの足らない部分を自分に都合良く補ってしまうことになる。片思いがひとりでに増幅する感じです。

ケンブリッジ大、「ＡＩ使用は剽窃」を表明

 

──ＡＩが賢いというべきか、人間が愚かというべきか。

酒井　人間の言語の設計は完璧ですが、心が未熟なのです。

　生成ＡＩを賛美する人は「裸の王様」なのだと思います。王様の「新しい服」は、賢い人だけに見えて愚かな人には見えないのだ、と仕立屋が言うと、王様も家臣も見栄がありますから、自分には見えるふりをする。生成ＡＩも同じことです。

──新しい生成ＡＩも、その技術の正体を見極めなくてはいけないということでしょうか。

酒井　「禁止はナンセンス」と言うのも、その真の姿を隠そうとする企図が見え隠れする強弁です。人工知能学会が出しているメッセージ１も「一律な利用の禁止は何も生み出しません」と述べることで、「良い技術には見えない」という論を最初から封じています。

──「大規模生成モデル」を「核兵器」に置き換えてみると、この文章の奇妙さが見えてきますね。

酒井　人類に危機を及ぼしうる技術は、まず一律な禁止をしてから議論を始めなくてはなりません。核兵器に対するパグウォッシュ会議や、遺伝子組み換えに対するアシロマ会議を思い出して下さい。

──東京大学など２も「活用すべき」という指針を出しましたね。

酒井　その一方で、イギリスのケンブリッジ大学は、「生成ＡＩの使用は剽窃とみなす」という宣言を迅速に行いました３。これは、ケンブリッジ大学の見識を表明したものです。

　メディアでよく使われている「ＡＩの進化」という言葉も不適切です。技術の進歩があっても、文明としては退化に向かう可能性があります。科学者や技術者が価値観を与えては決していけないのです。

──チャットＧＰＴに、「チャットＧＰＴが教育に与える影響を、メリットとデメリットに分けて説明して」と質問したら、こう答えました。メリットに「個別化された学習体験」、デメリットとは「情報の信頼性の懸念」などです。意外とよくできているな、と感じたのも事実です。

酒井　そうした借り物の言葉に踊らされてよいのでしょうか。今やネット上にそうした情報が溢れていますから、そうした作文はたやすいことです。出どころがわからないのに、それを「正解」のように受け止めてしまったら、教育や学習は終わりでしょう。これまでの電卓や電子書籍、スマホやタブレットといった電子機器と比べられないほど恐ろしいのは、その点です。

──パソコンやインターネットなど、新しい技術が入ってくるたびに私たちは騒いできました。問題もあるけれど、その度に乗り越えてきた。だから今後も活用していきましょう──というのが行政や大学の見解です。

酒井　そうした議論は明らかな誤りです。そこでは都合の良い技術が並べられているだけなのですから。毒ガス兵器や地雷、そして化学兵器から生物兵器の脅威はどうなのでしょう。どれも明らかに「活用」できない技術ではありませんか。

　今や、ＡＩを搭載して攻撃目標を自動的に定めるような「自律型兵器」がドローンに搭載されて、実際に戦争で使われています。そうしたロボット兵器の開発と使用を禁止する提言４が科学者を中心になされています。その中には、言語学者のチョムスキーや物理学者のホーキングも入っていましたが、各国の政府は受け入れませんでした。プロパガンダへの生成ＡＩの利用についても、議論する必要があります。

 

教員の仕事は「学生を疑う」ことか？

 

──酒井先生は大学の講義で、手書きでのレポートを学生に課しているそうですが、今後はどうしますか。

酒井　これまでは、安易なコピー＆ペーストを防止する策として、必ず手書きで提出するようにと指示してきました。それは、他人の作成した電子ファイルを無断借用したケースが発覚したことがきっかけです。

　今後は生成ＡＩの使用が懸念されるため、手書きのノート以外の持ち込みを禁止した筆記試験を実施することになるでしょう。

 

──手書きの原点に戻るということですね。

酒井　生成ＡＩの使用を禁じたとしても、発覚を覚悟してでも使う学生が出てくるかもしれません。そうすると、生成ＡＩで書いたかどうかを見破る以前に、学生が信用できなくなってしまいます。教員が疑心暗鬼になって、学生を疑うことが仕事になってしまったら、それは教育の崩壊です。学生の方も、教員と信頼関係が築けなくなるのですから。

──生成ＡＩによる文章を下書きに使うのもだめでしょうか。

酒井　「何％までなら許容範囲」という線引きはできませんからね。一度味を占めたら、一〇〇％でも罪悪感を覚えないようになるでしょう。

──厳格なはずの入試会場でも不正が起きていますからね。

酒井　スマホが試験室に持ち込まれたら、問題文の撮影から文字の読み取り、生成ＡＩによる解答作成まで、瞬時にできてしまいます。このように試験で決して使ってはならない不正な手段を、なぜ普段から推奨しようとするのでしょうか。「生成ＡＩによる文章の間違い探し」など、無理矢理ひねり出したような活用例ではありませんか。

　頭のよい学生ほどタイパとコスパに敏感ですから、できるだけ頭を使わなくて済む方法を探そうと頭を使うことでしょう。ネット情報の検索ができるようになってから、「考える前に検索する」のが常態化してしまいました。この嘆かわしい風潮に、生成ＡＩによる文章作成が追い打ちを掛けようとしています。

　チョムスキーらは今年のニューヨークタイムズの記事５で、そうした安易なＡＩの利用が「われわれのサイエンスを退化させ、われわれの倫理を貶める」ものだと言っています。

──「教育の倫理」もいよいよ手がつけられなくなる。

酒井　これからは、作文の宿題もレポートも、そしてエントリーシートから社内文書まで、誰が書いたのかわからなくなります。自分でゼロから文章を書かない限り、自身の実力もわからないでしょう。そうやって自分の力量から目をそらし続けてしまったら、教育の意義自体が揺らぎます。ＡＩによる「個別化された学習体験」が当たり前になれば、「よい教育、悪い教育」という倫理を問うこともなくなるのです。

 

「電卓は「考えることを放棄させる」

 

──先ほど電卓を例に挙げられました。電卓のことが学習指導要領に登場したのは昭和四十三年のことで、「計算機などによってかけ算や割り算をしてもさしつかえない」とされました。その一〇年後の昭和五十三年には「電卓」という単語が使われるようになり、その後、「使わせてもさしつかえない」から「適宜用いさせるようにすること」や「積極的な利用」へと変化しています。

酒井　これは数学教育界でも賛否が分かれてきた問題ですが、生成ＡＩをめぐる議論とよく似たところがあります。

　日本とは異なり、海外では試験でも多機能の電卓を使用することを認める国がありますし、それでも「数学の学力に影響がないようです」というデータ６も示されています。日本は技術導入の「後進国」なのでしょうか。

　そうすると、「電卓を教室で積極的に利用するなら、生成ＡＩも同様にすべきだ」とか、「生成ＡＩを禁止していたら、中国や欧米に後れを取ってしまう」といった議論がまかり通ってしまいます。しかしそうした議論は、「筆算」する力と「文章」を書く力を短絡的に同一視した点で誤っています。

　数学の学力では、概念の整理や定理の証明といった考え方が重視されますから、筆算が多少苦手でも目立たないのでしょう。しかし、文章を書く力がなければ考えたことを言語化できませんから、あらゆる教科に深刻な影響をもたらします。言語能力は、あらゆる学びの基礎にあるのです。

　「そろばん」という道具は、電卓とは全く異なります。計算の過程で「数」や「桁」の変化が目に見えることで、暗算にも役立ちます。そして、正確な計算結果に対して達成感が得られるということに、明確な教育的効果があります。電卓を用いた場合との違いは明らかでしょう。

　子どもたちが早くから電卓を使ったとしても、レジ打ちが速くなるといった実利的な効果はあるかもしれませんが、数学の学力に資するものではありません。むしろ、教育現場で電卓を「適宜用いさせる」ということの是非を問い直すべきでした。

──これだけ普及した電卓に対して、それはなぜですか。

酒井　生徒に電卓を使わせることで、「時間をかけて計算するのは無駄なことだ」と教えこむことになるからです。同様に生成ＡＩを使わせることで、「時間をかけて文章を書くのは無駄なことだ」と教えることになります。

──計算問題の宿題で電卓を使ったかどうかが見分けられないのと同じことが、作文でも起こるのですね。

酒井　筆算の過程を書かせたとしても、途中の計算で電卓が使えますからね。ワープロの「かな漢字変換」や「予測変換」の延長として、生成ＡＩが普通に使われるのは時間の問題でしょう。

　しかし、「考えることを放棄させる」ような教育ほど不毛なものはありません。最初に「百害あって一利なし」と述べたのは、そのためです。今後の議論も、生成ＡＩの普及の程度に左右されてはいけないと思います。

　先ほどのケンブリッジ大学では、理論物理の博士論文に対する審査であっても、基礎的な背景知識を含めて口頭試問を行っていました。論文を提出するだけでは、何をどこまで理解し、すべてを実際に当人が書いたかがわからないからです。一般の博士論文審査では、論文の内容に関連した専門的な討論が中心ですが、生成ＡＩが使われた可能性を考えれば、それだけでは不十分でしょう。

　これを一般化すると、人を信じるには対面の対話が基本だということになります。それが難しければ、その人の書いたものを相当数読み込まなくてはなりません。芸術家が対象であれば、その人の作品群に徹底的に触れる必要があるわけです。

 

人間が育てる人間の力

 

──教育で人間の能力を引き出すにも、対面の対話が基本だということですね。

酒井　人を育てるのも人ならではの技です。それは決してＡＩで代用できるものではありません。もちろん書物や映像から学ぶこともできますが、それらが人間の優れた創作物だからこそ霊感を与えられるのです。「生成ＡＩから新たな発想が得られる」などと言う人は、よほどの名人か、玉石混淆──しかも「玉」は万に一つもない──がわからない人か、そのいずれかでしょう。

　先日、最年少で将棋の名人位と七冠を達成した藤井聡太さんは、ＡＩで強くなったとよく言われますが、実際に使い始めたのは中学生のプロ入り直前だそうです。そのときには、読みの深さや的確さはすでにできあがっていたはずです。師匠の存在も大きいでしょう。今後どれほどＡＩが進歩しようと、そして最初から将棋ＡＩを使ったとしても、藤井さんのような強い好奇心がなければ彼に匹敵する棋士は現れないと思います。

 

 

──その藤井聡太さんはＡＩソフトを使って将棋の稽古を「壁打ち」のようにしていると報じられています。ＡＩは人の力を鍛えることができるのでしょうか。

酒井　藤井さんの場合は、ＡＩが得意とする局面ごとの形勢判断を取り入れることで、思考の幅を広げていったのでしょう。

　将棋や囲碁でＡＩが使えるのは、勝ち負けを基準として「最善手」という評価が定まるからです。しかし言語や対話では、そうした評価が全く定まりません。その違いを無視して「将棋ＡＩをプロ棋士が使っているんだから、生成ＡＩだって同じように使えば良い」と言うような議論は乱暴で、私は許せませんね。生成ＡＩを実際の対局に使ったらカンニングになってしまうのですよ。

　将棋棋士の羽生さんや藤井さんは、ＡＩを超えるような手を対局中に考え出すことができるわけで、そうした創造的な営みは人類の未来に希望を与えてくれます。

──彼らは人類の代表と言えるかもしれません。

酒井　ＡＩソフトと「壁打ち」をするにもそれなりの実力が必要で、初心者はもちろん、中級者でも無理な相談です。

　将棋ＡＩを使う人が自らの実力の向上に活かす条件として、私は次の三点を挙げたことがあります７。

　仮にＡＩが「ハイリスク・ハイリターン（大きな損失と高い効果）」の指し手を見つけたとして、それを無条件に「正解」だと思って採用してしまうと、後続手で大失敗をやらかして逆効果になってしまいます。

　つまり、ＡＩに匹敵する能力を持たない人がその計算結果だけを頼ったら、取り返しの付かない事態を招くことでしょう。計算結果だけを教えてくれるような電卓や計算機を教育に持ち込むのは、いかに危険なことか。それによって子どもたちの能力の育成をいかに阻害してきたか。そうした検証がほとんど為されないまま、今日まで来てしまいました。

 

 

──コロナ禍で学校に通えないという状況が追い風になって、ＧＩＧＡスクール構想で掲げた「一人一台端末」が実現されました。

酒井　その端末にチャットＧＰＴを搭載させる日も近いのです。

 

ＡＩ時代の教育が目指すべき創造力育成

──ＡＩ時代を迎えて、教員の役割は変わるでしょうか。

酒井　人間の創造性について理解していない人は、教員としてやっていけなくなるでしょう。自習をコーチするＡＩがタブレットに残された学習履歴を読み込んで、「あなたは二桁の掛け算が苦手ですから、今日は二桁の掛け算を集中的にやりましょう」などと提案するわけです。これまでの重労働から解放された先生たちは、逆に無力感を感じることになります。

　ＮＨＫの報道番組で、ある塾の経営者がチャットＧＰＴの効用を誇らしげに宣伝していました。生徒からたくさんの質問が届くわけですが、返事の下書きにチャットＧＰＴを使うことで業務を効率化できたそうです。そのような「手抜き」を公然と言えることに慄然としました。

──先生像も変わるし、「学力」の定義も変わるかもしれません。

酒井　作文や小説のコンクールなどでも、評価者の目の前で文章を書かせる以外、実力の詐称を見破る方法がなくなるでしょう。

──そういう時代だからこそ、紙の本や新聞から想像力を広げていき、自らの手で文章を書くということの意味を、多くの方々に理解してほしいです。

酒井　それこそ真の「生成」です。ところが大学生の多くは、講義中にペンを使ってノートを取らなくなっています。そこで今年の新入生には、万年筆で手書きの論文を書くように勧めてみました。

 

──どんな反応がありましたか。

酒井　驚きの声が上がりました。大学に入ったら、タブレットやパソコンを使いこなすのが当然だと思っていたようです。

──なぜ、紙と万年筆なのか。私を学生だと思って、説明していただけますか。

酒井　手書きは時間がかかり、万年筆は鉛筆と違って簡単には消せないですし、もちろんコピペもできません。しかし、書きながら考える余裕が生まれ、頭の中で文章を構成してから書くようになります。そのリズム感は、キーボード打ちとは大きく異なります。

　さらに万年筆では、毛筆のような筆使いが自然に表現されるため、後で読みやすく、そして書くこと自体が楽しくなります。一字一字に魂を込めて丁寧に書くことで文が整い、文章が生き生きとしてくるものです。ワープロの呪縛から離れ、そうやって人間の創造力を取り戻したいのです。

──そうしたメッセージに対して、学生はどう反応したのでしょうか。

酒井　説明の直後に二人の学生がやって来て、「先生、万年筆をください」と言ったのです。

──万年筆を「ください」ですか。「見せてください」「貸してください」ではなく。

酒井　そのリクエストに私も半信半疑でした。研究室に戻って普段使いの万年筆を渡したところ、「大切に使います」と目を輝かせ、とても嬉しそうでした。

──先生は「ペリカン」の万年筆を愛用されていますよね。結構高価ではありませんか。

 

酒井　教育には効率もコスパも関係ないですから。これまで何百年もの間、学者も作家も、そして作曲家も、紙と羽根ペンや万年筆だけで仕事をしてきたのです。仕事の過程や道具の質をおろそかにするようでは、真のクリエーターはいなくなるでしょう。

──ＡＩ時代であっても「自分で考え創造する」ことだけは変わっていけない、ということですね。

 

酒井　そこは譲れません。使う必要のないＡＩを無理に利用させようというのは暴力に等しいことです。生成ＡＩには人間の思考力や創作力を奪うリスクがあるのですから、学校でも家庭でも一定の節度と規制が必要でしょう。

──生成ＡＩがこれだけもてはやされるということは、人間が愚かだからこそ賢さに憧れていて、その思いの裏返しかもしれません

酒井　しかし、決して大勢に流されてはいけません。生成ＡＩをめぐる今回の騒動で、人間がいかに言葉を軽んじ、創造の素晴らしさを忘れてしまったかが露呈してしまいました。

──そうですね、これを機に何とかしなくてはいけません。

酒井　今からでも遅くないので、猛省しなくては。生成ＡＩはネット上の情報の模倣ばかりで、本質的に新しいものを何ら生成していないではありませんか。

　教育の原点には、常に創造力の問題があります。模倣なくしては創造もありませんが、知識偏重の教え方では模倣だけに終始してしまいます。無理に訓練や試験であおれば、元の木阿弥でしょう。本当に大切なことは生徒や学生が自ら把握するしかなく、容易には教えられないものです。

　デカルトが看破したように、「われ思う、故にわれあり」こそが真理です。沈思黙考せずして、人間に未来はありません。まずは、安易な手段への誘惑を断ち切ることです。そして、本来の人間性を取り戻せばよいのです。

 

注

１　「人工知能学会としての大規模生成モデルに対してのメッセージ」　https://www.ai-gakkai.or.jp/ai-elsi/archives/info/
　「一律な利用の禁止は何も生み出しません。積極的に利用する前提で、どのように教育に活用するかを検討すべきと考えます」（二〇二三年四月二十五日）

２　東京大学公式サイト「生成系ＡＩについて」　https://utelecon.adm.u-tokyo.ac.jp/docs/20230403-generative-ai（二〇二三年四月三日）
　「生成系ＡＩを有害な存在であるとして利用禁止するだけでは問題は解決しません」「積極的に良い利用法や新技術、新しい法制度や社会・経済システムなどを見出していくべきではないでしょうか」と活用を促している。

３　ケンブリッジ大学公式サイト「盗作と学術的不正行為」　httpsｗ://www.plagiarism.admin.cam.ac.uk/what-academic-misconduct/artificial-intelligence
　「ＣｈａｔＧＰＴなどのＡＩプラットフォームによって作成されたコンテンツは、学生自身の独創性を表すものではないため、一種の学術的不正行為とみなして大学の規定に基づいた処置を行う」と厳格に対処することが明記されている。

４　Future of Life公式サイト「自律型兵器：人工知能とロボット工学研究者からの公開質問状」　https://futureoflife.org/open-letter/open-letter-autonomous-weapons-ai-robotics-japanese/

５　The New York Times「ノーム・チョムスキー：チャットＧＰＴの誤った期待」　https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html

６　新興出版社啓林館サイト「世界の数学教育・日本の数学教育」長崎栄三　https://www.shinko-keirin.co.jp/keirinkan/kosu/mathematics/sekai/nagasaki02.html

７　酒井邦嘉　編著／合原一幸／辻子美保子／鶴岡慶雅／羽生善治／福井直樹　著『脳とＡＩ—言語と思考へのアプローチ』中公選書、二〇二二年、p.六七
（１）ＡＩが見つけるような手を、高い確率で自分でも思いつけること
（２）ＡＩの指し手の意味を自分で解釈できること
（３）ＡＩの候補手を、後続手に自力でつなげられること

 

 

ひとこと

　チャットＧＰＴがこれほどまでに世間の耳目を集めた根底には、文章を「生成する」ことへの苦手意識があるのだろう。ＳＮＳに書き散らかすのとは違う、論理的文章を書けない現実はビジネス界でも同様のようで、「企画書すら書けない社員が多い」とこぼす企業幹部は多い。
　論理的文章を書かせる試験「バカロレア」を続けるフランスでは、ディセルタシオン（小論文）を核とした教育を小学校低学年から行う。時間軸に沿って体験を綴る日記やスケジュールの作成、遠近感など空間を言語で表現する風景画の説明文にも取り組む。料理を作る様子を観察してレシピに落とし込む授業まであるそうだ。そんな訓練の機会がなければ、おとなも子どもも、苦手意識の呪縛から逃れにくいのだろう。
　それだけに酒井氏の言葉はのしかかる。「頭のいい学生ほどタイパとコスパに敏感で、できるだけ頭を使わなくて済む方法を探そうとする」。
　とある進学高校の期末試験で、複数の生徒がカンニングした。先端技術を駆使した巧妙な手口で、授業態度が真面目な生徒ばかりだったから厳重注意で済んだ。ところがその翌日、中の一人がまたもや犯行に及んだという。ある中学校では、校長主導で「書かせるテスト」を全教科で試みた。教科書やノートの持ち込み自由で、論理的文章を書くスキルの向上に焦点を合わせた試みに対し、生徒は「テスト対策ができない」と反発、教員も「作成も採点も大変」と不満をぶちまけたとか。
　「書く力」が問われた高大接続改革答申から一〇年近く経つ。問題は何も解決されていないようだ。（奈）
＊渡辺雅子著　『「論理的思考」の社会的構築』　（岩波書店）

 

 

---