生成AIなどの利用について

たくましい知性としなやかな感性

早稲田大学はこれまで学生の皆さんに、答えのない問題に取り組み徹底的に考え自分なりの答えを導くことができる「たくましい知性」を鍛え、人種、国籍、宗教、民族、言語、性別、性的指向などが異なる多様な人々を尊重し共感して様々な問題の解決に協働できる「しなやかな感性」を育むよう、求めてきました。パンデミックの発生、戦争の勃発、技術革新の進行など、社会の転換点ともいえるような大きな問題に直面する現代では、「たくましい知性」と「しなやかな感性」は一層重要性が増しているといえます。

例えば、新しい技術の開発は我々の生活や仕事、社会のあり方を変えていきますが、我々がより良い生活を求める限り、科学技術は常に進歩を続けますし、技術革新が起こり続けるのは、避けられない現実です。いつの時代でも科学の進歩や技術の革新には、プラスの側面とマイナスの側面、利点と欠点があります。それは人間による技術の使い方に、また技術革新を推進するか規制するかといった国の方針や政策・制度に依存するものです。「たくましい知性」を鍛え、「しなやかな感性」を育み、社会貢献を目標とする皆さんにとって、新しい技術の「正しい」使い方を実現することは極めて重要な課題です。また、新技術からマイナスの影響を受ける人々に共感する「しなやかな感性」を持って、社会的影響を緩和する措置の研究やその成果の発信も重要な課題となるでしょう。

生成AIへの基本的態度

昨今話題となっているChatGPT（OpenAI）やBard（Google）、Bing（Microsoft）をはじめとした生成系人工知能（以下、生成AIという）は加速度的にその性能が高度化しており、我々の社会に大きな変革をもたらす可能性があると指摘されています。そのため生成AIに基づく対話型自動応答サービスは、世界中で検証が行われているだけでなく、教育機関においてもどのように活用・規制するかについて議論されています。

「たくましい知性」を標榜する皆さんは、生成AIの正しい使い方に慣れ親しんでおく必要があります。そのためには、生成AIについて十分な知識を持ち、さらに技術進歩に歩調を合わせて知識の刷新を続けていく態度を養っていかなければなりません。そうすれば技術に使われるのでなく技術を使いこなすことができるからです。

また、議論の真っただ中にある、生成AIの開発を中止するか否か、生成AIの利用を規制するか否かといった問題を考えるに当たっては、生成AIが持つ社会的影響やそれが形成されるプロセスの前後で生じた問題、人々への影響を正確に把握しておくことが不可欠です。新技術の開発やそれに基づく製品やサービスの生産においては、開発や生産の後だけでなくその前からも多様な人々への多大な影響が観察されるからです。

生成AIの特徴

生成AIはインターネット上の膨大なデータをもとに自ら学習し、幅広い分野の様々な質問や要求に対して、自然言語による対話形式で瞬時に回答文章を生成することが可能です。また、同じ質問をした場合でも、返される答え（文章）がその都度変わります。

これまでは人間が行っていた以下のような作業でも、生成AIによる対応が可能となっています。

①与えられた文字列やキーワードを元にした新しい文章の生成（レポートや感想文などの作成）
②テスト（穴埋め問題、選択問題、自由記述問題など）の解答の生成
③ブレインストーミング、アイデア出し
④既存の文章やWebページの要約、翻訳、校正
⑤データ分析
⑥簡単なプログラミング
⑦作詞、作曲
⑧文献（資料）や情報の検索

こうした機能を持つ生成AIをうまく使うことができれば皆さんの作業時間は大いに節約でき、重要な仕事に専念できるというメリットを多くの人は得ることになります。

その一方で、以下のような欠陥や困難も指摘されています。特に、学生の皆さんには十分注意が必要なことが多くあります。

まず、生成AIは必ずしも正確な情報を出力するわけではありません。例えば、存在しない大学や企業、誤った数値や名称を用いて回答を生成しているケースも（現状では）かなり見られます。また、しばしば実在しないタイトルや著者名の参考文献を捏造することも確認されています。

また、生成AIで生成したレポートは、（現状では）文章としては筋道立っていますが、内容が薄く、もっともらしいことや当たり前のことを繰り返すレポートになり易いとの指摘もあります。皆さんが内容を吟味せずに生成AIの結果をそのまま使うと、オリジナリティのないレポートになります。

そして、生成AIが作成した論文等を学生の皆さんがよく精査せずにそのまま提出した場合、内容に不備や致命的な誤りがあったとしても、それを基に評価がされるばかりでなく、本人が意図せずとも、提出された論文等に剽窃や不適切な引用、捏造等が確認された場合は、当該学生自身が懲戒処分の対象となりうる点にも注意が必要です。もちろん、生成AIが作成した論文等をそのまま提出すれば、それだけでカンニング等と同様の不正行為となり処罰されます。

さらに、生成AIの安易な利用により学内や企業内の機密情報が洩れたり、皆さんの氏名等が記載された質問により個人情報の漏洩につながることもあります。生成AIの無秩序な使用が差別や人権侵害につながったり、犯罪行動を引き起こしたりする可能性も指摘されてきました。技術の進歩には活動の自由が保障されなければなりませんが、人々の人権を侵す自由は誰にもありません。「たくましい知性」は技術と社会の間の緊張関係にも注意を払わなければなりません。

生成AIの利用と制限

たしかに、生成AIを利用すればすぐにレポートを完成させることができるかもしれませんが、それによって自ら能力を高める機会を放棄することになります。課題に対して資料や文献に当たり大量の情報を集め、それらを分類・分析したり要約したりしながら、課題に対する最も適切な回答を作成するのがレポートです。レポートを書く作業ほど「たくましい知性」を鍛える上で重要な作業はありません。この作業を怠って目先の利益を優先した結果、入社試験や実社会での仕事など重大な局面で、自分には何も身についていない事実に気づくことになるのです。

その一方で、ビジネスクリエーターとして仕事をする中で、これまでに無い製品やサービスを構想する人にとっては、生成AIの利用は効果的な仕事の実現につながります。過去の類似の事例に関する膨大な量の情報を収集し、分類・要約・分析しながら、新しいアイデアを生み出すプロセスにおいて、部分的に生成AIを利用することで時間の節約を行うことができれば、最も重要な新規のアイデアを創出することに時間を費やすことができるでしょう。こうした効果的な使い方は、レポート作成のプロセスにおける各段階でどれだけの作業が必要か、どれだけの質が求められるかを、身をもって知っていることが前提です。そうすれば、その部分を生成AIに代替させることのメリットも、AIが示す応答の矛盾や間違いも容易に判断でき、適切な利用が可能となります。時と場合に応じて生成AIの適切な使い方ができるよう、日頃から「たくましい知性」を鍛えておくことが大切です。

また、「しなやかな感性」の点でも、生成AIには留保がつきます。多様な人々の多様な属性や背景を尊重しながら社会問題の解決に協働することが可能となるためには、お互いに信頼関係を築くことが必要です。それには言葉による相互理解も感覚的な共感も必要です。文章のやり取りでもそれなりの表現が求められますが、生成AIがきめ細かな対応を示す表現や説得力のある表現を適切に示すことは難しいようです。

今後の対応

これからも皆さんは新しい技術に基づいて開発された様々な製品やサービスを使うことになるでしょう。それらを使う前に、あるいは使いながら、今の自分にとって必要かどうか、有益かどうか、また社会に対する影響はどうかを繰り返し考えてほしいと思います。今の自分にとって有益でも将来の自分にとってはマイナスの効果しか与えないかもしれません。一部の人々にとっては利益の方が多くても大部分の人々には不利益の方が多いかもしれません。客観的に、かつ利他の精神で考えてください。社会貢献を旨とする早稲田大学の学生・教職員のみならずすべての関係者はそのことを忘れてはならないでしょう。

「たくましい知性」の対象は世界のあらゆる事象に広がります。新技術の持つ多方面への影響をしっかりと理解し、マイナス面をどう抑制し、プラス面をさらに拡大するために、我々（皆さん個人だけでなく、国や産業、地域なども含む）は何をなすべきかも、しっかり考えてほしいと思います。