ILLUSTRATION BY JAMES YANG

レベッカ・ローンホースの短編『本物のインディアン体験^TMへようこそ』の主人公は、ちょっとさえない男だ。

彼はアリゾナ州セドナで、客に「本物のインディアン体験」をさせる仮想現実ツアーを主催する会社でガイドを務めている。映画から拝借した場面をデジタルで再現する「ヴィジョン・クエスト」なる体験へ人々をいざなう。彼自身、現実世界ではひとりのネイティヴアメリカンだが、自分は旅行者が望むような理想的な「インディアン」ではないと思っている。だがそこへある若者がやってきて、やがて主人公の仕事を盗み、生活そのものを乗っ取ってゆく──。

胸が張り裂けるような、それでいて解釈の余地を残すストーリーは、ネビュラ賞やヒューゴー賞をはじめ、権威あるSF文学賞をいくつも獲得している。

しかし、イリノイ大学シカゴ校でエマニュエル・バートンの倫理学の授業をとっている学生にとって、この物語は心から共感しにくいようだ。「主人公に喝を入れたくなるようです」とバートンは言う。

そこから授業の話題はInstagramへと移り、インフルエンサーと真正性の危うい関係が議論される。さらに、サイバーワールドをつくるときにどんなデザインを選ぶか、サイバーワールドがそこで働く人間にどんな影響を与えるかにまで話は広がる。

授業が終わるころには、「テクノロジーと感情のかかわりを定義する」という掴みどころのない目標に少し近づいていれば──そうバートンは願っている。

プログラマーやエンジニアのための倫理学

この試みは非常に重要だとバートンは言う。なぜなら、クラスの受講生はほとんどがプログラマーだからだ。

同校のコンピューターサイエンス専攻では、バートンの倫理学は必修と決められている。シラバスにはSF作品の名がずらりと並ぶ。プログラミング漬けの24時間ハッカソンから少し離れ、ナラティヴやキャラクターを通じて、いずれ構築し世に出すことになるプロダクトについて考えてもらうのが狙いだ。

「物語は人のペースを落とさせるいい方法です」とバートンは言う。さらには、倫理観のあるエンジニアの育成にもひと役買うかもしれない。

エンジニアにどう倫理を教えるか、またそもそもその価値があるのかについては、長年議論が錯綜してきた。1996年、ある研究者のグループが、コンピューターサイエンスの履修課程に倫理学を含めるべきとする提言を業界の有力誌『Communications of the ACM』に発表。次の号にはふたりのコンピューターサイエンティストがそれに反論する書簡を編集部に寄せ、掲載された。

「倫理面、社会面の懸念も大切かもしれないが、核兵器の倫理性を議論するのは物理学でないのと同様、コンピューター化がもたらす社会的、倫理的影響を論じあうのはコンピューターサイエンスではない」とする主張だ。当時はこの立場が主流だった。

しかし現在、倫理を重視する動きが再来している。大手テック企業の倫理性が再び問題にされるなか、マサチューセッツ工科大学（MIT）、カーネギーメロン大学、スタンフォード大学などが鳴り物入りで倫理学のコースを新たに立ち上げた。

学生自身がこうした教育を求めるケースもあると、コロラド大学教授であるケイシー・フィスラーは説明する。フィスラーは自らもコンピューター倫理学を教えながら、倫理教育について研究している。

かつては最高の経験とされたフェイスブックでのインターンも、いまは眉をひそめられかねない。学生たちは倫理にまつわる何らかの手ほどきを求めているのだ。

SFは「未来予想」のツールなのか？

倫理を教える側からすると、題材には事欠かない。テック業界では、毎日のように新しいスキャンダルがあるからだ。

グーグルは政治的バイアスの不適切な扱いで窮地に立たされているし、アマゾンはAlexaに怒鳴りつけるあなたの声をしっかり聴いている。非営利調査報道団体のプロパブリカは、再犯予測プログラムのアルゴリズムに、黒人の再犯危険度が高く示すバイアスがあったと発表した。ケンブリッジ・アナリティカがフェイスブックの利用者データを不正にかき集めていたのも有名な話だ。

こうした現状に説明をつけるため、テクノロジーを学ぶ学生には哲学に根ざした古典的な人文学教育が必要だと多くの人が考えている（ただ、既存の偏見を教室で繰り返すのはいけない。先日も人工知能によるバイアスを扱うはずのMITのクラスが、とうの昔に世を去った白人男性による文献ばかりを取り上げているとして、Twitterで槍玉に挙げられた）。

現実世界から離れたいという声がある、と話すのは、ケンタッキー大学でコンピューターサイエンスを教えるジュディ・ゴールドスミスだ。学生から試験課題に不満が出たのを機に、10年ほど前から授業でSFを扱っている。試験の代わりにSF文学作品を分析する課題を選べるようにしたところ、それがのちに「SFとコンピューター倫理学」というクラスへと発展した。

ゴールドスミス自身、本来の専門はアルゴリズムと抽象代数学であり、哲学ではない。「自分が何をやっているのか、見事なまでにわかっていませんでした」と言う。頭を抱えたゴールドスミスは、倫理と『ナルニア国物語』をテーマに博士論文を書いたバートンの協力を得て、授業を改造した。

数学と宗教をそれぞれ専門にするふたりは、SFに対するアプローチが異なることにほどなく気づいた。

ゴールドスミスはSFに対し、現代のテクノロジーを進化させる役割や、来たるべき技術がもたらすであろうジレンマを学生に想像させる役割を見いだした。言い換えれば、SFは未来を予言し、近い将来やってくる現実に備える手段であると受け止めたのだ。

多くの人が、これをSFの有益な機能だと考えている。企業の幹部が集まる会議室で未来の世界を構想する、フューチャリスト・コンサルタントに聞けば明白だ。

一方のバートンは、SFの未来予測の試みにそれほど意味はないと指摘する。エンジニアが目の前の難題に対処できない場合は特にだ。「フェイスブックはこれまであらゆる失態を犯してきて、おそらく自分たちでもちょっとバランスを欠いているなと気づいていたはずです。でも、実際に現場にいると、『これくらい普通だよ』と簡単に自分に言い聞かせてしまえる。ここが見過ごされている点なのです」

むしろ、フィクションの意義は未来ではなく既存の問題を示してみせる点にあるとバートンは考える。要は、共感力の問題だ。ケン・リュウの短編『Here-and-Now』は、デジタルプライヴァシーを巡る議論のきっかけになるかもしれない。マーティン・シューメーカーの『Today I am Paul』は、ロボットと人間の関係性を論じるものだ。

人間らしく生きるためのSF

コロラド大学でコンピューター倫理学を教えるフィスラーは、中間の立場だ。彼女が好むのは、Netflixドラマ「ブラック・ミラー」のように、現実世界と密接につながるSF作品である。「現実世界とSFの世界のつながりを細かに見てとることができますよね」とフィスラーは話す。

彼女は、現実社会のケーススタディーと結びつける。リアルとスペキュラティヴを融合することによって、学生たちがテック業界で働くことの本質とリスクを見抜き、行動につなげられるようになればと期待しているからだ。

さらにいいのは、学生にプログラミングと同じコース内で倫理を学ばさせることによって、コードという文脈のなかで、倫理的な問いとその解決策を見つける視点を身につけさせられることだ。

とはいえ、何より重要なのは、それが実際に生かされるかどうかである。

倫理学を学んだ学生は、テクノロジーの世界におけるバイアスを鋭く見抜き、かつそれを修正するツールを提供するプログラマーになれるのだろうか？ フィクションに描かれた、人に対する共感や衝突といったいささかセンチメンタルな要素が、コンピューターサイエンスを志す学生を感度の高いプログラマーに育てるのだろうか？　

大事なのは、コードに潜む問題を見つけられるようになることだけではない、とバートンは言う。倫理学は、ひとりの人間が大企業に、そして技術の進化がもたらす力に支配されることの意味を問う。学生は、目的に向かって猪突猛進するだけではない世界にさらされること、つまり人間が豊かかつ複雑にした「思考」の世界に1学期だけでも身を委ねることで、より積極的かつ批判精神をもった社員になれるかもしれない。

ケン・リュウが2017年に『Nature』誌に書いたように、「サイエンスフィクションは未来を知る手がかりとしてはあまり役に立たないが、絶えず変化を続ける世界で人間らしくいるための手段としては過小評価されている」のである。

RELATED

Sci-Fiで描かれた“未来”が、 わたしたちの“現在”を変える

トランプ時代における「フィクション」の役割。スペキュラティヴ・アーキテクト、リアム・ヤングが語る

いまテクノロジーには哲学とSFからの問いが必要だ：雑誌『WIRED』日本版リブート記念イヴェントレポ…