シンギュラリティで人間の意識改革が起こる

さかき漣（以下さかき）　『エクサスケールの少女』をお読みいただいて、ゲームAIの専門家としていかがでしたか？

エクサスケールの少女（徳間書店）

三宅陽一郎（以下三宅）　冒頭で主人公の妹の生物学的な問題とコンピューターの問題が提示されていて、最初から一気に引き込まれました。話の中にいろんな対立軸があり、単なるSFではなく深みのある物語になっているところに感銘を受けました。

さかき　ありがとうございます。主人公の青磁は、謎の病態を持った妹をなんとかして治したいと思っています。私は近しい人を病気で亡くしたことがあるので、そのときの自分の気持ちを重ね合わせて、人工知能やスパコンでの医学の研究が早く進んでほしいと願って書いた部分もあります。

三宅　なるほど。製薬や医療分野でもAI（人工知能）が役立つというヴィジョンですね。

さかき　スパコンのスピードが少し上がるだけでも新薬開発の可能性は無限に広がります。最近、日本でも大手製薬企業がAIを使って創薬するというニュース（＊1）がありましたけれど、やっぱり医学の発展には科学の進歩が必要不可欠だと思うんです。
＊１　武田薬品工業、富士フイルム、塩野義製薬、富士通、NECなどの製薬会社とIT企業50社からなる連合がAIを使った新薬開発を推進。国の支援を受け、3年をめどにAIによる新薬開発の普及をめざしている。

三宅　AIについても、最新事情まですごく知悉されていますね。AGI（＊２）もそうですが、この作品の中にはこの一年でキーワードになった要素が、たくさん散りばめられています。SFエンタメかと思いきやそれだけではなく、背景に膨大な情報が集積されていて、不思議な感覚に陥りました。
＊２　人口汎用知能。人間レベルの知能の実現を目指すコンピューターであり、あらかじめ設計された用途にしか適用できないAIとは分けて考えられる。

さかき　新旧の対比や正反対の要素を絡めていって、最後にその絡みあった伏線が一気に爆発するのが私の作品スタイルなんです。

三宅　ヒロインの千歳の秘密もちょっとしたファンタジーになっていますね。その要素だけでロマンティックな話が書けそうだけど、更には神話やテロの話もあるという。今の時代を貫く流れが明確に表れているなと感じました。

さかき　私が神話にこだわっているのは、結局人間の歴史は繰り返すと思っているからです。シンギュラリティ（＊３）を迎えるにあたって、人間の意識改革が起こると言われていますが、AGIが生まれて人間と共存していけるかどうかというときに、人類はおそらく時代から大幅な意識改革を求められるはずです。そのときの意識改革を日本神話の「八俣遠呂智（やまたのおろち）退治」と国譲り（＊４）に重ねて描きました。さまざまな説がある中で、出雲の一族が守っていた製鉄技術と国とを大和側の勢力が欲したがために、戦いの末ああいった国譲りが行われたという説を採ったんです。大和は製鉄技術と豊かな領土、民を得たことによって体制が盤石となり、日本という国のおおもとが形成されていった。でもそのときに技術と国体を奪われ、無理やり意識改革をさせられた側の人達がいたわけですよね。その想いをシンギュラリティと重ねてみました。
＊３　技術的特異点。人工知能が人間の能力を超えることで起こるとされる。テクノロジーが急速に進化し、それにより人間の生活が変容すると考えられている未来予測のこと。アメリカの人工知能研究の第一人者であるレイ・カーツワイルによって、2045年にシンギュラリティが訪れると予測されている。
＊４　天孫瓊瓊杵尊（ににぎのみこと）の降臨に先立ち、大国主命（おおくにぬしのみこと）が治めていた葦原中国（あしはらのなかつくに＝現在の出雲周辺と言われる）の支配権を求めた天照大神（あまてらすおおかみ）に国を献上した次第を描いた神話。

三宅　なるほど。確かに大昔の石器や鉄器から、電気やインターネットへと替わるたびに大きな意識改革があって、社会の構造も変わっていった。今人々が一番興味を持っているのは、人工知能が社会をどう変えていくのかと同時に、自分たちがどう変わらなければいけないのかということだと思うんです。

さかき　まさにそうですね。

三宅　でもひとくちに「人工知能」と言われても、実態がわからなくて不安なんだと思います。たくさんの期待と不安が入り混じっている中、僕たち開発者側にも不安を解消したいという願いがあります。そういうときにさかきさんは、小説という形で今の現状を明確に記した上で、登場人物たちがどういう考えを元にしているかなど、いろいろな立場から描いている。AIが入ってくる社会にどう立ち向かえばよいのか、感情的な部分ですごく感銘を受けました。

さかき　ありがとうございます。人間の共同体は、人間という存在が生まれた頃から巨大化を続けてきましたが、その過程で必ず吸収される側が生まれる。独自の技術や文化を組み込まれていった側は、どう折り合いをつけてきたのだろうと考えてしまいます。でも共同体が大きくなったこと自体がいいことだったのか悪いことだったのかということは、おそらく誰にも決められないし、分からない。これは私のテーマのひとつでもある善悪二元論の否定ということにも繋がります。
　シンギュラリティはより大きな共同体への足がかりのひとつになると思っています。作中では人種差別問題も大きなテーマのひとつですが、これからの時代、条件反射のように人種差別をすることがいかに守株的であるかという問題提起でもあります。もちろん私は日本が大好きですが、一部の人たちは旧来の国体にこだわりすぎていて、これまでやってきたことをすべて変えてはならないみたいなことを言うときもある。でもそれは極端すぎる考え方じゃないかと思うんです。過去の日本人はみんな折り合いをつけてやってきたわけですから。

人工知能が人間から引き出す「欲」

さかき　今後はさまざまな分野で、人工知能が人間の仕事や社会の中に食い込んでいくと考えられます。仕事の補助の場合、AIには感情があったほうがいいのかどうかという問題があると思うんです。マスターアルゴリズム（＊５）でよいという考えの方もいらっしゃれば、価値システム（＊６）ですべて網羅して、要は人間の感情のようなものを持ったほうが効率的に取捨選択をして、無駄がない動きができるんじゃないかという考えの方もいる。人工知能に人間に似た感情を持たせてしまった時にこそ、脅威が生まれるという考えをお持ちの方もいらっしゃいますが、三宅さんはどのようにお考えですか？
＊５　スーパー人工知能。現在は別々の方法で設計されている記号論、統計学、心理学、進化生物学、神経科学という５つのアルゴリズム（計算方法）をすべて統合する。
＊６　情動に基づき、多様な場面の価値を派生的に計算するシステム。

三宅　残念ながら今の人工知能はそこまで賢くないというか、情報処理能力では人間を遥かに超える能力を持っていますが、「人間的」という部分では、ほぼ能力がないと言ったほうがいいですね。

さかき　特化型AI（＊７）ということですか？
＊７　個別の領域に特化して能力を発揮。今世界に出回っているAIはほぼ特化型となる。

三宅　特化型AIにしろ、僕がやっているキャラクターのAIにしろ、人間の感情や生理的なものまでをシミュレーションできるほどのノウハウも技術もないというのが現状です。ビッグデータ（＊８）で人間に近づくという方法はあると思いますが、やはり身体がない以上、「お腹が空いた」「楽しい」「生きたい」「希望する」といった、感情的なものを持つ必然性が今のAIにはないんです。でも、今は人間が人工知能をただの情報処理装置として使っているだけの話で、人間がAIにそれ以上の役割を求めるときにはじめてそういった感情が必要とされてくるのかもしれませんね。
　感情はパーソナルなものですが、社会的なものでもあるんですね。つまり他人とコミュニケーションするために感情があるという考え方があります。「怒る」というのも、他人に怒っているのをわかってもらいたいという社会的な側面があって、それがないと人間はコミュニケーションが取りにくいので、コミュニケーションツールとしての感情は今後AIにも必要だし、実現も可能だと思います。ただ、人工知能の内面から本当の感情が生まれるというのは、仮想的な身体でもいいんですが、まず根源となる身体の生理的な欲求がないと難しい。そこをどう作るかというのが問題です。
＊８　従来のソフトウエアツールで処理することが困難なほど巨大で複雑なデータ集合の集積を表す用語。

さかき　そうですよね。それもあって『エクサスケールの少女』では後半にクローンを出しました。ネタバレになるので詳しくは伏せますが、AIやAGIの存在とはなにかという問題提起に重ねました。AI、AGIを人間の細胞でできた箱に入れると、どうなるのか。命や意識とはなにかという問題なんですが。

三宅　あれはとてもいいシーンですね。僕は技術者として、青磁の決断とはちがう可能性を考えてしまいましたが。詳しく語れないのがもどかしい（笑）。でも青磁の決断はこの物語のクライマックスで、小説全体が内包しているテーマの一番コアな部分だと思います。

さかき　すっごく嬉しいです。たぶんそれに気づいてくれる方はすごく少ないと思うんです。

三宅　いやいや、みんな気づきますよ（笑）。これは小説でしか切り取れないテーマだと思うんですよね。「生きる」ということが何なのかは人間自身にもわからなくて、人工知能の学問自体も「本当の知能は何か」というのが実は全然わかっていない。とりあえず作りながら考えようというのが人工知能のゆるい部分で、ブームを起こす原因です。要するに根がないので、逆に危ういところでもあるんですよね。コンピューター上にいろいろな知能を作ってどんどん大きくして、それをいろんな人間社会に入れてみてから考えようという感じです。哲学的な考察が十分にされていないので、逆に失敗するまでやっちゃうというのが、人工知能の危険なところですね。研究者自身もアルゴリズムは分かるんですが、「知能とは何か」という根本は誰もわからないところだから、実際やってみてどうなるのかを見てみたいという興味本位な部分もあります。

さかき　とてもよくわかります。私も作品中で青磁に言わせましたが、人間の「知りたい」とか「前に進みたい」とかいう欲望は止まらないんですよね。

三宅　そこが、科学がたくさんの失敗をしてきた原因でもありますよね。それが公害や戦争の原因になりました。作中にホーキング（＊９）の話も出てきますが、AIが人類の終焉を引き起こす前にコントロールしなければいけない。人工知能はそういった危険性をはらんでいるけれど、それはその裏にAIを利用しようとする人間と渾然一体となった問題で、出雲の製鉄技術の話と同じように、新しい技術ができたときに、人間の中の「何」が引き出されるかですよね。この小説は、青磁をはじめほとんどの登場人物がそうやって「何か」を引き出されている。
＊９　スティーブン・ホーキング（1942−）。イギリスの理論物理学者。「完全なAIを開発できたら、それは人類の終焉を意味するかもしれない」「AIの発明は人類の歴史において最大の出来事だった。だが同時にそれは、最後の出来事になってしまう可能性も孕んでいる」などの発言でも知られる。

さかき　人は結局新しい技術に魅せられてしまうんですね。だから彼らも昔の大和朝廷と変わらないのかもしれない。

（後編に続く）

取材・文／藤原美奈

三宅陽一郎（みやけ・よういちろう）
ゲームAI開発者。日本デジタルゲーム学会理事。京都大学で数学を専攻、大阪大学大学院物理学修士課程、東京大学大学院工学系研究科博士課程を経て、人工知能研究の道へ。ゲームAI開 発者としてデジタルゲームにおける人工知能技術の発展に従事。著書に『人工知能のための哲学塾』『ゲーム、人工知能、環世界』、共著に『絵でわかる人工知能』など。