人工知能は社会に参加できるか

三宅陽一郎（以下、三宅）　僕はこれからの世の中は行政に人工知能が入ってくると思います。国単位か街単位かで、セキュリティ面に人工知能が入って管理するだろうと。例えばアメリカで近い未来に起こると思っているのは、ロボットやドローンによって街全体が24時間管理される社会が来るということです。

さかき漣（以下、さかき）　具体的にはどういうことですか？

三宅　各都市の人工知能が、その都市を守る。その人工知能が使役するのはもはや人間ではなく、24時間休まないドローンであり、ロボットであると。すべての人にIDがあり、あらゆる道にロボットやドローンがいるので、そこを歩いているのがどこの誰かということが瞬時に分かるとなると、テロリストも街に入りようがない。お金も人工知能が全部管理してしまえば、IDがなければ物ひとつ買えないわけです。そうなれば犯罪が減っていくでしょう。治安の悪い国でも人工知能によって安全な街ができれば企業も来るし人も来る。その結果として資本も入るので、システム自体が資本的な価値を持ち始める。例えばひとつの企業が街の監視システムを売りに出すわけです。「あなたの街は荒廃しているから、我々のシステムで安全化しますよ、そしたら人が来ますよ」って。

さかき　ゴッサム・シティ（＊1）ですね（笑）。スラムか、選ばれし民の場所かっていう。
＊1　『バットマン』に登場する架空のアメリカの都市。

三宅　世界中がそのフォーマットで安全になるという社会が、近い将来来るんじゃないかと思っています。そうなると、企業が国を超えて世界を牛耳ることになるんです。

さかき　そのAIはプログラム次第で、セキュリティという名目であらゆる恣意的な支配を行うことが可能になってしまうわけですよね。だからこそ、その人工知能はAGIであり、かつそのAGIの価値システムに良心をきちんと教育しているのかが問題になってきますね。

三宅　出雲から大和朝廷ができたときで言えば、まず「法」ができましたよね。法という非人間的なシステムを入れることで社会をシステム化した。そしてそれを実行するのは役人であり、法律家であり、やがて裁判所ができ、国際社会の中で国際法ができた。それと同じような秩序を、今度は人工知能が担うことになるんです。だからこそそれは半分、パブリックなものであるはずです。そうすると、人工知能が人間を監視するのと同じように、万人が人工知能を監視することになる。つまり裁判所の裁判が全部公開であるのと同じ理屈で、人工知能の倫理もまた、万人によって管理させなければならないとすると、人工知能は自律的な倫理を持つことになり、その倫理が全ての人間から監視されることになるでしょう。

さかき　それは納得できます。でもさらにその先に進んで、自己改良するAGIが出てきて知能爆発が起こったときに、我々人類が彼らの倫理を監視できるのかというと、それはできないんじゃないかと。だからこそ、人工知能に対する脅威論というものがさまざまな識者から出ているのではないかと思うのですが。

三宅　その自己改良するというところが、残念ながら今の技術ではまだファンタジーなんです。人間の脳とコンピューターは仕組みが違いすぎるんです。コンピューターはメモリと演算方式が完全に分けられていますが、人間の脳は100億ニューロン（＊2）あって、それらが同時にいろんな場所で動きます。たくさん動いているそれが、実はひとつの意識になっているというのが不思議なところです。でもコンピューターは、基本的に一度にひとつの計算しかできないので、なかなか難しい。人工知能にはフレーム問題（＊3）というのがあって、人間に与えられた以上のことをするのがすごく苦手なんです。ディープラーニング（＊4）もそうで、突破できる方法が技術的にはまだないのが現状です。シンギュラリティは単にプロセッサーの速さが100倍、1万倍になれば解決されるという問題ではなく、非常に哲学的かつ本質的な問題で、つまり人工知能はこの社会にちゃんと参加できていないんです。
＊2　神経系を構成する動物に特有の細胞。情報伝達と情報処理に特化した機能を持つ。
＊3　1969年、ジョン・マッカーシーとパトリック・ヘイズによって指摘された問題。コンピューターの能力では、現実に起こりうる問題のすべてに対処することができないことを示す。
＊4　機械学習の手法。システムがデータの特徴を学習し、事象の認識や分類を行う。

さかき　それはなぜでしょうか？

三宅　人工知能には感覚もないし、身体もないからです。人間には、体を経由していろいろな感覚、想念、意思、欲求が生まれます。例えばお腹がすいた・空かない、熱い・寒い、眠い・眠たくないなどもそうです。あるいは衣食住。眠る場所がほしいということは、そこから安全に住める家がほしい、街がほしい、仲間がほしいというように繋がっていく。ところが人工知能には体がないので、すべては抽象的です。囲碁、将棋など人間から与えられた箱庭の中では十分賢いのですが、そこを出て自分でどんどん問題を考えていく能力というのに、根本的に欠けている。

さかき　現状ではAIは身体問題を乗り越えられないけれど、将来的にはどうですか？

三宅　それがそう遠くない未来に解決されているのかどうかは、僕には確信が持てないですね。ジェイムズ・P・ホーガンの『未来の二つの顔』という、すごく実験的な小説があるんですが、その中でドローンやロボットを自己生産できるシステムを作って人間と共存できるかと議論がおきます。結論が出ないので、宇宙ステーションで実際に実験をしてみるんですが、結局戦争になってしまうんです。その作品のもうひとつ面白いところは、宇宙ステーションで戦争をする中で、科学者が人工知能に「痛み」を教えようとするんです。例えばゲームのような仮想空間を作って、ガラスを人間が踏んで傷ついたら痛い、痛いというのは悪いこと、というようなことをひらすら教えようとするんですね。それをもし人工知能が理解できるなら、人間に対して態度が変わるし、人間を傷つけるようなこともなくなるだろうという発想なんですが。

さかき　面白い。

三宅　それを読んで、僕は人工知能が自己増殖できることより、どれだけ「人間を理解できるか」ということのほうが、重要だと思いました。もし人工知能が爆発的に進化して、人間を理解してくれるのならば、それはいいことでしょう。でもそこそこの進化で人間のことをずっと理解できない人工知能と一緒に生きることは、人間にとってはストレスが溜まるし、受け入れられないんじゃないでしょうか。体がないと痛みはわからないし、痛みがわからない以上は、一つひとつのルールを与えていくしかない。例えば、人間と握手をするときに、ここまでは大丈夫だけど、これ以上やったら骨が折れますとか、そういうルールを与えることはできるけど、痛いのが嫌だということがわかる人工知能というのはむずかしいでしょうね。

さかき　仮に痛みがわかったとしても、それは情報でしかないですよね。だから究極的に言うと、クローンなどで人間と同じ細胞を作って、その中にAGIを搭載することが身体問題を解決する早道じゃないかと単純に思ってしまうのですが。つまり工学的なアプローチだけでなく、生物学的なアプローチとミックスさせて。

三宅　そうですね。ただ今後人工知能が社会や人間に入り込んでいくためには、どのような形であれ「人間というものを理解させる」ということが課題になってくる。自治体に導入するぐらいまでなら、ある程度倫理の問題でいいかもしれませんが、さらに人間のパーソナルスペースに人工知能が入ってくるときは、また別の対人的な問題が生まれます。ある程度の距離を持って動く「ソーシャル・スペース」を。人間は本能的に持っている。例えば、人間は通常、背中合わせでは話さないですよね？　これは、お互いを見ることでお互いの背中の危険を保証してあげるのです。

さかき　武士の時代みたいですね。

三宅　ええ。実は世界的に見ても、大体そうなんですが、これは本能的な部分です。でも人工知能にはその本能がないし、人間が知らず知らずに持っているようなたくさんの知恵がない。コミュニケーションにしても「これは言っちゃいけない」など、人間自身がときどき破ってしまうような（笑）、いろんな暗黙のルールが人間社会にはありますが、そこが人工知能が入り込む最後の難関になると思うんです。

さかき　社会の中に「入る」ことはできても、「共に生きる」ことが難しいんですね。

子どものように人工知能を育てる

さかき　私はこの作品の中で、あえて主人公の青磁が作るAI搭載ロボットをR2-D2の外見にしたんです。AIに良心の価値システムを搭載できるのであれば、アンドロイドでなくてもいいと考えたからです。青磁は、最初はただR2-D2の外見が欲しかったからロボットを作ったんだけれども、結果としてロボットの中の価値システムを人間の赤ちゃんと同じように育てていくことになりました。人間が本来生まれながらに持っている価値システムというものは、教育によってどんどん違う道に進んでいく。それはAI、AGIにも言えるんじゃないかと。これで身体問題を乗り越えられるのではないかと思ったのですが。

三宅　深いですね。人間のような知能を実現したいという時に、さかきさんが仰るとおり２通りのアプローチがあって、アンドロイドのように実際の身体を作って、そこにAGI的なものを入れるという方法と、知能のシミュレーションとして最後にロボットの形になるという方法がある。この作品の中ではそのふたつの方法の対比が行われていますね。どちらが正しいという答えは出ないんですが、それがそのまま並列して描かれているというのが、この作品の小説らしいところでもある。論文だと、どっちかの立場を取らざるを得ないので一方はバシッと切っちゃうんです。でもやっぱり答えは出ないので（笑）、その複雑な問題が深いレベルで描かれているところに余韻が残っています。

さかき　学者の先生方からは、ドSなツッコミが来るのはわかっているんですが（笑）。

三宅　この問題は1000日討論みたいになっちゃうのでね（笑）。例えばニューラルネット（＊5）でディープラーニング（＊6）をやって、濃度がこう変わって精度が1.2倍になりました、みたいなのが論文の書き方なんですが、それは「知能がなにか」という問題をとりあえず置いておいてあるわけです。
＊5　人間の脳の神経回路の仕組みを模したモデル。
＊6　深層学習。多層構造のニューラルネットワークを用いた機械学習のこと。従来の人間が特徴を定義する必要があった機械学習とは異なり、人工知能が自ら学習データから特徴を抽出することができる。音声認識や画像認識などに幅広く用いられている。

さかき　こんなことを申し上げたらいけないと思うんだけど、特化型AIみたいな感じ。

三宅　そうですね。これが他の分野なら、例えば電力が何倍になりましたとか、電子レンジの性能が何倍になりましたとか、それでいいんですが、こと知能の場合はすごく哲学的な部分を実は内包しているんです。だれも触れませんが。

さかき　ふふふ。そうなんですね。私はそこを作品の中であえてえぐっていったので、どういう風に評価されるのか非常に怖いです。私はどこまでいっても部外者だからできてしまったと思うんですけど。

三宅　でもその問題に踏み込めているというのが、この小説の価値のひとつだと思います。

さかき　意識や脳とは何なのか、どこに、いつから存在するのか、というのは根源的な問題ですからね。

三宅　アルファ碁（＊7）が人間に勝った時に、本当はそこでもう一回議論をしなくてはならなかったんです。いずれ超えることはわかっていたわけだから、人間を超えたというのはそれほど問題ではない。問題は「どう超えたか」。棋譜がなければ、人工知能はプロ棋士に勝てなかった。でもその棋譜を作ったのは人間なわけです。実は人間なしでは、今の人工知能は発展しようがないんです。ディープラーニングで人工知能が猫をわかるようになったというけど、猫の画像を1万枚集めるのは人間なわけですから。
＊7　英国のグーグル・ディープマインド社が開発した囲碁AI。2015年10月にプロ棋士と対局し、ハンデなしで勝利した。

さかき　要は大人の人間による補助というか、教育ですよね。赤ちゃんに対する教育と同じで。

三宅　そう。人工知能が勝手に自己増殖するというヴィジョンが今でもできていないのは、教育なしには人工知能は一歩も進まないから（笑）。

さかき　本書で、青磁が最後に妹のためにとった行動って、理解不能だったと思うんですけど。結局あれは、悪意の価値システムによるシンギュラリティだったからなんです。いえ、悪意というか、教育がなされていない。良心どころか理性でも悟性でもないシンギュラリティが起こした結果であるという。だから支離滅裂なんです、結局。

三宅　そこがずっと引っかかっていて（笑）。ネタバレになるので詳しくはいえませんが、科学者としたら青磁のあの行動は理解できない（笑）。

さかき　そこは青磁の若気の至りですね（笑）。私は善悪二元論を否定する立場ですが、人間が意識を持つ存在である以上、生きている間は弛むことなく善に近づこうと努力するのが美しいと思います。０か１か、白か黒かでなく、できるだけ美しいグレーを目指すということ。当然ながらシンギュラリティに関しても、できるだけ善意に寄ったものが起こって欲しいと思っています。それによって、私が終章で描いたような人間の未来がくるのではないかと。でもそれは悪意の価値システムによるシンギュラリティではなく、ちゃんと教育された良心の価値システムによってこそ起こるシンギュラリティだと思っています。その実現には多くの制約があるので、ディストピアに行くか、ユートピアに行くのか、それは今の人間である我々の良心にかかっているのではないかと。

三宅　いろんな動機はあるにせよ、ある善意を持った人間が人工知能を社会に役立てようとか、あるべき形で人工知能を社会にもたらそうという動きになって欲しいとは思いますね。人工知能はこれからおそらくたくさんの人間が社会に役立てようと奔走すると思いますが、それは過去の技術と同じようにかなり錯綜した状態になると思います。その中で真ん中の芯の部分を通せるかどうかが一番の課題になるのではないかと。一時期は混沌とした状況になると思うけど、最後は良い方向に向かってほしいというのが自分の願いでもあります。

（了）

『エクサスケールの少女』試し読みはこちらから。
AIの天才研究者にアクセスしたのは最愛の恋人……のはずだった

取材・文／藤原美奈

三宅陽一郎（みやけ・よういちろう）
ゲームAI開発者。日本デジタルゲーム学会理事。京都大学で数学を専攻、大阪大学大学院物理学修士課程、東京大学大学院工学系研究科博士課程を経て、人工知能研究の道へ。ゲームAI開 発者としてデジタルゲームにおける人工知能技術の発展に従事。著書に『人工知能のための哲学塾』『ゲーム、人工知能、環世界』、共著に『絵でわかる人工知能』など。