真説・人工知能に関する12の誤解（9）：人工知能が戦争に使われる恐ろしさを、正しく理解しているか？ (1/4)

人工知能に人間が駆逐されるというストーリー。私の友人は「自我の有無とは関係なく、悪意を持った人間によって開発される人工知能が大問題だ」と言いました。これは非現実的な話でしょうか？　私は、そうとは思いません。

　人工知能脅威論でよく出てくる「人工知能に人間が駆逐される」というストーリーに対し、私は前回の記事で「人工知能は単なる機械であり、心（自我、自律的な意思）があるように振る舞っている（またはそう思わせるようにプログラムされている）にすぎない」というお話をしました。

　現存の技術の延長上では、仮に自己学習プログラムを備えていたとしても、人工知能はプログラマーが想定した“用途”を大きく超える形で、予期できない判断を行うことはありません。彼らの自律的な判断によって、制御が困難になるということはないでしょう。その意味で、意思を持った人工知能に駆逐されるという“ディストピア”は心配するだけ無駄だと考えています。私たち人間が、機械を使いこなせばよいだけなのです。

　SNSなどを通じても、多くの意見を頂きましたが、私の友人からも、以下のような意見をもらいました。

　「人間が人工知能に駆逐されるディストピアは、自我の有無とは関係ない。人に危害を加えようと、悪意を持つ人間によって開発される人工知能が問題なんだ。それが今、最も可能性の高い問題だろう」

人工知能を作り、使う人間側に問題はないのか？

人工知能学会が公開している「倫理指針」

　人工知能を作る“人間”側に問題はないのか――。これは非常に難しいテーマであり、人工知能学会も、研究者や開発者が守るべき倫理指針を発表しています。

　この問題に関し、人工知能の利用と開発について「規制」をすべきだと主張する人もいます。テスラモーターズの創設者であるイーロン・マスク氏です。彼と「人工知能は人を助ける」と主張するFacebookのCEO、マーク・ザッカーバーグ氏との論争は有名です。先日、Twitter上でイーロン・マスクが「I've talked to Mark about this. His understanding of the subject is limited.」と批判し、大きな話題になりました。

　彼はもともと、人工知能に対しては、距離を置いた発言を繰り返しています。

　2015年7月には「自律兵器に対する公開状」が発表され、その中の1人にイーロン・マスクが名を連ねています。その内容は極めてショッキングなものでした。