真説・人工知能に関する12の誤解（6）：人工知能は暴走する、ただしそれは“人の手”によって (1/3)

人間を超えた知能を得た人工知能が暴走し、人間が支配される――。第3次人工知能ブームの初期のころは、そんなSFのような話がよく聞かれましたが、最近では少なくなってきました。むしろ、人工知能で問題とすべきリスクは別のところにあります。

最近、人工知能が独自の言語で会話をした、というニュースが話題になりました（写真はイメージです）

　つい最近、「Facebookが開発していたチャットbotが、独自の言語で会話をした」というニュースが話題になりました。実はこれ、Web上で公表されている研究内容を読むと「ウソ」だということが分かります。

• 研究内容はこちら→Deal or no deal? Training AI bots to negotiate

　文中に“led to divergence from human language”とありますから、実際のところは全く新しい言語を作ったのではなく、ルールからの逸脱（重み付けのミスであり、一種の不具合のようなものだと思います）と考えるのが正しそうです。なぜ、このような「フェイクニュース」になったのかは不明ですが、やはり、人工知能陰謀論は注目が集まりやすいのでしょう。

　こうしたニュースをはじめとして、私自身も「人間の及ばない知性を獲得した人工知能が暴走する可能性はありますか？」と相談を受けることがあります。自我を獲得した人工知能が、暴走して私たちの世界を支配する――そんなSFのような話に対し、人工知能学者が真面目に反論する機会はさすがに減ってきました。

　では、人工知能が暴走した世の中を想像するのは、ばからしい話なのでしょうか？　実はそうでもありません。

人工知能の誤動作や、意図しない挙動というリスク

　全日本交通安全協会の調査によると、2016年の交通事故死亡者数は4117人でした。約2時間に1人が車に起因する事故に巻き込まれ、命を落としています。最近では、テロリズムの道具になるケースも多いです。では、人間の尊い命を奪う自動車という道具を、危ないという理由で全面的に禁止するべきでしょうか。

　いろんな見方があるでしょうが、自動車が社会にさまざまな恩恵をもたらしているのは事実です。従って、「人間に危害を加えないよう、さまざまな規制を設けた上で、安全に使うべき」という意見が大半だと思います。速く自由に移動できるからこそ、救急車のような人の命を救う道具にもなるわけです。

　人工知能も同様です。連載の第1回で、人工知能は「人が作り出したシステム」だとお話ししました。ならば、それが暴走すれば“人の手”によって起きた事象でしょう。喫緊の課題は「自我を持った人工知能の暴走」というSFめいた話ではなく、自動車や産業用機械、アプリなどに組み込まれた人工知能の誤動作や、意図しない挙動に対するリスクなのです。