ビジネス
特集ＡＩ暴走どう防ぐ 鉄腕アトムモデルを

総務省が３月に主催した国際シンポジウム。生活を便利にする一方で、将来、制御不能になって人類に危害を及ぼす事態をどう防ぐか。参加したマイクロソフトやグーグルなどアメリカの大手ＩＴ企業の担当者、ＯＥＣＤ＝経済協力開発機構など国際機関の代表、それに、各国の政府関係者が白熱した議論を交わしました。

この中で、総務省は、ＡＩがネットワークにつながれば影響は全世界に広がるとして、国際的なガイドラインの必要性を提唱し、ＡＩが暴走して人間に危害を加えることがないよう、いつでも人が制御できる仕組みにするなど、議論のたたき台として、安全性、制御可能性、説明可能性など９つの原則を示しました。

アメリカでは企業みずから独自にガイドラインを策定しようという動きもあります。去年（２０１６年）９月、マイクロソフトやグーグル、アマゾンなどがＡＩの倫理について考える団体を設立しました。

ビジネスでは激しく競い合うライバル企業が一堂に会し、それぞれの企業から独立した立場で意見を述べる画期的な取り組みです。

この団体の立ち上げに関わったマイクロソフト・バイスプレジデントのデイヴィッド・ハイナー氏。マイクロソフトではＡＩのリスク管理や個人情報の保護などを統括しています。来日したハイナー氏にインタビューしたところ、「ＡＩは人間の生活を便利にし、仕事の生産性を高める。しかし、子どもから大人まで世界中の人々がＡＩに触れる今、倫理観や道徳観の枠組みが必要だ」と語りました。

マイクロソフトにはＡＩで苦い経験があります。

去年、開発した「Ｔａｙ」。人間と、くだけた会話ができるＡＩとして注目されましたが、悪意ある利用者との不適切な会話を学んだ結果、人種差別的な発言や暴言を連発するようになり、公開直後に停止に追い込まれました。

ハイナー氏自身もＡＩの課題として「公平性」を挙げ、安全性などを含めて、今後１年かけて、立ち上げた団体で独自にガイドラインを策定することを明らかにしました。

ＡＩのリスク対応の検討をいち早く民間企業が始めているアメリカですが、大前提となっているのは「ＡＩは社会に利益をもたらす」という考え方です。そのため、ＡＩのガイドラインも、自由な研究開発を阻害するような法規制ではなく、極力軽いものであるべきだとしています。

一方、ＥＵ＝ヨーロッパ連合の立場は慎重だと言えます。ＡＩは、過去のデータを学習して、それをもとに、個人情報を明らかにできます。このため、プライバシーの問題とＡＩは切り離すことができず、ＥＵは徹底してプライバシーを保護すべきと考えています。

来年５月に施行されるＥＵの「一般データ保護規則」。保護すべき個人データに氏名だけでなく、位置情報やインターネットのＩＰアドレスを加え、収集して利用する場合には、原則として本人の明確な同意が必要だとしています。さらに、人種、政治、宗教などに属するデータや遺伝情報などは、例外を除いて取り扱うことが禁止され、日本やアメリカに比べて極めて厳格な規則となっています。

これに対して、個人を特定しない匿名化されたデータを活用するという考え方もあります。マイクロソフトのハイナー氏もこの考え方に同調しています。「プライバシー保護に厳密な人の中には、匿名化する技術そのものが完璧ではないと懐疑的な目を向けている。完璧でなくても役に立つという認識を広げ、プライバシーとＡＩのよいところをとって解決策を探ることが大事だ」と指摘。このため、ハイナー氏が期待しているのが日本のリーダーシップだと言います。

民間企業がＡＩのリスクを見据えながら、研究開発を進め、ビジネスチャンスを拡大したいアメリカと、暴走の危険があるならば、立ち止まって考えるべきというＥＵ。その中間に立っているのが日本。

総務省の有識者会議のメンバーで慶応義塾大学の大屋雄裕教授は、そう捉えています。だからこそ、国際的なガイドラインの議論を先導するチャンスがあるとも言います。

日本では、人工知能を搭載したロボットは常に隣にいる存在として描かれてきました。大屋教授は次のように話しています。

「鉄腕アトムはヒーローだけど、子どもです。夢を叶えてくれるドラえもんは欠点も多い。いずれも私たちにとって身近な存在です。人類に危害を与える存在として描かれることも多い海外とは、大きな違いです。こうした文化的な背景も、日本で人工知能の議論を冷静に進めやすい要因であり、アメリカやＥＵからの期待も高い」

一方で、ＡＩの技術開発のスピードは速く、今後の方向性がわからないことからルール作りは時期尚早だという意見もあります。しかし、大屋教授は「リスクを正確に想定することは難しい。だから、何もしないでいい、ということでは決してない。国の制度や法律を策定するには少なくとも２，３年かかる。さらに国際ルールとなれば、長い時間を必要となる。今から議論を進め、準備しておくことが必要だ」と述べています。

今回の取材で印象的だったのは、マイクロソフトのハイナー氏が「ＡＩは、人間に置き換わるものではなく、大工にとってのトンカチのように、人間の能力を拡げる存在でなければならない」と話したことでした。そのためには、ＡＩの目的や成果を共有し、新たな技術のリスクに備えることは不可欠です。

日本政府は、国際ガイドラインの策定を先導し、ことし秋にＯＥＣＤが開くシンポジウムに素案を提示したい考えです。人間がＡＩを使いこなして、脅威ではなく、寄り添う存在にしていくために、人類が知恵を絞って考える入り口に立っています。