人工知能社会での「倫理」を問う──英国発・AIシンクタンクの挑戦
社会に浸透しつつある人工知能（AI）が事故を起こしたときに、果たしてその責任は誰に問えばいいのだろうか？ 英国に誕生した「Leverhulme Centre for the Future of Intelligence」は、そうした倫理問題に取り組み、AIの未来を議論するために専門家たちが集うシンクタンクである。
TEXT BY ROWLAND MANTHORPE
WIRED (UK)
PHOTO: pgmart / 123RF
自律走行車が道路上に歩行者を見かけて、急に向きを変えなければならくなるシーンを想像してほしい。そしてそのクルマの両脇には自転車が走っている様子を。右側の人だけがヘルメットを着用している。クルマは無防備な人が死なないように、右に方向を変えるべきだろうか。そうすることで交通ルールを守っている人がひどい目に遭うことになっても。
「少なくともソクラテスの時代から、人類は倫理哲学や、善と悪を言葉でどう説明するかについては頭を悩ませています」とスティーヴン・ケイヴは悲しげに言う。「現代になって急にこの問題を人工知能（AI）システムにプログラムする必要が出てきましたが、残念なことに、そうした問題に関して人類ほほとんど進歩していないのです」
43歳のケイヴは、ケンブリッジ大学内に2016年10月17日に設立された「Leverhulme Centre for the Future of Intelligence」の常任理事を務めている。リーヴァーヒューム・トラストから1千万ポンド（約12.7億円）の助成金を受けるこのシンクタンクは、AIの出現によって発生する諸問題に対処するために思索家や実務家を集め、簡単な定義（AIとは何か？）から倫理的・法的な問題（AIが人を殺したら誰が責任を負うべきか？）を扱う。ケイヴが指摘する通り、こういった問題は、人類がいまだに曖昧にしか理解していない分野である。
「『何をプログラムすればいいのだろう？』と機械学習の専門家は言います。それに対して哲学者のほうは、『えーと、それについてはまだあまり解明できていないんです』という調子です。（AIの出現によって）突然、何百年も倫理哲学者たちが取り組んできた課題すべてに、フルスピードで取り組み、すぐに答えを出さないといけなくなってしまったのです」
垣根を超えた「知」を集めよ
センターが扱う9つのプロジェクトを進めるために、AIの専門家がかき集められた。オックスフォード大学の「Future of Humanity Institute」の理事を務めるニック・ボストロムは、プロジェクトのひとつのリーダーを務めている。インペリアル・カレッジのマレイ・シャナハンとカリフォルニア大学バークレー校のスチュアート・ラッセルも同様だ。しかしこのプロジェクトは学問の垣根を越えたものであり、法学、政治学、心理学の専門家も必要となった。「AIの種類」に関するプロジェクトを率いるのは、チンパンジーの認知能力の専門家であるマータ・ハリナである。
「理論的な性質をもつと同時に、実務的な問題と非常に関連性の高いプロジェクトです」とケイヴは言う。彼は実生活を送りながら哲学的思考を身に付け、2012年に『Immortality』という本を世に出し、どのようにして死と向き合うかについて考察した人物だ。
センターの研究成果のなかには、論文という形式でなく、プログラムとして世に公表されるものも出てくるだろう。一流のコンピューター科学者であるズービン・ガフラマニとエイドリアン・ウェラーはより透明性が高い（つまり信頼性が高い）機械学習システムを開発しており、ケイヴによれば、グーグルのDeepMindによってプログラムは補完されることになるという。
ケイブは幅広い政策立案者とも一緒に仕事をしたいと考えている。「プロジェクトには、こうした専門知識が必要とされているのです」。そしてこれは、彼の経験が役に立つ分野だろう。2001年に博士号を取得した彼は、8年間外務省に勤務し、主に欧州連合条約に関する交渉に携わっていたのだ。
ホワイトホール（ロンドン中心部にある官庁街）に勤めているような人物には声をかけたのだろうか？ 「それについてはまだ話せないんです」とケイヴは言う。「ただわたしの印象では、交渉に長けた人はたくさんいるとは思いますが、わたしが10年かけて培ったような外交スキルをもち、かつAIの将来について取り組んでいる人というのは多くないと思います」
議論の場をつくらなくてはならない
ケイヴは2005年からベルリンに住んでいる。EUのドイツ代表を務めた経験もある彼は、イギリスの国民投票の結果にはひどく失望している。「痛ましい出来事だ」とケイヴは言う。そこでこうした疑問が生じてくる──「人間とAIの対立を、イギリスとEUの対立より少しでも穏やかにするためにはどうすればいいのだろうか？」。
「問題というのは次から次に出てくるものです」とケイブは言う。「一度にすべてを解決しようなんて思ってはいません。そこで適切な公開討論の場、コミュニティや語彙をつくって、みんなが話し合えるようにするのがわたしたちの仕事です」。その点では、と彼は付け加える。「EUでの交渉と大して変わりはないのです」
これはあまり安心感を与えてくれるような例えではないかもしれないが、ケイブは（AIの未来を）楽観的にとらえている。「交渉事というのは、押し問答みたいなものだとよく誤解されます」と彼は言う。「でも外交官の仕事というのは、交渉相手の気持ちを深く理解することなのです」
ケイヴが語っているのは、人間についてだ。しかしおそらく将来、彼は機械の気持ちを理解しようと奮闘することになるだろう。機械が喜んで交渉の席についてくれることを願うことにしよう。
SHARE