人工知能が罪を犯した時、誰が責任を取るべきか？──『人間さまお断り 人工知能時代の経済と労働の手引き』

人間さまお断り 人工知能時代の経済と労働の手引き

この数年怒涛の勢いでAI(人工知能)本が刊行されたこともあり、大体の論調も把握したので最近はAI本が出てもスルーしがちなのだが、本書は著者がもともとスタンフォードAI研究所に勤めていた本職かつ新興企業を次々に起業した起業家で、話には全体を通して説得力と社会的なヴィジョンがあり、久々に新しく楽しませてもらった。

本書は副題に「人工知能時代の経済と労働の手引き」とあるように、人工知能や労働機械(ロボット)が一時的に雇用を減らすのは確かなことだと仮定し、その際に人類社会が遭遇するであろう不可避的な失業問題や、AIが罪を犯した際の法整備などについて政策レベルでどう対処していくべきなのかという、「その後」を語った一冊だ。

労働市場について

まず本書では人工知能時代の、各分野における問題とその解決策が取り上げられていくが、たとえば労働市場については、技術的な進歩により雇用が一時的に失われてしまう構造的な失業問題がある。進歩は新たな仕事＝雇用も生み出すわけだけれども、現代における問題の本質は日々の技術的な変化があまりにも速く、労働者は新しい職業に必要とされる技能を身につける時間も機会も存在しないことにある。

この問題に現代の教育システムが拍車をかけている。たとえば、「学校へ通い、卒業後就職し勤め続ける」のは、就職した後も技能を次々と適応させる必要がある時代にはまったくそぐわないシステムだ。その上現状の職業訓練は、生徒に何を教えるかはおおむね学校側に決めさせており、カリキュラムを組む担当者は、つねに現場に出てアンテナを張り巡らせている最先端のプロフェッショナルというわけでもなく、求職者はそこで勉強したとして就職の役に立つという保証は存在しない。

本書ではこうした現状に対して、雇用主と学校が新たな形で協力する、住宅ローンの職業版をつくることでの解決を提案している。この案では、雇用主は「この技能を身につけたら雇用する」という同意書を発行することで、労働者は何を学んだらいいんだ？　と迷うこともなく、技能の市場価値への保証を手に安心して訓練学校に通うことができるとしている。学習コスト(費用)は就職見込みの企業から与えられ、労働開始後の賃金から天引きされる就業ローンによってまかなう形になる。

余剰労働力と技能の陳腐化という問題は、加速度的な経済の進歩がもたらした副産物であり、その点では温室効果ガスとまったく同じである。気候の変動に感心をもつのと同じぐらい、世界的な労働生態系の受ける潜在的なダメージにも感心を払うべきだ。

幾つか前提を簡略化してしまったし(企業にはインセンティブとしてこの仕組を導入後、法人税の優遇がされるなど)、この仕組で何もかも良いとまでは僕も思わないが、何にせよ「新たな労働をめぐるシステム」が必要なのは明らかで、本書はこれまであまり語られることのなかった人工知能時代の議論の基礎を築いてくれている。

機械道徳、計算倫理学、責任問題

とはいえ、これで考えなければいけないことは終わりではなく人工知能時代に向けて追いついていない議論はそれこそいくらでもあるといえる。たとえば自動運転車は、進行方向に犬が飛び出してきて轢き殺しかねない時に、乗り手を守るべきか？　それとも飛び出た犬を轢き殺すか？　という現代におけるトロッコ問題に直面する。

常に乗り手の安全性を確保するように道徳原理を選択的に実装するケースも考えられるし、機械学習で人間の道徳的行動を把握させ判断させるパターン、あるいは過去の事例に基づいて判断させるパターン(法例のような感じ)など対処法は無数に考えられるがどの方式でプログラムしようが、問題は出てくるだろう。

「どのように判断させるべきか」と関連して考えなければいけないこととして、機械が誤った判断を下した時に、その責任は誰がとるべきなのか問題もある。自動運転に限っていえば、2015年にはカリフォルニア州が「運転手が運転席に座ること」を義務付けた案を公表し、責任を明確にしているが、完全な無人運転の場合は規定されておらず、議論が続いているところである。そりゃ常に運転手を「責任者」として乗せることを絶対のルールにすれば責任問題の解決は容易だが、無人運転の利益を最大限得ようとするならば何らかの形でこの点をクリアしなければならないだろう。

無人機と責任の所在について、本書では奴隷制度のケースや法人格などを比較に出して考察していく。それによると、まずロボットや人工知能らは法人格のように「法的代理人」としての権利を認められ、行動に責任を持つ法律上の「人格」を得る。所有者は奴隷制度があった際の法律と同じく、奴隷＝ロボットが犯した罪を問われることはない代わりに、奴隷＝ロボット自身が責任をとる形で決着することになる。

『ロボットは所有者の法的[代理人]として行動していたのかもしれないが、所有者はロボットがなにをしているか知らなかったのだから、所有者には[本人]としての責任はない──責任はロボットにあるのだ。』──とはいうものの、「ロボットをどう罰するのか」という問題は残る。本書ではこれも法人を参考にし、法人にしろ人にしろ罰せられる時は「目的、目標」に対する罰が与えられることに注目している。

たとえば罪を犯した法人は、懲役は科されない代わりにその目的＝利潤の追求に対する罰として罰金を科されたり、市場への参入を禁止されたりする。ロボットについても同様に、その目標遂行能力を損なわせる形での罰(被害者への貸与であったり、重要なデータベースを消去したり)が考えられる。こうしたロボットや自動運転車といった新しい物に対しても法人の皮を被せることで、今日の法律の延長線上で処理できるようになるのはわかりやすいし、当たりそうな推測である。

おわりに

オックスフォード大学の2013年の研究で​​は、米国の雇用の47%が自動化による危険にさらされるとしているが、技術革新の速度は予測が困難なのに対して、本書では変化がどんな速度であれ、必ず起こるであろう問題に焦点を当てているので、数年で状況が急変して読む価値がなくなるという賞味期限の短い本ではないのが良い。

あと何気に、どのような先端技術によって仕事が失われつつあるのか(たとえば今は農業についても産業用ロボットがある。)についての詳細なレポートや、AI分野にはびこる無意味な擬人化がいかに一般社会への正確なAIやロボットの理解を混乱させ、政策議論を妨げているのかといった問題が丁寧に解説されており、AI分野全体のおさらいとしても良い出来で、この一冊から読み始めてもいいぐらいだ。

本書で行われている議論は当記事で触れた物以外にも幅広い(富の再分配方についてとか)。政策レベルの話がほとんどで個人として参考になる部分は少ないが、少なくとも大局的な観点で状況を予測する基盤にはなるだろう。