前のブログでトロッコ問題を出したので、このトロッコ問題が自動制御を商品化する際に、なぜ考慮が必要であるかを記載したいと思います。この問題は、自動制御の製品の規格を作成する際には考慮すべき問題であり、欧米ではこのトロッコ問題のような状態になっていないかについて仕様作成時に十分に検討される項目の一つです。
トロッコ問題とは？
まずは、トロッコ問題について記載します。トロッコ問題の内容に関しては前の記事で書きましたが、再度記載します。
- トロッコが暴走を始めた。
- そのままだと、トロッコの先にいる5人がトロッコにひかれて死亡することになる。
- A氏はポイントの切り替えのところにおり、ポイントを切り替えることによって5人が作業している場所ではない方にトロッコの進行方向を変更できる。
- ただし、ポイントを切り替えた方向にはB氏が作業をしており、ポイントを切り替えることによりB氏が死亡する。
- A氏の行動としては、どうするのが正しいのか？
この問題で、多くの人にアンケートを取ると、5人を見殺しにする選択をします。
しかしながら、5人を助けることがB氏1人の命で済むと考えると、A氏はポイントを切り替えるべきであると考えることができる。倫理学でいう功利主義的な考え方である。功利主義とは、「最大多数の最大幸福を求める」主義である。つまり、多くの人が助かる方が、功利主義にかなっているのである。
これに対して、5人を助けることは、5人のリスクをB氏に転嫁することになる。これは、義務論の考え方であるところの「人を手段として使ってはならない。」との原則に反することになる。つまり、義務論的には、B氏の命を5人の命を助けるための手段として用いているために問題となる。
つまり、A氏はどちらを選択しても正解であり、かつ不正解である。答えが無いのである。A氏はどちらの方法をとったとしても道徳的に正当な理由があるといえる。
前記事のUniversity of South Carolina（サウスカロライナ大学）のBryant Walker Smith教授が提示したトロッコ問題
Bryant Walker Smith教授が記者に話したシナリオを上記のトロッコ問題に合わせて記載すると、以下のようになる。
- 自転車が自動運転の自動車の前に飛び出した。
- そのままだと、自動運転の自動車にひかれて自転車の乗員は死傷する可能性がある。
- 自動運転の自動車の制御プログラムは、ブレーキをかけて自転車の乗員をひかないようにするために、急減速をすることができる。
- ただし、自動運転の自動車の乗員はシートベルトをしていないために、急減速を行うと頭をフロントガラスに打ちつけて死傷する可能性がある。
- 自動運転の自動車の制御プログラムは、どうするのが正しいのか？
この場合に弱者優先の考え方に沿って考えると、急ブレーキをかけて自転車との衝突を避けるべきである。
しかしながら、急ブレーキをかけて自動運転の自動車の乗員を死傷させることは、自転車の乗員のリスクを転化したことになる。
自動運転の自動車の制御プログラムが急ブレーキをかけて、乗員をフロントガラスに衝突させることに道徳的に正当性があるかの問題となる。
道徳的行為者である人間のA氏の場合には、どちらの選択を行ったとしても、その行為には道徳的な正当性があるといえる。
では、制御プログラムがそのような選択を行った場合に、その行動に道徳的な正当性があるのかという問題になる。一般的には、道徳的行為者ではない制御プログラムが、このような選択を行うことは問題となるのである。
自動運転を「ロボット工学三原則」に適用させて作る必要があるとしている話をよく耳にする。では、「ロボット工学三原則」にこのケースを当てはまるとどうなるであろうか？
＜ロボット工学三原則＞
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
ここで、このケースを当てはめると、どちらを選択したとしても違反となる。急ブレーキをかければ、自らの車両に乗っている乗員に危害を加えることになる。急ブレーキをかけなければ、自転車の乗員に危害を加えることになるのである。
つまり、「ロボット工学三原則」で考えても、どちらの動作も禁止されているのである。ロボット工学三原則も倫理を考慮して考えられたものであるので、トロッコ問題で考えた場合と同じ答えになるのである。
解決策
では、どうしたらよいのかというと、このような事態にならないようにすることである。
つまり、Bryant Walker Smith教授が指摘しているように、「シートベルトがされてない場合は自動車が自動で動作しない。」などの対策を実施することである。こうすることによって、制御プログラムが道徳的な選択を実施しなくても済むのである。
自動制御機器の仕様を検討していると、多くの場合にはこのようなA氏が行うべき選択を仕様作成者が自己判断で選択してしまっている場合がある。今までの自動車においては、あくまでも運転者の責任であるので、このような選択を行ったとしても運転者が覆すことが可能であるので問題は小さいものであった。
しかしながら、完全自動運転などになった場合には、このような状況に陥らないための制御仕様の検証が必要となってくるのである。
自動化が進むに伴って、トロッコ問題に代表されるような倫理的な問題を検討できる技術者倫理の重要性が高くなってくると思われる。