政治哲学を専門とし、ハーバード大学教授であるマイケル・サンデル氏。大学での一般公開講義には数万人が押し寄せ、その講義の内容を著書とした『これから「正義」の話をしよう』は世界各国で大ベストセラーとなりました。進行役を務める「正義」についての討論番組は全世界で放映され、日本では（NHK教育テレビで）『ハーバード白熱教室』として放送されました。
「亡くなった家族のデジタルツインとオンラインで話せるとしたら、あなたは会話しますか？」。平易な語り口で問いかけながら、聴衆を時代が抱える問題の核心へと導いていくマイケル・サンデル教授。
2019年5月、富士通フォーラム2019に登壇したサンデル教授は、富士通のグローバルマーケティング本部 チーフストラテジストの高重吉邦と8人のパネリストを交え、個人データやAIの倫理、企業の存在意義などについて白熱した討論を展開しました。
壇上のパネリスト8人と共に議論を展開
高重吉邦（富士通）
皆さん、こんにちは。
これから“ハーバード白熱教室”でよくご存じのマイケル・サンデル教授とともに「デジタル世界で“信頼”をどう再構築するか」について、議論していきたいと思います。
インターネットやスマートフォンのようなデジタル技術は暮らしを便利にし、eコマースやソーシャルネットワークなどの新しいビジネスを生み出しました。しかし、一方で不安に感じないでしょうか？2018年に起こったフェイスブックの個人データ漏洩事件はまだ記憶に新しいと思います。富士通が実施したグローバル調査でも回答者の70%以上がオンライン情報の信頼性やプライバシー侵害のリスクについて懸念を抱いていました。デジタル技術に対する信頼、それを使う企業に対する“信頼”が揺らいでいるのです。
サンデル教授は、この点についてどうお考えでしょうか？
マイケル・サンデル教授
今日私たちが直面する最も大きな倫理的な問題のひとつだと思います。解決できなければ企業の信頼は失墜し、人々はテクノロジーを機会ではなく脅威だと見なしてしまうでしょう。これから行うように、デジタル技術がもたらす倫理的な問題についてパブリックに議論することが重要なのです。
プライバシーをどこまで共有する？
・健康データを共有するか
マイケル・サンデル教授
こういった大きな問題の一つである個人データについて考えてみましょう。企業がより良いサービスや便益を提供するために、その代わりに自分の個人データを提供するでしょうか？
まず健康保険についての質問から始めましょう。ウェアラブルデバイスを使って、睡眠時間や食事内容、あなたが健康のためにブロッコリーを食べたかとか、どのくらいアルコールを摂取しているかなどの生活習慣を記録して保険会社に送るというものです。あなたの健康情報提供と健康的な生活習慣と引き換えに保険料を大幅にディスカウントするというのです。
投げられた質問へ、ボードを掲げて回答する観客
見たところ聴衆の方は提供しないが7割から8割くらいでしょうか。パネリストの方々も6対2です。由布子さんは情報提供しないという意見ですが、それはなぜですか？
保田由布子（国連開発計画（UNDP）駐日代表事務所 渉外・広報官）
理由は2つあります。私はブロッコリーも好きだし、ヨガもしますが、自分のプライバシーを企業に知られると裸で街を歩いているような、監視されているような気持ち悪さがあって、値引きの嬉しさより恐さの方が上回ります。また、健康な人だけが値引きを受けられる考えがさらに進むと、最後は「あなたは遺伝子に異常があるので保険に入れません」というようなことになるかもしれない。そういう社会は怖いと思います。
マイケル・サンデル教授
では、賛成派から康裕さん、あなたは健康データの提供に抵抗がないようですが、なぜでしょう？遺伝子情報についても同様ですか？
佐々木康裕（Takramディレクター）
安くなるならなんでもいいよという感じですね。食事や睡眠などのデータは自分の大事なところを物語っていないと思っていますので、それを提供して見返りをもらうことに抵抗はありません。遺伝子情報にしても、たくさんの人々がデータ提供することで新しい治療法の発見や医療の進歩に役立つかもしれません。
マイケル・サンデル教授
そういったデータは自分の大切なアイデンティティに関わらないので提供しても構わないというわけですね。では、共有したくない個人的なデータにはどのようなものがありますか？
佐々木康裕
家族や親友など大切な人との会話は共有したくないですね。相手の人間を捲きこんでしまうおそれもありますので。
マイケル・サンデル教授
由布子さんは一切共有しない、康裕さんはべつに構わないと言っています。イアンさん、あなたは共有派でしたね？
イアン・ブラッドベリー（富士通UK&I金融サービスCTO）
はい、そうです。保険会社は個人データを他の企業と共有するようなことはないと期待しています。
マイケル・サンデル教授
では聞きますが、フェイスブックはあなたの個人データをしっかり守っていると思いますか？
イアン・ブラッドベリー
フェイスブックには共有されても構わない情報しか載せません。プラットフォームには価値があると思いますが、すべての情報を載せたりはしません。その点が保険会社の場合と異なります。
・運転データを共有するか
マイケル・サンデル教授
ではここで少し質問を変えて、データを提供する相手が自動車保険会社だったらどうでしょう？制限速度を守っているか、急ブレーキや急ターンをしていないか、夜間の何時頃運転するか、といった運転状況を記録するデバイスを車に装着してデータを提供すると保険料が値引きになるとしたら？会場の皆さんも考えを教えてください。
会場はほぼ9割がデータを提供するようですが、パネリストは8人中4人が提供しない。会場との違いが出ています。
健康データは拒まなかったのに運転データは共有しないというエドモンドさん、それはなぜですか？自分の運転データは健康データよりもパーソナルなものですか？
エドモンド・チョン（マレーシア社会保障庁 リハビリテーションセンター 副所長）
そうではなく、自分の運転記録がディスカウントにつながらないと思うからです。データを提供したら逆に保険料が上がってしまうかもしれない。
マイケル・サンデル教授
運転が荒いから？
エドモンド・チョン
いえ、運転はきちんとしていますが、夜間や長距離の運転が多いので。
マイケル・サンデル教授
なるほど、保険会社が逆の用途に使うかもしれないということですね。では、ほかに健康データは構わないが運転記録はいやだという方？美香さん、いかがですか？
高橋美香（富士通グローバルマーケティング本部）
エドモンドさんと似たような理由です。私は運転がすごく下手なので、値引きにはつながらないだろうと思います。もう一つ、位置データが気になりました。自分がいつ、どこにいたかがわかってしまうのは、少し怖い気がして「いいえ」にしました。
マイケル・サンデル教授
美香さんにとって位置データは、由布子さんにとっての健康データと同じようにパーソナルだということですね。康裕さん、あなたは、さっき健康データは気にしないと言っていましたが、あなたがどこに行ったという位置データを企業が知るということはいかがですか？かなりパーソナルなものだと思うのですが？
佐々木康裕
確かにパーソナルなものですが、それも問題ありません。自動車保険会社が外に情報を漏らさないという信頼に基づいていれば。もしその会社が信頼できなければ、そのサービス自体を利用しません。
マイケル・サンデル教授
Uberのような配車サービスでは利用者の位置データが必須になります。しかし、例えば位置データを見て、深夜になぜか多くの男性が訪れるような場所があるとして、そのデータから売春といったようなことが疑われるわけです。グーグルのCEOエリック・シュミットは“他人に知られたくないなら、最初からそんなことはしないに越したことはない”というようなことを言っています。ここには非常にセンシティブな問題が含まれています。倫理とプライバシーに関わる問題です。吉邦さん、どう思われますか？
高重吉邦
確かにセンシティブですね。日本ではまれですがテロリストが特定の人の位置データを手に入れた場合、誘拐や殺人の対象になってしまうというケースも考えられます。データを取り扱う企業がどんな取り決めでそのデータをどのように管理しているのかわからないときは、共有は危険だといえます。
エドモンド・チョン
例えば今私は妻と2人の娘をマレーシアに残して日本に来ていますが、もしそのことを誰かに知られたなら、家族のことが心配になります。
マイケル・サンデル教授
ここで少し整理してみましょう。私たちはプライバシーに関し、他人には知られたくないという気持ちを持っています。このパネル・ディスカッションを通じて、自分のアイデンティティに関わる大事な部分は共有したくないということが分かってきました。しかし、どのデータを大事な部分と考えるのかについては個人差があるということも明らかになりました。
マイケル・サンデル教授からの一見簡単な質問に各パネリストが答えていくうちに、多くの異なる意見が交わされ深い議論になっていった。
AIをどこまで信頼する？
マイケル・サンデル教授
では、ここからもう一つ別の倫理的な問題の議論に移っていきましょう。ビッグデータや、AI、アルゴリズムについてです。AIは、人と比べてより良い判断をすることができるでしょうか。
・AIが病気の診断をしたら？
具体的に病気の診断の例を取ってみましょう。CTスキャンの画像解析の能力ではAIの方が医師を上回ってきていますね。
皆さんの大切な人が重い病気に罹っている場合、CTスキャンの画像診断に皆さんは人間の医師を選びますか、それともAIを選びますか？ボードで答えを示してください。
会場はAIと医師でだいたい半々に分かれました。パネルの方は二人を除いてAIに診断を任せるという答えです。医師を選んだはずむさん、どうしてそのほうがいいのでしょうか？
山崎はずむ（Empath Co-Founder, CSO）
統計学的な判断としてはAIが優れていて、今後症例のデータが増えれば増えるほど診断精度も上がってくるのでしょうが、実感としていまはまだ医者に頼りたいという思いがあります。
マイケル・サンデル教授
もう一人、医師を選んだセバスチャンさんはどうして？
セバスチャン・マシュー（富士通 ポーランド・グローバルデリバリーセンター プロセス・マネージャー）
AIの解析結果を参考にして医師に診てもらいたいですね。
マイケル・サンデル教授
AIだけではだめですか？
セバスチャン・マシュー
AIはデータの解析はできますし、間違いは犯しにくいかもしれませんが、AIがきちんと推論をすることができるとは思いません。AIと人が協働することが必要だと思います。
マイケル・サンデル教授
最終的には人だということですね。
はずむさん、どう思いますか？
山崎はずむ
推論を行うために、人間にはAIが持っていない意識を持っています。AIはあくまで統計分析をしているわけで、理解しているわけではありません。人間が認識する働きとマシンのそれは全く異なると思います。
マイケル・サンデル教授
しかし、ここではただCTの画像解析を任せるだけです。
マシンに対する信頼ということですか？
山崎はずむ
もっと利用が広がれば信頼が深まるかもしれません。例えば、自動運転のほうが人間より事故率は少ないと言われています。けれども、自動運転への恐怖心は消えません。これは単なる統計の問題ではなく、人間のメンタルなところの問題なのです。
・AIが人事の評価をしたら？
マイケル・サンデル教授
ではここでこの問題にもっと踏み込んでみましょう。今度は人事評価についてです。
会社での仕事のパフォーマンスを評価する際、人間の上司には主観や感情が入りこんでしまうことがあります。一方、AIは、様々な指標とアルゴリズムに従ってパフォーマンスを評価します。皆さんが社員だとして、どちらの評価を望みますか？人間の上司でしょうか、それともAIでしょうか？
会場はほぼ8割近く人間の上司を信頼しているようですね。逆にパネリストの方々は半々に別れました。ゆみ子さん、AIを選んだ理由は？
梶原ゆみ子（富士通 理事）
AIの方が客観的で公平なのではないかと思いました。人間の場合は、どうしても評価に好き嫌いが出てしまいがちです。AIにはそうしたバイアスが存在しないのではないでしょうか。
人間はどうしても主観が優先します。また、そのときの上司と部下との関係性の問題もあります。もしかすると会場の皆さんは、ほとんどが評価する立場にあるのかもしれませんね。
マイケル・サンデル教授
ゆみ子さんご自身もこれまで部下の人事評価をしてきたと思いますが、いまの話からするとこれまでやってきた自分の判断を信頼していないということでしょうか？
梶原ゆみ子
確かにそう聞こえるかもしれませんね。でも、私自身はこれまで客観性をもって部下の仕事を評価してきたつもりです。自分が評価されるときのことを突き詰めて考えた時、AIの客観性を選ぶという意味です。
マイケル・サンデル教授
由布子さんは人間の上司を選びましたが、ゆみ子さんの言う客観性、つまり人事評価でバイアスを克服するということについて、どう考えますか？
保田由布子
AIは文脈を読まないのではないかという気がしています。ものごとが計画通りに進まなかったときでも、数値やデータ以外のところで重要な貢献をしている人がいます。例えばチームのムードが落ちたときのメンタルなサポートをしてくれる人がいる。そうした人の貢献をAIが正しく評価できるのかどうか疑問に思います。
高重吉邦
自分の仕事が全部数学で評価できるのか、すべてを圧縮して客観的に評価できるのかは非常に疑問だと思っています。そういった目に見えない部分は、人間の感性ではかるしかない。ただ人間関係が悪ければひどい評価を受けてしまいますが、それもある意味リアルな人間関係なのかと思います。
マイケル・サンデル教授
仕事をAIが扱えるような指標で評価することはできないということですね。指標がとらえきれない複雑な人間のスキルをどう評価すればいいのか。
梶原ゆみ子
人事評価には絶対評価と相対評価があって、絶対評価の場合、数字に表れないその人の良さを見つけて考慮することが大切です。しかし、相対評価の場合、比較するための基軸としてどうしても数字に頼る部分が出てきます。最終的にはAIの評価を参考にしながら上司が判断するのがいいのかもしれません。正直なところ、上司から温かい言葉で叱咤激励を受けたいですね。
エドモンド・チョン
ゆみ子さんの言ったことには意義がありますが、やはりAIファーストだと思います。例えば内向的で、目立たない若い社員が毎晩遅くまで頑張っているのだけれども、上司にはその姿が見えていないケースがあります。そうした社員の能力と仕事を客観的に評価する必要があります。私達もAIの予測モデルを使ったことがありますが、そこには余計な感情が入りこみません。大事なのはどんな社員にも平等なチャンスを与えるということです。
マイケル・サンデル教授
人間だけの判断では感情が邪魔し、感情が判断を鈍らせるというのですね。
エドモンド・チョン
そうです。人間というのは、いってみればホルモンの指示で動く生化学的存在ですからね。
マイケル・サンデル教授
これは重要なポイントですね、感情は良い判断を曇らせるので、感情の無いAIのほうが良い判断ができるという主張です。誰か反論はありますか？はずむさん、どうでしょう？
山崎はずむ
私は感情解析に関わる仕事をしているのですが、感情がないとそもそも人間は意思決定ができないということが症例からわかってきています。たとえば、1994年にダマシオが書いた『デカルトの誤り』という有名な本のなかで、前頭葉に槍が刺さった人間はどこまでも論理でものごとを考えるため選択ができないということが述べられています。人間がなにかの選択をする際に必要なのは情動であるということが最近の哲学的な考えでもあります。
マイケル・サンデル教授
正しい判断をするためには感情が必要であるということですね。
ここまでの議論で、AIの判断には偏見がないので良いという意見と、判断には感情が重要な役割を果たすという意見が出されました。
ーその他にも、仮想的な不死は作れるのかなど、様々なテーマを取り上げ、サンデル教授とパネリストの皆さんが白熱して議論を展開しました。
信頼と企業の社会的責任
高重吉邦
今日はいろいろ議論してきましたが、一見簡単な質問に答えていくうちに、自分たちが考えてもみなかったような深い議論になった気がします。それぞれの質問に多くの異なる意見がでましたが、単純な解はありませんでした。表層的な問題ではなく、深層にある問題をもっとオープンに議論することが必要だということを強く感じます。
ひとつサンデル教授にうかがいたいのですが、人とAIがコラボレーションすることが当たり前となり、AIが様々な物事を判断する時代がやってくるとき、人間に残された領域、これだけは人間が手放してはならない領域は何でしょうか？何か役立つ指針はあるでしょうか？
マイケル・サンデル教授
今日の議論でもいくつか示されていたと思います。ひとつは、人事評価であれ、医療診断であれ、結婚仲介であれ、人の代わりにデジタル技術に判断させたり、人の判断を助けたりする場合、アルゴリズムが扱うことができるパターンや指標が必要であるということです。そしてこれは大きな哲学的な問題を提起します。つまり、そうしたパターンや指標で測れない人間の領域というものがあるのかということです。今日のパネリストの皆さんはその点について、恋愛や、感情、愛着、生と死を隔てる境界への敬意といったものを挙げていました。
しかし、人間の意識や愛着や恋愛が関わるような、パターンや指標で測ることができない、人間が判断しなければならない物事の範囲は曖昧なままです。こうした議論には終わりがありません。テクノロジーに回答を求めることなく、私達自身が考え抜くことが重要です。
高重吉邦
富士通には、人を物事の中心において考える“ヒューマンセントリック”の信念があります。すべての意思決定はこの信念にもとづいてなされなければなりません。人間が判断しなければならない感情や目に見えない価値まで包含して、このヒューマンセントリックの哲学を深めていかなければならないと思いました。
最後に、富士通のようなテクノロジー企業が果たすべき役割と責任について一言お願いします。 このデジタル時代に富士通に何を期待しますか？
マイケル・サンデル教授
非常に短い言い方ですが、時代が抱える重要な倫理的な問題について社内だけでなく社会全体での議論を深め活性化させていくこと。それがリーディング・テクノロジー企業の果たすべき責任だと思います。
高重吉邦
サンデル教授、本日は貴重なお話をありがとうございました。
マイケル・サンデル教授との白熱討論の詳細は、こちらからご覧いただけます。
デジタル世界で「信頼」をどう再構築するか
マイケル・サンデル教授との白熱討論
https://www.fujitsu.com/jp/vision/insights/201905event/
