NHK 解説委員室

２．信用スコアのメリット　
　まず、信用スコアのメリットですが、これは決して小さくありません。例えば、世の中には、資産や銀行口座といった、伝統的な信用情報をもっていないために、自らの信用力を可視化できず、融資を受けられなかったり、金融取引から排除される人たちがいます。その多くは、少数派と呼ばれる人たちや、若者たちです。

ＡＩを用いた信用スコアは、伝統的な信用情報に加え、個人のあらゆる行動記録や行動パターンを考慮することで、信用力を可視化し、こうした者への融資を可能にするなど、「ファイナンシャル・インクルージョン」の実現に資する側面があります。これは、多くの人に平等にチャンスを与えることにもなります。また、多くのデータを使うことで、判断材料が限定的だった従来の与信審査よりも正確な信用力の予測が可能となるともいわれます。これは公正の実現に資するともいえます。さらに、信用スコアが、口コミや星の数などに代わる、デジタルプラットフォーム上の正確な信頼指標になることで、より安全なオンライン取引やシェアリングエコノミーが実現するかもしれません。加えて、不道徳な行動や危険な行動がスコアの低下と関連づけられれば、スコアが落ちることを避けるために道徳的な行動をとるようになり、これまで以上に安心・安全な社会が実現する可能性もあります。

３．信用スコアのデメリット　
こうしたメリットは、新たな社会秩序の成立を予感させるもので、大変魅力的なものです。しかし私たちは、その課題やデメリットにも目を向ける必要があります。
現状の課題として、例えば、信用スコアの算出にどんな情報が使われたのか、どの情報にどれぐらいの比重がかけられたのかが不透明になる、「ブラックボックス問題」があります。ブラックボックス化には複数の理由があります。例えば、仮にどんな情報を収集・利用しているのか、どんな計算式・アルゴリズムでスコアを算出しているのかをすべて明らかにすると、ユーザーはそれを踏まえて自らの行動を調整するようになるため、本当の信用力が測れなくなります。ですので、説明は限定的なものにならざるをえません。また、深層学習のような、ＡＩの計算方法の中でも複雑高度な方法を使うようになると、なぜＡＩがそのようなスコアを導いたのか、そのロジックが人間には理解困難になるともいわれています。
このような「ブラックボックス問題」は、さらに次のような課題をもたらします。
第1に、本人がスマホを誤って操作した結果や、友人のために行ったネット上の調べもの、本人のＩＤを使った他人の行動など、本人の評価には本来使うべきでないデータが混入し、本人の信用スコアに影響を与える可能性があります。が、プロセスが不透明ですと、その検証や異議申立ての機会が確保されません。
第2に、どのような行動がスコアに影響するのかがわからないと、私たちは、ビクビクして特定の行動を差し控えるようになる可能性があります。この「萎縮効果」により、私たちの行動の自由や社会の多様性が失われる可能性もあります。
第3に、ＡＩが学習するデータに「偏り」があったり、人種・性別・居住地のような属性がスコアの算定に利用されたりすることによって、社会的な差別が助長・再生産される可能性が指摘されています。例えば、技術系の職業は、これまで男性が多かったため、ＡＩが読むデータに性別による「偏り」が生じ、ＡＩを用いた技術職の採用プログラムが女性を不当に排除してしまった例が報告されています。仮に差別を防ぐため、人種や性別といった属性をスコアリングに使わなかったとしても、それと密接に関連する情報が使われることで、結果的に特定の集団に「差別的な影響」が生じることも考えられます。
第4に、信用スコアの利用範囲が今後拡大していくと、スコアの低い人たちが、社会の至る所で排除される可能性があります。努力して自分のスコアを上げられればよいのですが、スコアの算定に使われるデータや算定基準が「ブラックボックス化」すると、どう頑張ればスコアが上がるのかがわからず、スコアが低いまま這い上がれなくなります。スコアに基づく階層社会が生まれ、スコアが極端に低い人たち、そもそもスコア付けを拒否し、スコアをもたない人たちが、「バーチャル・スラム」と呼ばれる新たなスラムを形成するのではないか、とも懸念されています。

４．今後の展望　
私たちは、これからのＡＩ社会において、ファイナンシャル・インクルージョンのような、信用スコアのメリットを最大限生かしつつ、そのデメリットを抑えるような社会システムを構築していかなければなりません。ＡＩの「格付け」によって人生の可能性が縮減されるような社会は、自由で民主的な社会とは言えません。ＡＩのスコアリングが決して完全なものではないことにも注意が必要です。プライバシーのために算定に利用できる情報には限界がありますし、そもそもＡＩの評価は、「こういう属性を共通してもっている人は、こういう傾向がある」という確率的な評価にすぎません。こうした確率的な評価のみで人間をベルトコンベアに乗った商品のように分類・仕分けしていくことは、私たち一人ひとりをかけがえのない存在として尊重するという、憲法の「個人の尊重」原理とも矛盾するかもしれません。
世界に目を向けると、既にこうした懸念に応える法的規律が存在します。

例えば、ＧＤＰＲと呼ばれるＥＵのデータ保護法は、ＡＩの予測評価のみで、融資や採用など、個人にとって重要な決定を行うことを禁止しています。ＡＩのつけたスコアを参考にしてもよいが、最終的には人間が責任をもって判断しなさい、という趣旨によるものです。本人の明示的な同意などにより例外も許容されていますが、その場合にも、人間の介在を求める権利や、決定に異議を唱える権利など、本人関与の手続きを保障しています。ＥＵでは、本人がスコアに挑戦し、修正するメカニズムが重視されているわけです。また、ＧＤＰＲには、スコアリングのプロセスを透明化し、できる限りブラックボックス化を防ごうという態度もみられます。また、アメリカには、スコアの利用範囲を制限するような州法があります。
もちろん、信用スコアの適切な実施を担保するのは法律だけではありません。スコアリング事業者の信頼を確保するための監査制度や、一定の基準を満たしたスコアリング事業者を第三者が認証する認証制度の構築も考えられます。さらに、判断のメカニズムを自ら説明できるＡＩ――説明ＡＩとも呼ばれますが、こうしたＡＩの開発といった技術的取り組みも重要になります。
日本でも、「人間中心」の考え方や、憲法の「個人の尊重」原理を再確認し、また、先に挙げました国際的な取り組みを参考にしながら、ＡＩのスコアによって人生の可能性が制限されるのではなく、むしろその可能性が広がるような社会システムを、急ぎ構築していく必要があるでしょう。