藤沢 私は世界経済フォーラムのダボス会議などに毎年参加していますが、ここではだいぶ前からAIについて議論されています。その中でよく話題になるのが公平性・透明性の部分です。AIが過去のデータを学習して結果を出すときに、データの中に含まれる人間のバイアスも取り込んで答えるという話を聞いて驚いたことがあります。AIの回答は何でも正しいと受け取ってしまいがちですが、実は人間が持つ偏見が含まれるというわけです。実際、米国で犯罪予測にAIを活用したところ、特定人種のリスクが高いと判断したという話を聞いたことがあります。

　AIをビジネスに活用するにあたっては、そうしたバイアスをどうやって担保していくのでしょうか。またAIが出した答えの根拠がわからなければ、それをビジネスに活用することは難しいのではないでしょうか。

森本 いま藤沢さんが指摘された課題は、AIをビジネスで活用するにあたって非常に重要です。ただし、あまり難しく考えず、基本に立ち返ってみるとわかりやすいと思います。

　AIを囲碁・将棋に使うときは、なぜそういう手を打ったのかという説明は重要ではなく、単純に勝てばよいわけです。一方、AIをミッションクリティカルなビジネス領域で活用しようとすると、アカウンタビリティー（説明責任）が求められ、公平性・透明性が問題になります。ビジネスの観点からすればこれらは当然のことで、AIに限ったことではありません。内閣府の「人間中心のAI社会原則」の草案から「AI」の文字を消してみると、ごく常識的なことが書かれていることに気づかれるでしょう。

藤沢 AIの公平性・透明性について、IBMではどのような取り組みをしているのですか。

森本 「IBM Watson」が2011年に米国の人気クイズ番組「Jeopardy!（ジョパディ！）」で人間のクイズ王に勝利したあと、IBMはAIのビジネス活用へと舵（かじ）を切りました。2012年からは医療分野に応用しており、当時から発症リスクの確率を示す際に理由をきちんと説明し、必要があれば関連する文献を提示するといったエビデンス（証拠・根拠）を示すようにしています。つまり、IBMの商用AIの中には、最初から公平性・透明性を明らかにする仕組みが組み込まれているということです。

　IBMは長年、企業のミッションクリティカルなビジネス領域向けに事業を展開してきました。そこではお客様に対する説明責任が常に求められます。AIに関しても、私たちからすれば提供するものがAIに変わっただけであり、説明責任を果たすことは当然のことだと考えています。

藤沢 ダボス会議で、IBMには倫理の研究チームがあるという話を聞きました。AIの公平性・透明性についても、倫理面からの課題解決に取り組み、さまざまな提言をしていますね。

森本 IBMはドキュメントを発表しているだけでなく、AIに入力するデータの公平性・透明性を担保するためのソフトウエアやテクノロジーも提供しています。例えば、オープンソースとして公開している「AI Fairness 360」というツールキットは、複数のアルゴリズム、コード、チュートリアルからなるライブラリーで、入力データに含まれるバイアスのバランスをチェックすることが可能です。またパフォーマンスに影響するバイアス、倫理に関するバイアスなどを目的に応じて組み合わせて検証できるように、データを分析して特徴量を抽出するツールなども用意しています。