男性は女性を外見で判断しがちだと言われる。どうやらコンピューターも同じようだ。
グーグルのクラウド型画像認識サーヴィスに米下院議員の写真を判断させたところ、女性の画像に付けられた身体的な外見に関するアノテーション（ラベル付け）の数が男性の3倍になった──。そんな研究結果を、このほど米国と欧州の研究チームが明らかにした。男性の画像に多く付けられたラベルの上位は「official（仕事上の、公式の）」「businessperson（ビジネスパーソン）」だったが、これに対して女性は「smile（笑顔）」「chin（あご）」だった。
「女性は地位が低いというステレオタイプを当てはめている結果です。女性は見た目がきれいであればいい、男性はビジネスリーダー、というステレオタイプです」と、研究者のひとりでドイツのケルンにあるGESISライプニッツ社会科学研究所の博士研究員のカーステン・シュヴェンマーは説明する。今回の研究は、ほかにニューヨーク大学、アメリカン大学、ユニヴァーシティ・カレッジ・ダブリン、ミシガン大学、非営利団体「California YIMBY」の研究者が共同で実施し、11月11日付で論文を発表した。
研究チームが画像分析テストを実施したのは、グーグルのほか、競合であるアマゾン、マイクロソフトのAI画像認識サーヴィスである。議員の公式写真と本人によるTwitterの投稿写真にこれらのサーヴィスがどんなラベルを付けたのか、クラウドソーシングで依頼したスタッフに確認してもらった。
グーグルのAI画像認識サーヴィスは、写真のスティーヴ・デインズのような男性議員を「ビジネスパーソン」とみなし、ルシール・ロイバル・アラードのような女性議員を外見に関連する単語でタグ付けする傾向がみられた。IMAGE BY CARSTEN SCHWEMMER
AIによる画像認識サーヴィスは基本的に、人間が写真を見たときに目にするものと同じものを見ている。ところが、画像が女性か男性かによって異なるものを認識する傾向が出た。女性の場合、外見で特徴づける傾向がより強いことが明らかになっている。女性議員の画像に「girl（若い女性）」「beauty（美）」とタグを付けるケースが多かったのだ。女性を識別しない傾向もあり、女性を認識できない確率は男性よりもずっと高かった。
存在してきたバイアスをAIが再現
今回の研究は、アルゴリズムというものが数学的な公平さで世界を見ているとは言えず、これまで存在してきた文化的なバイアス（偏見）を再現したり、ときに増幅することすらある現実を裏づける証拠となった。この研究が実施された背景のひとつに、2018年のプロジェクト「Gender Shades」がある。このプロジェクトでは、マイクロソフトとIBMのAIクラウドサーヴィスが白人男性の認識については極めて精度が高い一方で、黒人女性の認識精度が非常に低い事実を明らかにしている。
今回の研究結果は発表されたばかりだが、対象としたAIサーヴィスのデータ収集は2018年に実施されている。『WIRED』US版がカリフォルニア州議会議員の男女10名ずつの公式画像を使って実験したところ、現在も同様の結果を確認できた。
アマゾンの画像認識サーヴィス「Amazon Rekognition」にカリフォルニア州議会議員の写真を分析させたところ、女性議員に「girl（若い女性）」「kid（子ども）」のタグ付けをするケースがあった。一方、男性議員について同様の傾向はみられなかった。写真は共和党所属の女性議員、リンリン・チャン。IMAGE BY WIRED STAFF VIA AMAZON
分析した20人の写真は、いずれも笑顔である。グーグルの画像認識サーヴィスが「笑顔」を最も高い確率でラベル付けしたのは、男性1人に対し女性では7人にのぼった。
また、男性については10人全員を「ビジネスパーソン」とラベル付けし、「official（仕事上の、公式の）」「white collar worker（ホワイトカラー労働者）」のラベルが付くケースも多かった。女性議員でこの3つのラベルのいずれかが付けられたのは5人だけだった。女性には「skin（肌）」「hairstyle（髪型）」「neck（首）」など外見関連のラベルも散見されたが、男性には該当しなかった。
アマゾンとマイクロソフトの同種のサーヴィスでは、グーグルよりはあからさまなバイアスが少ないように見えるが、アマゾンは10人中2人の女性議員を99パーセント超の確率で「若い女性」か「子ども」であると判定している。男性10名のうち、未成年者と認識された例はなかった。マイクロソフトは男性の写真をすべて男性と認識したが、女性を女性と認識したのは8人で、1人を男性と判断、もう1人はジェンダーのタグ付けをしなかった。
浮かび上がったジェンダーバイアス
グーグルは今年2月、外見で性別を推測することはできないとして、AI画像認識サーヴィスで性別のタグ付けをやめると発表している。グーグルのクラウド部門でAI担当ディレクターを務めるトレイシー・フレイは、会社としてはバイアスを減らすために継続的に取り組んでおり、外部からの意見を歓迎すると語る。「当社は常に改善に向け努力していますし、学術研究者など外部関係者とも引き続き連携していきます」
なお、アマゾンとマイクロソフトは本件に関してコメントしていない。いずれのサーヴィスも、性別を認識するラベルは女性か男性のいずれかしかない。
今回の研究に影響を与えた事例のひとつが、世界報道写真大賞を受賞した写真を研究者がグーグルの画像認識サーヴィスにかけたときの結果だった。テキサスの国境近くでホンジュラスから来た母親が国境警備隊の取り調べを受け、その横で泣く女児をとらえた心を揺さぶられる1枚である。
グーグルのAIは、この写真が77パーセントの確率で「fun（楽しいこと）」であると認識した。「子ども」と判断したラベルの52パーセントよりも高い。『WIRED』US版で同じ写真をグーグルのサーヴィスにかけたところ、やはり同じ判断が出ている。
GESISライプニッツ社会科学研究所のシュヴェンマーらがグーグルの画像認識サーヴィスで実験を始めたのは、人々がインターネット上で政治の話をする際にどのように画像を活用しているのか、パターンを探るために活用できないかと考えたからだった。ところが分析を進めていくと、画像認識サーヴィスに含まれるジェンダーバイアスが明らかになったのである。
これを受けてシュヴェンマーは、この技術は研究者が期待したような目的で使える段階にはなく、企業がこの種のサーヴィスを取り入れれば好ましくない結果を招く、と確信したという。「完全に誤った現状認識をしてしまう可能性があります」と、シュヴェンマーは警告する。
例えば、企業が偏りのあるAIツールを使って膨大な画像データを分類すれば、女性を「笑顔」のラベルで判定するあまり、女性にビジネスパーソンがいても意図せずして存在を見えなくしてしまう恐れがある。
2019年の世界報道写真大賞を受賞した、米国とメキシコの国境付近で泣き叫ぶ少女の写真。審査員は「心理的な暴力」が表現されていると評した。グーグルの画像分析アルゴリズムは写真に「fun（楽しいこと）」が含まれると判断している。IMAGE BY WIRED STAFF VIA GOOGLE
訓練用のデータに偏り？
過去の研究では、ラベル付けされた主要な画像データセットを画像認識アルゴリズムの訓練に使ったところ、料理を女性、射撃を男性に結びつけるといった重大なジェンダーバイアスが報告されている。偏りの背景には、研究者がネット上で画像を収集してきた結果、社会に存在するバイアスが画像にも反映されている現実が挙げられる。
ビジネスパーソンとして提示されている事例が、女性より男性のほうがずっと多いこともその一例だ。こうしたデータセットを使って訓練された機械学習アルゴリズムは、元の画像データに潜むバイアスを増幅させるという結果も出ている。
今回明らかになったグーグルのサーヴィスに含まれるバイアスも、おそらく訓練用のデータに偏りがあったからだとシュヴェンマーはみる。ただし、グーグルのシステムにアクセスできない以上、確かなことはわからない。
AIシステムの欠点やバイアスを突き止めて修正していく動きは、ここ数年の研究テーマとして注目度が高まっている。人間は画像から読み取れる細かな背景を瞬時に判断できるが、AIのソフトウェアは画像を構成するピクセルのパターンに焦点を絞って判断することから、齟齬が生じる余地は大きいのだ。
アルゴリズムの画像処理の進化に伴い、この問題はますます切迫した課題になっている。「いま、この種のアルゴリズムはあらゆるところで利用されています」と、プリンストン大学の助教授であるオルガ・ルサコフスキーは言う。「こうしたツールが社会で正しく機能しているか、意図しない結果をのちに招いていないか、きちんと確かめる必要があります」
IMAGE BY WIRED STAFF VIA GOOGLE
研究調査および『WIRED』US版の実験によると、グーグルの画像認識サーヴィスが女性議員には外見に関する単語をラベル付けし、男性議員には「businessperson（ビジネスパーソン）」「elder（年配者）」などのラベル付けをする傾向を確認した。上はカリフォルニア州議会議員キャスリーン・ガルジアーニ、下は同じく州議会議員のジム・ビール。IMAGE BY WIRED STAFF VIA GOOGLE
訓練データの改良が解決策のひとつに
対策としてのアプローチのひとつが、機械学習システムがバイアスを習得する根本的な原因になる訓練データの改良だ。ルサコフスキ－はプリンストン大学で「REVISE」と呼ばれるツールの開発プロジェクトに携わっている。画像データ集に地理やジェンダーなどの点で偏りが含まれていれば、自動的に検知して知らせるツールだ。
グーグルが提供する900万点の画像データセット「Open Images」に研究チームがREVISEを適用したところ、男性は女性よりも屋外の場面やスポーツ競技場にタグ付けされる頻度が高かった。また、「sports uniform（スポーツのユニフォーム）」のタグが付けられた男性の写真は大多数が屋外で野球などのスポーツをしている一方で、女性は屋内でバスケットボールをしていたり水着を着ていたりする画像が目立った。研究チームは、スポーツをしている場面を含め、女性が屋外にいる画像を増やすことを提言している。
グーグルをはじめとするAIサーヴィスの開発側は、自身もAIにおける公平性やバイアスに関する研究に進んで取り組んでいる。例としては、AIソフトとデータセットの限界や内容を標準化して開発者側に伝える方法を構築しようとする案もある。これはいわば、AIの栄養成分表示のようなものだ。
グーグルは「モデルカード」と呼ばれるフォーマットを開発し、自社が提供するクラウド画像認識サーヴィスの顔認識、オブジェクト認識のコンポーネントとして公開している。グーグルの顔認識技術はジェンダーにかかわらずおおよそ同等に機能する、との主張もあるが、その他のかたちでAIのジェンダーバイアスが働く可能性については言及していない。
※『WIRED』による人工知能（AI）の関連記事はこちら。
