（フロンティア２．０）黒人の写真を「ゴリラ」と誤認識　ＡＩの進歩と限界

　先日、あるツイッターの投稿が米国でニュースになった。

　ニューヨークに住むアフリカ系米国人の男性が友人と２人で写った写真をグーグルの写真アプリに保存したところ、「ゴリラ」に分類されたというのだ。怒った男性は６月下旬、「私の友人はゴリラではない」「なぜこんなことが起きるのか」などとツイッターに投稿。これが一気に広まり、グーグルは「大変申し訳ない。まだ自動識別の技術は不十分で、改善すべき点が多くある」などと平謝りした。

　男性が使ったのは、グーグルが５月末に発表した新しい写真アプリ「フォト」だった。写真に写っている人の顔や動物、食べ物など自動的に認識し、分類する機能を備えている最新のアプリだ。人間の顔は個人ごとに仕分けされ、眼鏡をかけたり帽子をかぶっていたりしていても同じ人だと識別。赤ちゃんから大人になるまでの変化も認識するという。他にも、食べ物、建物、橋、花火、花、森林など、撮った写真の中身を自動で認識して分類する。どうやらこの中に「ゴリラ」の分類項目があり、この黒人男性と友人が写った写真が、「ゴリラ」と分類されてしまったらしい。

　ひどい話だが、実はこれに似たことは過去にもあった。米メディアによると、米ヤフー傘下の写真サービス「フリッカー」も５月、黒人男性と白人女性を「動物」や「類人猿」と分類したことがあったのだという。

　なぜこんなことが起きるのか。

　「フォト」や「フリッカー」で保存されている写真に何が写っているのが何か識別するのには、機械学習（マシンラーニング）という技術が使われている。最近話題になる人工知能（ＡＩ）の一つの技術だ。機械学習は、コンピューターにデータを与え、何度も処理するうちにプログラムの仕分けの能力が上がり、ものを認識する能力が高くなる仕組みだ。たとえば、写真に写った犬の顔と人間の顔を自動的に識別させるには、機械に犬と人間の様々なデータを入力することで、入ってくる画像が写真が犬なのか人間なのか、自動的に予測できるよう学習させなければならない。

　ここで鍵になるのが、画像の中で人間と犬とを分ける特徴は何かだ。人間は見ればすぐそれが人間か犬かを識別できるが、機械にはわからない。

　ＡＩの研究者で「人工知能は人間を超えるか」などの著作がある東大大学院工学系研究科准教授の松尾豊さんによると、「これまでＡＩの大きな壁となっていたのが、特徴を人間が一つ一つ入れなければ機械が学習してくれないことだった」という。どの特徴が分類に影響するのかを人間が見定め、その特徴を設計するという、もっとも大変な部分は人間がやる必要があった。松尾さんによれば「この特徴の設計をする部分は、長年の知識と経験による職人技」。ところが、２０１２年にカナダのトロント大学の研究者がこの設計を自動でする技術を開発し、画像の分野で大きな変化をもたらしたという。簡単に言えば「どの特徴が人とネコとを分けるか」という部分を、人間が指示するのではなく、機械が自分で判断できるようになったわけだ。