犯罪者に一致する顔として検出された28議員のうち11人(約39%)が有色人種。これは議員全体のなかの有色人種の割合である約20%に比べて倍近い数値ということで、他の多くの顔認識システムと同様Amazonの顔認識システムが白人以外の認識に長けていないことが浮き彫りとなりました。

Rekognitionについてはすでに問題提起がなされており、ACLUやその他の公民権団体などが5月以降、Amazonに法執行機関への顔認識システムの導入や技術売却を停止するよう求めています。

しかし、今回の実験結果について米AmazonはACLUが実験のために使用した80%(デフォルト値)の信頼度強度設定が正しくないと反論しています。米Amazonは「ホットドッグや椅子、動物、 SNS写真などを含む雑多な写真ならともかく合理的なレベルで個人を特定しようとする場合、ACLUの実験のような80%の強度設定は適切ではない」として、95%以上の信頼度設定を使うよう勧めました。

ACLUで技術関係の問題を担当し、北部カリフォルニアの市民権運動にも携わるJacob Snow氏は「我々が行なった試験は顔認識が政府機関や法的執行機関での使用に十分な安全性を持っていないことを示している」、そして「顔認識の使用は有色人種や移民、または活動家らのコミュニティを監視する差別的な監視体制を築き上げてしまうことになるだろう」と語りました。

かつて同様の懸念がわきおこったとき、Amazonは頑なにそれを懸念とは認めませんでした。そしてもし顧客が誰かを差別するようなことがあれば、Amazon Web Services(AWS)が提供する機能へのアクセスを凍結するだろうとの方針を示しはしたものの、それ以外の対応については回答していません。

すでにいくつかの法的執行機関がRekognitionを導入しているとされるものの、例えば同様の顔認識技術を運用している英国の警察では、あまりに誤認識が多いため手動で誤りがないかを確認している状態と伝えられます。

ある日突然、どこかの監視カメラに映った自分の顔が凶悪犯罪者として誤検出されたりすれば、その後の生活がどうなってしまうのかは想像もできません。安価で手軽なのはわかるものの、ちゃんと使えるかどうかは導入するほうもしっかりと確認してからでお願いしたいところです。ちなみに、フロリダ州オーランドの警察はRekognitionをテストをしていたものの、テストの期限が切れた後は継続しなかったのこと。

Unable to play video. HTML5 is not supported!