ロイターの記事 “Amazon scraps secret AI recruiting tool that showed bias against women”

アマゾン社の中の人による匿名の情報ということだけれど、2014年に組まれたチームが、求職者からの履歴書を機械学習して(アマゾンレビューのように)星5つでランク付けをしたら、ソフトウェア開発者や他の技術者の高評価が男性に偏ってしまうことに気づいた、ということです。

学習に使った過去10年の求職者に占める男性の割合が多かったために、男性的な言葉を多く使った履歴書が優秀とされてしまったそうです。入力にバイアスが掛かってれば、結果にも掛かるのはある意味当たり前ですね。アマゾンに限らず、アメリカのIT企業で社員の男女比や有色人種比率が公表されたり比較されたりしている中で、これまでのやり方をベストとして強化すれば、属性にこだわらず優秀な人を取るということができなくなってしまいそうです。

記事によれば、結局、このチームは解散となったということ。今は別のチームで、重複したデータを削除するとか、多様性が保たれるようにスクリーニングするとか、よりマイルドな使い方を追及しているということです。

この記事に似ている記事:

ピアノロールがそのまま物語の絵にもなっている曲 海外webサービス企業のエンジニア男女比を可視化したチャート Amazonの新製品ティーザー動画があらぬ方向で話題に MarI/O – ニューラルネットワークと遺伝的アルゴリズムでマリオの早解き

関連記事はYARPP関連記事プラグインによって表示されています。