■機械学習は、まるで理解されていない

anond:20181012093212

AIの仕組み自体は人間の能力を遥かに超えたものかもしれないし、それによって社会の利便性を更に向上させるものであるかもしれないけれど、そのAIを設定するのは人間だということ。

その人間が男性優位社会で育ってくれば当然男性優位AIが爆誕するんだし、

AIを扱う人間が競争を勝ち抜いた一握りのエリートばかりだったら、

当然AIは一握りのエリートに偏ったエリート優位AIになるのだから。

リンクしたアマゾンの採用AIの件を含めて、機械学習の仕組みを理解してるとは思えない。AIに対する現状の理解として、この表現はありえない。

id:fujii_yuji 機械学習の仕組みをご存知ないようですね。Amazonのは過去データからそうなったのであって、設計者の思想が反映されたのではないでしょ。 >　"当然男性優位AIが爆誕する(略)AIは一握りのエリートに偏ったエリート優位AI"

id:fujii_yuji さんは、概要を理解しておられる様に思える。ブコメを見る限りで言えば、はてなーの理解度は1割程度といった感じがするけど、本当はもうちょっといるかも。

機械はひらめきは獲得していない。

機械は未だに設計に従って自発的に成長し新たな発明を行う様な、いわゆる、ひらめきは獲得していない。今のAIと呼ばれているものは、学習したデータを参考にして、入力されたデータに対して最適な分類を行うことが出来るという程度の物。

モーリス・コンティ: 直感を持った人工知能が生み出すすごい発明 | TED Talk

例えば、この動画を見て欲しい。オブジェクトを設計するコンピュータが行うのは、与えられたアルゴリズムに従って答えを出す事だけだ。どんな形にしたいのかという目的、どんな材料を使うのかという制約、それを与えられると、高い強度とより少ない重量で目的を達成しろという最適化問題を解く。結果として、その答えが人間が持つ常識を裏切る答えを出した事に対して「直感を持っている」と言っているにすぎない。アルゴリズムを作成した研究者には、常識的な設計を裏切る答えも、理解できるものであり納得のいく答えでしかなかったはずだ。

将棋の人工知能が行う計算とは何か？既存の棋譜を大量に予め学習し、現在進行中の将棋の盤面上で起こり得る可能性のある駒の配置パターンを１手1手進めながら、棋譜と照らし合わせ、一手ごとに勝ちやすさがどの程度高まっていくか？を計算する。研究者は、盤面に表れる駒の並びを、どの様に評価するのか？駒を動かすごとに増えていく全てのパターンから、どこまでを用いて、何を捨てるか、評価と選択を行うアルゴリズムを機械に与える。その結果として現れた奇想天外な一手も、研究者にとっては蓋然性の高い答えでしかない。（あくまで一般的な人工知能の話だが）

ポリコレが科学を歪める

完全に想像でしかないが、アマゾンの採用AIは、採用者の履歴書の中から、学歴や経歴、職務内容、スキルなどの性別に依存しない情報と採用後の実績を学んだのではないか。研究者は馬鹿ではないから、初めから性別情報など使っているとは思えない。これまで採用した人物に男性が多かったことは間違いなく影響があったという事は言えるが、可能な限り男女ごとのサンプル数の差に引っ張られる事なく、性別には中立な結果を出すように学習データとアルゴリズムを設計していると予想する。それでも男性優位の答えを出したのは、明らかに活躍する社員に男性が優位になる傾向があったということ。その現実がポリコレとの間で齟齬をきたした場合に、計算結果としては蓋然性の高い納得できるものでありながらも、不誠実な結果と言われてしまった研究者の悔しさはいかばかりだっただろうか？

女性が優位になる様に、アルゴリズムを作り直すときに、自分は科学者として真実に背を向けた事を理解したはずだ。その悔しさは、想像するに余りある。

この件で、改めて、ジェンダー論は滅びろと心から思った。科学者には、お気持ちではなく、真実を追求させてくれ。

ツイートシェア

Permalink | 記事への反応(1) | 23:51