素人がDeep Learningと他の機械学習の性能を比較してみた

誰よお前？ •ツイッターID:@MOTIVIC_ •代数幾何を使って因果推論の研究をしてるよ •統計ゆるふわ勢 •機械学習は論文をICMLに投稿してみたけどリジェクトくらったレベルの素人かじゅあるゆるふわツイートしてます

2012年位からDEEP LEARNINGが流行ってますね前回のMLCTのLTでも出てましたし

特徴量抽出も自動でやってくれるので画像、音声、言語などの分野で大活躍しているようで

でも画像、音声、言語のようなデータは扱ったことがないから凄さがよく分からないお…

だからもっと簡単な (DEEPLEARNINGがそもそも必要無さそうな)データセットで性能を調べてみたお！

まずは分類問題のHELLO WORLD IRISデータ

KPIは？ •2-FOLDCROSS VALIDATIONでエラー率を計算 •ランダムにデータを半分に分割して上記の計算を 5,000回繰り返した •RとH2Oでシミュレーションしたよ

比較した手法 •DEEPLEARNING（DL） •CART •RANDOMFOREST（RF） •EXTREMELY RANDOMIZED TREES (ET) •SVM •NEURAL NETWORK（NN）

DEEP LEARNINGのパラメータはどう決めたんだよ？活性化関数と DROPOUTの部分だけｲｼﾞｲｼﾞして他はデフォルトだお

結果

BREAST CANCER データ

BREASTCANCERデータ •サンプルサイズは683 •データはこんな感じ Clump Thickness Uniformity of Cell Size Uniformity of Cell Shape Marginal Adhesion Single Epithelial Cell Size Bare Nuclei Bland Chromatin Normal Nucleoli Mitoses Class 1-10 1-10 1-10 1-10 1-10 1-10 1-10 1-10 1-10 良性/ 悪性

結果

まとめ •DEEP LEARNINGは簡単な分類問題でも性能が良かった •まじめにチューニングすればもっと性能上がると思うよ

素人がDeep Learningと他の機械学習の性能を比較してみた

by motivic

on Aug 26, 2014

Statistics

Views

Actions

1 Embed 23

Accessibility

Categories

Upload Details

Usage Rights

Report content

素人がDeep Learningと他の機械学習の性能を比較してみた Presentation Transcript