aiconf2017okanohara

aiconf2017okanohara

1. 1. 最新の⼈人⼯工知能技術とその応⽤用 〜～⾃自動⾞車車、ロボット、バイオヘルスケア〜～ Preferred  Networks 岡野原 ⼤大輔 hillbig@preferred.jp 2017/1/19@AIカンファレンス
2. 2. アジェンダ l 会社紹介 l 深層学習と⼈人⼯工知能 l 実世界の事例例 ̶— ⾃自動⾞車車 ̶— ロボット ̶— バイオ・ヘルスケア l 深層学習の研究の最前線 ̶— 少数の事例例からの汎化 ̶— 情報の組織化 ̶— 物理理モデル、⼼心理理モデル
3. 3. 会社紹介：Preferred Networks (PFN) l IoT時代に合わせた分散知能を備えた新しいコンピュータを創造する l 2014年年3⽉月創業 l 東京オフィス,  シリコンバレーオフィス l 従業員：約60⼈人 殆どが研究者、エンジニア l 主な出資者 FANUC,  Toyota,  NTT 3 We are hiring !!!
4. 4. AutomotiveHumanoid  Robot Preferred Networks’ positioning in AI: Industrial IoT 4 Consumer Industrial Cloud Device PhotoGame Text Speech Infrastructure Factory Robot Automotive Healthcare Smart  City Industry4.0 Industrial IoT
5. 5. ディープラーニング（深層学習）とは l 層が深く、幅も広いニューラルネットワーク を利利⽤用した機械学習⼿手法 l 2012年年の⼤大ブレーク以来、研究コミュニティ のみならず産業界に多く使われてきた – 2014〜～2015年年中に出された関連論論⽂文数は1500を超える* l 画像認識識、⾳音声認識識などで劇的な精度度向上を果たし、そ の多くが既に実⽤用化されている 5 2014年の一般画像認識コンテストで優勝した 22層からなるのGoogLeNetの例 [Google 2014] *http://memkite.com/deep-‐‑‒learning-‐‑‒bibliography/
6. 6. 急激に複雑化するニューラルネットワーク 2012年年〜～2014年年 6 AlexNet, Kryzyevsky+, 2012 ImageNet winner（8層） GoogLeNet, Szegedy+, 2014
7. 7. 形は可変、多様な計算⼿手法、つながり⽅方 2015年年〜～現在 x_1 h y_1 x_2 h y_2 x_3 h y_3 x_4 h y_4 BPTT length = 3 Input word OutputRecurrent state Stochastic Residual Net, Huang+, 2016 Recurrent NN FractalNet, Larsson+, 2016 RoR, Zhang+, 2016 7 Dense CNN, Huang+, 2016
8. 8. なぜディープラーニングがうまくいくのか？ Linの仮説 [Lin+ 16] l なぜディープラーニングがこれほど世の中の多くの問題にうまく適 ⽤用（特に認識識）できるのか？ l ⇒世の中の問題に次の特徴がみられるから 1. 低次性 ̶— 知られている物理理現象の変数間の相互作⽤用の次数は2〜～4 2. 局所相互作⽤用性 ̶— 相互作⽤用の数は変数の数に対して線形にしか増えない 3. 対称性 ̶— 画像の対称性、化学反応の対称性などで変数の⾃自由度度が低い 4. マルコフ性 ̶— ⽣生成過程は直前の状態のみに依存する 8/50
9. 9. ⼈人⼯工知能と⾶飛⾏行行機（1/3） l ⾶飛⾏行行機は⿃鳥や⾍虫とは違う仕組みで実現されているが、 「空を⾶飛ぶ」という⽬目的は達成している ̶— ⿃鳥の⽻羽、胸筋のような⾼高機能なハードウェアはまだ作れない ̶— しかし、別の機構（プロペラ、ジェットエンジン） を使って⿃鳥よりも速く遠くへ⾶飛ぶことが可能 ̶— 実現可能な機能、またその難易易度度は違う。例例えば、 ハチドリのように⾃自由⾃自在に⾶飛び回ることはできない l ⼈人⼯工知能も⼈人の知能とは違う仕組みで実現されているが 「知能」的なタスクを実現する⽬目的は達成しつつある ̶— 必ずしも⼈人の知能レベルを全て実現しなくても役に⽴立立つ ̶— 難易易度度が違うことを理理解しなければいけない
10. 10. ⼈人⼯工知能と⾶飛⾏行行機（2/3) l 今の⼈人⼯工知能は⼤大雑把に⾔言えば⼤大⼈人の知能と乳児の知能 で構成される ̶— 機械は元々、記憶、数値計算、⼤大量量のシミュレーションといっ た能⼒力力は優れている（⼤大⼈人の知能） ̶— ⼀一⽅方、深層学習により⼈人間が無意識識で解き、（演繹的なアプ ローチで実現が難しかった）タスクも2〜～3歳児程度度は実現され るようになった（乳児の知能） ̶— ⼤大⼈人の知能と乳児の知能が混載している l 実現している仕組みが違うため、⼈人にとって難しい問題 を容易易く解き、易易しい問題を逆に解くことができない ̶— これを理理解した上で実⽤用化をしないといけない
11. 11. ⼈人⼯工知能と⾶飛⾏行行機（3/3) l ⾶飛⾏行行機は現在の⾶飛⾏行行機の登場（ライト兄弟 1903年年）か ら約10年年で定期旅客機が登場し、航空業界が誕⽣生した ̶— 現在年年間のべ25億⼈人が搭乗し、⿃鳥と同様に空を⾶飛び回っている ̶— ⿃鳥のように⾶飛ぶロボットもようやく登場しつつある l ⼈人⼯工知能も同様に、今後数年年で新しい分野を⽣生み出し、 ⼈人間の可能性を⼤大きく伸ばしていくことが期待される ̶— 実⽤用化（＝⼀一般の⼈人が当たり前のように利利⽤用する）までの時間 は短くなっている ̶— ⼈人の知能の解明にはもう少し時間はかかりそう u 学習則 [Bengio+  16]、樹上突起スパイクの予測 [Sen+  14]
12. 12. ⾃自動⾞車車
13. 13. ⾃自動運転のレベルによる違い l レベル２（ADASなど） ̶— ⼈人間が主に運転し、緊急時のみシステムが介⼊入する ̶— 本当に危険な場合のみ介⼊入すれば良良い。 l レベル３（商⽤用⾞車車,  トラック,  タクシーがターゲットか） ̶— システムが主に運転し、緊急時のみ⼈人が介⼊入する ̶— ⾒見見落落としは許されない。主要な状況のみ対応できればよい l レベル４（完全⾃自動運転） ̶— レベル３の能⼒力力に加え、あらゆる状況に対応する。 ̶— 緊急時も安全に制御しなければならない u 例例：⾼高速道路路ではその場で⽌止まることは安全ではない
14. 14. ⾃自動運転に必要な代表的な技術 l 環境認識識 ̶— ⾃自動⾞車車、⼈人など交通参加者の検出、状態推定 u 位置、向き、速度度、加速度度、状態（気づいているか等？） u 交差点などでは数⼗十〜～200の交通参加者の認識識が必要 ̶— ⾃自⼰己位置推定＋⾞車車線、⾛走⾏行行可能領領域、標識識、駐⾞車車可能 l 予測 ̶— 交通参加者の⾏行行動予測分布（台⾵風の予報円図のような） ̶— 未観測の状況の推定（⾞車車のドアが急に開く、⼈人が⾶飛び出す） l 制御 ̶— 予測、制御しやすい最適化+ルールベースか 汎化能⼒力力を備えた教師あり学習/強化学習ベースか
15. 15. ロボット
16. 16. 認識識の問題は解けつつある l Occlusionがある場合や、対象が ⼩小さくても検出できるように l APCでも画像認識識が重要だった
17. 17. ロボットの特徴 l 現状のロボット ̶— 指⽰示された場所に正確に移動することは既にできる ̶— 決められた動作の繰り返しは⾮非常に得意 → 産業応⽤用が既に進む l ⼈人より既に優れている点 ̶— 正確性 ̶— 速度度 ̶— パワー ̶— 耐久性（24時間365⽇日休まずに働き続けられる） ̶— ロボット同⼠士で⾼高速、⼤大量量に情報を交換できる l ⼀一⽅方、今⼈人が簡単に実現できていることができない
18. 18. ロボットでこれからの課題 l 多様な認識識（c.f.  Amazon  Picking  Challenge） ̶— 隠れた物体の検出（Occlusion）、状態推定 ̶— 形状が可変、不不定な物体の検出 u ⽔水、砂、ケーブル、⾷食べ物（⿂魚、唐揚げ） l 多アクチュエーターの制御 ̶— ⼆二⾜足/多⾜足歩⾏行行、ハンド、ドローン l 複雑なタスクの教⽰示 ̶— 組み⽴立立てのような複雑な⼯工程を いかに教えられるのか？ l 異異常時、故障時の復復旧 ̶— 異異常を検出し、対応する Phantom AX IKEAの説明書
19. 19. 異異常検知
20. 20. 20 異異常検知の難しさ：単⼀一⼿手法で様々な種類の正常状態と 異異なるタイプの異異常パターンに対応するのが困難 l 基本：特定の異異常を⾒見見つけるために⼿手法の選択や設定が必要 ̶— 注⽬目する特徴量量 u センサー値の⼤大⼩小、周波数成分の⼤大⼩小、分布 l ⼈人でもセンサの意味を理理解したり異異常を定義 するのは難しい l 疑問：もっと汎⽤用的に使える異異常検知⼿手法はないか？ ̶— 例例：下記異異常を全て検出し、右の正常ケースでは無反応 正常ケース(2) 異異常を含むケース(3) numenta/NABの人工ベンチマーク時系列データセット スパイク 異異常振動 ⽴立立ち上がり 失敗
21. 21. 提案異異常検知⼿手法の特徴 l 正常なデータのみから異異常検知モデルを作れる ̶— 故障データは必要ない，教師なし学習 ̶— 異異常を検知後、実際の故障が発⽣生するタイミングを予測するに は故障データが必要 l ⽣生の⾼高次元データをそのまま利利⽤用可能 ̶— ⼈人間による特徴設計は必要ない． 特に周波数解析後のスペクトルや画像などが利利⽤用可能 l 正規化された異異常度度スコア（尤度度）を出⼒力力する ̶— システムが正常だった場合に、そのセンサデータがどのぐらい の確率率率で観測されるかを出⼒力力する l 複数センサを組み合わせた異異常検知が可能 21
22. 22. ディープラーニングを⽤用いた⼿手法: 直接「正常度度合い」をモデル化してそこからのズレを計算 l ニューラルネットの利利点であるデータ特徴表現⼒力力を活⽤用 22 SensorBee™ モデル構築 DIMo SensorBee™ モデル適⽤用 DIMo ニューラルネット モデルテスト対象 (異異常かもしれない) 各時刻の異異常スコア 学習フェーズ テストフェーズ 個別の機械 正常状態 (初期)
23. 23. 異異常あり時系列列データセット (1/3) 値は正常範囲だが周波数が異異なる箇所に鋭く反応 23/35 ⼿手法，パラメータは全て同じのを利利⽤用しているのがポイント
24. 24. 異異常あり時系列列データセット (2/3) 値は正常範囲だが周波数が異異なる箇所に鋭く反応 24/35
25. 25. 異異常あり時系列列データセット (3/3) 値は正常範囲だが⽴立立ち上がりが不不正な箇所に反応 25/35
26. 26. 異異常なし時系列列データセット (1/2) スコアは揺れているが5.0以下
27. 27. 異異常なし時系列列データセット(2/2) スコアは4.0以下
28. 28. 実例例：FANUC減速器のセンサー異異常検知 28 異異常な部分を抽出する ディープラーニング技術 異異常は発⾒見見されない 異異常を検出 正常時の波形 異異常時の波形 実際の減速機から得られた センサデータ
29. 29. 29 既存⼿手法で検出が遅かった異異常を事前に検出 提案⼿手法 経過時間 異異常スコア 故障の約40⽇日前に 故障予兆を捉える 判定閾値 既存⼿手法 経過時間 ロボット 故障 ロボット 故障 15⽇日前 故障直前まで スコアがほぼ 反応しない
30. 30. バイオ・ヘルスケア
31. 31. 薬の活性化予測 31 • メルク主催の薬の活性化予測 コンテストでディープラーニ ングを使ったチームが優勝 [Dahl+  14] • メンバーには⽣生化学、製薬、 医療療関係者はおらず、創薬に ついては全くの素⼈人
32. 32. Result: コミュニティーラーニングによる精度度向上 l 蒸留留焼きなまし法をつかった分散ディープラーニングに より、精度度が向上した ̶— 学習の途中でそれぞれが⾃自分以外のニューラルの出⼒力力結果を真 似るように蒸留留で学習 u それぞれがアンサンブルの蒸留留 32 Community Learning AUC values 0.9387 0.9413 0.9274 0.8913 0.9214
33. 33. microRNAのbinding予測 Deep Target [Lee+ 2016] RNA,  miRNAの表現を 教師無しで学習 両者の潜在表現を元にRNNで 結合するかを予測 可変⻑⾧長データをうまく表現できる のが⼤大きい
34. 34. 「⼈人⼯工知能（AI）を活⽤用した統合的がん医療療システム開発 プロジェクト開始」2016/11/29 with 国⽴立立がん研究センター, 産総研AIセンター 臨臨床情報、マルチオミックスデータ、医⽤用画像,、疫学デー タを利利⽤用しPrecision Medicineの実現を⽬目指す 34
35. 35. ゲノム解析によるガンの診断、治療療にフォーカス l なぜゲノム解析なのか ̶— 客観的な情報で、データに基づく医療療を実現できる ̶— 情報量量が多く、これまで⾒見見えなかった情報に基づいた診断がで きる u 特に、RNA解析，miRNA解析 l なぜガンなのか ̶— もっともゲノム解析がインパクトを与える領領域、ゲノム変異異が ガンの本質であり、それを解析することで診断、治療療を⼤大きく 改善できる ̶— 最も、個⼈人化医療療が進む、個⼈人事にガン特異異的変異異は異異なる また、ガン免疫の場合、個⼈人毎にMHCも変わってくる 35
36. 36. ディープラーニングによるガン診断の⾼高度度化 l ゲノム情報に基づくガン診断，及び分⼦子標的薬の効果予測 の⾼高度度化 ̶— ガンマーカー検出とフェーズの判定 ̶— 治療療効果の予測と治療療⽅方法の提案 ̶— 従来の統計分析、機械学習では実現不不可能だった少数サンプルから の推定 c.f.  パラメータ数に対してサンプル数が少ない問題（新NP問題） l ディープラーニングの利利⽤用によって⾒見見込まれる効果 ̶— ディープラーニングは、半教師あり学習が可能である。 →教師無しデータを使ってゲノム情報の表現を獲得する ̶— ディープラーニングは、⾼高次元データを扱える。 →⾮非常に⾼高次元なゲノム情報であっても、機械学習のための特徴設 計が可能である。 36
37. 37. PFNがん研究所 (PCRI） l 東京⼤大学産業連携プラザ内に設⽴立立 l PCRIでは、次世代シークエンサー を利利⽤用したウェットラボを⽴立立ち上げ、最新 最先端のAIとバイオテクノロジーの 研究・産業化を進めている 特に次の分野に注⼒力力します １）新規がん診断法の確⽴立立 ２）ゲノム分析によるがん治療療 ⽅方針の決定、最適治療療薬の 選択や術後の予測、 ３）それぞれの患者に適応した 個別化創薬 37 2016年年10⽉月3⽇日設⽴立立
38. 38. コミュニケーション
39. 39. 社内での対話システムの実験の様⼦子 からの抜粋（bot-‐‑‒elikaが対話システム） 直前の⾔言葉葉に反応できている ⽂文の意味や⽂文脈は理理解できていない
40. 40. 偶然それらしい会話に なることもある。
41. 41. 深層学習研究の最前線
42. 42. 少ない学習例例から学習する One-shot, Zero-shot学習, 転移学習 l 初めてのタスクでも ̶— 例例：はじめてみる商品でも掴むことができるように ̶— どのように知識識を抽象化するか？ u 例例：Dense  Correspondence（形状を持つ物体同⼠士で密な対 応関係をとる）でどこをとるかの知識識を⼀一般化する l はじめての環境でもタスクが達成できる ̶— 照明条件、物体の摩擦係数の違いに対応する Dense Correspondence [Zhou+ 16]
43. 43. 安全な強化学習 l 強化学習は有望だが探索索時に危険な状態になる可能性 ̶— ロボットや⾃自動⾞車車などでは⼤大きな危険となる l 安全性を保ったまま探索索可能な強化学習 ̶— c.f.  “Safe  Reinforcement  Learning”  [J.  Garcia  2015] l シミュレーションで安全になってから実機に転移する ̶— シミュレーションと実環境の差が問題となる ̶— いつ安全といえるのか？ l 安全性に何らかの理理論論保障を与えられるか？
44. 44. 新しい教⽰示⽅方法 l 柔軟な指⽰示ができるプログラム ̶— より抽象的な指⽰示を与えられるか？(24,  32.5)に⾏行行けではなく、 「ボールのとれそうな位置に動け」と指⽰示できるか l ダイレクトティーチング ̶— ⼈人が直接⼿手取り⾜足取り教える c.f.  バクスター l 模倣学習,  Imitation  Learning l 徒弟学習（逆強化学習） ̶— エキスパートの⾏行行動選択から背後にある報酬関数を予測する l ⾃自然⾔言語,  設計書で指⽰示ができるか？ ̶— ⼈人と同じような指⽰示のみでタスクを実⾏行行する
45. 45. 情報の組織化 l 知識識をどのように機械に埋め込むのか？ ̶— ⼈人間が積み重ねてきた知識識を活⽤用したい ̶— 知識識をそのままの表現を格納し、それを引⽤用するだけでは様々 なタスクを実現できないことがわかっている l 符号化、保持/組織化、想起をどう実現するか ̶— 知識識の最適な表現、格納⽅方法、必要な時の思い出し⽅方 l 学習可能なコントローラーによる記憶の仕組みの実現例例 ̶— 内部記憶、外部記憶 ̶— Memory  Networks  [Jason+  14]とその改良良 ̶— Differentiable  Neural  Computers  [Grave+  16]
46. 46. ⼼心理理モデル l 相⼿手が何を考えているのか、何を感じているのかを推定 するような仕組みを機械で実現することができるか？ l ⼼心理理モデルは、⼈人同⼠士は同じハードウェア、アルゴリズ ムで実現されているので実現できてる可能性がある ̶— どのように感情が⽣生まれているのか、外的要因、内的要因がど のように影響しているのかはまだ完全に解明されていない ̶— ⾃自分と同じように相⼿手も考えているだろうというのは、違う⽅方 法で実現している機械では通⽤用しない l ⼼心理理モデルがないコミュニケーションは「機械的」であ るだけでなく⽬目的が達成できない可能性がある ̶— 相⼿手の意図を推定できない
47. 47. 物理理モデル l ⼈人や動物は経験から物理理世界のシミュレーターを作る ̶— 床がつるつるの場所にいれば、最初はすべってうまく動けない が時間がたつと対応できるようになる l 経験（データ）から物理理モデルを学習し、それを利利⽤用し た上で認識識、制御をしたい ̶— シミュレーションではデータ同化、制御⼯工学ではシステム同定 強化学習では遷移確率率率 p(st+1|st,  at) l 誤差逆伝播可能な物理理モデル ̶— Differentiable  Physics  Engine  [Degrave+,  2016]  [Chang+,  2016] ̶— REINFORCEを使わず報酬最⼤大化をBPTTで実現でき、 少ない試⾏行行回数で学習可能
48. 48. まとめ
49. 49. まとめ l 深層学習は様々な分野で利利⽤用されていく ̶— ⼈人の知能と同じではないが、それでも役に⽴立立つ c.f.  ⾶飛⾏行行機と⿃鳥 l 深層学習の実問題への応⽤用が進むとともに様々な課題が わかってきている ̶— 昔から存在する課題と新しく登場してきた課題がある l 具体的な問題の解決を通じて、新しい理理論論構築の可能性も ̶— ベル研において通信品質をあげる要請の元、情報理理論論が登場した l ⼈人の知能の仕組みで⼯工学的に参考になる部分は多いにある ̶— 認識識、学習、記憶の仕組み、⽬目的関数、ハードウェア
50. 50. ⽂文献 l [Lin+  16]  “Why  does  deep  and  cheap  learning  work  so  well?”,  H.  W.   Lin, M.  Tegmark l [Bengio+  16] “Feedforward  Initialization  for  Fast  Inference  of  Deep   Generative  Networks  is  biologically  plausible”,  Y.  Bengio,  and  et.  Al l [Sen+14]  “Learning  by  the  dendritic  prediction  of  somatic  spiking”,  R.   Urbanczik,  W.  Senn,  Neuron l [Zhou+  16]  “Learning  Dense  Correspondence  via  3D-­guided  Cycle   Consistency”,  T.  Zhou  and  et.  al,   l [Garsia+  15]  “A  Comprehensive  Survey  on  Safe  Reinforcement   Learning”,  J.  Garcia,  JMLR l [Degrave+  16]  “A  Differentiable  Physics  Engine  for  Deep  Learning  in   Robotics”,  J.  Degrave l [Chang+  16]  “A  Compositional  Object-­Based  Approach  to  Learning   Physical  Dynamics”,  M.  Chang
51. 51. l [Lee+  16]  “DeepTarget:  End-­to-­end  Learning  Framework  for   microRNA  Target  Prediction  using  Deep  Recurrent  Neural  Networks”,   B.  Leett,  J.  Baek,  S.  Park,  S.  Yoon l [Arora+  15]  “RAND-­WALK:  A  Latent  Variable  Model  Approach  to   Word  Embeddings”,  S.  Arora l [Weston+  14]  “Memory  Networks”,  J.  Weston  and  et.  Al. l [Graves+  16]  “Differentiable  Neural  Computers”,  A.  Graves  and  et.  al. l [Vinyals+  15]  “A  Neural  Conversational  Models”  O.  Vinyals and  Q.   Le l [Foerster+  16]  “Learning  to  Communicate  with  Deep  Multi-­Agent   Reinforcement  Learning”,  J.  Foerster and  et.  al. l [Schmidhuber10]  “Formal  Theory  of  fun  &  creativity  exaplains science,  art,  music  and  humor”,  J.  Schmidhuber l [Mohamed  +15]  “Variational Information  Maximisation for  Intrinsically   Motivated  Reinforcement  Learning”,  S.  Mohamed  and  et.  Al.