スパースモデリング入門

1. スパースモデリング入門 2015/11/16 株式会社オープンストリーム CTO 寺田英雄 https://www.facebook.com/hideo.terada.5 1

2. Copyright(C) Open Stream, Inc. All Rights Reserved. 経歴 ■ 大阪大学工学部機械系／電子制御機械工学科卒 • 画像認識ソフトウェアを専攻 • Project-TEAM DoGA 初代メンバー：CG映画制作 • http://doga.jp/ ■ 仕事歴 • 1992 IHI入社・技術開発本部所属 • 2007 某モバイル動画ベンチャー入社 • 2011 ベンチャー崩壊しはじめる • 2012 オープンストリーム入社 • 2014 オープンストリームCTO 2

3. Copyright(C) Open Stream, Inc. All Rights Reserved. コンピュータ歴 ■ コンピュータ歴 36年目（小学校5年から） ■ 言語 • 大阪弁、標準語、英語（少々） • Fortran, asm, basic, C/C++/Obj-C, Java, CUDA,  Python, Ruby ■ 分野 • 画像認識、CG、ストリーミングシステム • FA制御、Linux/Windowsデバイスドライバ、CADシステム • モバイル・アプリケーション(iOS/Android) • 機械学習、数理アルゴリズム、データ解析 3

4. Copyright(C) Open Stream, Inc. All Rights Reserved. 開発経験 ■ 画像認識関連 • ごみ焼却炉制御用火炎認識システム（擬似３次元計測） • 鋳型組み立てロボット制御用、ワーク位置計測システム（ベクトル相関） • 舞台装置コンテナの荷降ろしロボット制御用位置決めシステム（ベクトル相関、直線検知） • 自動車工場の鋼板受け入れ検査システム（濃淡モフォロジー） • デパレタイザー用３次元認識（計算幾何学） • 監視カメラ用ハードディスクレコーダー（画像圧縮） • 乗用車用、歩行者検知システム（HoG, SVM, GPGPU） ■ 動画ストリーミング • 携帯電話用コーデック、画像・音声同期再生エンジン、マルチキャスト動画配信 ■ その他 • C-HTML編集エディタ、GTコジェネ制御ロジックCAD • Oracle用 C++ ORマッパーの開発 • 電子書籍フォーマット＆デコーダ生成システムの開発 • DRM動画配信アプリ＆状態マシンフレームワーク 4

14. Copyright(C) Open Stream, Inc. All Rights Reserved. スパース信号分解とは ■ N次元(N=WxH) 画像信号 f の線形生成モデル ■ s:係数ベクトル ■ A:辞書（基底行列）, ai:原子（基底ベクトル）// 既定とする ■ まばらに非ゼロ要素が分布する s で f を表現することを  『スパース信号分解』という。 14 f = As (f 2 RN )

15. 線形生成モデルのイメージ

19. Copyright(C) Open Stream, Inc. All Rights Reserved. スパース信号分解アルゴリズム例：MP ■ Matching pursuits(MP)アルゴリズム ■ 以下を反復する i=0,1,2… 1)初期残差信号 R(i=0)=f, s=(0,0,…,0)とおく 2)R(i)との内積が最大となる基底ベクトル ajmaxを検索し、sjmax←ajmax TR(i) と更新する 3)R(i+1)←R(i)-sjmaxajmax と更新する 4)終了条件満たさなければ 2)へ戻る 19

21. Copyright(C) Open Stream, Inc. All Rights Reserved. スパースコーディング ■ 復習：スパース信号分解は Aとfからsを求める方法 ■ スパースコーディングは辞書Aを作る方法： • 事前設計型 • DCT、Fourier変換、wavelet,、curvelet、… • 学習型 • INPUT: 学習用信号群 {fi}(i=1,2,…,I) • OUTPUT: A  （ただし、できるだけ少ない基底ベクトルで） • これも、いろいろなアルゴリズムが提案されている 21

22. Copyright(C) Open Stream, Inc. All Rights Reserved. 代表的な学習型スパースコーディング例：K-SVD法 ■ クラスタリングの k-means 法の一般化 ■ （係数の最適化基底の最適化）  を交互に繰り返す交互最適化 ■ 基本的な考え方 • 基底ベクトル ai を更新する際、ai抜きで近似した信号と原信号の誤差を表現する基底を新たな ai とする。 22

23. Copyright(C) Open Stream, Inc. All Rights Reserved. K-SVDの手順(1/2) (1)任意の方法（乱数など）で辞書Aを初期化する。  このAに対する係数sをMP法などで求めておく。 (2)学習信号{fi}(i=1,2,…I)のなかで、更新対象の基底 al が  表現に用いられている信号の添字集合Ωlを求める。  • fiとaiの内積を取って、その値が小さいものは除外？（調査中） (3)Ωlに含まれる観測信号のみからなるfの部分行列f[l]を構成する。同様に作った s[l] j を並べた係数行列 s[l] とする。 23 ⌦l = i 2 {1, · · · , n}| ⇥ C ⇤ li 6= 0

24. Copyright(C) Open Stream, Inc. All Rights Reserved. K-SVDの手順(2/2) (4)al を利用しないで観測信号を近似し、そのときの残差 Rl を求める。    (5)Rlを特異値分解(SVD)し、  第一左特異ベクトル u1 を al とする。al ← u1。また最大特異値 σ1と第一右特異ベクトルv1を用いて sj ←σ1v1 として係数を修正する。（特異ベクトルは、Rlを最も良く近似する成分となる） (6)ここまでの処理を全ての al について行い、順次 A を更新する。 (7)終了条件を満たさなければ、(2)へ戻る。 24 Rl = f[l] X j6=l ajsj [l] Rl = U⌃V T 特異値分解はスペクトル分解のような効果

26. Copyright(C) Open Stream, Inc. All Rights Reserved. 画像分離・画像修復 ■ ２つの異なる画像a,bが重なった画像 x があるとき、２つの画像がそれぞれ異なる辞書 Aa, Ab と係数 sa, sb で、Aasa, Absb と表せるとする。 ■ 次の問題を解けば、２つの画像を分離できる。 ■ Aa=原画像辞書, Ab=ノイズ画像辞書とすれば、ノイズ除去（画像修復）に使える。 26 minimizesa,sb sa 0 + sb 0 subject to x Aasa Absb 2 2  ✏

27. Copyright(C) Open Stream, Inc. All Rights Reserved. 超解像（次頁の図参照） ■ 高解像度の学習用画像から辞書 AH を学習しておく。 ■ AHにダウンサンプリング・ボケ関数などを施して低解像度な辞書ALを作成する。 ■ 低解像度な入力画像列XL を AL でスパース信号分解する。 ■ 上記で得られた非ゼロ係数列を使って、AHで画像を再構成すると、高解像度画像XHが得られる。 ■ 高画質TV、患者の負担を減らした医療画像撮影などに用いられる 27

28. 超解像処理の概念図

29. Copyright(C) Open Stream, Inc. All Rights Reserved. 顔認識(1/2) ■ 登録ユーザH人とする。各自は複数の顔画像f    を登録しているとする。これらを基底として扱い、辞書D    を構成する。  29 fh 1 , · · · , fh nh , h = 1, · · · , H D = (f1 1 , · · · , f1 n1 ; · · · ; fH 1 , · · · , fH n1 )

スパースモデリング入門

Hideo Terada

スパースモデリング入門