はじめに

　Deep Learningを使った距離学習（Metric Learning）では、Contrastive LossやTriplet Lossなどを用いて、画像間の類似性（や非類似性）を直接学習していく方法が広く利用されていますが、学習データの組み合わせや選び方が難しく、学習自体が難航するケースが多い事も知られています。それだけに、これまで様々な改良と工夫が提案されています。
　しかし、最近はこのような学習データ選びに難航することなく、一般的なクラス分類タスクの感覚で、Softmax関数をベースに学習できるMetric Learningが注目を浴びています。ArcFaceなどはその代表的手法でこちらで詳しく説明されています。
　Softmax関数をベースにしたMetric Learningがうまくいく理由、またさらなる改良の余地はあるのか？これらに関して少し紹介しようと思います。

Center Loss

　クラス分類にMetric Learningの要素を取り入れた元祖といえばCenter Loss¹ではないでしょうか。Center Lossに関しては、こちらで詳細に説明されていたので、ざっと要点のみを紹介します。
　Center Lossでは、各特徴ベクトルと対応するクラス中心との距離にペナルティを設けることで、クラス分類と特徴空間上のクラス中心位置を同時に学習します。これによりクラス内変動は小さくなるため、より効果的にクラス分離する方法としてECCV2016で発表されました。

　本論文では、CNNの最終層の１つ手前のFC層を２次元に改良し、その値をそのまま２次元平面にプロットする事で特徴量の可視化を行っています。下図はMNISTに対して通常のSoftmax関数でクラス分類した際の中間特徴量を可視化したものです。

　損失関数は、通常のSoftmax Cross Entropy Lossに、各特徴ベクトルとそのクラスの中心ベクトルとの距離を表すCenter Lossの項を加えたものになります。

クラスの中心Cyi$C_{y_i}$を都度正確に計算するのは計算量的に現実的ではないため、ミニバッチ毎に以下の計算を行い、クラス中心Cyi$C_{y_i}$を逐次更新していきます。

以下はクラス中心の具体的な更新例です。ミニバッチ内でクラスAに属するデータがA1$A1$、A2$A2$、A3$A3$の３つの場合、クラスAの中心位置CA$C_A$は下図のように更新されます。

　最後に Center Lossの結果を可視化した図を載せておきます。ハイパーパラメータλ$\lambda$の値を大きくする事で、クラス内変動も小さくなることが分かります。

Sphereface

　Softmax関数を使って学習した場合の特徴空間には固有の角度分布がある事を見出し、Center Lossのようなユークリッド距離によるマージンよりも、角度に基づくマージンの方が適しているという事を主張。Angular Softmax (A-Softmax) Lossを提案²し、CVPR2017で採択されました。

　順に見ていきたいと思います。まず、通常のSoftmax Cross Entropy Lossは以下の通りです。

次に、これを内積の公式 a⋅b=||a||||b||cosθ$\mathit{a}\cdot \mathit{b}=||\mathit{a}||||\mathit{b}||\cos \theta$ を使って WTj${\mathit{W}}_{\mathit{j}}^{\mathit{T}}$とxi${\mathit{x}}_{\mathit{i}}$の内積部分を書き換えます。

さらに、重みパラーメタを正規化して||Wj||=1$||{\mathit{W}}_{\mathit{j}}||=1$となるようにし、バイアスbj$b_j$も0$0$にします。
すると、以下のようになり、これをModified Softmax Lossと定義します。

次に、このLmodified$L_{modified}$における決定境界がどうなっているのか確かめてみます。決定境界とは２つのクラスがちょうど同じ確率になる境界値を指します。

クラス１の重みW1$W_1$と特徴量xi$x_i$のなす角をcosθ1$\cos {\theta }_1$、クラス２の重みW2$W_2$と特徴量xi$x_i$のなす角をcosθ2$\cos {\theta }_2$とすると、この２つの確率がちょうど同じになるのは以下の条件を満たす場合です。

したがって、クラス1とクラス2の確率がちょうど同じになるのは、重みW1$W_1$とW2$W_2$の角度を２等分する直線方向にxi$x_i$がある場合です。

この結果から、Softmax Lossによって学習された特徴量xi$x_i$というのは、本質的にはsoftmaxをかける直前の最後の重みWj$Wj$の角度に沿った分布をとっていることがわかります。

これはつまり、Softmax関数に対して、Center Lossのようにユークリッド距離ベースのマージンを組み合わせるのは親和性がよくない事を示唆しており、角度に沿ったマージンを設ける事こそが最も効果的であると示しています。

Angular Softmax (A-Softmax) Loss

Angular Softmax (A-Softmax) Lossは以下のように定義されています。

Lmodified$L_{modified}$に対して、自クラスの重みWyi$W_{y_i}$とのなす角θyi,i${\theta }_{y_i,i}$にのみ係数m$m$のペナルティを与えるため、決定境界を本来の位置よりも自クラスの重みWyi$W_{y_i}$のに近くに寄せる効果が期待あります。

CosFaceやArcFace

　Spherefaceが主張するような角度に沿ったマージンをとるやり方は、Sphereface以降にもいくつか提案されています。CosFace³やArcFace⁴などがそれにあたります。

　詳細な内容は割愛しますが、簡単に説明すると、CosFaceからはxi$x_i$の正規化も行われるようになったため、２つのベクトルのなす角のcosθ$\cos \theta$がそのまま類似度として表現できるようになりました。また、cosθ$\cos \theta$の値が小さすぎてSoftmaxが機能しなくなるのを防ぐためにハイパーパラメータs$s$を導入しています。
　さらにその後、ArcFaceはマージンの場所を変更しています。角度に直接マージン指定しているので、Softmaxにおける分離境界は区間全体に渡って線形かつ一定となります。

Uniform Loss

　SpherefaceなどのCosine Based Softmax LossにUniform Lossという新しい項を追加する事で、クラス中心を均一に分散させる等分布制約を課し、特徴空間を最大限に活用できるようにする手法が提案⁵されました。CVPR2019で採択されています。Uniform Lossは、特徴空間である超球面上で、クラスの中心をクラス間反発を伴う電荷のように考え、そのポテンシャルエネルギーを最小化するような働きをします。これまでの既存手法は、クラス間距離を大きくすることとクラス内変動を小さくすることを目標にしているものが多いですが、Uniform Lossではそれに加えてクラス間距離の最小値の最大化も期待できます。

　Center Loss の場合は、クラス内の要素とクラス中心との間の距離を単に最小化するのみで、そもそもクラス間の関係は記述されていません。

　Sphereface、Cosface、Arcface の場合は、超球面上でマージンを持った識別境界が学習されるので、結果的にクラス内変動は小さく、クラス間距離は大きくなるように学習が進みます。ただし、特徴空間の全体的な分布を明示的に制約しているものはないため、特徴空間内で局所的な配置となり、バランスが取れていない可能性があります。

　Uniform Lossは、球の表面上に電荷を配置した場合、それらが均一に分布した場合にポテンシャルエネルギーが最小化されるという事実がモチベーションとなっているので、クラスの中心を電荷とみなし、その電位エネルギーを表す関数をLossとして表現します。

２つのクラス間にその距離の２乗に反比例する反発力F$F$を定義します。

距離関数d$d$ は、クーロンの法則をそのまま踏襲しユークリッド距離を使用します。また、反発力F$F$が大きくなりすぎるのを防ぐために1を加えます。

全てのクラス中心のペアワイズのエネルギーの平均値としてUniform Lossを定式化します。

SpherefaceのLoss（Cosine Based Softmax Loss）関数の部分は以下の通りです。

この２つのLossの和が最終的なLoss関数となります。

最後に、クラスの中心の更新方法ですが、これはCenter Lossのそれと全く同じ方法で更新します。

ちなみに余談になりますが、3次元球面上にN個の点を置き、点間の球面距離の最小値が最大となるように配置した場合、その球面距離の長さはいくつになるか？という問題はTammes問題と呼ばれていて、現在でも完全な解答が見つかっていない数学上の未解決問題の一つだそうです。

P2SGrad

　SenseTime ResearchとThe Chinese University of Hong Kongの共同研究として、AdaCos⁶とP2SGrad⁷という２つの論文が2019年5月7日に同じAuthorから同時に発表されました。どちらの論文もCVPR2019で採択（AdaCosの方はOral採択）されています。提案されている手法もさることながら、Sphereface、Cosface、ArcfaceなどのCosine Based Softmax Lossの本質的な違いや、勾配の最適化のプロセスに関して言及している点が特に面白いと感じました。AdaCosに関しては既にこちらで説明されていたので、P2SGradの方を詳しくみていきたいと思います。

　さて、P2SGradですが、特筆すべきは、特定の損失関数を定式化せずに、モデルを最適化できる点だと思います。Metric Learningに関わらず、一般的なDeep Learningでは損失関数を定義し、損失関数が小さくなるように重みやバイアスを更新しながら学習していくというのが定石です。しかし、P2SGradでは、特徴空間の重みベクトルを更新するための最適な勾配方向と大きさを直接的に求め、それをBackpropagationしてパラメータの最適化を進めていきます。さらに、損失関数を定義しなくてよいということは、ArcFaceやCosFaceの損失関数にあったm$m$やs$s$といったハイパーパラメータを調整する必要もありません。

Cosine Based Softmax Loss の Backpropagation

まずは、角度マージンのない Cosine Based Softmax Lossに関する勾配を確認しておきます。
次の fi,j$f_{i,j}$は 特徴量xi→$\overrightarrow{x_i}$のクラスj$j$ に関する logits になります。

xi^$\widehat{{\mathit{x}}_{\mathit{i}}}$とWj^$\widehat{{\mathit{W}}_{\mathit{j}}}$はそれぞれxi→$\overrightarrow{x_i}$とWj→$\overrightarrow{W_j}$の正規化されたベクトルを表します。

クラス数がC$C$の場合、i$i$ 番目の特徴量がクラス j$j$である確率Pi,j$P_{i,j}$は、Softmax関数で下記のように書けます。

正解クラスがyi$y_i$の場合のCross Entropy Lossは次のようになります。

この LCE(xi→)$L_{CE}(\overrightarrow{x_i})$ に対し、xi→$\overrightarrow{x_i}$ と Wj→$\overrightarrow{W_j}$ の勾配を求めます。

関数 1(yi=j)$\mathbb{1}(y_i=j)$ は、j=yi$j=y_i$のとき1$1$で、それ以外は0$0$になります。
さらに ∂cosθi,j∂xi→$\frac{\mathrm{\partial }\cos {\theta }_{i,j}}{\mathrm{\partial }\overrightarrow{x_i}}$ と ∂cosθi,j∂Wj→$\frac{\mathrm{\partial }\cos {\theta }_{i,j}}{\mathrm{\partial }\overrightarrow{W_j}}$ を計算すると、それぞれ以下のようなベクトル値になります。

次に、∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$の部分を計算します。f$f$は logits 部分を表す関数なので、角度マージンを持たないf(cosθi,j)$f(\cos {\theta }_{i,j})$はs⋅cosθi,j$s\cdot \cos {\theta }_{i,j}$です。したがって ∇f(cosθi,j)=s$\mathrm{\nabla }f(\cos {\theta }_{i,j})=s$ となります。
Cosfaceの場合はf(cosθi,yi)=s⋅(cosθi,yi−m)$f(\cos {\theta }_{i,y_i})=s\cdot (\cos {\theta }_{i,y_i}-m)$なので∇f(cosθi,yi)=s$\mathrm{\nabla }f(\cos {\theta }_{i,y_i})=s$となり、Arcfaceの場合はf(cosθi,yi)=s⋅cos(θi,yi+m)$f(\cos {\theta }_{i,y_i})=s\cdot \cos ({\theta }_{i,y_i}+m)$なので、∇f(cosθi,yi)=s⋅sin(θi,yi+m)sinθi,yi$\mathrm{\nabla }f(\cos {\theta }_{i,y_i})=s\cdot \frac{\sin ({\theta }_{i,y_i}+m)}{\sin {\theta }_{i,y_i}}$となります。

いずれにしても、∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$はパラメータs$s$やm$m$やcosθi,yi$\cos {\theta }_{i,y_i}$によって決まるスカラー値になります。また、普通はs>1$s>1$の値を使うので、上記は全て∇f(cosθi,j)>1$\mathrm{\nabla }f(\cos {\theta }_{i,j})>1$となります。

それでは改めて、∂LCE(xi→)∂Wj→$\frac{\mathrm{\partial }{L}_{CE}(\overrightarrow{x_i})}{\mathrm{\partial }\overrightarrow{W_j}}$をj$j$によって場合分けして整理してみましょう。

j≠yi$j\ne y_i$の場合

j=yi$j=y_i$の場合

Pi,j$P_{i,j}$はSoftmaxの値なので、取り得る値の範囲は Pi,j∈[0,1]$P_{i,j}\in [0,1]$ です。つまり、上式のT$T$およびU$U$はそれぞれT>0$T>0$とU<0$U<0$ の範囲をとるスカラー値ということになります。

Backpropagationによって重みベクトルWj→$\overrightarrow{W_j}$は、下記のように最適化されていきます。

これらの事実にもとづいてまとめると、以下の事がわかります。

• 正解クラスの重みパラメータWyi→$\overrightarrow{W_{y_i}}$は、BackpropagationによってWyi→$\overrightarrow{W_{y_i}}$に垂直な∂cosθi,j∂Wj→$\frac{\mathrm{\partial }\cos {\theta }_{i,j}}{\mathrm{\partial }\overrightarrow{W_j}}$ の方向に更新されていく。そしてその勾配ベクトルの長さは(Pi,j−1(yi=j))∇f(cosθi,j)$(P_{i,j}-\mathbb{1}(y_i=j))\mathrm{\nabla }f(\cos {\theta }_{i,j})$である。

• 正解じゃないクラスの重みパラメータWj→$\overrightarrow{W_j}$は、BackpropagationによってWj→$\overrightarrow{W_j}$に垂直な −∂cosθi,j∂Wj→$-\frac{\mathrm{\partial }\cos {\theta }_{i,j}}{\mathrm{\partial }\overrightarrow{W_j}}$の方向に更新されていく。そしてその勾配ベクトルの長さは(Pi,j−1(yi=j))∇f(cosθi,j)$(P_{i,j}-\mathbb{1}(y_i=j))\mathrm{\nabla }f(\cos {\theta }_{i,j})$である。

• ∂cosθi,j∂Wj→$\frac{\mathrm{\partial }\cos {\theta }_{i,j}}{\mathrm{\partial }\overrightarrow{W_j}}$は、Wj→$\overrightarrow{W_j}$に対して垂直方向なので、これは最速かつ最適でとても合理的な更新である。

• Cosine Based Softmax Lossは、CosFaceやArcFaceなどいろいろあるが、更新する勾配方向は全て同じである。これらの本質的な違いは勾配の長さ部分であり、この部分がモデルの最適化に大きく影響している。

勾配の長さ

　これまでみてきたように、勾配の長さは (Pi,j−1(yi=j))⋅∇f(cosθi,j)$(P_{i,j}-\mathbb{1}(y_i=j))\cdot \mathrm{\nabla }f(\cos {\theta }_{i,j})$なので、Pi,j$P_{i,j}$の値が勾配の長さに大きく影響します。さらに、Pi,j$P_{i,j}$は logits fi,j$f_{i,j}$と正の相関があります。そして、logits fi,j$f_{i,j}$はハイパーパラメータs$s$やm$m$の影響を強く受けます。

　ArcFaceの例をみていきます。fi,yi$f_{i,y_i}$ は s⋅cos(θi,yi+m)$s\cdot \cos ({\theta }_{i,y_i}+m)$です。ハイパーパラメータs$s$とm$m$が異なると同じθi,yi${\theta }_{i,y_i}$の場合でも、Pi,yi$P_{i,y_i}$の値が大きく変わる事がわかります。

　ここであらためて考えるべきは、ArcFaceの本来の目的です。ArcFaceはクラス分類をしたいのではなく、抽出された２つのベクトルx1→$\overrightarrow{x_1}$とx2→$\overrightarrow{x_2}$のなす角θ$\theta$が近いか否かを知りたいのです。つまり、本来的にはθi,yi${\theta }_{i,y_i}$の大きさこそが、Backpropagationにおいて重要な勾配の長さ（つまりは、Pi,j$P_{i,j}$）に影響しなければならないのに、ハイパーパラメータs$s$やm$m$が強く関与してしまっています。
　さらに、もうひとつ。Pi,yi$P_{i,y_i}$の値はクラス数C$C$によっても変化します。クラス数C$C$の増加とともに、不正解のクラスPi,j$P_{i,j}$ に割り当てられる確率は、多かれ少なかれ小さくなっていくことが予想されます。これはClosedなクラス分類問題においては合理的です。ただし、これはOpen-Setの問題である顔認識には適していません。

　勾配の長さに影響を与える値として ∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$ もあります。これはCosine Based Softmax Lossの種類によって異なります。

角度マージンを持たないCosine Based Softmax Lossの場合、

Cosfaceの場合、

Arcfaceの場合、

となります。

つまり、角度マージンを持たないCosine Based Softmax Loss、および Cosfaceにおいては、∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$で勾配の長さに与える影響は、常に一定s$s$である事を示しています。しかし、Arcfaceでは、勾配の長さとθi,j${\theta }_{i,j}$は負の相関関係にあり、これは完全に予想に反しています。θi,yi${\theta }_{i,y_i}$が徐々に減少すると、一般的には Pi,yi$P_{i,y_i}$の勾配を短縮する傾向がありますが、Arcfaceでは長さを伸ばす傾向があります。したがって、Arcfaceでは ∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$が勾配の長さに与える幾何学的な意味は説明されなくなります。

勾配の長さを決定するP2SGradの提案

　ここからがようやく本題で、ハイパーパラメーター、クラス数、logitsのいずれにも依存せず、θi,j${\theta }_{i,j}$のみによって勾配の長さを決定する新しい方法P2SGradを説明します。P2SGradは特定の損失関数を定義せずに、直接勾配を求めるため、式(4)$(4)$と(5)$(5)$を見直していきます。
　まず、勾配方向はこれまで説明してきた通り、最も最適な方向なのでここを変更する必要はありません。次に、勾配の長さ部分であるPi,j$P_{i,j}$と∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$を考えます。∇f(cosθi,j)$\mathrm{\nabla }f(\cos {\theta }_{i,j})$に関しては、そもそもハイパーパラメータを除外したいという目的で見直しているので、ここは1$1$にしてしまいます。

　次に、Pi,j$P_{i,j}$ですが Pi,j$P_{i,j}$の代わりにcosθi,j$\cos {\theta }_{i,j}$を使う事を考えます。理由は以下の３つです。

• Pi,j$P_{i,j}$とcosθi,j$\cos {\theta }_{i,j}$は値の理論範囲[0,1]$[0,1]$が同じである。ただし、θi,j∈[0,π/2]${\theta }_{i,j}\in [0,\pi /2]$とする。
• Pi,j$P_{i,j}$とは異なり、cosθi,j$\cos {\theta }_{i,j}$はハイパーパラメーターやクラス数C$C$のいずれからも影響を受けることはない。
• 推論時はcosθ$\cos \theta$による類似度を元に顔認識を行う。Pi,j$P_{i,j}$はClosedなクラス分類タスクにのみ適用される確率に過ぎない。

これらを考慮し、新しいP2SGradを定式化します。式(4)$(4)$と(5)$(5)$はそれぞれ式(14)$(14)$と式(15)$(15)$に置き換えられます。

このP2SGradは簡潔ではあるがとても合理的です。yi=j$y_i=j$の場合は勾配の長さとθi,j${\theta }_{i,j}$は正の相関となり、j≠yi$j\ne y_i$の場合は、負の相関が成り立ちます。

　最後に学習のやり方を説明します。一般的な学習はfoward処理により式(3)$(3)$のCross Entropy Lossを求め、その後、backpropagationにより最終層から式(4)$(4)$と式(5)$(5)$を逆伝播し、各層の重みやバイアスパラメータの勾配を順に求めて行きます。P2SGradを使った学習では、foward処理によって得た特徴量xi→$\overrightarrow{x_i}$から直接 式(14)$(14)$と式(15)$(15)$を求めます。後は通常の学習と同じ手順でそれを逆伝播し、各層の重みやバイアスパラメータの勾配を順に求めていきます。

実験

　詳しい実験結果はオリジナル論文を見てもらうとして、参考までにLWFのデータセットで実験した結果を載せておきます。CNN部分はResNet-50を使い、学習のイテレーションとθi,yi${\theta }_{i,y_i}$の平均値の関係を示した図です。

P2SGradによる学習はその他のCosine Based Softmax Lossよりも θi,yi${\theta }_{i,y_i}$の減少が早い事がわかります。