こんにちは，株式会社Nospareリサーチャー・千葉大学の小林です．２項ロジットモデルは，ある試験に合格・不合格になる，消費者がある製品カテゴリから購入する・しない，ある疾患にかかる・かからない，といった結果に対してそれらが起こる確率が説明変数の値によってどのように変化するかを調べることができます．また２項ロジットモデルの一般化である多項ロジットモデルはある製品カテゴリ内にある複数ブランドからあるブランドをひとつ選択するといったような行動が観測されたデータを分析するのに用いられます．さらにロジットの構造は被説明変数が単純に何らかの選択行動の結果である場合に対する回帰モデルだけでなく，mixture of experts model（混合エキスパートモデル）やzero inflation（カウントデータにおけるゼロ過剰）などといったようなデータに内在するカテゴリーの分類確率を記述するのにも用いられ，とても幅広い応用の場面があります．本記事は前半部分にあたり，ロジットモデルをベイズ推定するための便利なモデル定式化とその応用例を紹介します．

２項ロジットモデル

まず２項ロジットモデルを紹介します．被説明変数を $y_{i}$ , $i = 1, \dots, N$ とします． $y_{i}$ は $0$ か $1$ の値を取り，例えば来店時にある製品カテゴリからの購入があった場合に $y_{i} = 1$ ，なかった場合に $y_{i} = 0$ が観測されます．ロジットモデルでは $y_{i} = 1$ が起こる確率（ここでは選択確率と呼ぶことにします）を説明変数のベクトル $x_{i}$ を用いて次のようにモデル化します．

Pr (y_{i} = 1) = \frac{\exp (x_{i}^{'} β)}{1 + \exp (x_{i}^{'} β)}, i = 1, \dots, N .

ここで $β$ は $x_{i}$ に対する係数パラメータです．簡単に言えば $y_{i}$ 成功確率が上のようなベルヌーイ分布に従います．この確率をもとに，尤度関数に対する $i$ 番目のデータについての部分は

p (y_{i} | β) = {[\frac{\exp (x_{i}^{'} β)}{1 + \exp (x_{i}^{'} β)}]}^{y_{i}} {[\frac{1}{1 + \exp (x_{i}^{'} β)}]}^{1 - y_{i}}, i = 1, \dots, N,

と書けます．尤度関数は $p (y | β) = \prod_{i = 1}^{N} p (y_{i} | β)$ で，最尤法の場合にはこのまま尤度関数を $β$ に関して最大化しますが，解析的に最大化は行えないので数値的な手法を利用します．ベイズでは $β$ の事前分布 $p (β)$ を特定し，事後分布 $p (β | y) \propto p (y | β) p (β)$ に対する推測を行います．尤度関数が $β$ についてきれいな形ではないので，きれいなギブスサンプラーは構築できず，メトロポリス・ヘイスティングス（MH）アルゴリズムなどによって事後分布からのサンプリングを行うのが普通でした．

ベイズではプロビットのほうが人気だった（読み飛ばしても大丈夫）

二項選択問題に対して最尤法による分析をする場合には二項ロジットモデルはよく用いられてきました．一方でベイズ推定においては二項選択問題においてもうひとつの定番的な手法であるプロビットモデルが定番で1990年代以降用いられてきました．これにはプロビットモデルに対するMCMCはデータ拡大法を使うことでギブスサンプリングだけで済ますことができるということが大きな理由だと考えられます．プロビットモデルは選択確率を $Pr (y_{i} = 1) = Φ (x_{i}^{'} β)$ （ $Φ$ は標準正規分布の分布関数）と書けます．ここで潜在変数 $y_{i}^{*}$ を導入し， $y_{i}^{*} = x_{i}^{'} β + e_{i}$ という回帰モデルを考えます（ $e_{i} \sim N (0, 1)$ ）．この潜在変数 $y_{i}^{*}$ と実際のデータ $y_{i}$ を， $y_{i}^{*} \geq 0$ のときに $y_{i} = 1$ が観測される， $y_{i}^{*} < 0$ のときに $y_{i} = 0$ が観測される，というように結びつけます（ $y_{i}^{*}$ を積分消去するともとのプロビットの選択確率が得られます）．プロビットモデルに対するギブスランプラーは $y_{i}^{*}$ を完全条件付分布（切断正規分布）からサンプリングすることで，あたかも普通の回帰モデルで被説明変数が観測されているかのように $β$ の完全条件付分布からサンプリングを行うことができます．

二項ロジットモデルに対しても同じようなデータ拡大法がHeld and Holmes (2006) によって提案されました．再び $y_{i}^{*} = x_{i}^{'} β + e_{i}$ という潜在変数に対する回帰モデルを考えます．プロビットモデルと異なり，ロジットモデルでは $e_{i}$ はロジスティック分布に従います．この論文はロジスティック分布に対して次のような表現のもとにギブスサンプラーを構築しました： $e_{i} \sim N (0, λ_{i})$ , $λ = (2 ψ_{i})^{2}$ , そして $ψ_{i}$ はKolmogorov-Smirnov（KS）分布という分布に従います．このアプローチでのギブスサンプリングは， $y_{i}^{*}$ ， $λ_{i}$ ， $β$ のサンプリングステップからなりますが， $λ_{i}$ の完全条件付分布が標準的なものでなく，サンプリングがやや面倒というのもあって今まであまり使われてこなかったのかと思います．また予めパラメータとウェイトの値を定めておいた正規分布の有限混合モデルによってロジスティック分布を近似するという方法も提案されましたが，あくまでも近似モデルからのサンプルになってしまうということで定番的な方法として定着することはなかったと思います．

これは便利かも！Polya-Gamma mixtureによる定式化

さて遠回りになりましたが，本題のロジットモデルに対する画期的な定式化がPolson etal.(2013)によって提案されました．この論文の結果（Theorem 1）はロジスティック型の関数を次の積分で表現できるというものです．

\frac{(e^{ψ})^{a}}{(1 + e^{ψ})^{b}} = 2^{- b} e^{κ ψ} \int_{0}^{\infty} e^{- \frac{w ψ^{2}}{2}} p (w | b, 0) d w, κ = a - b / 2, (1)

ここで $w$ はPolya-Gamma分布 $P G (b, 0)$ という分布に従う変数で $p (w | b, 0)$ という密度関数をもつとします（これについては後で書きます）．

$(1)$ でまず重要なのは $w$ を所与にしてみると，積分の中に $ψ$ について正規分布の密度関数の核が現れるということです． $ψ$ は $x^{'} β$ のように回帰式で表される部分なので，この表現を利用するとデータと $w$ が与えられたもとで $β$ の完全条件付分布が正規分布になりそうな予感がします．実際に二項ロジットモデルの場合には，

p (y_{i} | β) = \frac{\exp (x_{i}^{'} β)^{y_{i}}}{1 + \exp (x_{i}^{'} β)}

と書けるので，上の結果 $(1)$ を使って

p (y_{i} | β) \propto \exp (κ_{i} x_{i}^{'} β) \int_{0}^{\infty} \exp {- \frac{w_{i}}{2} (x_{i}^{'} β)^{2}} p (w_{i} | b, 0) d w_{i}

となります（ $a = y_{i}$ , $b = 1$ , $κ_{i} = y_{i} - 1 / 2$ ）．
$β$ の事前分布を $p (β)$ とすると，データと $w = (w_{1}, \dots, w_{N})$ を所与としたときの $β$ の完全条件付分布は

\begin{aligned} p (β | w, y) & \propto p (β) \prod_{i = 1}^{N} p (y_{i} | β) \\ = p (β) \prod_{i = 1}^{N} \exp {- \frac{w_{i}}{2} ((x_{i}^{'} β)^{2} - 2 κ_{i} x_{i}^{'} β / w_{i})} \\ \propto p (β) \prod_{i = 1}^{N} \exp {- \frac{w_{i}}{2} (κ_{i} / w_{i} - x_{i}^{'} β)^{2}} \\ \propto p (β) \exp {- \frac{1}{2} (z - X β)^{'} W (z - X β)} \end{aligned}

という形になります（ $z = (z_{i}, \dots, z_{N})^{'}$ , $z_{i} = κ_{i} / w_{i}$ , $X = (x_{1}^{'}, \dots, x_{N}^{'})$ , $W = d i a g (w_{1}, \dots, w_{N})$ ）．このことから例えば $β$ に対して正規事前分布を仮定すると完全条件付分布も正規分布になることがわかります．

さて $(1)$ において $w$ が従うPolya-Gamma分布ですが，一般的に $X \sim P G (b, c)$ の場合には

X = \frac{1}{2 π} \sum_{k = 1}^{\infty} \frac{g_{k}}{(k - 1 / 2)^{2} + c^{2} / (4 π^{2})}, g_{k} \sim G a (b, 1),

という独立なガンマ変数の無限和で表現されます． $P G (b, c)$ の密度関数は $P G (b, 0)$ の密度関数のexponential tilting（指数傾斜）で表されます：

p (x | b, c) = \frac{\exp {- \frac{c^{2} x}{2}}}{E [\exp (- \frac{c^{2}}{2} w)]} p (x | b, 0)

ここで $p (x | b, 0)$ は $P G (b, 0)$ の密度関数で，分母の期待値は $w \sim P G (b, 0)$ についてとったものです．では， $(1)$ において $w | ψ$ の条件付分布を考えてみると，

p (w | ψ) = \frac{\exp {- \frac{w ψ^{2}}{2}} p (w | b, 0)}{\int \exp {- \frac{w ψ^{2}}{2}} p (w | b, 0) d w}

となることから， $w | ψ \sim P G (b, ψ)$ となることがわかります．

二項ロジットモデルの場合には， $w_{i}$ の完全条件付分布は単純に $P G (1, x_{i}^{'} β)$ となります．よって $β \sim N (b_{0}, B_{0})$ の場合，次のふたつのステップから成るギブスサンプラーを回すことになります．

$i = 1, \dots, N$ まで， $w_{i}$ を $P G (1, x_{i}^{'} β)$ からサンプリングする
$β$ を $N (b_{1}, B_{1})$ からサンプリングする，ただし $B_{1} = {[X^{'} W X + B_{0}^{- 1}]}^{- 1}$ , $b_{1} = B_{1} [X^{'} W z + B_{0}^{- 1} b_{0}]$

この論文では $P G (1, c)$ からの効率的なサンプリング方法を提案しています．指数分布と逆ガウシアン分布に基づく棄却サンプリングによるものですが採択確率が99.9%以上という極めて効率的なものとなっています． $n$ が自然数のときには $n$ 個の独立な $P G (1, c)$ 変数を足し合わせるだけで $P G (n, c)$ からのサンプリングができます．一般的な $P G (r, c)$ の場合にはWindle et al.(2014)で提案されています．Rでの実装においてはBayesLogitパッケージ内のrpg()関数が利用できます．このパッケージを利用した実装は後編で紹介したいと思います．

Polya-Gammaはいろいろなモデルで使える！

多項ロジットモデル

この定式化を利用することで，二項ロジットモデルの一般化である多項ロジットモデルに対するギブスサンプラーも構築することができます．多項ロジットモデルでは $J$ 個のカテゴリ（ブランドなど）からひとつのカテゴリが選択・実現されるという状態を考えます．被説明変数を $y_{i j}$ とし， $j$ 番目のカテゴリが選択された場合に $y_{i j} = 1$ ， $y_{i h} = 0$ , $h \neq j$ が観測されます．多項ロジットモデルの選択確率 $p_{i j} = Pr (y_{i j} = 1)$ は

p_{i j} = \frac{\exp (ψ_{i j})}{\sum_{h = 1}^{J} \exp (ψ_{i h})}

で与えられ， $ψ_{i j} = x_{i}^{'} β_{j}$ とモデル化します．尤度関数は

f (y | β) = \prod_{i = 1}^{N} \prod_{j = 1}^{J} {(\frac{\exp (ψ_{i j})}{\sum_{h = 1}^{J} \exp (ψ_{i h})})}^{y_{i j}}

となります．一見Polya-Gammaが使えそうにないですが， $β_{j}$ 以外のパラメータ $β_{- j}$ を条件付けると

f (y | β_{j}, β_{- j}) = \prod_{i = 1}^{N} {(\frac{e^{η_{i j}}}{1 + e^{η_{i j}}})}^{y_{i j}} {(\frac{1}{1 + e^{η_{i j}}})}^{1 - y_{i j}}

と書けます（ $η_{i j} = x_{i}^{'} β_{j} - C_{i j}$ , $C_{i j} = \log \sum_{h \neq j} e^{x_{i}^{'} β_{h}}$ ）．こうすると冒頭の二項ロジットモデルの尤度のような形になっていて， $κ_{i j} = y_{i j} - 1 / 2$ , $b = 1$ でPolya-Gammaが使えることがわかります：

\prod_{i = 1}^{N} \exp {κ_{i j} η_{i j} - \frac{w_{i j}}{2} η_{i j}^{2}} p (w_{i j} | b, 0) .

$β_{j}$ の事前分布を $N (b_{j 0}, B_{j 0})$ とすると次のギブスサンプラーを構築できます．

$i = 1, \dots, N$ , $j = 1, \dots, J$ について $w_{i j}$ を $P G (1, η_{i j})$ からサンプリングする．
$j = 1, \dots, J$ について $β_{j}$ を $N (b_{1 j}, B_{1 j})$ からサンプリングする，ただし $B_{1 j} = {[X^{'} W_{j} X + B_{j 0}^{- 1}]}^{- 1}$ , $b_{1 j} = B_{1 j} [X^{'} W_{j} (C_{j} + z_{j}) + B_{0}^{- 1} b_{0}]$ , $C_{j} = (C_{1 j}, \dots, C_{N j})^{'}$ , $z_{j} = (z_{1 j}, \dots, z_{N j})^{'}$ , $z_{i j} = κ_{i j} / w_{i j}$ .

負の二項分布（Negative binomial）

負の二項分布はポアソン分布に代わるカウントデータに対する確率分布として広く使われてきました．確率関数は

p (y_{i}) = \frac{Γ (ξ + y_{i})}{Γ (ξ) y_{i}!} (1 - ψ_{i})^{ξ} ψ_{i}^{y_{i}}, y_{i} = 0, 1, 2, \dots

と書け（ $ξ > 0$ はoverdispersionのパラメータ），負の二項分布における回帰モデルは $ψ_{i} = e^{x_{i}^{'} β} / (1 + e^{x_{i}^{'} β})$ と与えられます．ここでまたPolya-Gammaが使える形になっていることに気づきます．実際，

(1 - ψ_{i})^{ξ} ψ_{i}^{y_{i}} = \frac{\exp (x_{i}^{'} β)^{y_{i}}}{[1 + \exp (x_{i}^{'} β)]^{ξ + y_{i}}}

なので， $a_{i} = y_{i}$ , $b_{i} = ξ + y_{i}$ とすればあとは二項ロジットの場合と同じようなギブスサンプラーが構築できます．事前分布 $β \sim N (b_{0}, B_{0})$ の場合，
　
1. $i = 1, \dots, N$ まで， $w_{i}$ を $P G (y_{i} + ξ, x_{i}^{'} β)$ からサンプリングする．
2. $β$ を $N (b_{1}, B_{1})$ からサンプリングする，ただし $B_{1} = {[X^{'} W X + B_{0}^{- 1}]}^{- 1}$ , $b_{1} = B_{1} [X^{'} W z + B_{0}^{- 1} b_{0}]$ , $z = (z_{1}, \dots, z_{N})^{'}$ , $z_{i} = \frac{y_{i} - ξ}{2 w_{i}}$ .

3. $ξ$ をMHアルゴリズムなどでサンプリングする．
となります．

おわりに

前篇となる本記事ではPolya-Gammaを使った２項ロジットモデルの再定式化から始まり，Polya-Gammaを使うと幅広いクラスのモデルに対してギブスサンプラーを構築できるようになることを紹介しました．ここでは $ψ$ や $β$ について単純な回帰モデルや事前分布を考えていましたが，時間相関や空間相関が含まれるより複雑な階層モデルや，説明変数の選択のための馬蹄事前分布（horseshoe prior）などといったより高度な $β$ の階層事前分布のもとでの推定も簡単な拡張で実行できます．後編ではRによる実装を紹介したいと思います．

一緒にお仕事しませんか！
株式会社Nospareではベイズ統計学に限らず統計学の様々な分野を専門とする研究者が所属しており，新たな知見を日々追求しています．統計アドバイザリーやビジネスデータの分析につきましては弊社までお問い合わせください．

【ベイズ統計学】ロジットモデルに対するギブスサンプリングを簡単に行う！（理論編）