連続・離散を往来する MCMC サンプラー

A Blog Entry on Bayesian Computation by an Applied Mathematician

$$

$$

1 はじめに

Zig-Zag サンプラーなどの PDMP サンプラーは \(\mathbb{R}^d\) またはその領域上の確率分布からサンプリングするための，連続時間アルゴリズムである．

一方でこれらのサンプラーは離散空間上では使えない．

その際は連続時間で動く PDMP と，Metropolis-Hastings 法などの従来の MCMC 手法を統合して動かす必要がある．

このように離散空間と連続空間の合併上で動くサンプラー（の一部）を (Tierney, 1994) は hybrid サンプラーと呼んでいる．

しかしこの名前は hybrid Monte Carlo (Duane et al., 1987) と紛らわしいから，(Green, 1995, p. 714) から “traverse” sampler とここでは呼ぶことにする．

(Sachs et al., 2023) は Zig-Zag サンプラーともう１つの離散時間 MCMC を，Gibbs 様の考え方で組み合わせた GZZ (Gibbs Zig-Zag) サンプラーを提案した（第 2 節）．

一方で (Hardcastle et al., 2024) では，旧来は点過程からのサンプリングに用いられていた技術であった Birth-Death 過程を用いて統合する方法が提案されている．

2 Gibbs Zig-Zag サンプラー

2.1 はじめに

\(\zeta\in\mathbb{R}^d\) からのサンプリングを， \[ \zeta=(\xi,\alpha)\in\mathbb{R}^p\times\mathbb{R}^r,\qquad p+r=d, \] というように分解して考え，\(\xi\in\mathbb{R}^p\) には Zig-Zag サンプラーを適用するが，\(\alpha\in\mathbb{R}^r\) にはしないとする．

このような例は階層モデル \[ X_i\text{i.i.d.}p(x|\xi),\qquad\xi|\alpha\sim p(\xi|\alpha),\qquad\alpha\sim p(\alpha), \] の文脈で自然に現れる．実際，ポテンシャル（負の対数尤度関数）は \[ U(\zeta)=U^0(\xi,\alpha)+\sum_{i=1}^NU^i(\xi), \] \[ U^0(\xi,\alpha)=-\log p(\xi|\alpha)-\log p(\alpha),\qquad U^i(\xi)=-\log p(x_i|\xi), \] と表せる．

2.2 サンプラーの設計

\(\xi\) の Zig-Zag サンプラーの生成作用素を \(L_\xi\) とする．\(\alpha\) からサンプリングをする MCMC の確率核を \(Q\) とし，ある定数 \(\eta>0\) をパラメータにもつ Poisson 点過程が到着するたびに \(Q\) により \(\alpha\) の値を動かすとする．

すると全体としてのサンプラーの生成作用素は次のように表せる： \[ L=L_\xi+\eta L_\alpha, \] \[ L_\alpha f((\xi,\theta),\alpha)=\int_{\mathbb{R}^r}\biggr(f((\xi,\theta),\alpha')-f((\xi,\theta),\alpha)\biggl)Q(\alpha,d\alpha'). \]

3 Traverse サンプラー

3.1 はじめに

(Koskela, 2022) により，任意の可算空間 \(\mathbb{F}\) に対して，\(\mathbb{F}\) と連続空間との合併からサンプリングをするサンプラーが提案されている．

関連記事

4 文献紹介

Duane, S., Kennedy, A. D., Pendleton, B. J., and Roweth, D. (1987). Hybrid monte carlo. Physics Letters B, 195(2), 216–222.

Green, P. J. (1995). Reversible jump markov chain monte carlo computation and bayesian model determination. Biometrika, 82(4), 711–732.

Hardcastle, L., Livingstone, S., and Baio, G. (2024). Averaging polyhazard models using piecewise deterministic monte carlo with applications to data with long-term survivors.

Koskela, J. (2022). Zig-zag sampling for discrete structures and nonreversible phylogenetic MCMC. Journal of Computational and Graphical Statistics, 31(3), 684–694. doi: 10.1080/10618600.2022.2032722.

Sachs, M., Sen, D., Lu, J., and Dunson, D. (2023). Posterior Computation with the Gibbs Zig-Zag Sampler. Bayesian Analysis, 18(3), 909–927.

Tierney, L. (1994). Markov Chains for Exploring Posterior Distributions. The Annals of Statistics, 22(4), 1701–1728.