超次元 MCMC

A Blog Entry on Bayesian Computation by an Applied Mathematician

$$

$$

関連ページ

1 はじめに

1.1 問題設定

本稿では，状態空間が

\[ E=\bigcup_{k\in[K]}E_k,\qquad E_k:=\{k\}\times\mathbb{R}^{n_k}, \tag{1}\]

により定義される場合を考える．

\(E_k=\{k\}\times U_k\;(U_k\subset\mathbb{R}^{n_k})\) という一般の場合も簡単な修正により議論可能だろうから，まずは (1) に集中する．

このような設定はベイズ統計においてモデル選択や大きな階層モデルを考える場合に自然に現れ，通常のパラメータ推定よりも困難な設定を与える．

1.2 例

2 可逆な方法

2.1 はじめに

本稿ではまず，詳細釣り合い条件を満たすような MCMC のみに焦点を絞って，次元を超える MCMC をどのように構成できるかを議論する．

このような議論は，MCMC の黎明期である (Green, 1995) などで議論されたものである．

2.2 一般論

目標分布 \(\pi\in\mathcal{P}(E)\) に対して提案核が \[ q(x,-)=\sum_{m=1}^Mq_m(x,-) \] という形で用意されている場合に，棄却率 \(\alpha_m(x,x')\) をどう設定すれば所望の Metropolis-Hastings サンプラーが得られるかを考える．

(Green, 1995, p. 715)

\(\pi\otimes q_m\) がある \(E^2\) 上の対称な測度に関して密度 \(f_m\) を持つとする．このとき， \[ \alpha_m(x,x')f_m(x,x')=\alpha_m(x',x)f_m(x',x) \] を満たすならば，Metropolis-Hastings サンプラーは \(\pi\) を不変分布にもつ．

3 文献案内

Trans-dimensional MCMC のトピックは，MCMC の黎明期の歴史に深く関わっている．

(Besag and Green, 1993)

References

Besag, J., and Green, P. J. (1993). Spatial statistics and bayesian computation. Journal of the Royal Statistical Society: Series B (Methodological), 55(1), 25–37.

Green, P. J. (1995). Reversible jump markov chain monte carlo computation and bayesian model determination. Biometrika, 82(4), 711–732.