博士課程での研究テーマ

博士課程の標準卒業年限まで残り３年を切ったこの段階で，現時点で考えている研究の方向性を５つ書き留めておきたい．

おおまかに，統計学・機械学習における計算手法（特にサンプリング手法）を，確率過程の技術を用いて効率化する，という方向性が共通している．

MCMC も拡散モデルも大きな成功をおさめている手法であるが，「提案時の枠組み（Markov 連鎖と拡散過程）に縛られすぎているところがあるのではないか？」というのが私の秘められたテーマである．¹

MCMC の背景

MCMC の確立

MCMC の手法自体は (Metropolis et al., 1953) が始まりであり，以降統計物理分野で発展を遂げていった．Gibbs サンプラーに対応する手法である熱浴法 (Glauber, 1963) もこの時点で既に現れる．

一般の確率分布からのサンプリングを可能にする手法である，というより抽象的な理解は (Hastings, 1970) で確立された．その際に，Markov 連鎖を記述するには遷移行列 \(P\) を一つ構築すれば良い，そしてその必要条件は簡単な式（詳細釣り合い条件）で表せる，という数学的な手軽さが大いに役立ったと思われる．

真に統計分野で再発見されたのはコンピュータが普及したのちである．画像処理と空間統計の分野で MCMC が採用され活発に研究され，その中で (Geman and Geman, 1984) により Gibbs サンプラーの名前がついた．これが真に一般の統計分野にまで普及したのは，統計学の一流誌で紹介した (Gelfand and Smith, 1990) からだと言われる．

こうして統計の広い分野に普及した MCMC は，大きく応用分野での発展と手法的発展の２つに分かれた．応用分野では，Gibbs サンプラーが今での重要な位置を占めていると言える．これらのモデルの構造を利用した MCMC アルゴリズムは数多く提案されている．

汎用 MCMC 手法の発展

一方で，モデルによらずブラックボックスで適用できる汎用手法の探索は，独自の経路を辿ったと言える．筆者の専門も専らこちらである．まず (Grenander and Miller, 1994) のコメントにおいて，(Besag, 1994) が，分布 \(\pi\) に収束する Langevin dynamics \(\{X_t\}\subset\mathcal{L}(\Omega;\mathbb{R}^d)\) \[ dX_t=\nabla(\log\pi(X_t))\,dt+\sqrt{2\beta^{-1}}\,dB_t,\qquad\beta>0, \tag{1}\] を提案分布に用いた Hastings 法を示唆し，これは現在でも統計・機械学習の双方で理論的に重要な位置を占めている．

理論解析には主に２つのアプローチがある．１つはスケーリング解析であり，もう１つはスペクトル解析である．後者は筆者の専門ではないが，対数 Sobolev 不等式，等周不等式，対数凸分布，などがキーワードになる．

前者では，空間の次元 \(d\to\infty\) の極限において，\(\{X_t\}\) の時間と空間についてのスケーリングであって，確定的な極限を持つスケールを探す．続いて，そのダイナミクスについて中心化し，Gauss 過程に収束するような中心極限定理のスケールを特定する．

後者の中心極限定理のスケールにおける極限を調べ，その極限過程の平均自乗移動距離を比較することで，アルゴリズムの「速さ」を比較するというものである．これは，当該の過程からの出力を用いた Monte Carlo 推定量の漸近分散を比較する，という明確な意味を持つ．

本アプローチは (Roberts et al., 1997) により創始され，(Roberts and Rosenthal, 2001) に Statistical Science 誌での解説記事がある．

以上，MCMC が定める確率過程に対する理論解析のアプローチを２つ紹介したが，アルゴリズムとしての解析や計算複雑性の議論はまた別である．上述の２つの過程に対する解析も，計算複雑性に対する含意が可能である．例えばスケーリング解析については (Roberts and Rosenthal, 2016) など．

アルゴリズムに目を向けると，１つ厄介な点に気づく．そもそも Langevin 拡散過程 (1) をシミュレートするには離散化が必要であり，その際の誤差によって，離散化して得る Markov 連鎖の平衡分布は元々の \(\pi\) からズレてしまう．統計分野ではこのズレを補正するために Hastings の棄却法の枠組みが要請される．すると元々の Langevin 拡散 (1) と結果として得る MCMC とは，収束特性が異なる場合がある (Roberts and Rosenthal, 1998)．補正なしのものを ULA (Unadjusted Langevin Algorithm)，ありのものを MALA (Metropolis-adjusted Langevin Algorithm) と呼ぶ．

ULA と MALA では当然計算複雑性が違う．MALA では各棄却法のステップで尤度比の評価が必要になり，データ数に応じて計算量が増える．一方で ULA を Monte Carlo 法に用いると漸近的に消えないバイアスを持つ．そこで，ULA のような特性を持つ手法を低精度手法，MALA を高精度手法と呼び，前者から初めて，途中でこの２つを切り替えることで，良いところどりをすることができる．この議論は (Altschuler and Chewi, 2023) から始まり，機械学習の分野で盛んである．

Hastings の枠組みからの離陸

以上の議論は全て，(Hastings, 1970) の枠組みの下での MCMC 手法であった．提案 \(Q\) には大きな自由度があり，これを補正する形で所望の遷移核 \(P\) を得る，という構成法である．

離散時間の Markov 連鎖を生成することに拘らなければ，この枠組みから逸脱した Markov 過程を容易に作り出すことができる．

その主なアイデアは，所与のダイナミクスに対して，ジャンプによって制御するというものである．

PDMP は rejection-free MCMC などのキーワードの下で，当初は Event-Chain Monte Carlo の名前で，やはり統計物理分野で提案された (Bernard et al., 2009)．

1 真に高次元で効率的な PDMP リフレッシュ戦略の特定

本研究テーマは Boost の申請書でも扱ったもので，自分が現在中核としている研究プロジェクトである．

2 Hamiltonian Monte Carlo と測度の集中現象

(Betancourt et al., 2017), (Betancourt, 2018)

3 非定常レジームと確定的流体極限

(Christensen et al., 2005),

4 Stick technique で何が可能になるか？

実は本研究テーマは，筆者が人生で最初に取り組んだ研究課題であるが，恐ろしいほど難しい可能性が浮上しつつある．第19回日本統計学会春季集会での発表でも扱ったので，そちらの予稿も参考にしてほしい．

(Bierkens et al., 2023), (Chevallier et al., 2023)

拡散モデルの背景

(Austin et al., 2021)

5 拡散モデル

Altschuler, J. M., and Chewi, S. (2023). Faster high-accuracy log-concave sampling via algorithmic warm starts.

Austin, J., Johnson, D. D., Ho, J., Tarlow, D., and Berg, R. van den. (2021). Structured Denoising Diffusion Models in Discrete State-Spaces. In M. Ranzato, A. Beygelzimer, Y. Dauphin, P. S. Liang, and J. W. Vaughan, editors, Advances in neural information processing systems,Vol. 34, pages 17981–17993. Curran Associates, Inc.

Bernard, E. P., Krauth, W., and Wilson, D. B. (2009). Event-chain monte carlo algorithms for hard-sphere systems. Phys. Rev. E, 80, 056704.

Besag, J. E. (1994). Comments on “Representations of Knowledge in Complex Systems” by U. Grenander and M. I. Miller. Journal of the Royal Statistical Society. Series B (Methodological), 56(4), 591–592.

Betancourt, M. (2018). A conceptual introduction to hamiltonian monte carlo.

Betancourt, M., Byrne, S., Livingstone, S., and Girolami, M. (2017). The geometric foundations of Hamiltonian Monte Carlo. Bernoulli, 23(4A), 2257–2298.

Bierkens, J., Grazzi, S., Meulen, F. van der, and Schauer, M. (2023). Sticky PDMP Samplers for Sparse and Local Inference Problems. Statistics and Computing, 33(1), 8.

Chevallier, A., Fearnhead, P., and Sutton, M. (2023). Reversible jump PDMP samplers for variable selection. Journal of the American Statistical Association, 118(544), 2915–2927.

Christensen, O. F., Roberts, G. O., and Rosenthal, J. S. (2005). Scaling limits for the transient phase of local metropolis–hastings algorithms. Journal of the Royal Statistical Society: Series B (Statistical Methodology), 67(2), 253–268.

Gelfand, A. E., and Smith, A. F. M. (1990). Sampling-based approaches to calculating marginal densities. Journal of the American Statistical Association, 85(410), 398–409.

Geman, S., and Geman, D. (1984). Stochastic Relaxation, Gibbs Distributions, and the Bayesian Restoration of Images. IEEE Transactions on Pattern Analysis and Machine Intelligence, PAMI-6(6), 721–741.

Glauber, R. J. (1963). Time-Dependent Statistics of the Ising Model. Journal of Mathematical Physics, 4(2), 294–307.

Grenander, U., and Miller, M. I. (1994). Representations of knowledge in complex systems. Journal of the Royal Statistical Society. Series B (Methodological), 56(4), 549–603.

Hastings, W. K. (1970). Monte Carlo Sampling Methods Using Markov Chains and Their Applications. Biometrika, 57(1), 97–109.

Metropolis, N., Rosenbluth, A. W., Rosenbluth, M. N., Teller, A. H., and Teller, E. (1953). Equation of state calculations by fast computing machines. The Journal of Chemical Physics, 21(6), 1087–1092.

Roberts, G. O., Gelman, A., and Gilks, W. R. (1997). Weak Convergence and Optimal Scaling of Random Walk Metropolis Algorithms. The Annals of Applied Probability, 7(1), 110–120.

Roberts, G. O., and Rosenthal, J. S. (1998). Optimal scaling of discrete approximations to langevin diffusions. Journal of the Royal Statistical Society. Series B (Statistical Methodology), 60(1), 255–268.

Roberts, G. O., and Rosenthal, J. S. (2001). Optimal Scaling for Various Metropolis-Hastings Algorithms. Statistical Science, 16(4), 351–367.

Roberts, G. O., and Rosenthal, J. S. (2016). Complexity Bounds for Markov Chain Monte Carlo Algorithms via Diffusion Limits. Journal of Applied Probability, 53(2), 410–420.

Footnotes

確率過程の中でも，Markov 連鎖は非負行列，拡散過程は SDE という，直感的な記法と calculus が確立された爛熟した分野であることは注記に値するだろう．しかしこれが数学的に自然なものの見方であるとは限らない．私見ではあるが，Markov 過程や確率微分方程式などの確率過程の枠組みは，確率積分がセミマルチンゲールの枠組みにまで一般化されたことを皮切りに，この１世紀でまだまだ化ける要素を秘めていると思う．それくらいに底が見えない領域であり，Lebesgue 積分の定義，Kolmogorov による確率論の公理化などに匹敵するような，分野としてもう一段階の変化をまだ隠しているのではないかと感じる．↩︎