SOKENDAI 特別研究員

研究状況発表会

スライドはこちら

Slide
Nonresearch
Author
Affiliation

司馬博文

総合研究大学院大学(5年一貫博士課程)3年

Published

3/30/2026

概要

スライドはこちら

1 研究計画

申請書

主な研究対象である PDMP アルゴリズム の実行途中の図.
発表者開発の PDMPFlux.jl パッケージからの出力.

1.1 目標:信頼のおける AI の開発

提案:ベイズ法を使う

ベイズ法:統計学では歴史が長い

ベイズ法による不確実性の定量化

ベイズ × AI が近年の問題意識

ベイズ法の自動運転への応用
(Kendall and Gal, 2017)

→ 行政,政治科学,生物学,個別化医療……への応用

1.2 ベイズ法による不確実性の定量化

すでに大きな研究トピックの1つであり,本研究もこれに属する

赤丸 の中心は `Bayesian Uncertainty Quantification in Deep Learning’

1.3 コア要素の1つ:シミュレーション

ベイズ法では確率分布のシミュレーションが計算の中心

1.4 PDMP による ベイズ法 の拡張

課題ベイズ法はスケーラビリティがない

拡散過程(従来法)

Important新手法 PDMP
  • 収束
  • 計算量
  • 拡張性

PDMP(新手法)

1.5 PDMP パッケージの開発

  • 従来は汎用パッケージがなく,PDMP の応用研究は僅少 → 分野内唯一の汎用 PDMP パッケージを開発
  • 公式リポジトリに登録済み
    → 政治科学・予防医療での共同研究が進行中

2 令和7年度の研究(理論)

(Shiba and Kamatani, 2026) のプレプリント公開と Annals of Applied Probability への投稿

2.1 先行研究

(Bierkens et al., 2022), (Bierkens et al., 2025)

動きが単純すぎる
(Bierkens et al., 2019)

現状2手法は一長一短

力学が単純すぎる
(Bouchard-Côté et al., 2018)

2.2 最も有望な手法は理論の射程外

Zig-Zag
(Bierkens et al., 2019)
動きが単純すぎる

新手法 Forward 法
(Michel et al., 2020)
いずれも適度にランダム

BPS
(Bouchard-Côté et al., 2018)
反射法則が単純すぎる

2.3 研究開始前の目標

2.4 研究結果(要約)

  1. FECMC 解析の技術的困難を乗り越えて,理論を拡張
  2. FECMC が高次元で常に効率的であることを示した

100 次元 Gauss の U(x)=\|x\|^2 推定における有効サンプルサイズ (ESS)

2.5 主貢献1:スケーリング極限の導出

FECMC のスケーリング極限は BPS と同じ形

dY_t^{\textcolor{#0096FF}{\text{B}}}=-\frac{\sigma^2_{\textcolor{#0096FF}{\text{B}}}(\rho)}{4}Y_t^{\textcolor{#0096FF}{\text{B}}}\,dt+\sigma_{\textcolor{#0096FF}{\text{B}}}(\rho)\,dB_t

\sigma^2_{\textcolor{#0096FF}{\text{B}}}(\rho)=8\int^\infty_0e^{-\rho s}\operatorname{E}[R_0^{\textcolor{#0096FF}{\text{B}}}R_s^{\textcolor{#0096FF}{\text{B}}}]\,ds

dY_t^{\textcolor{#E95420}{\text{F}}}=-\frac{\sigma^2_{\textcolor{#E95420}{\text{F}}}(\rho)}{4}Y_t^{\textcolor{#E95420}{\text{F}}}\,dt+\sigma_{\textcolor{#E95420}{\text{F}}}(\rho)\,dB_t

\sigma^2_{\textcolor{#E95420}{\text{F}}}(\rho)=8\int^\infty_0e^{-\rho s}\operatorname{E}[R_0^{\textcolor{#E95420}{\text{F}}}R_s^{\textcolor{#E95420}{\text{F}}}]\,ds

2.6 主貢献2:拡散係数の解析的表示

\begin{align*} \sigma^2_{\textcolor{#E95420}{\text{FECMC}}}(\rho)&=\sqrt{\frac{32}{\pi}}\biggr(1-\frac{\left(\rho^2-\rho\sqrt{\frac{\pi}{2}}+\Omega(\rho)\right)^2}{\rho^4\Omega(\rho)(2-\Omega(\rho))}\biggl)\\ \sigma^2_{\textcolor{#0096FF}{\text{BPS}}}(\rho)&=\frac{8}{\rho^4}\left(\rho^3-\rho^2\sqrt{\frac{8}{\pi}}+\rho-\sqrt{\frac{8}{\pi}}\frac{\left((1+\rho^2)\Omega(\rho)-\rho^2\right)^2}{\Omega(2\rho)}\right)\\ \Omega(\rho)&\coloneqq\sqrt{\frac{\pi}{2}}\rho\operatorname{erfcx}\left(\frac{\rho}{\sqrt{2}}\right)=\rho e^{\frac{\rho^2}{2}}\int^\infty_\rho e^{-\frac{t^2}{2}}\,\mathrm{d}t \end{align*}

\begin{align*} \underbrace{\frac{\sigma^2(0)}{4}=2\int^\infty_0\operatorname{E}[R_0R_t]\,dt}_{\text{Green--Kubo 公式}}=\operatorname{E}\biggl[R_0\underbrace{\int^\infty_0\operatorname{E}[R_t|R_0]\,dt}_{=:f(R_0)}\biggr]=\operatorname{E}[R_0f(R_0)] \end{align*} この関数 f は,動径運動量 R の生成作用素 L に関して次を満たす: -Lf(x)=x\quad\text{(Poisson 方程式)}

2.7 拡散係数の比較 FECMC v. BPS

2.8 実験との整合:FECMC v. BPS

3 今後の研究計画(応用)

理論と応用の一気通貫で,

新手法 PDMPスケーラビリティ を検証する

3.1 応用研究の着手点

スケーラビリティの大規模統計データでの検証

従来法を米国最高裁判事9人に適用した際の結果

PDMP を米国議会議員435人に適用できるか……?

3.2 Manifold PDMP の開発

重なる部分に長く滞在するダイナミクスの開発が必要

 

ドラフト

3.3 PDMP の収束診断法の開発

 

ドラフト

3.4 共同研究の継続

 

これまでの研究滞在

参考文献

Bierkens, J., Fearnhead, P., and Roberts, G. (2019). The Zig-Zag Process and Super-Efficient Sampling for Bayesian Analysis of Big Data. The Annals of Statistics, 47(3), 1288–1320.
Bierkens, J., Kamatani, K., and Roberts, G. O. (2022). High-Dimensional Scaling Limits of Piecewise Deterministic Sampling Algorithms. The Annals of Applied Probability, 32(5), 3361–3407.
Bierkens, J., Kamatani, K., and Roberts, G. O. (2025). Scaling of piecewise deterministic monte carlo for anisotropic targets. Bernoulli, 31(3), 2323–2350.
Bouchard-Côté, A., Vollmer, S. J., and Doucet, A. (2018). The Bouncy Particle Sampler: A Nonreversible Rejection-Free Markov Chain Monte Carlo Method. Journal of the American Statistical Association, 113(522), 855–867.
Kendall, A., and Gal, Y. (2017). What uncertainties do we need in bayesian deep learning for computer vision? In I. Guyon, U. V. Luxburg, S. Bengio, H. Wallach, R. Fergus, S. Vishwanathan, and R. Garnett, editors, Advances in neural information processing systems,Vol. 30. Curran Associates, Inc.
Michel, M., Durmus, A., and Sénécal, S. (2020). Forward event-chain monte carlo: Fast sampling by randomness control in irreversible markov chains. Journal of Computational and Graphical Statistics, 29(4), 689–702.
Shiba, H., and Kamatani, K. (2026). Diffusive scaling limits of forward event-chain monte carlo: Provably efficient exploration with partial refreshment.