アンサンブルと熱力学極限

統計力学で用いられる種々の模型については前稿参照：

数学者のための統計力学１

Ising 模型とスピングラス

A Blog Entry on Bayesian Computation by an Applied Mathematician

$$

$$

1 導入

殆どの力学的現象は，相空間 $\mathrm{\Omega }\subset {\mathbb{R}}^{6N}$ と呼ばれる シンプレクティック多様体 上の Hamiltonian flow $(S_t)$ として理解される．統計力学では，その上に確率測度 $P$ を導入して運動を理解する．組 $(\mathrm{\Omega },P)$ を統計集団という．

例えば，$N$-粒子系 ${\mathrm{\Omega }}_{\mathrm{\Lambda },N}$ の統計的な振る舞いを最もよく記述する確率分布 $P\in \mathcal{P}({\mathrm{\Omega }}_{\mathrm{\Lambda },N})$ を推定することを考える．

系が平衡状態にない場合は分子の衝突などを追加で考える必要があり，現在でも理論は発展中であるが，すでに平衡状態に至ったとみなせる場合には，この確率分布 $P$ というのは殆どわかる．

仮に初期分布 $P_0\in \mathcal{P}({\mathrm{\Omega }}_{\mathrm{\Lambda },N})$ を持っていた場合，分布は Hamilton 流の押し出しにより $(S_t{)}_{\ast }{P}_0$ というように $\mathcal{P}({\mathrm{\Omega }}_{\mathrm{\Lambda },N})$ 上の力学系として発展していく．¹

従って，平衡分布は必ず $S_t$ の不動点，不変確率分布である必要があるが，これを満たす分布は複数存在する．そのうち特に意味のあるものが，小正準集団 $({\mathrm{\Omega }}_{\mathrm{\Lambda },N,E},P_{\mathrm{\Lambda },N,E}^{\text{microcanon}})$，正準集団 $({\mathrm{\Omega }}_{\mathrm{\Lambda },N},P_{\mathrm{\Lambda },N,\beta }^{\text{canon}})$，大正準集団 $({\mathrm{\Omega }}_{\mathrm{\Lambda }},P_{\mathrm{\Lambda },\beta ,\mu }^{\text{grandcanon}})$ などである．「小」「大」などの接頭辞は分布の台の大きさとも思える．

確率的な系も，確率分布の空間 $\mathcal{P}({\mathrm{\Omega }}_{\mathrm{\Lambda },N})$ 上で見れば決定論的な発展をするのが数理の妙である．

これら３つの分布はどれもそれだけで完全なものではなく，熱力学極限において真に物理的に意味のある量になると理解する．

2 小正準分布

小正準測度 ${\nu }_{\mathrm{\Lambda },N,E}$ を正規化したものも $S_t$ の不変確率分布である： $$P_{\mathrm{\Lambda },N,E}^{\text{microcanon}}(A):=\frac{{\nu }_{\mathrm{\Lambda },N,E}(A)}{{\nu }_{\mathrm{\Lambda },N,E}({\mathrm{\Omega }}_{\mathrm{\Lambda },N,E})}$$

改めて，$P_{\mathrm{\Lambda },N,E}^{\text{microcanon}}$ は等エネルギー面 ${\mathrm{\Omega }}_{\mathrm{\Lambda },N,E}$ 上にしか台を持たないことに注意．そのため，$P_{\mathrm{\Lambda },N,E}^{\text{microcanon}}$ は ${\mathbb{R}}^{6N}$ 上の Lebesgue 測度 ${\ell }_{6N}$ に関しては絶対連続ではない．²

このようにエネルギーが一定であるような力学系の集団をミクロカノニカル集団，この集団の分布，すなわちそのエネルギーに対応する全ての微視状態へ，等しい確率を持って存在するような分布をミクロカノニカル分布という．(久保亮五, 2003, p. 27)

孤立系など，エネルギー一定の系は Hamiltonian の等位集合上で運動をする．その上の小正準測度 / Gelfand-Leray 測度は，相空間上の自然な体積要素から誘導される．³ 従って小正準分布は運動に関して不変ではあるが，だからと言ってどのようなマクロ系に対しても小正準分布が平衡分布になると約束する法則は何もない．孤立したマクロ系（エネルギー一定以外に制約がない場合）が小正準分布に従うことは，等重率の仮定の具体的な表現と見れる，一種のモデルの仮定である．⁴

3 Gibbs の正準分布

系のエネルギーを指定するのではなく，逆温度を指定することで，相空間上で密度 $$p_{\mathrm{\Lambda },N,\beta }^{\text{canon}}(Q,V)=\frac{1}{Z_{\mathrm{\Lambda },N,\beta }}{e}^{-\beta H_{\mathrm{\Lambda },N}(Q,V)}$$ を持つ不変確率分布を得る．⁵ これを 正準分布 (canonical distribution) という．

$\beta >0$ を 逆温度，$Z_{\mathrm{\Lambda },N,\beta }$ を 分配関数 (partition function / statistical sum) という．

古典気体の $H$ において位置に依存する項と速度に依存する項とが分かれているため，$P_{\mathrm{\Lambda },N,\beta }^{\text{canon}}$ において位置と速度は独立であり，速度 $v_1,\cdots ,v_N$ も互いに独立でそれぞれは Gauss 分布に従う．これを Maxwell の法則 という．

また特に，Gibbs 測度の配置空間上での周辺分布は，configuration gas の Gibbs 測度に一致する．この意味で，古典気体の統計力学的性質は，configuration gas に帰着すると言える．

4 ２つの関係と熱力学極限

大雑把に捉えれば，エネルギー一定の力学系（例えば孤立系）の全ての状態の上の分布がミクロカノニカル分布であり，このエネルギーも動かした場合（例えば孤立系の部分系），各エネルギー上の分布はカノニカル分布になる．

${\mathrm{\Lambda }}_0\subset \mathrm{\Lambda }$ を部分領域として，この領域に $s$ 個の粒子が存在する状態 $${\mathrm{\Omega }}_{\mathrm{\Lambda },N}^{{\mathrm{\Lambda }}_0,s}:=\{(Q,V)\in {\mathrm{\Omega }}_{V,N}\mid |Q\cap {\mathrm{\Lambda }}_0|=s\}$$ を考え，この部分領域への小正準分布 $P_{\mathrm{\Lambda },N,E}^{\text{microcanon}}$ の制限を考えると，ある極限に関して正準分布になる (Minlos, 2000)．これがいわば 熱浴 や thermostat の概念である．

すなわち，ある領域 ${\mathrm{\Lambda }}_0$ に $s$ 個の粒子が存在する限り値が変わらないような量 $F:{\mathrm{\Omega }}_{\mathrm{\Lambda },N}\to \mathbb{R}$ は，小正準平均も正準平均も「ほとんど」変わらないことになる．この極限の正確な意味は $$\mathrm{\Lambda }\nearrow {\mathbb{R}}^v,N\to \mathrm{\infty },\frac{N}{|\mathrm{\Lambda }|}\to \rho \in \mathbb{R},\frac{E_i}{|{\mathrm{\Lambda }}_i|}\to e\in \mathbb{R},$$ というものであり，これを 熱力学極限 という（第 6 節）．

一般に極めて多数の自由度を持つ力学系 B と，問題の対象たる一つの力学系 A（上の例では $s$ 個の粒子からなる系）とが結合しているときに，系 A の一つの微視状態の実現確率を与える．これはそのような条件の下に，前節に述べた等重率の仮定に代わるものである． 物理的な言葉に引き直せば，結局，熱容量の大きい物体と熱平衡を保つ任意の力学系の統計的分布を表す集団がカノニカル集団である．(久保亮五, 2003, p. 30)

5 大正準集団

大正準集団は，領域 $\mathrm{\Lambda }\subset {\mathbb{R}}^3$ に粒子数 $N\in \mathbb{N}$ を定めずに存在する互いに区別できない粒子の系を考えることになる（エネルギーの交換だけでなく粒子も交換する部分系など）： $${\mathrm{\Omega }}_{\mathrm{\Lambda }}=C_{\mathrm{\Lambda }}^{(0)}\cup C_{\mathrm{\Lambda }}^{(1)}\cup \cdots \cup C_{\lambda }^{(N)}\cup \cdots$$

この ${\mathrm{\Omega }}_{\mathrm{\Lambda }}$ 上に，各 $C_{\mathrm{\Lambda }}^{(N)}$ 上での Lebesgue 測度が誘導する測度 (Lebesgue-Poisson measure) $${\mu }_{\mathrm{\Lambda }}^{(N)}(A):=\frac{{\ell }_{3N}(A)}{N!}$$ の貼り合わせとして定義される測度を正規化したものを $\mu$ とし，これを体積の代わりとする．

これを基底測度として密度 $$p_{\mathrm{\Lambda },\beta ,\mu }^{\text{grandcanon}}(c):=\frac{1}{\mathrm{\Xi }(\mathrm{\Lambda },\beta ,\mu )}{e}^{-\beta (H_{\mathrm{\Lambda }}(c)+\mu N(c))}$$ が定める分布を 大正準分布 という．

$\beta >0$ は逆温度であるが，$\mu \in \mathbb{R}$ は化学ポテンシャルである．

小正準集団が正準集団になる際に，エネルギー一定の制約は解放されて，代わりに新たなパラメータ $\beta >0$ を得た．ここからさらに粒子数一定の制約を解放し，代わりに新たなパラメータ $\mu \in \mathbb{R}$ を得たものが大正準集団である．この順に解析が容易になる．

大正準分布を粒子数一定の条件で条件付けて得る $C_{\mathrm{\Lambda }}^{(N)}$ 上の分布は正準分布に一致する．

6 熱力学極限

6.1 極限 Gibbs 測度

$F_B:{\mathrm{\Omega }}_{\mathrm{\Lambda }}\to \mathbb{R}$ が 局所変数 であるとは， $$F_B(c)=F_B(c\cap B)(c\in {\mathrm{\Omega }}_{\mathrm{\Lambda }})$$ を満たすことをいう．

熱力学極限 $$\underset{\mathrm{\Lambda }\nearrow {\mathbb{R}}^3}{lim}⟨F_B{⟩}_{\mathrm{\Lambda },\beta ,\mu }=⟨F_B{⟩}_{\mathrm{\infty },\beta ,\mu }$$ は，ある空間上のある積分と捉えられる．これを 極限 Gibbs 測度 (limit Gibbs distribution) という．

この極限 Gibbs 測度が複数存在したり，良い性質が失われたりする現象を 相転移 といい，その際の $(\beta ,\mu )$ を特異点という．

6.2 熱力学極限におけるアンサンブルの等価性

熱力学では，系の変化が極めて緩慢であるために，一瞬一瞬において平衡状態が保たれているとみなせる物理的過程が扱われるため，大正準集団では $T={\beta }^{-1},\mu$，正準集団では $T,\rho$，小正準集団では $\rho ,e$ などのマクロ変量によって記述できる理論になっている．

そして熱力学極限において，これら３集団は等価であるから，これらはパラメータ変換の問題でしかなく，さらにこのパラメータ空間上に別の関数も導入される．特にエントロピー $s(e,\rho )$，Helmholz の自由エネルギー（密度） $f(\beta ,\rho )$，圧力 $p(\beta ,\mu )$ などであり，これらは互いに Legendre 変換により関係し合っている．

これらの熱力学的関数も，特定の統計力学的な量の熱力学極限として理解できる．

$$s(\rho ,e)=\underset{\begin{array}{c}\mathrm{\Lambda }\nearrow {\mathbb{Z}}^v\\ \frac{N}{|\mathrm{\Lambda }|}\to \rho \\ \frac{E}{\mathrm{\Lambda }}\to e\end{array}}{lim}\frac{\log Q^{\text{indistin}}(\mathrm{\Lambda },E,N)}{|\mathrm{\Lambda }|}$$ $$f(\beta ,\rho )=-\frac{1}{\beta }\underset{\begin{array}{c}\mathrm{\Lambda }\nearrow {\mathbb{Z}}^3\\ \frac{N}{|\mathrm{\Lambda }|}\to \rho \end{array}}{lim}\frac{\log Z^{\text{indistin}}(\mathrm{\Lambda },N,\beta )}{|\mathrm{\Lambda }|}$$ $$p(\beta ,\mu )=\frac{1}{\beta }\underset{N\nearrow {\mathbb{Z}}^3}{lim}\frac{\log \mathrm{\Xi }(\mathrm{\Lambda },\mu ,\beta )}{|\mathrm{\Lambda }|}$$

ただし，$Q^{\text{indistin}},Z^{\text{indistin}},\mathrm{\Xi }$ はそれぞれ，（粒子が互いに区別がつかない場合の）小正準集団，正準集団，大正準集団の正規化定数とした．

6.3 相転移の定義

極限 Gibbs 測度に依らずとも，次のように直接的な方法で相転移を定義することができる：

定義 (thermodynamic phase)⁶

1. 相空間上の可測関数 $(\beta ,\theta ,N)\mapsto \chi (\beta ,\theta ,N)$ に対して，写像 $$(\beta ,\theta )\mapsto \underset{N\to \mathrm{\infty }}{lim}⟨\chi (\beta ,\theta ,N)⟩$$ の値域を 熱力学的相空間 という．
2. 熱力学的相 とは，上述の関数が $(\beta ,\theta )$ の解析的関数になるような領域をいう．
3. 熱力学的相の境界を横断するダイナミクスを 相転移 という．

相転移と統計学⁷

情報理論や統計学において，エントロピーは確率分布の不確実性として理解されている．

同様にして，熱力学的な相の変化は，エントロピーの急激な変化として検出されるわけである．

自由エネルギーは平均ポテンシャルとエントロピーの競争を表す量である．統計的には，周辺対数尤度として理解できる．

自由エネルギーが低い状態ほど現れやすい．このような見方はまさにベイズ因子によるモデル選択と同じ観点に立っていることになる．

また，自由エネルギーはキュムラント母関数でもあり，その微分係数は多くの統計学的な意味を持つ．

次の稿で紹介した I-MMSE 定理もその例である：

ベイズ統計学と統計物理学

スパース符号の復元を題材として

次の式は状態方程式と呼ばれ，(Metropolis et al., 1953) はこれの推定のために Monte Carlo 法を開発したのであった： $$⟨p(\beta ,\theta ,N)⟩:=-{\partial }_{V}F(\beta ,\theta (N,V),N).$$

Metropolis+ (1953) Equation of State Calculations by Fast Computing Machines

Metropolis et. al. [The Journal of Chemical Physics 21(1953) 1087-1092] は初の MCMC（乱歩 Metropolis 法）を，対称分布を Gibbs の正準分布として，“modified Monte Carlo scheme” という名前の下で提案した論文である．重点サンプリングを “Monte Carlo method” と呼び，「目標分布から直接サンプルを生成できるために提案分布と目標分布とのズレによる性能劣化がない」ことを美点として挙げている．この手法は後の (Hastings, 1970) による改良と併せて，Metropolis-Hastings 法と呼ばれるようになる．

7 参考文献

(Minlos, 2000), (西森秀稔, 2003), (Baxter, 1982) の書籍と，(Faulkner and Livingstone, 2024) のレビューを参考にした．

References

Baxter, R. J. (1982). Exactly solved models in statistical mechanics. Academic Press.

Faulkner, M. F., and Livingstone, S. (2024). Sampling Algorithms in Statistical Physics: A Guide for Statistics and Machine Learning. Statistical Science, 39(1), 137–164.

Khinchin, A. (1949). Mathematical foundations of statistical mechanics. Courier Corporation.

Metropolis, N., Rosenbluth, A. W., Rosenbluth, M. N., Teller, A. H., and Teller, E. (1953). Equation of state calculations by fast computing machines. The Journal of Chemical Physics, 21(6), 1087–1092.

Minlos, R. A. (2000). Introduction to mathematical statistical physics,Vol. 19. American Mathematical Society.

久保亮五. (2003). 新装版統計力学. 共立出版.

戸田盛和, 斎藤信彦, 久保亮五, and 橋爪夏樹. (2011). 統計物理学,Vol. 5. 岩波書店.

田崎晴明. (2008). 統計力学I,Vol. 37. 培風館.

砂田利一. (2004). 数学から見た統計学と熱力学,Vol. 4. 岩波書店.

西森秀稔. (2003). スピングラスと連想記憶. 岩波書店.

Footnotes

1. 運動は相空間の自然な体積形式 (Liouville 形式ともいう) を不変に保つという Liouville の定理 (Khinchin, 1949) は量子論でも成り立つ．(戸田盛和 et al., 2011, p. 23) これらの性質を抽象した形で，古典・量子力学は，統計力学に等重率の仮定を課す．

2. ただし，${\mathrm{\Omega }}_{\mathrm{\Lambda },N,E}$ 上に制限された体積測度に関しては，密度 $\frac{1}{|\mathrm{grad}H|}$ を持つ (Khinchin, 1949)．

3. これを Liouville 形式だけでなく Liouville 測度ということもあるようである (砂田利一, 2004)．

4. 等重率の仮定は量子論の観点から「マクロな量子系では，ある平衡状態に対応する許容される量子状態の全てが区別できない」と説明されることも多い．いずれにしろ極めて非自明な主張であるが，これを認めてみると良い理論を得る．実際 (田崎晴明, 2008, p. 89) では等重率の仮定を「戦略」「等重率の原理に基づく確率モデル」と説明している．いわば，統計モデルの１つであり，モデル選択の観点に立っているのである．

5. $S_t$ は体積を保存し Hamiltonian も保存するため，これは明らかに $S_t$ の不変確率分布である．

6. (Faulkner and Livingstone, 2024, pp. 4 2.3節) に倣った．

7. (Faulkner and Livingstone, 2024, pp. 4–5) 2.4節も参照．