A Blog Entry on Bayesian Computation by an Applied Mathematician
$$
$$
1 Robust GP
基本的に ML の人にとっての GP って共役でやるんですね．
Generalized Hierarchical Models が望まれる．
2 Gaussian Copula Process in the Last Layer
ESN などの時系列 DNN を Bayes 様に fine-tuning する (”Bayesian Last Layers”)．MCMC を使う程度の軽い推論で SOTA を達成する．データはオーストラリアの電力マーケット． 使ったのは Gaussian copula process であり，これにより周辺分布の calibration を向上させることができるが，このステップが大きく予測性能も改善する．加えて補助情報を加えると大きく予測分布が変わる（裾の重さなど）．これを見る限り Copula in the last layer はアリかもしれないが，何が起こっているかは要検討．