覚え書きブログ

多重重点サンプリング法

多重重点サンプリング法とは、複数のソース分布からサンプリングしたデータと密度比を持ちいて、ターゲット分布に基づく期待値をバリアンスを抑えて推定する方法である。
https://graphics.stanford.edu/courses/cs348b-03/papers/veach-chapter9.pdf

もう少し具体的には、一つのソース分布からサンプリングしたデータで、期待値をアンバイスに推定できるが、ターゲットとソースの分布の差が大きい(例えば、ソース分布の確率値が0に近いところ)場合に推定が不安定になりバリアンスが大きくなる問題がある。

この問題を解決するために、複数のソース分布からターゲット分布との重なりが大きいところを部分的に「良いとこどり」をして、推定量のバリアンスを抑えるというのが多重重点サンプリング法である。

この「良いとこどり」をするためには、うまくサンプルごとに各分布の重みを調整する必要がある。
例えば、バランスヒューリスティック(Balance Heuristic)法などがある。
http://rayspace.xyz/CG/contents/MIS.html

より一般的な多重重点サンプリングとして、全てのソース分布を同じ重みで足した混合分布との密度比を用いて推定する方法が提案されている。また、既に推定に用いたデータのソース分布を混合分布から除く、非復元型の多重重点サンプリング法も提案されている。
Generalized Multiple Importance Sampling, Elvira, V. et al., arxiv 2015
https://arxiv.org/pdf/1511.03095.pdf

以下の図は、通常の重点サンプリング、非復元型多重重点サンプリング、復元型多重重点サンプリングの違いを表している(https://arxiv.org/pdf/1511.03095.pdf)。
f:id:hirotaka_hachiya:20170405120403p:plain