[머신 러닝] 중요도 샘플링 (Importance Sampling)과 기댓값 추정

1. 중요도 샘플링 (Importance Sampling)

통계 및 머신러닝 방법론을 공부하다보면 어떠한 확률분포 $p(\mathbf{\text{x}})$를 따르는 확률변수 $\mathbf{\text{x}}$에 대해 함수 $f(\mathbf{\text{x}})$의 기댓값 (expected value)을 구하는 경우를 많이 접한다. 중요도 샘플링은 샘플 $\mathbf{\text{x}}$에 대한 확률 $p(\mathbf{\text{x}})$은 쉽게 계산할 수 있지만, $p(\mathbf{\text{x}})$에서 샘플을 생성하는 것은 어려울 때 사용하는 방법이다. 먼저 $p(\mathbf{\text{x}})$에 대한 $f(\mathbf{\text{x}})$의 기댓값은 아래와 같이 정의된다.

$$\begin{array}{}\text{(1)}& E_{p(\mathbf{\text{x}})}[f(\mathbf{\text{x}})]=\int f(\mathbf{\text{x}})p(\mathbf{\text{x}})d\mathbf{\text{x}}\end{array}$$

만약 샘플을 생성하는 것이 쉬운 $q(\mathbf{\text{x}})$라는 새로운 확률분포를 도입하면, $p(\mathbf{\text{x}})$에 대한 기댓값은 식 $\text{(2)}$와 같이 $q(\mathbf{\text{x}})$에 대한 것으로 계산할 수 있다.

$$\begin{array}{}\text{(2)}& \begin{array}{rl}{E}_{p(\mathbf{\text{x}})}[f(\mathbf{\text{x}})]& =\int f(\mathbf{\text{x}})p(\mathbf{\text{x}})d\mathbf{\text{x}}\\ & =\int \frac{f(\mathbf{\text{x}})p(\mathbf{\text{x}})}{q(\mathbf{\text{x}})}q(\mathbf{\text{x}})d\mathbf{\text{x}}\\ & =E_{q(\mathbf{\text{x}})}\left[\frac{f(\mathbf{\text{x}})p(\mathbf{\text{x}})}{q(\mathbf{\text{x}})}\right]\end{array}\end{array}$$

중요도 샘플링에서 원래의 확률분포 $p(\mathbf{\text{x}})$는 목표 분포 (target distribution)라 하고, 새롭게 도입된 $q(\mathbf{\text{x}})$는 제안 분포 (proposal distribution)라고 한다. 제안 분포 $q(\mathbf{\text{x}})$는 $f(\mathbf{\text{x}})p(\mathbf{\text{x}})\ne 0$인 모든 $\mathbf{\text{x}}$에 대해 $q(\mathbf{\text{x}})>0$를 만족해야한다.

중요도 샘플링을 이용하면 $q(\mathbf{\text{x}})$에서 생성된 샘플 ${\mathbf{\text{x}}}_1,{\mathbf{\text{x}}}_2,...,{\mathbf{\text{x}}}_n$을 이용하여 기댓값 $E_{p(\mathbf{\text{x}})}[f(\mathbf{\text{x}})]$를 식 $\text{(3)}$과 같이 계산할 수 있다.

$$\begin{array}{}\text{(3)}& E_{p(\mathbf{\text{x}})}[f(\mathbf{\text{x}})]\approx \frac{1}{n}\sum _{i=1}^n\frac{f({\mathbf{\text{x}}}_i)p({\mathbf{\text{x}}}_i)}{q({\mathbf{\text{x}}}_i)}\end{array}$$

따라서 샘플링이 어려운 $p(\mathbf{\text{x}})$ 대신에 샘플링이 쉬운 $q(\mathbf{\text{x}})$를 이용하여 기댓값을 계산할 수 있는 것이다.

 

2. 중요도 샘플링의 이점과 활용

 

 

 

2. Sampling-importance-resampling (SIR)

앞의 importance sampling에서는 $q$라는 확률 분포를 이용하여 $p$의 기댓값을 추정하는 방법을 보았다. Sampling-importance-resampling (SIR)은 $q$라는 확률 분포를 이용하여 $p$의 샘플을 생성하는 방법이다. 아래의 [알고리즘 1]은 SIR을 이용하여 $N$개의 샘플을 생성하는 과정을 보여준다.