codingfarm

모수(population parameter) 모집단의 특성을 나타내는 수치이다. 포아송 분포에서 모수의 예는 9시에서 10시 사이에 교환대에 울리는 발신음의 수, 100feet 길이의 전선줄에 앉아있는 새의 수, 정오 12시에서 오후 2시까지 매표소에 도착하는 고객의 수, 어떤책의 한페이지에 나타난 오타의 수 등이 있다. 즉, 포아송 분포에서의 모수는 '단위시간 또는 단위공간에서 평균 발생 횟수' 이다. 포아송분포에서 모수는 수학기호 $\lambda$로 표시한다. 포아송분포(Poisson Distribution) 포아송분포는 단위시간, 단위공간 안에 어떤사건이 발생하는 평균 횟수 $\lambda$가 주어질 경우 사건이 발생하는 횟수를 확률변수 $x$로 두었을때의 이산 확률 분포이다. 주어진 연속구간에서 ..

음이항분포는 베르누이 시행을 미리정한 성공횟수 $r$회가 될때까지 반복 시행할때 확률변수 $X$가 나타내는 분포를 말한다. $pmf$는 아래와 같다. $$g(x)={}_{x-1}C_{r-1}p^{r}(1-p)^{x-r}=_{x-1}C_{r-1}p^{r}q^{x-r},\;\;\;x=r,r+1\cdots$$ 음이항분포는 $n$번의 시행(여러번의 베르누이 독립시행)에서 $n-1$번의 실패에 대한 확률을 구하는 것이다. 베르누이 시행을 독립으로 반복하는 확률실험에서 $X$를 $r$회 성공하는데 필요한 시행 횟수라 하면, 확률의 곱셈법칙에 의해 $X$의 $pmf$ $g(x)$는 $x-1$번째의 시행까지에서 정확하게 $r-1$회 성공할 확률 $${}_{x-1}C_{r-1}p^{r-1}(1-p)^{x-r}=_{x-1..

지금까지 훈련집합 $X$로부터 확률분포를 추정하는 여러가지 방법을 공부하였다. 이 절에서는 앞에서 공부한 방법에 비해 색다르게 확률 분포 추정 방법을 다룬다. 그림에서 보이듯이 혼합모델에서는 두개 이상의 서로 다른 확률 분포의 혼합으로 $X$를 모델링 한다. 가우시언 혼합(Gaussian Mixture) 가우시언이 여러개 혼합된 형태로 샘플이 주어질때 확률분포를 추정하는 방법이다. 주어진 값 $X=\{\mathscr x_1, \mathscr x_2 \cdots \mathscr x_N\}$ 추정할 값 $\Theta=\{\pi=(\pi_1,\cdots,\pi_K),(\mu_1,\Sigma_1),\cdots,(\mu_k,\Sigma_k)\}$ 즉, 샘플입력 $X$가 주어지면 몇개($k$)의 가우시언으로 샘플입..