이산형 확률분포(Discrete Distribution)- 확률변수, 수학적 기댓값

확률 변수(Random Variable)

$\bullet$ 표본 공간 $S$를 갖는 확률 실험이 주어질때, 각 원소 $s \in S$에 대해 오직 하나의 실수 $X(s)=x$를 대응시키는 함수 $X$를 확률 변수라 한다.

즉, 어떤 사건, 사상에 수치가 부여된 함수라고 볼 수 있다.

$\bullet$ X의 공간(space)는 실수의 집합 $\{x:X(s)=x, s\in S\}$이다.

$\bullet$ 표본공간 $S$가 수가 아닐때에 S의 기술을 편리하게 해준다

$\bullet$ 표본공간 $S$의 원소가 실수일 경우 $X(s)=s$이다. 그래서 $X$는 항등함수이고 $X$의 공간은 $S$이다.

한마리의 실험용 쥐를 무작위로 무리에서 꺼내 쥐의 성을 관찰하는 확률 실험에서 표본공간은 $S=\{female,male\}=\{F,M\}$이다.

$X$를 $X(F)=0, X(M)=1$과 같이 $S$위에서 정의되는 함수라 한다.

그러면 X는 표본공간 $S$를 정의역으로, 실수집합 $\{x:x=0,1\}$을 치역으로 갖는 실수값 함수이다.

■

 

이산형 확률 변수(random variables of the discrete type)

$\circ$이산형 확률변수 $X$에 대해 확률 $P(X=x)$를 보통 $f(x)$로 표기한다.

$\circ$$f(x)$는 보통 확률 질량 함수(probability mass function ; pmf), 확률 함수(probability function), 도수함수(frequency function), 확률 밀도 함수(probability density function) 이라고도 한다.

$\circ$이산형 확류변수 X의 확률 질량 함수(pmf) f(x)는 다음의 성질을 만족하는 함수이다.

$\circ$$X$를 실수공간의 부분집합인 S를 공간으로 갖는 확률 변수라 한다. 공간 $S$가 유한(finite)이거나 양의 정수들에 1:1 대응 관계를 갖는다면, 즉 S의 원소를 셀수있다면, 확률 변수 X를 이간형 확률 변수라 하고, X는 이산형 확률 분포를 갖는다고 한다.

a) $f(x)>0, x \in S$ b) $\displaystyle \sum_{x \in S}f(x)=1$ c) $\displaystyle P(X \in A) = \sum_{x \in A}f(x)$, 여기서$A\subset S$ $S$는 $X$의 공간(space) 혹은 받침/지지(support)라고 한다.

■

 

누적 분포 함수(cumulate distribution function ; cdf)

$\bullet$$F(x)=P(X \leq x), -\infty < x < \infty$

$F(x)$를 확률변수 $X$의 누적 분포함수 혹은 분포함수(distirubution function)라고 한다.

$\bullet$ $pdf$가 불연속적이라 할지라도 $cdf$는 항상 연속이다.

 

이산형 확률분포에서

$x$가 최소 $n$일 확률은 $1-F(n-1)$과 같다.

연속형 확률 분포에서

$x$가 최소 $t$일 확률은 $1-F(t)$과 같다.

$\blacksquare$

 

 

균일 분포(uniform distribution)

pmf가 공간위에 상수라면(즉, 모든 random variable에 대해 $p(x)$가 같은 값일 경우) cdf는 공간위에서 균일(uniform) 하다.

가령 m개의 모든 r.v에 대해 $\displaystyle f(x)=\frac{1}{m}$이다.$(x=1,2,3,\cdots,m)$

x의 cdf는 다음과 같다.

$$\begin{cases}0, &x<1\\\frac{k}{m}, &k\leq x \leq k+1, k=1,2, 
\cdots,m-1 \\ 1, & m\leq x \end{cases}$$

주사위를 던져서 눈을 확인하는 실험에서 $S=\{1,2,3,4,5,6\}$ 이다.

각 $s \in S$에 대해 $X(S)=S$이다. 확률변수 X의 공간은 S와 같다.

$\displaystyle f(x)=p(X=S)=\frac{1}{6}$이다. ($x=1,2,3,4,5,6$)

$f(x)$는 모든 확률 변수에 대해 균일하다.

사면체 주사위 2개를 던저 큰 숫자를 취하는 실험의 경우 $S=\{1 1, 1 2, 1 3, 1 4, 2 1, \cdots , 4 3, 4 4\}$  

각 $s \in S$에 대해 $X(S)$는 2개의 수중에 큰 값이다.  

예를들어 $X(1,3)=3$이다. 그러므로 $X=\{1,2,3,4\}$이다.  

$\displaystyle 

\begin{align*}   
1 \rightarrow &11(1)\\   
2 \rightarrow &12,21,22(3)\\   
3 \rightarrow &13,23,31,32,33(5)\\   
4 \rightarrow &14,24,34,41,42,43,44(7)   
\end{align*}$  

$X$의 pmf는 $\displaystyle f(x)=P(X=x)=\frac{2x-1}{16},\; x=1,2,3,4$ 임을 추론 가능하다.  

$\displaystyle F(x)=P(X \leq x)= \frac{x^2}{16}$ 

$\blacksquare$

 

초기하분포(hypergeometric distribution)

$\circ$ 공간$S$는 음이 아닌 정수 $X$들의 집합이며 $x$는 $x \leq n, n \leq N_1, n-x \leq N_2$를 만족한다.

이때 확률변수 $X$는 $N_1$중에서 뽑는 갯수를 말하며 이를 초기하분포라 한다.

$\circ$비복원 추출에서 $N$개 중에 $k$가 원하는 것이고 $n$번 추출 했을때 원하는것이 k개가 뽑히는 확률의 분포

 

가령 N개의 칩이 든 주머니에서 $N_1$개는 빨간칩이고 $N_2$개는 파란칩일때 n개의 칩을 비복원 추출시에 x개의 빨간칩이 뽑힐 확률은 아래와 같이 계산한다.

전사건 : ${}_N C_n$

목표사건: ${}_{N_1} C_x \cdot {}_{N_2} C_{n-x}$

$\displaystyle f(x)=P(X=x)= \frac{{}_{N_1} C_x \cdot {}_{N_2} C_{n-x}}{{}_N C_n}$

 

운동가방에 144개의 탁구공이 있으며 주황색, 푸른색의 2가지 색상이 있다.

비복원추출로 랜덤하게 2개의 공을 선택할때, 2개의 공이 모두 같은 색일 확률은 2개의 공이 서로 다른 색일 확률과 같다.

가방속에 들어 있는 주황색 공의 갯수는 얼마인가.

 

$\blacksquare$

 

상대도수 히스토그램(relative frequency histogram)

확률실험이 n회 독립적으로 반복된다 하고 $A = \{X=x\}$라 놓는다. 그러면 상대도수 $\displaystyle \frac {\mathcal N(A)}{n}$가 $f(x)$에 근사할것을 기대한다.

 

눈의 수가 1,2,3,4인 정 사면체 주사위를 두번던저 나오는 눈의 합을 확률 변수 $X$로 다루는 확률실험에서 각 랜덤 변수의 확률은

$\begin{align*}   
2 \rightarrow &11\;(1)\\   
3 \rightarrow &12,21\;(2)\\   
4 \rightarrow &13,22,31\;(3)\\   
5 \rightarrow &14,23,32,41\;(4)\\
6 \rightarrow &15,24,33,42,51\;(5)\\
7 \rightarrow &16,25,34,43,52,61\;(6)\\
8 \rightarrow &26,35,44,53,62\;(5)\\
\end{align*}$

와 같으며 X의 pmf는 아래와 같이 추론 가능하다.

$\displaystyle f(x)=\frac{4-|x-5|}{16},\;x=2,3,4,5,6,7,8$

이제 실험을 1000번 행한 결과와 연산을 통해 얻은 결과를 표로 확인하자.

Number of Observations of $x$ : $x$의 관측도수

Relative Frequency of $x$ : $x$의 상대도수 $h(x) \rightarrow 관측 결과 확보$

Probability of ${X=x},f(x)$ : ${X=x}$의 확률 $f(x) \rightarrow 연산 결과 확보$

 

이제 상대도수와 상응하는 확률의 차이를 확인해보면

점으로 표시된 확률히스토그램과 음영으로 표시된 상대도수 히스토그램 간에 큰차이가 없음을 확인 가능하다.

$\blacksquare$

 

수학적 기댓값(mathematical expectation)

$\circ$공간 $S$를 갖는 이산형 확률변수 $X$의 $pmf$가 $f(x)$이고 총합 

$\displaystyle \sum_{x \in S}u(x)f(x)$ (혹은 $\displaystyle \sum_{S}u(x)f(x)$ 으로 표기함) 

가 존재하면, 그 합을 $u(x)$의 수학적 기댓값 또는 기댓값(expected value)이라 하고  $E[u(x)]$로 표기한다. 즉. 

$$E[u(x)]= \sum_{x \in S}u(x)f(x)$$

 

$\circ$ 기댓값 $E[u(x)]$는 $f(x)=P(X=x), x \in S$ 을 가중치로 갖는 $u(x), x \in S$ 의 가중평균(weighted average)으로 생각 할 수 있다.

 

$\circ$ $E[u(x)]$ 의 일반적인 정의는 총합이 절대적으로 수렴(absolutely convergence)함을 요구한다. 즉,

$\displaystyle \sum_{x \in S} |u(x)|f(x)$

가 수렴하고 유한해야 $E[u(x)]$ 가 존재한다.



$\circ$ 수학적 기댓값 E가 존재할 경우 다음의 성질들을 만족시킨다.

(a) $c$가 상수이면 $E(c)=c$

(b) $c$가 상수이고 $u$가 함수이면

$\displaystyle E[cu(x)]=cE[u(x)]$

(c) $c_1$과 $c_2$가 상수이고, $u_1$ 과 $u_2$가 함수이면

$\displaystyle E[c_1u_1(x)+c_2u_2(x)]=c_1E[u_1(x)]+c_2E[u_2(x)]$

(d) $\displaystyle E\left[\sum_{i=1}^kc_iu_i(x)\right]=\sum_{i=1}^kc_iE[u_i(x)]$

 

정육면체 주사위를 던져 1~3이 나오면 상금으로 1점을, 4혹은 5의 눈이 나오면 2점을, 6이 나오면 3점을 받는다.

확률변수 X를 게임 진행시 받을 점수라 하면 X의 pmf는

$\displaystyle f(x) = \frac{4-x}{6}, x=1,2,3$

이다. 

게임진행시 받게될 평균 점수는 아래와 같을것이다.

$\displaystyle \left(\frac{3}{6}\right)+\left(2\right)\left(\frac{2}{6}\right)+\left(3\right)\left(\frac{1}{6}\right)=\frac{5}{3}$

확률공간 $X$도 함수로 표현 가능하다.

가령 $Y=u(X)$라 놓자. $Y$도 확률변수 이므로 pmf를 가질수있다.

예를들어 $f(x)= \frac{4-x}{6}$ 일때 $Y=X^2$의 pmf는 $g(y)=\frac{4-\sqrt y}{6},\; y=1,4,9$ 이다.

$X$와 $Y$의 평균을 각각 구해보겠다.

우선 $X$의 평균은

$\begin{matrix}
x=1 & & f(1)=\dfrac{1}{2}\\
x=2& \rightarrow &f(2)=\dfrac{1}{3}\\
x=3 & & f(3)=\dfrac{1}{6}\end{matrix}$

$\displaystyle \begin{align*}
\sum_{x\in S_x}x^2f(x)&=1^2\cdot\frac{1}{2}+2^2\cdot\frac{1}{3}+3^2\cdot\frac{1}{6}\\
&=\frac{10}{3}
\end{align*}$

 

그리고 $Y$의 평균은

$\begin{matrix}
x=1 & & f(1)=\dfrac{1}{2}\\
x=4& \rightarrow &f(2)=\dfrac{1}{3}\\
x=9 & & f(3)=\dfrac{1}{6}\end{matrix}$

$\displaystyle \begin{align*}
\sum_{x\in S_x}x^2f(x)&=1\cdot\frac{1}{2}+4\cdot\frac{1}{3}+9\cdot\frac{1}{6}\\
&=\frac{10}{3}
\end{align*}$

그러므로 아래 등식이 성립함을 알 수 있다.
$\displaystyle \mu_Y=\sum_{y\in S_Y}yg(y)=\sum_{x \in S_X}x^2f(x)=\frac{10}{3}$

이다.

즉, 아래의 공식이 성립한다.

$$\sum_{y\in S_Y}yg(y)=\sum_{x \in S_X}x^2f(x)$$

 

즉, 확률변수$X$의 집합과 $X$의 확률 $p(x)$이 주어젔을때 또다른 확률변수 $Y$와 $X$사이의 관계식이 주어진다면 $Y$의 평균을 구할 수 있다.

확률변수 X는 pmf $\displaystyle f(x)=\frac{1}{3}, x \in S_x ={-1,0,1}$을 갖는다. 이제 $u(X)=X^2$이라 놓자. 그러면

한편, 확률변수 $Y=X^2$의 pmf 공간은 $S_Y={0,1}$이고

$\displaystyle P(Y=0)=P(X=0)=\frac{1}{3}$,

$\displaystyle P(Y=1)=P(X=-1)+P(X=1)=\frac{1}{3} + \frac{1}{3}=\frac{2}{3}$

즉,

$$g(y)=\begin{cases} \frac{1}{3} & y = 0\\\frac{2}{3} & y=1\end{cases}$$

확률변수 $X$의 pmf가 $\displaystyle f(x)=\frac{x}{10}, x={1,2,3,4}$ 으로 주어진다면 $X(5-X)$의 평균을 구하라

$\displaystyle u(x)=(x-b)^2$이라 놓자. 여기서 b는 X의 함수가 아니라 $\displaystyle E[(X-b)^2]$가 존재한다 가정한다. 이때 $\displaystyle E[(X-b)^2]$ 를 최소로 하는 b의 값은 무엇인가?

주머니에 N개의 공이 있으며 그중 $N_1$개는 빨간공 $N_2$개는 파란공이다. 여기서 n개의 공을 추출하는 초기하 분포를 갖는다 하면 빨간공이 뽑히는 평균 갯수를 구하라

성공확률이 $P(0<p<1)$이고 실패의 확률이 $1-p=q$인 확률 실험에서 첫 성공이 발생할때까지 실험이 독립적으로 반복된다. 확률변수 X가 첫성공이 발생할때 까지의 시행횟수 이면 X의 공간은 $S_x{1,2,3,4...}$이다.

X의 pmf $P(X=x), x \in S_x$는 얼마일까?