codingfarm

$\circ$ 파젠창은 고정된 크기의 창의 중심 $\mathscr x$를 어디에 두느냐에 따라 창안의 샘플수가 달라진다. $\circ$ k-최근접 이웃법은 $\mathscr x$를 중심으로 샘플이 k개 들어올때 까지 창의 크기를 확장해나간다. $k$개가 들어온순간 창의 크기를 $h$라 한다. 파젠창 k-최근접 이웃추정 $h$고정, $k$가 $\mathscr x$에 따라 변화 $k$ 고정, $h$가 $\mathscr x$에 따라 변화 큰 $h$값을 가지는 $\mathscr x$ 주위에는 샘플이 희소하게 분포함을 뜻하므로 확률이 낮아야 하고 작은 $h$값을 가지는 $\mathscr x$ 주위에는 샘플이 빽빽하게 분포함을 뜻하므로 확률이 높아진다. 이 원리를 바탕으로 아래식을 활용하여 확률 분포의 추정이 가능..

$\circ$ 최대 우도 추정법에서 나온 ML과 MAP는 모수적(parametric) 방법이다. $\circ$ 모수적 방법은 매개변수 $\Theta$ (모수)로 표현할 수 있는 특정한 종류의 확률분포에만 사용가능하다는 한계를 지녔다. 현실에서는 특정한 확률 분포를 안따르는 경우가 매우 많음. $\circ$ 이 절에서는 확률 분포 추정을 위한 비모수적방법(nonparametric)으로 파젠창과 최근접이웃을 소개한다. $\circ$ k-NN 분리기는 확률분포 추정을 위한 방법이 아니라 분류를 위한 방법이다. 하지만 동작 원리 측면에서는 최근접 이웃과 유사하다. 파젠 창(Parzen window) $\circ$ 임의의 확률 분포에 적용 가능하다. 그림 3.6 (a)에서 임의의 점 $x$에서 확률값을 추정하고 ..

범위를 만들어 구간별로 그 안의 샘플 수를 셀 수 있도록 하는것이다. 하나의 구간은 빈(bin)이라 부른다. 히스토그램을 확률분포로 쓰기 위해서는 각 빈의 값을 $N$으로 나누어 정규화(normalized)해주면 된다. 표현과 연산이 단순하면서 직관적이지만 상황에 따라 그 쓰임새가 제한적이다. 이 방법은 유한한 개수의 구간에 대해 확률을 구하므로 이산확률 분포를 만들어 준다. 최대 우도 추정은 연속 확률 분포, 즉 확률 밀도 함수(pdf)를 추정하는 방법이다. 히스토그램 추정의 한계 -현실적으로 쓰기 위해서는 확률분포가 정의되는 공간의 차원이 낮고 $X$의 크기가 충분히 커야 한다. -특징 벡터가 $d$ 차원이라하고 각 차원을 $s$개의 구간으로 나눈다면 총 $s^d$개의 밴이 생긴다. 따라서 빈의 개수..

해당 블로그글들을 많이 참고하였다. https://medium.com/mighty-data-science-bootcamp/%EC%B5%9C%EB%8C%80-%EC%9A%B0%EB%8F%84-%EC%B6%94%EC%A0%95-maximum-likelihood-estimation-mle-5c3a80d6b25a https://ratsgo.github.io/statistics/2017/09/23/MLE/ 최대 우도 추정(ML estimation) ML 방법 샘플집합 $X$가 주어질때 $X$를 발생시켰을 확률이 가장 높은 $\Theta$를 찾기 위해 $L(\Theta|X)$를 최대로 하는 $\Theta$를 찾는 방법이다. 베이즈 원리에 의해 $L(\Theta|X)$는 $P(X|\Theta)$에 비례하므로 $$\h..

2장 내용 정리 $\circ$ 관찰된 샘플에서 특징벡터 $X$를 추출한다. $\circ $ $X$는 제일 그럴듯한 부류로 분류되어야 하며, 분류기준은 사후확률 $P(w_i|X)$(posterior probability)로 정의한다. 즉, 사후확률이 제일 큰 부류로 인식하면 된다. $\displaystyle \underset{i}{argmax}\;P(w_i|X)$ $\circ$ 하지만 $P(w_i|X)$는 추정이 거의 불가능하다. 따라서 베이스정리를 이용해 사후확률을 사전확률(prior probability) $p(W_i)$와 우도(likehood) $P(X|w_i)$의 곱으로 대치해서 계산한다. $\circ$ 2장에서 사전학률과 우도를 미리 알고있다 가정하고 베이시언 분류기를 만들었으나, 3장에서는 이득..

애니메이션 관리를 효율적으로 하기위한 사실상 기초적인 뷰 셋팅 i키를 눌러 insert keyframe menu를 연다. properties 창의 scene 카테고리에서 애니메이션의 프레임을 조절 할 수 있다.

https://www.statisticshowto.com/tables/binomial-distribution-table/#100

어떤 사건들이 베르누이 시행으로 $n$번 발생되며 성공확률이 $p$일 경우 확률 변수 $x$를 성공 횟수로 두면 $x$는 이항분포를 따르며 아래의 개념들이 성립한다. $$f(x)={}_n C_x p^x(1-p)^{n-x}$$ $$\mu = np$$ $$\sigma^2 = npq$$ 베르누이 실험(bernoulli experiment) $\circ \;$ 실험의 결과가 상호배타적이고 전체를 포괄하는 두 결과중 하나로 나타내는 확률실험 ex) 하나의 동전을 던져 앞면과 뒷면을 관찰하는 실험, 남$\cdot$여로 구별되는 신생아의 성별, 양$\cdot$부량 으로 판정되는 품질검사 $\circ \;$성공확률을 $p$, 실패확률을 $q$로 두면 $q=1-p$이고 베르누이 실험이 시행때마다 성공의 확률 $p$가 같..

$A$가 $n \times n$ 행렬일때, $A$의 역행렬은 $AA'=I, A'A=I$ 를 만족하는 $n \times n$행렬 $A'$ $I=I_n$은 $n \times n$ 단위행렬이다. $A$의 역행렬 $A'$가 존재하면, $A$를 가역(invertible)이라고 한다. $A$가 가역행렬이면 $A$의 역행렬은 유일하다. 증명 $A$가 서로 다른 두개의 역행렬 $A'$과 $A''$를 갖는다 가정한다. $AA'=I=A'A, AA''=I=A''A$ $A'=A'I=A'(AA'')=(A'A)A''=IA''=A''$ $A'=A''$ 이므로 두행렬이 서로 다르다는 가정에 위배된다. 그러므로 $A$의 역행렬이 존재하면 유일하다. $\blacksquare$ 경고 $A^{-1}$은 $\displaystyle \frac..

덧셈의 스칼라 성질 행렬의 덧셈과 스칼라배의 대수적 성질에 대해 알아보자 $A$와 $B$, $C$를 같은 크기의 행렬이라 하고, $c$와 $d$를 스칼라 라고 하면 $$\begin{align*} &1) A+B=B+A &교환법칙\\ &2)(A+B)+C=A+(B+C)&결합법칙\\ &3)A+O=A\\ &4)A+(-A)=O\\ &5)c(A+B)=cA+cB&분배법칙\\ &6)(c+d)A=cA+dA&분배법칙\\ &7)c(dA)=(cd)A\\ &8)1A=A \end{align*}$$ 행렬의 일차결합(linear combination) $A_1,A_2,\cdots A_k$가 크기가 같은 행렬이고 $c_1,c_2,\cdots,c_k$가 스칼라이면 $c_1A_1+c_2A_2+\cdots+c_kA_k$ 를 일차결합이라 하고..

시스템이란 들어온 입력신호를 가공하여 새로운 출력으로 내는것이다. 연속 시간 시스템(continuous time system) $x(t) \rightarrow y(t)$ 이산 시간 시스템(discrete time system) $x[n] \rightarrow y[n]$ 시스템의 상호 연결 시스템의 예

이산시간단위 임펄스 및 단위계단 순차열 단위 임펄스(unit impulse) : $\displaystyle \delta[n]=\begin{cases}0 & n \neq 0\\1 & n = 0\end{cases}$ 단위 계단(unit step) : $\displaystyle u[n]=\begin{cases}0 &,n0$ 이어야 한다. $\sum_{k=0}^{\infty} \delta[n-k]$ : 구간은 정해저 있으며 impuse 신호의 위치가 가변적이다. 그러므로 합이 $1$이 되기 위해선 $0 \sim \infty$에 $\delta[0]$이 들어와야 하므로 $n=k$가 만족되어야 한다. 이를 위해 $n \geq 0$이어야 한다. $\displaystyle \delta[n-k]=\begin{cases}0..

-우리는 연속시간 신호(continuous time signal; cts)와 이산시간 신호(discrete time signal; dts) 라는 기본적인 두가지 형태의 신호를 고려할것이다. -cts의 경우 독립변수가 연속적이기 때문에 이 신호는 연속적인 독립변수 값으로 정의된다. -dts의 경우 이산시간에서만 정의되고 독립변수는 오직 이산적인 값만을 갖는다. 연속 시간 신호 : $x(t)$ 이산 시간 신호 : $x[n]$ 독립변수(t)가 연속적이다 ($t \in \mathbb R$) 독립변수(n)가 이산적이다.($n \in \mathbb Z$) 신호 에너지와 파워 연속시간(continuous time) - 연속시간 $t_1 \leq t \leq t_2$ 구간에 대한 총 에너지 $\displaystyle ..

OpenGL Super Bible 책의 모든 예제에 쓰이는 간단한 애플리케이션 프레임워크를 살펴본다. 책의 애플리케이션 프레임워크를 통해 어떻게 메인 윈도우를 만드는지 살펴보고 간단한 그래픽스 렌더링을 해본다. 간단한 GLSL 쉐이더가 어떻게 생겼는지, 쉐이더를 사용하여 단순한 점들을 어떻게 렌더링 하는지 살펴본다. 기본 프레임 워크 $\circ$ sb6.h는 sb6라는 네임스페이스를 정의하며, 안에는 애플리케이션 클래스인 sb6::application 에 대한 선언이 들어있다. $\circ$ 위 예제에서는 이 애플리케이션 클래스를 상속받은 클래스를 사용한다. sb6::application를 활용하여 애플리케이션을 작성하기 위해선 1. ab6.h 헤더파일을 인클루드 한다. 2. sb6::applicati..

아래 링크의 글을 굉장히 많이 참고했다 https://webnautes.tistory.com/1102

배울 내용 $\circ$ 그래픽스 파이프 라인이 무엇인가? OpenGL과 무슨 관계인가? $\circ$ OpenGL의 역사와 현재 상태 $\circ$ 이책에서 다룰 내용의 기본 개념 OpenGL은 애플리케이션이 그 하부에서 동작하는 장치의 그래픽스 서브시스템에 접근하고 제어하기 위해 사용하는 인터페이스(API)이다. 즉, OpenGL은 API이다. 서브시스템에 대한 표준화된 인터페이스(API)에서 오는 장점 -이식성을 증대하여 하이엔드 그래픽스 워크스테이션에서부터 일반 데스크톱 컴퓨터, 콘솔게임기, 모바일폰 등에 대한 이식성을 증대 시킬수 있고, 소프트웨어 개발자들의 생산성을 증대 시킬 수 있다. OpenGL과 그래픽스 파이프 라인 $\circ$ OpenGL의 목표 : 애플리케이션과 하부의 그래픽스 서브..

$\circ$확률변수 $X$가 공간 $\displaystyle S=\{u_1,u_2,\cdots,u_t\}$ 에서 $pmf$ $f(x)$를 갖고, 각각의 확률이 $P(X=u_i)=f(u_i)>0$ 이고 $\displaystyle \sum_{x \in S}f(x)=1$ 일때 확률변수 $X$의 평균(mean)은 아래와 같다. $$\mu=\sum_{x \in S}xf(x)=u_1f(u_1)+u_2f(u_2)+\cdots u_kf(u_k)$$ 적률(moment) 확률변수 $X$의 $pmf$가 $f(x)$일 때 $a$에 관한 시스템의 $n$차 적률은 아래와 같다. $$\sum_{x\in S}(x-a)^nf(x)$$ $X$의 평균은 원점에 대한 1차적률이다. $$\sum_{x\in S}xf(x)$$ 평균에 관한 2..

확률 변수(Random Variable) $\bullet$ 표본 공간 $S$를 갖는 확률 실험이 주어질때, 각 원소 $s \in S$에 대해 오직 하나의 실수 $X(s)=x$를 대응시키는 함수 $X$를 확률 변수라 한다. 즉, 어떤 사건, 사상에 수치가 부여된 함수라고 볼 수 있다. $\bullet$ X의 공간(space)는 실수의 집합 $\{x:X(s)=x, s\in S\}$이다. $\bullet$ 표본공간 $S$가 수가 아닐때에 S의 기술을 편리하게 해준다 $\bullet$ 표본공간 $S$의 원소가 실수일 경우 $X(s)=s$이다. 그래서 $X$는 항등함수이고 $X$의 공간은 $S$이다. 한마리의 실험용 쥐를 무작위로 무리에서 꺼내 쥐의 성을 관찰하는 확률 실험에서 표본공간은 $S=\{female,m..

미지수의 최고차항이 1을 넘지 않는 다항방정식이다. $\mathbb R^2$에서 직선의 일차방정식은 $ax+by=c, \mathbb R^3$에서 평면의 이차 방정식은 $ax+by+cz=d$ 이다. $n$개의 미지수 $x_1, x_2,\cdots,x_n$에 대해 일차 방정식(linear equation) : $a_1x_1+a_2x_2+\cdots+a_nx_n=b$ 계수 : $a_1, a_2,\cdots,a_n$ 상수항 : $b$ 일차방정식의 예 $\displaystyle 3x-4y=-1\\ r-\frac{1}{2}s-\frac{15}{3}t=9 \\ x_1-5x_2=3-x_3+2x_4 \\ \sqrt2x+\frac{\pi}{4}y-(\sin\frac{\pi}{5})z = 1 \\ 3.2x_1 - 0.01x..

$\mathbb R^2$에 있는 직선과 $\mathbb R^3$에 있는 직선, 평면에 대해 일반화 할 수 있다. ex) 방정식이 $2x+y = 5$ 직선 $l$이 있다. 그래프로 표현하면 아래와 같다. $l:2x+y=5$ $\overrightarrow n \left(\overrightarrow x - \overrightarrow p \right)=0, \overrightarrow n=\begin{bmatrix} 2\\ 1 \end{bmatrix}, \overrightarrow x = \begin{bmatrix} x \\ y \end{bmatrix}, \overrightarrow p = \begin{bmatrix} 1 \\ 3 \end{bmatrix}$ $\overrightarrow p$는 직선위의 임의의..