학습목표

베타분포의 성질을 이해하고 적용할 수 있다.

핵심 키워드

• 베타분포(beta distribution)
• 라플라스의 후속 규칙(Laplace Rule of Succession)

학습하기

학습내용

베타분포

$Beta(a,b)(a>0,b>0)$ 

PDF:  f(x) = cx^{a-1}(1-x)^{b-1}, \quad (0 < x<1) \qquad c  f(x)=cx​a−1​​(1−x)​b−1​​, (0<x<1) c는 normalizing constant 

- 매우 '유연한' 확률분포이다 

예시)

이러한 성질 때문에 베타 분포는

• 모수로 자주 쓰이며
• 이항분포에 "켤레사전분포(conjugate prior)"로 쓰이며
• 다른 분포와도 잘 연결된다.

적용) Laplace Rule of Succession

 $X|P\sim Bin(n,p),P\sim Beta(a,b)$ 

 $\to$ 사후분포 $P|X$ 구하기

 f(p \mid X = k) = \displaystyle \space \frac {P(X = k \mid p)f(p)} {P(X=k)}  f(p∣X=k)= ​P(X=k)​ ​P(X=k∣p)f(p)​​ 

  = \space \displaystyle \frac{{n\choose k} p^k (1-p)^{n-k}cp^{a-1}(1-p)^{b-1}}{P(X=k)}  = ​P(X=k)​ ​(​k​n​​)p​k​​(1−p)​n−k​​cp​a−1​​(1−p)​b−1​​​​

 \propto \quad p^{a+k-1}(1-p)^{b+n-k-1}  ∝ p​a+k−1​​(1−p)​b+n−k−1​​ 

 $\Rightarrow P|X\sim Beta(a+x,b+n-x)$  

적용) Bayes' Billiards: 미적분을 쓰지 않고  \displaystyle \int ^1 _0 {n \choose k} x^k (1-x)^{n-k} dx  ∫​0​1​​(​k​n​​)x​k​​(1−x)​n−k​​dx 구하기

그 다음에 $(0,1)$에 각 공을 독립적으로 던졌다고 하자. 그러면 공들의 분포는 iid 균등분포를 따르게 된다.

→ 그런데 이는 n+1개의 흰색 공을 던진 후에 하나를 분홍색으로 칠하는 것과 마찬가지이다. 

이럴 때,  $X=$ 분홍색으로 칠해진 공 왼쪽에 있는 공의 갯수 라고 했을 때,

 P(X = k) = \displaystyle \int ^1 _0 P(X = k \mid p)f(p)dp  P(X=k)=∫​0​1​​P(X=k∣p)f(p)dp  인데, 여기서  $f(p)=1$ 이기 때문에 (균등분포)

= \displaystyle \int ^1 _0 {n \choose k} p^k (1-p)^{n-k}dp = \frac{1}{n+1}  =∫​0​1​​(​k​n​​)p​k​​(1−p)​n−k​​dp=​n+1​ ​1​​ 을 만족한다.