사전분포, 가능도, 사후분포¶

베이즈 정리는 다음과 같다:

• 사전분포 \(\pi(\theta)\): 자료를 보기 전 \(\theta\)의 분포로 사전 믿음을 담는다.
• 가능도 \(L(\mathbf{x} \mid \theta)\): \(\theta\)가 주어졌을 때 관측된 자료의 확률이다.
• 주변가능도 \(m(\mathbf{x}) = \int L(\mathbf{x} \mid \theta)\pi(\theta)\,d\theta\): 사후분포의 적분이 1이 되게 하는 정규화 상수이다.
• 사후분포 \(\pi(\theta \mid \mathbf{x})\): 자료를 관측한 뒤의 갱신된 \(\theta\)의 분포이다.

사전분포는 \(p \in (0, 1)\)에서 \(\pi(p) = 1\)이다(\(\text{Beta}(1, 1)\)과 같다). 앞면 한 번에 대한 가능도는 \(L(H \mid p) = p\)이다.

베이즈 정리에 의해:

이는 \(\text{Beta}(2, 1)\)의 밀도이다. 사후평균은 \(E[p \mid H] = 2/3\)으로 사전평균 \(1/2\)에서 위로 이동했으며, 앞면을 관측했다는 증거를 반영한다.

MAP(최대사후확률) 추정값은 사후분포를 최대화한다:

MLE는 가능도만 최대화한다: \(\hat{\theta}_{\text{MLE}} = \arg\max_\theta L(\mathbf{x} \mid \theta)\).

사전분포가 평평하면(균등/무정보), 즉 \(\pi(\theta) \propto c\)(상수)이면 \(\log \pi(\theta)\)가 최적화에 영향을 주지 않는 상수가 되므로 MAP가 MLE와 같아진다. 또한 \(n \to \infty\)일 때 큰 표본에서는 가능도가 사전분포를 압도하므로 MAP가 MLE에 가까워진다.

이산 \(\theta\)에 대한 베이즈 정리에 의해:

먼저 주변확률을 계산한다:

그러면:

\(X = 1\)이 \(\theta = 1\) 아래에서 훨씬 더 그럴듯하므로, 이 관측이 사후분포를 \(\theta = 1\) 쪽으로(사전 0.3에서 사후 0.659로) 이동시켰다.

역할 1 — 정규화 상수. 사후분포를 확률분포로 만든다.

점추정이나 MCMC에는 이 값이 필요 없다. \(\theta\)에 무관하기 때문이다. 그래서 "비례한다"로 끝내는 경우가 많다.

역할 2 — 모형 비교. 두 모형의 주변가능도 비가 베이즈 인수다.

여기서는 \(m(x)\)가 주인공이다. 모형이 자료에 얼마나 잘 맞는지를 모수 불확실성까지 고려해 요약한 값이다.

역할 3 — 사전 예측분포. \(m(x)\)는 자료를 보기 전 자료에 대한 예측분포다. 사전분포에서 모수를 뽑고 그 모수로 자료를 생성했을 때 실제 관측값이 나올 가능성이다. 사전분포가 합리적인지 점검하는 데 쓴다. 관측된 자료의 \(m(x)\)가 극도로 작으면 사전분포가 자료와 어긋난다는 뜻이다.

계산이 어려운 이유.

• 고차원 적분이다. 모수가 \(d\)개면 \(d\)차원 적분이며, 격자법은 \(d\ge5\)쯤에서 무너진다.
• MCMC가 직접 주지 않는다. MCMC는 사후분포에서 표집하지만 정규화 상수를 알려 주지 않는다. 바로 그 상수를 몰라도 되도록 설계된 알고리즘이기 때문이다.
• 꼬리에 민감하다. 적분값이 사후분포가 아니라 사전분포의 넓은 영역에 의존하므로, 사후분포를 잘 탐색해도 \(m(x)\)를 정확히 얻기 어렵다.

계산 방법. 라플라스 근사(BIC가 그 거친 판본), 중요도추출, 다리표집(bridge sampling), 열 적분(thermodynamic integration), 중첩표집(nested sampling)이 쓰인다. 어느 것도 간단하지 않으며, 베이즈 인수를 보고할 때는 계산 방법과 그 오차를 함께 밝혀야 한다.

조건. 사후분포가 정상이려면

이면 된다. 사전분포 자체가 적분 가능할 필요는 없고, 가능도와의 곱이 적분 가능하면 충분하다.

정상이 되는 예. \(X_i\sim N(\mu,\sigma^2)\)(\(\sigma\) 기지)에 \(\pi(\mu)\propto1\)을 쓰면

이므로 사후분포가 \(N(\bar x,\sigma^2/n)\)으로 정상이다. 가능도 자체가 \(\mu\)에 대해 적분 가능하기 때문이다.

정상이 되지 않는 예 1. 이항 모형에 홀데인 사전분포 \(\pi(p)\propto p^{-1}(1-p)^{-1}\)(\(\text{Beta}(0,0)\))을 쓰고 \(k=0\)을 관측하면

로 발산한다. \(k=0\)이나 \(k=n\)이면 사후분포가 비정상이다.

정상이 되지 않는 예 2. 계층모형의 집단 간 분산 \(\tau^2\)에 \(\pi(\tau^2)\propto1/\tau^2\)을 쓰면, 집단 수가 적을 때 \(\tau\to0\) 근처에서 사후분포가 발산하는 경우가 있다. 이 때문에 젤먼은 \(\tau\)에 반코시(half-Cauchy) 사전분포를 권한다.

위험.

• 조용히 실패한다. MCMC는 비정상 사후분포에서도 돌아가며, 겉보기에 정상적인 표본을 내놓는다. 추적 그림이 서서히 흘러가거나 \(\hat R\)이 1에서 멀어지는 것이 유일한 단서인데, 알아채기 어렵다.
• 베이즈 인수를 쓸 수 없다. 비정상 사전분포는 상수가 임의적이라 주변가능도가 정의되지 않는다.

권고. 비정상 사전분포를 쓰려면 사후분포의 정상성을 해석적으로 확인해야 한다. 확인이 어렵거나 모형이 복잡하면, 아주 퍼진 정상 사전분포(예: \(N(0, 100^2)\), 반코시)를 쓰는 편이 안전하다.

증명. 자료를 \(x_1\)과 \(x_2\)로 나누고 조건부 독립이라 하자.

한꺼번에:

순차적으로: 먼저 \(x_1\)로 갱신하면 \(\pi(\theta\mid x_1)\propto f(x_1\mid\theta)\pi(\theta)\)이고, 이를 사전분포로 삼아 \(x_2\)로 갱신하면

같다. \(\square\)

순서에도 의존하지 않는다. \(x_2\)를 먼저 써도 결과가 같다.

쓰임.

• 온라인 학습. 자료가 흘러 들어올 때마다 사후분포를 갱신하면 되고, 과거 자료를 저장할 필요가 없다. 켤레 구조라면 몇 개의 수만 유지하면 된다.
• 칼만 필터. 정규-정규 켤레의 순차 갱신이 곧 칼만 필터의 갱신식이다. 예측 단계와 갱신 단계로 이루어진 구조가 베이즈 규칙의 반복 적용이다.
• 적응적 실험 설계. 중간 결과로 사후분포를 갱신하고 다음 실험을 설계한다. 다중 슬롯머신 문제의 톰슨 표집이 그 예다.
• 메타분석. 연구 하나씩 순차적으로 결합해도 한꺼번에 결합한 것과 같다.

주의. 조건부 독립이 전제다. 자료에 의존구조가 있으면 \(f(x_1,x_2\mid\theta)\ne f(x_1\mid\theta)f(x_2\mid\theta)\)이므로 순차 갱신이 틀린다. 시계열이나 군집자료에서는 의존구조를 모형에 넣어야 한다.

빈도주의와의 대비. 빈도주의에서는 "중간에 들여다보는 것"이 오류율을 망가뜨리지만, 베이즈에서는 사후분포가 언제 멈추든 같은 값이다. 앞서 본 가능도 원리와 옵셔널 스토핑의 논의가 여기에 닿는다.

진단 방법.

1. 사전 예측 점검. 사전분포에서 모수를 뽑아 가상 자료를 생성하고, 실제 관측값이 그 분포의 어디에 있는지 본다. 관측값이 사전 예측분포의 극단 꼬리에 있으면 충돌이다.

$$ p_{\text{prior}} = P\left(T(\tilde X) \ge T(x_{\text{obs}})\right), \qquad \tilde X \sim m(\cdot) $$

1. 사전분포와 사후분포를 겹쳐 그린다. 사후분포가 사전분포의 꼬리로 옮겨 갔으면 자료가 사전분포를 강하게 반박한 것이다.

2. 사전분포를 뺀 결과와 비교한다. 무정보 사전분포로 얻은 사후분포(사실상 가능도)와 원래 사후분포가 크게 다르면, 사전분포가 결론을 만들고 있다.

왜 문제인가. 켤레 사전분포처럼 꼬리가 얇으면 충돌이 조용히 타협된다. 정규-정규 켤레에서 사후평균이 언제나 사전평균과 표본평균의 가중평균이므로, 둘이 아무리 멀어도 그 중간 어딘가가 나온다. 어느 쪽도 지지하지 않는 값이다.

대처.

• 꼬리가 두꺼운 사전분포. \(t\) 분포나 코시 사전분포를 쓰면 자료가 강하게 말할 때 사전분포가 물러난다. \(|\bar x-\mu_0|\)이 크면 사후분포가 사전분포를 거의 무시하고 자료 쪽으로 간다. 이를 사전분포의 강건성이라 하며, 오헤이건의 결과가 이 거동을 정확히 특징짓는다.
• 혼합 사전분포. 앞서 본 대로 정보적 성분과 평평한 성분을 섞어 두면 자동으로 전환된다.
• 사전분포를 재검토한다. 충돌이 사전분포가 틀렸다는 신호일 수 있다. 전문가에게 다시 묻거나 과거 자료의 적합성을 재검토한다.
• 모형을 재검토한다. 충돌이 사전분포가 아니라 가능도의 문제일 수도 있다. 모형이 자료를 제대로 담지 못하면 모수가 엉뚱한 곳으로 밀린다.

보고할 때. 충돌이 있었다면 그 사실과 대처를 밝힌다. 사전분포를 자료 본 뒤에 바꾸는 것은 원리적으로 문제가 있으므로, 바꿨다면 반드시 그 사실을 적고 원래 사전분포의 결과도 함께 보인다.

절차.

1. 사후분포에서 모수를 뽑는다. \(\theta^{(s)}\sim\pi(\theta\mid x)\), \(s=1,\dots,S\).
2. 각 \(\theta^{(s)}\)로 자료를 생성한다. \(x^{\text{rep},(s)}\sim f(\cdot\mid\theta^{(s)})\).
3. 관심 있는 요약통계량 \(T\)를 관측자료와 생성자료 모두에서 계산한다.
4. 그림으로 비교하거나 사후 예측 \(p\)-값을 계산한다.

$$ p_B = \frac1S\sum_s \mathbb{1}\left{T(x^{\text{rep},(s)}) \ge T(x)\right} $$

\(p_B\)가 0이나 1에 가까우면 모형이 자료의 그 측면을 재현하지 못한다는 뜻이다.

\(T\)를 무엇으로 고르는가. 모형이 잡아내지 못할 법한 측면을 겨냥한다. 최댓값·최솟값, 0의 개수, 분산 대 평균 비, 자기상관, 특정 분위수 등. 모형이 직접 맞춘 양(예: 평균)을 쓰면 당연히 잘 맞으므로 정보가 없다.

빈도주의 적합도 검정과의 차이.

핵심 차이. 사후 예측 \(p\)-값은 자료를 두 번 쓴다. 같은 자료로 사후분포를 얻고 그 사후분포로 자료를 평가하므로 보수적이 되며, 귀무가설 아래에서도 균등분포를 따르지 않는다. 따라서 0.05 같은 문턱으로 판정하면 안 된다.

그래도 유용한 이유는 목적이 다르기 때문이다. 사후 예측 점검은 "모형을 기각할 것인가"가 아니라 "모형이 자료의 어떤 측면을 놓치고 있는가"를 묻는 진단 도구다. 그림으로 보는 것이 \(p\)-값보다 훨씬 유익하며, 놓친 부분을 발견하면 모형을 개선하는 것이 자연스러운 다음 단계다.

정의. 자료 \(x\)를 본 뒤의 정보 이득을

로 정의한다. 사후분포가 사전분포에서 얼마나 멀어졌는지를 잰다.

기대 정보 이득. 자료를 보기 전에 평균하면

로 모수와 자료의 상호정보량이 된다.

해석.

• 0이면 자료가 아무 정보도 주지 않았다는 뜻이다. 사후분포 = 사전분포.
• 클수록 자료가 많은 것을 말해 주었다. 단위는 내트(자연로그) 또는 비트(\(\log_2\))다.
• 정규-정규 켤레에서 계산하면

$$ \text{EIG} = \frac12\ln\left(1+\frac{n\tau^2}{\sigma^2}\right) $$

로, \(n\)에 대해 로그로만 증가한다. 자료를 두 배로 늘려도 정보가 두 배가 되지 않는다. 수확 체감이 정보 이론적으로도 나타난다.

쓰임.

1. 베이즈 최적 실험 설계. 여러 설계 중 EIG가 가장 큰 것을 고른다. 어느 실험이 가장 많이 배울 수 있는지를 묻는 원리적인 기준이며, 앞서 본 \(D\)-최적 설계가 정규 근사 아래에서의 특수한 경우다.
2. 능동 학습. 다음에 어느 관측값의 표지를 얻을지 고를 때 EIG가 큰 것을 고른다.
3. 사전분포의 영향 진단. \(\text{KL}(x)\)가 작으면 자료가 사전분포를 거의 바꾸지 못한 것이다. 결론이 사전분포에서 나왔다는 신호다.
4. 참조 사전분포의 정의. 버나도의 참조 사전분포는 EIG를 최대로 하는 사전분포로 정의된다. "자료가 최대한 말하게 하는" 사전분포라는 점에서 무정보 사전분포의 원리적인 구성이며, 일모수 문제에서는 제프리스 사전분포와 일치한다.