콘텐츠로 이동

비정규성 아래의 한계

들어가는 이야기 — 열일곱 분의 일로 줄어든다

집단 셋을 같은 모집단에서 각 \(n = 20\) 씩 뽑아 등분산을 참으로 만들고 명목 \(5\%\) 바틀렛 검정을 돌린다. 모집단이 정규면 기각률이 \(0.049\) 로 약속대로다. 지수분포(exponential distribution)로 바꾸면 \(0.383\) 이 되고, 균등분포로 바꾸면 \(0.003\) 으로 명목값의 \(17\) 분의 \(1\) 이 된다. 같은 검정이 같은 참 가설에서 양쪽으로 다 무너진다.

무엇이 그 폭을 정하는지는 한 줄이다. \(\operatorname{Var}(\ln S^2) \approx (2 + \gamma_2)/\nu\) 인데 검정은 \(\gamma_2 = 0\) 을 못 박아 넣고 폭을 정한다. 그래서 초과첨도를 가로축에 놓고 기각률을 찍으면 점들이 거의 한 줄로 올라간다 — \(-1.2\) 에서 \(0.003\), \(0\) 에서 \(0.049\), \(1\) 에서 \(0.109\), \(5.3\) 에서 \(0.335\) 다. 정규분포는 이 직선 위의 한 점에 불과하고, 이 검정이 정규 자료에서 잘 듣는 것은 미덕이 아니라 좌표다.

문제는 그 첨도(kurtosis)가 \(4\) 차 적률이라는 데 있다. 바로 그 표본에서 정밀하게 추정할 수가 없으니 불일치의 크기를 짐작할 길이 없고, 보정해 줄 수도 없다. 그래서 기각을 보고도 분산이 달라서인지 자료가 비정규여서인지 가릴 수 없다. 진단 도구로서는 치명적인 결함이다.

그러면 이 검정을 쓰면 안 되는 자리와 그래도 써야 하는 자리는 어떻게 갈리는가. 정규성(normality)이 확립된 공정 자료처럼 좌표가 보장된 자리가 그 답인데, 그런 자리가 실제로 얼마나 되는가. 이 쪽이 \(\S 2\) 에서 팽창을 재고 \(\S 4\) 와 \(\S 5\) 에서 그 선을 긋는다. 아래 상자는 이 검정이 겨냥한 것과 실제로 재고 있는 것이 어긋난 사정을 다룬다.

두 칸짜리 그림. 왼쪽은 다섯 모집단에서 보정 전과 표본 첨도로 보정한 뒤의 기각률로, 균등은 0.0026 에서 0.0526 으로 고쳐지는데 정규는 0.0509 에서 0.0895 로 망가진다. 오른쪽은 표본에서 잰 첨도가 흔들리는 폭과 참 초과첨도의 크기를 함께 그린 막대다

「보정해 줄 수도 없다」를 말로만 두지 않고 해 보았다. 표본에서 첨도를 재어 그만큼 나눠 주면 꼬리가 얇은 줄은 고쳐지고(\(0.0026 \to 0.0526\)) 지수 줄은 반쯤 고쳐지는데(\(0.3835 \to 0.2136\)), 멀쩡하던 정규 줄이 망가진다(\(0.0509 \to 0.0895\)). 멀쩡한 자리를 고장내는 보정은 쓸 수 없다. 뿌리는 오른쪽 칸이다 — 집단당 \(20\) 개에서 잰 첨도가 흔들리는 폭이 정규에서 \(0.44\), 지수에서 \(1.38\) 로 고칠 대상만큼 크다. \(4\) 차 적률이라 바로 그 표본에서 정밀하게 추정할 수 없다는 말이 이 수들이다.

확인한 곳 — 이 쪽 「분산 검정을 만들었더니 정규성 검정이 되어 있었다」 상자와 그 출처 줄. 기각률은 모두 직접 모의실험한 값이다

바틀렛 검정은 자료가 정말로 정규일 때 분산 동일성에 대한 가장 강력한 검정이지만, 정규가 아닐 때는 가장 취약한 검정이기도 하다. 이 장의 분산 검정 가운데 바틀렛 검정이 비정규성에 대한 민감도가 가장 높으며 F 검정보다도 심하다. 그래서 정규성이 검증되지 않은 상황에서 일상적인 진단 도구로 쓰기에는 신뢰할 수 없다.


1. 근본적인 문제

바틀렛 검정통계량(test statistic)은 정규성 가정 아래의 가능도비(likelihood ratio)에서 유도된다. 카이제곱 근사

\[ T \stackrel{\text{근사}}{\sim} \chi^2_{k-1} \]

는 바탕 자료가 정규일 때 로그 표본분산(sample variance)이 근사적으로 정규라는 사실에 의존한다. 비정규 모집단에서는 \(\ln S_i^2\)의 분포가 정규에서 벗어나고 카이제곱 표집분포(sampling distribution)가 부정확해진다.

핵심 양은 모집단의 첨도이다. 초과첨도가 \(\gamma_2 = \mu_4 / \sigma^4 - 3\)인 분포에서 \(\ln S^2\)의 분산은 정규의 경우보다 부풀려진다.

\[ \operatorname{Var}(\ln S^2) \approx \frac{2}{\nu} + \frac{\gamma_2}{\nu} + O(\nu^{-2}) \]

여기서 \(\nu = n - 1\)이다. 정규성 아래에서는 \(\gamma_2 = 0\)이고 주항이 \(2/\nu\)이다. \(\gamma_2 > 0\)인 두꺼운 꼬리 분포에서는 추가항 \(\gamma_2/\nu\)가 로그분산의 변동을 키워 \(T\)가 \(\chi^2_{k-1}\) 표집분포보다 확률적으로 커지게 만든다.


2. 제1종 오류 팽창

모의실험 연구는 자료가 비정규일 때 바틀렛 검정이 \(H_0\)을 지나치게 자주 기각함을 일관되게 보여준다. 다음 표는 \(k = 3\)개 집단, \(n_i = 20\), 명목 \(\alpha = 0.05\)에서의 실제 기각률이다(반복 20,000회, 몬테카를로(Monte Carlo) 오차 약 0.003).

분포 초과첨도 \(\gamma_2\) 실제 제1종 오류
Uniform \(-1.2\) 0.003
Normal 0 0.049
\(t_{10}\) 1 0.109
\(\chi^2_4\) 3 0.232
오염 정규 (90% \(\mathcal{N}(0,1)\) + 10% \(\mathcal{N}(0,9)\)) 5.3 0.335
\(t_5\) 6 0.217
Exponential 6 0.383

지수분포 자료에서 바틀렛 검정이 38%의 확률로 기각한다. 참 기각률이 5%여야 하는데 그렇다. 곧 유의한 바틀렛 결과는 분산의 불균등이 아니라 비정규성을 반영하는 것일 수 있다.

반대편 극단도 심각하다. 균등분포에서는 기각률이 \(0.003\)으로 명목값의 17분의 1이다. 검정이 사실상 무력해진다.

표를 가로축에 초과첨도를 놓고 다시 그리면 규칙이 드러난다.

초과첨도에 따른 바틀렛 검정의 실제 제1종 오류율

점들이 왼쪽 아래에서 오른쪽 위로 거의 한 줄로 올라간다. \(\gamma_2\) 하나가 오류율을 대부분 설명한다. \(\gamma_2 = -1.2\)의 균등에서 \(0.003\), \(\gamma_2 = 0\)의 정규에서 \(0.049\), \(\gamma_2 = 1\)의 \(t_{10}\)에서 \(0.109\), \(\gamma_2 = 5.3\)의 오염 정규에서 \(0.335\)이다. 이 단조성은 우연이 아니라 \(\operatorname{Var}(\ln S^2) \approx (2 + \gamma_2)/\nu\)라는 앞의 식에서 바로 따라 나온다. 표집분포는 \(\gamma_2 = 0\)을 가정하고 폭을 정하는데 실제 분포는 \((2+\gamma_2)/2\)배 넓으니, 첨도가 클수록 꼬리 밖으로 자주 나간다.

정규분포가 이 직선 위의 한 점에 불과하다는 사실이 중요하다. 바틀렛 검정이 정규 자료에서 잘 작동하는 것은 특별한 미덕이 아니라 \(\gamma_2 = 0\)이라는 좌표에 서 있기 때문이다. 자료가 그 점에서 조금만 벗어나면 오류율이 그 자리에서 따라 움직인다.

첨도만으로 다 설명되지는 않는다는 점도 그림이 알려 준다. 보라색 화살표로 이은 두 점은 둘 다 \(\gamma_2 = 6\)인데 \(t_5\)는 \(0.217\), 지수분포는 \(0.383\)이다. 차이는 왜도다. \(t_5\)는 대칭이고 지수분포는 왜도(skewness)가 \(2.0\)이다. 치우친 분포에서는 \(\ln S^2\)의 분포까지 비대칭이 되어 카이제곱 근사가 한 겹 더 어긋난다. 그림에서 마름모(치우친 분포)가 같은 첨도의 원(대칭분포)보다 위에 있는 것이 그 때문이다.

실무적으로 이 그림이 주는 메시지는 간단하다. 바틀렛 검정을 쓰려면 첨도를 먼저 보아야 한다. 그런데 첨도는 4차 적률이라 표본에서 정밀하게 추정하기가 매우 어렵고, 그 추정 자체가 작은 표본에서 믿을 만하지 못하다. 결국 확인할 수 없는 조건에 검정의 타당성이 걸려 있다는 뜻이며, 15.5절의 로버스트 검정을 기본값으로 삼으라는 권고가 여기서 나온다.

바틀렛 검정은 위장한 정규성 검정일 수 있다

비정규 자료에 적용하면 바틀렛 검정은 분산이 실제로 다르기 때문이 아니라 분포의 모양이 정규성 가정을 위반하기 때문에 \(H_0\colon \sigma_1^2 = \cdots = \sigma_k^2\)을 기각하는 경우가 많다. 기각했다고 해서 분산의 이질성에 대해 아무것도 말해 주지 않을 수 있다.

명목 5%가 모양에 따라 어디까지 가는가

보기 1. 모집단 모양에 따른 오류율. 위 표의 일곱 모집단에서 세 집단(\(k = 3\))을 같은 분포에서 뽑아 \(H_0\) 를 참으로 만들고 실제 기각률을 센다.

(1) 연습문제 4 의 \(\operatorname{Var}(\ln S^2) \approx (\beta_2 - 1)/\nu\) 에서 출발하여(\(\beta_2 = \gamma_2 + 3\) 은 첨도), 등표본 \(n_i = n\) 에서 \(n \to \infty\) 일 때

\[ T \;\longrightarrow\; \frac{\beta_2 - 1}{2}\,\chi^2_{k-1} \]

임을 보이고, 명목 \(\alpha\) 검정의 극한 오류율을 \(\beta_2\) 와 \(k\) 의 식으로 적으시오. 이 식이 \(k = 2\) 에서 5.10절의 식으로 줄어드는지 확인하시오.

(2) 본문 표를 재현하고, \(n\) 을 \(20\) 에서 \(1280\) 까지 키우며 오류율이 (1)의 극한값으로 가는지 보시오. 오류율이 올라갈지 내려갈지 미리 짚으시오.

풀이

(1) 통계량을 등분산점 주위에서 두 번 펼친다. 표본크기가 모두 같다고 하자. 그러면 \(S_p^2\) 이 산술평균이다. 참 공통분산을 \(\sigma^2\) 이라 쓰고

\[ S_i^2 = \sigma^2 (1 + u_i), \qquad u_i = \frac{S_i^2}{\sigma^2} - 1 \]

로 두면 \(E[u_i] = 0\) 이고, 15.1절의 \(\operatorname{Var}(S^2) \approx \sigma^4(\beta_2-1)/n\) 에서

\[ \tau^2 := \operatorname{Var}(u_i) \approx \frac{\beta_2 - 1}{\nu} \]

이다(\(\nu = n-1\)). 바틀렛 통계량은 \(T = -2\ln\Lambda / C\) 이고(\(\Lambda\) 는 가능도비, \(C\) 는 보정인자), 등표본에서 그 분자는 \(-2\ln\Lambda = \nu\bigl[k\ln S_p^2 - \sum_i \ln S_i^2\bigr]\) 이다. 여기에 \(S_i^2 = \sigma^2(1+u_i)\) 와 \(S_p^2 = \sigma^2(1+\bar u)\) 를 넣으면 \(\ln \sigma^2\) 이 상쇄되어

\[ -2\ln\Lambda = \nu\left[k \ln(1 + \bar u) - \sum_{i=1}^k \ln(1 + u_i)\right] \]

만 남는다(\(\bar u = \frac1k\sum_i u_i\)). \(\ln(1+x) = x - \frac{x^2}{2} + O(x^3)\) 을 넣으면

\[ -2\ln\Lambda = \nu\left[\Bigl(k\bar u - \sum_i u_i\Bigr) + \frac12\Bigl(\sum_i u_i^2 - k \bar u^2\Bigr)\right] + O(u^3) \]

인데 일차항이 통째로 사라진다(\(k\bar u = \sum_i u_i\) 이므로). 남는 이차항은 제곱합(sum of squares)의 항등식 \(\sum_i u_i^2 - k\bar u^2 = \sum_i (u_i - \bar u)^2\) 에 의해

\[ -2\ln\Lambda \approx \frac{\nu}{2}\sum_{i=1}^k (u_i - \bar u)^2 \]

이다. 이것이 바틀렛 통계량의 정체다. 일차항이 사라지므로 통계량은 \(u_i\) 들의 산포만 본다. 연습문제 1·2 가 말한 "모든 분산이 같을 때만 0" 이 여기서는 "\(u_i\) 가 모두 같을 때만 0" 으로 나타난다.

이제 극한분포가 읽힌다. \(u_i\) 는 독립이고 각각 평균 \(0\), 분산 \(\tau^2\) 이며 \(n \to \infty\) 에서 \(S_i^2\) 의 중심극한정리(central limit theorem)에 의해 근사적으로 정규다. 독립 정규 \(k\) 개의 중심화 제곱합은 \(\tau^2 \chi^2_{k-1}\) 이므로

\[ -2\ln\Lambda \;\longrightarrow\; \frac{\nu}{2}\cdot \tau^2 \cdot \chi^2_{k-1} = \frac{\nu}{2}\cdot\frac{\beta_2-1}{\nu}\cdot \chi^2_{k-1} = \frac{\beta_2-1}{2}\,\chi^2_{k-1} \]

이고, \(C \to 1\) 이므로 \(T\) 도 같은 극한을 갖는다.

\(\nu\) 가 약분되었다. 이것이 이 유도의 핵심이다. 통계량의 크기를 정하는 \(\nu/2\) 와 \(u_i\) 의 분산 \((\beta_2-1)/\nu\) 가 서로 상쇄되어 표본크기가 식에서 사라진다. 남는 것은 배율 \((\beta_2-1)/2\) 하나뿐이고, 그것은 모집단 첨도만의 함수다.

극한 오류율. 기각 조건 \(T > \chi^2_{1-\alpha,\,k-1}\) 을 극한분포에 넣으면

\[ \text{극한 오류율} = P\!\left(\chi^2_{k-1} > \frac{2\,\chi^2_{1-\alpha,\,k-1}}{\beta_2 - 1}\right) \]

이다. 정규(\(\beta_2 = 3\))를 넣으면 분모가 \(2\) 라 임계값이 제자리로 돌아와 정확히 \(\alpha\) 가 나오는 것이 검산이다.

배율 \((\beta_2-1)/2\) 가 5.10절의 그것과 똑같다. 5.10절 분산비의 표집분포(비정규)은 두 표본 분산비에 대해 \(\operatorname{Var}(\log F)\) 가 정규 가정의 믿음보다 \((\beta_2-1)/2\) 배 넓어진다는 것을 유도했다. 바틀렛에서도 같은 배율이 나오며, \(k = 2\) 로 두면 두 식이 같은 식이 된다.

\[ P\!\left(\chi^2_1 > \frac{2(1.96)^2}{\beta_2-1}\right) = P\!\left(\lvert Z\rvert > 1.96\sqrt{\frac{2}{\beta_2-1}}\right) = 2\left[1 - \Phi\!\left(1.96\sqrt{\frac{2}{\beta_2-1}}\right)\right] \]

\(\chi^2_1\) 이 \(Z^2\) 이라는 것만 쓰면 바로 나온다. 그러므로 분산 검정이 중심극한정리의 보호를 받지 못한다는 5.10절의 결론이 \(k\) 개 집단으로 그대로 확장된다. 표본을 키워도 오류율은 \(\alpha\) 로 돌아오지 않고 각자의 상수로 간다.

같은 극한에 이르는 길이 이 책에 셋 더 있다. 15.6절 분산에 대한 가능도비 검정 연습문제 8·9 는 이것을 일반 가능도비의 성질로 본다 — 일표본에서 \(\frac{\beta_2-1}{2}\chi^2_1\) 을 얻고 그것을 \(k\) 집단으로 넓히므로, 위 유도는 그 특수한 경우다. 15.5절 대수정규에서의 비교 보기 1 은 같은 극한을 \(\operatorname{Var}(S^2)\) 쪽에서 출발해 다시 유도하고(위는 \(\operatorname{Var}(\ln S^2)\) 에서 출발했다) 네 검정을 한 표에 견준다. 15.4절 바틀렛 검정 비정규성 민감도 보기 1 은 이 식에 대수정규의 \(\beta_2 = 113.936\) 을 넣어 극한 오류율 \(0.9483\) 을 수로 확인한다.

(2) 방향부터 짚는다. \(\beta_2 - 1 > 2\)(두꺼운 꼬리)이면 배율이 1 보다 커서 \(T\) 가 표집분포보다 넓게 퍼지므로 오류율이 \(\alpha\) 보다 크다. \(\beta_2 - 1 < 2\)(균등)이면 반대다. 그리고 작은 \(n\) 에서는 위 전개의 \(O(u^3)\) 항과 \(u_i\) 의 비정규성이 아직 살아 있어 극한에 못 미치므로, 꼬리가 무거운 쪽은 아래에서 위로 올라가고 균등은 위에서 아래로 내려가야 한다.

먼저 본문 표를 재현한다.

import numpy as np
from scipy import stats

# 모집단마다 세 집단을 같은 분포에서 뽑으므로 분산은 언제나 참으로 같다.
# 그러니 아래 비율은 모두 0.05 여야 옳다. 실제로는 분포의 꼬리가 두꺼울수록
# 훨씬 커진다 — Bartlett 검정이 정규성에 얼마나 매여 있는지를 보여 준다.
rng = np.random.default_rng(2)
n, k, R, alpha = 20, 3, 20000, 0.05

def contaminated(m):
    """90%는 N(0,1), 10%는 N(0,9) 에서 나오는 오염 정규분포."""
    u = rng.random(m)
    return np.where(u < 0.9, rng.normal(0, 1, m), rng.normal(0, 3, m))

cases = [
    ("Normal",         lambda: rng.normal(0, 1, n)),
    ("t(10)",          lambda: rng.standard_t(10, n)),
    ("chi2(4)",        lambda: rng.chisquare(4, n)),
    ("t(5)",           lambda: rng.standard_t(5, n)),
    ("Exponential",    lambda: rng.exponential(1, n)),
    ("Contaminated N", lambda: contaminated(n)),
    ("Uniform",        lambda: rng.uniform(0, 1, n)),
]

for name, gen in cases:
    rej = sum(stats.bartlett(*[gen() for _ in range(k)])[1] < alpha
              for _ in range(R))
    print(f"{name:>16}: {rej / R:.4f}")

출력:

          Normal: 0.0488
           t(10): 0.1116
         chi2(4): 0.2387
            t(5): 0.2193
     Exponential: 0.3790
  Contaminated N: 0.3331
         Uniform: 0.0022

본문 표가 그대로 나온다. 지수분포 \(0.3790\), 오염 정규 \(0.3331\), \(\chi^2_4\) \(0.2387\), \(t_5\) \(0.2193\), \(t_{10}\) \(0.1116\), 정규 \(0.0488\), 균등 \(0.0022\) 다. 일곱 모집단 모두 분산이 참으로 같은데도 기각률이 \(0.002\) 에서 \(0.379\) 까지 벌어진다.

이제 (1)의 극한식과 견주며 \(n\) 을 키운다.

import numpy as np
from scipy import stats

# 극한 오류율 예측:  크기 -> P( chi2_{k-1} > 2 * chi2_{0.95,k-1} / (beta2 - 1) )
k, alpha = 3, 0.05
crit = stats.chi2.ppf(1 - alpha, k - 1)


def limit_size(beta2_minus_1):
    return stats.chi2.sf(2 * crit / beta2_minus_1, k - 1)


spec = [("Uniform", -1.2), ("Normal", 0.0), ("t(10)", 1.0), ("chi2(4)", 3.0),
        ("Contaminated N", 5.3), ("t(5)", 6.0), ("Exponential", 6.0)]

# k=2 로 두면 5.10절의 식 2[1 - Phi(1.96 sqrt(2/(beta2-1)))] 과 같아야 한다.
c1 = stats.chi2.ppf(0.95, 1)
print("k=2 로 줄이면 5.10절의 네 수가 되는가")
for nm, b2 in [("정규", 3.0), ("균등", 1.8), ("지수", 9.0), ("로그정규", 113.94)]:
    mine = stats.chi2.sf(2 * c1 / (b2 - 1), 1)
    ref = 2 * stats.norm.sf(1.96 * np.sqrt(2 / (b2 - 1)))
    print(f"  {nm:>6}  beta2={b2:>7.2f}   내 식 {mine:.4f}   5.10절 식 {ref:.4f}")

rng = np.random.default_rng(5)
draw = {
    "Uniform":        lambda s: rng.uniform(0, 1, s),
    "Normal":         lambda s: rng.normal(0, 1, s),
    "t(10)":          lambda s: rng.standard_t(10, s),
    "chi2(4)":        lambda s: rng.chisquare(4, s),
    "Contaminated N": lambda s: np.where(rng.random(s) < 0.9,
                                         rng.normal(0, 1, s), rng.normal(0, 3, s)),
    "t(5)":           lambda s: rng.standard_t(5, s),
    "Exponential":    lambda s: rng.exponential(1, s),
}

M, CH = 10_000, 500            # 반복 수와 한 번에 처리할 묶음 크기
ns = (20, 80, 320, 1280)
print(f"\n표본을 키우면 오류율이 극한값으로 올라간다 (반복 {M}, k=3, alpha=0.05)")
print(f"{'분포':>16}" + "".join(f"{f'n={n}':>9}" for n in ns) + f"{'극한 예측':>11}")
for nm, g2 in spec:
    row = []
    for n in ns:
        C = 1 + (k + 1) / (3 * k * (n - 1))
        hits = 0
        for _ in range(M // CH):
            S = draw[nm]((CH, k, n)).var(axis=2, ddof=1)
            T = k * (n - 1) * np.log(S.mean(axis=1)
                                     / np.exp(np.log(S).mean(axis=1))) / C
            hits += int(np.sum(T > crit))
        row.append(hits / M)
    print(f"{nm:>16}" + "".join(f"{r:>9.4f}" for r in row)
          + f"{limit_size(g2 + 2):>11.4f}")
print(f"\n몬테카를로 표준오차: 크기 0.05 근처 {np.sqrt(0.05 * 0.95 / M):.4f}, "
      f"0.45 근처 {np.sqrt(0.45 * 0.55 / M):.4f}")

출력:

k=2 로 줄이면 5.10절의 네 수가 되는가
      정규  beta2=   3.00   내 식 0.0500   5.10절 식 0.0500
      균등  beta2=   1.80   내 식 0.0019   5.10절 식 0.0019
      지수  beta2=   9.00   내 식 0.3271   5.10절 식 0.3271
    로그정규  beta2= 113.94   내 식 0.7942   5.10절 식 0.7942

표본을 키우면 오류율이 극한값으로 올라간다 (반복 10000, k=3, alpha=0.05)
              분포     n=20     n=80    n=320   n=1280      극한 예측
         Uniform   0.0027   0.0006   0.0006   0.0003     0.0006
          Normal   0.0497   0.0492   0.0476   0.0501     0.0500
           t(10)   0.1076   0.1285   0.1359   0.1293     0.1357
         chi2(4)   0.2313   0.2774   0.2976   0.3011     0.3017
  Contaminated N   0.3327   0.4136   0.4415   0.4455     0.4401
            t(5)   0.2233   0.2950   0.3477   0.3900     0.4729
     Exponential   0.3859   0.4485   0.4565   0.4633     0.4729

몬테카를로 표준오차: 크기 0.05 근처 0.0022, 0.45 근처 0.0050

\(k = 2\) 로 줄이면 5.10절의 네 수가 정확히 나온다. 정규 \(0.0500\), 균등 \(0.0019\), 지수 \(0.3271\), 로그정규 \(0.7942\) 로 두 식이 소수점 넷째 자리까지 같다. (1)에서 대수로 보인 것이 수로도 확인되었다. 5.10절이 두 표본 분산비에 대해 유도한 식은 바틀렛의 \(k=2\) 특수경우였던 것이다.

극한 예측이 여섯 모집단에서 맞는다. \(n\) 을 \(20 \to 80 \to 320 \to 1280\) 으로 키우면

모집단 \(n=20\) \(n=1280\) 극한 예측
균등 0.0027 0.0003 0.0006
정규 0.0497 0.0501 0.0500
\(t_{10}\) 0.1076 0.1293 0.1357
\(\chi^2_4\) 0.2313 0.3011 0.3017
오염 정규 0.3327 0.4455 0.4401
지수 0.3859 0.4633 0.4729

(2)에서 짚은 방향이 그대로다. 정규만 \(0.05\) 에 수평으로 머물고, 꼬리가 무거운 넷은 모두 아래에서 위로 올라가 각자의 극한값에 닿으며, 균등은 \(0.0027\) 에서 \(0.0006\) 으로 내려간다. \(\chi^2_4\) 가 \(0.3011\) 대 예측 \(0.3017\), 오염 정규가 \(0.4455\) 대 \(0.4401\) 로 몬테카를로 표준오차 \(0.005\) 안에서 맞는다. 균등의 \(0.0003\) 과 \(0.0006\) 도 그 수준에서는 표준오차가 \(0.0002\) 라 불일치가 아니다.

표본을 키워도 낫지 않는다. 오히려 나빠진다. 표의 모든 비정규 행이 \(n\) 과 함께 명목값에서 멀어진다. 평균에 대한 검정이라면 중심극한정리가 \(n\) 과 함께 구원해 주지만, 분산 검정에서는 통계량의 크기와 요동이 같은 비율로 커져 둘의 비가 고정된다. (1)에서 \(\nu\) 가 약분된 것이 그 말이다. "표본이 크니 괜찮다"는 변명이 분산 검정에는 통하지 않는다.

\(t_5\) 하나만 극한에 닿지 못했다. \(n = 1280\) 에서 \(0.3900\) 인데 예측은 \(0.4729\) 다. 이 불일치는 유도가 틀린 것이 아니라 수렴이 느린 것이다. 위 유도는 \(u_i = S_i^2/\sigma^2 - 1\) 이 근사적으로 정규라는 데 기대고, 그 중심극한정리가 듣기 위해서는 \(S^2\) 의 분산, 곧 모집단의 4차 적률이 필요하다. \(t_5\) 는 4차 적률이 겨우 존재하는 분포다(\(t_d\) 의 \(m\) 차 적률은 \(m < d\) 에서만 존재하므로 \(t_5\) 는 4차까지만 있다). \(\operatorname{Var}(S^2)\) 자체의 요동을 재려면 8차 적률이 필요한데 그것이 무한이라, \(u_i\) 가 정규에 다가가는 속도가 극단적으로 느리다. 같은 \(\gamma_2 = 6\) 인 지수분포는 모든 적률이 유한해서 \(n = 1280\) 에 이미 \(0.4633\) 으로 예측에 거의 닿았다.

이것이 본문에서 "첨도만으로 다 설명되지는 않는다"고 한 대목의 정확한 사정이다. \(t_5\) 와 지수분포는 \(\gamma_2\) 가 같으므로 극한값은 같다. 유한표본에서 갈리는 것은 그 극한에 다가가는 속도이며, 속도는 첨도보다 높은 적률과 왜도가 정한다. 그러므로 본문 그림의 점들이 한 줄로 늘어선 것은 \(n = 20\) 이라는 특정 표본크기에서의 모습이고, \(n\) 이 커지면 \(t_5\) 점이 지수분포 점 쪽으로 올라붙는다.

실무적 결론은 더 날카로워진다. 바틀렛을 쓰려면 첨도를 알아야 하는데, 첨도는 4차 적률이라 표본에서 믿을 만하게 추정되지 않는다. 게다가 방금 본 대로 첨도를 정확히 안다 해도 유한표본의 오류율을 맞히기에는 부족하다(\(t_5\) 와 지수분포가 그 반례다). 확인할 수 없는 것에 두 겹으로 기대고 있는 검정이며, 15.5절의 로버스트 검정을 기본값으로 삼으라는 권고가 여기서 나온다.

위 표의 수치가 그대로 재현된다. 지수분포 \(0.379\), 균등분포 \(0.002\)로 양방향의 왜곡이 모두 극심하다.


3. F 검정과의 비교

F 검정과 바틀렛 검정 모두 정규성을 가정하지만 바틀렛 쪽이 위반에 더 민감하다. 바틀렛 검정이 표본분산의 로그를 쓰고, \(\ln S^2\)의 분포가 \(S^2\) 자체의 분포보다 첨도에 더 민감하기 때문이다.

같은 조건(\(n_i = 20\))에서 두 검정을 비교하면(F 검정은 두 집단, 바틀렛은 세 집단)

상황 F 검정 제1종 오류 바틀렛 제1종 오류 비율
Normal 0.050 0.049 1.0
\(t_{10}\) 0.089 0.109 1.2
\(\chi^2_4\) 0.169 0.232 1.4
\(t_5\) 0.156 0.217 1.4
Exponential 0.266 0.383 1.4

바틀렛 검정의 제1종 오류(type I error) 팽창이 같은 비정규 분포에서 F 검정보다 대체로 1.2~1.4배 더 심하다. (집단 수가 다르므로 엄밀한 비교는 아니지만, 방향과 크기의 감을 준다.)


4. 바틀렛 검정을 쓰지 말아야 할 때

다음 상황에서는 바틀렛 검정을 피해야 한다.

  1. 비정규 자료. Q-Q 그림이 두꺼운 꼬리, 왜도, 이상치(outlier)을 보이면 바틀렛 검정을 신뢰할 수 없다. 레빈 검정이나 브라운–포사이드 검정을 쓰라.
  2. 작은 표본. \(n_i\)가 작으면 정규성을 신뢰성 있게 평가할 수 없고 카이제곱 근사도 덜 정확하다. 보정인자 \(C\)가 완화하지만 문제를 없애지는 못한다.
  3. 분포 모양을 모를 때. 모집단 분포에 대한 사전지식이 없다면 로버스트 검정이 더 안전한 선택이다.
  4. 분산분석(analysis of variance) 전의 예비검정. 바틀렛 검정을 분산분석의 등분산성(homoscedasticity) 사전검정으로 권하는 경우가 있으나, 분산분석 자료가 완벽히 정규인 경우는 드물다. 다만 여기서 고를 것은 「어느 검정으로 사전검정할까」가 아니다 — 사전검정 자체를 건너뛰고 10.4절 웰치 분산분석을 기본값으로 두는 것이 15.7절 분산분석 등분산성 사전검정의 결론이다. 그래도 사전검정을 해야 하는 자리라면 바틀렛이 아니라 브라운–포사이드를 쓴다.

5. 바틀렛 검정이 적절한 때

한계에도 불구하고 바틀렛 검정이 유용한 상황이 있다.

  • 정규성이 알려진 자료. 모집단이 정규임을 아는 경우(교정된(calibrated) 계측기의 측정오차 등) 바틀렛 검정이 가장 강력한 선택이다.
  • 정규성 검정을 통과한 경우는 여기에 들어가지 않는다. 샤피로–윌크가 기각하지 못한 것은 정규라는 증거가 아니라 잡아낼 힘이 없었다는 것일 수 있고, 그렇게 통과한 뒤 바틀렛을 쓰면 연습문제 8 이 재는 대로 전체 절차의 크기가 무너진다. 정규라고 볼 근거는 자료가 아니라 측정 과정에서 나와야 한다.
  • 크고 잘 정돈된 표본. 거의 정규인 모집단에서 큰 표본을 얻었다면 카이제곱 근사가 정확하다.

실무자를 위한 판정 지침

위의 셋은 바틀렛이 쓸 만한 자리를 적은 것이고, 거기서 곧바로 「정규성을 먼저 검정해 보고 고르자」로 가면 안 된다. 그 두 단계 절차가 바로 사전검정의 역설이고, 15.7절 분산분석 등분산성 사전검정이 그 값을 수로 잰다 — 고르는 데 쓴 검정의 오류가 고른 검정으로 새어 든다.

  1. 정규성이 이론적으로 보장되는 자리가 아니면 처음부터 브라운–포사이드를 쓴다. 15.1절 분산 검정의 공통 가정 \(\S 5\) 의 권고이고, 정규 자료에서도 크기가 올바르며 검정력 손실이 작다.
  2. 정규성이 설계로 보장되는 자리에서만 바틀렛을 쓴다. 교정된 계측기의 측정오차처럼 자료를 보기 전에 정규성을 말할 수 있는 경우다. 자료로 확인해서 얻은 정규성은 이 조건이 아니다.
  3. 꼬리가 두껍거나 이상치가 있으면 플리그너–킬린으로 간다(15.5절).
  4. 정규성 진단은 판정이 아니라 서술로 쓴다. Q-Q 그림과 왜도·첨도를 보고 적되, 그 수로 검정을 자동 선택하지 않는다.

그리고 묻는 것이 분산이 아니라 평균이라면 이 사다리를 오를 일이 애초에 없다. 10.4절 웰치 분산분석을 기본값으로 두면 분산이 같든 다르든 작동한다.


6. 역사적 맥락

바틀렛은 1937년 F 검정을 \(k > 2\)개 집단으로 확장한 것으로서 이 검정을 발표했다. 수십 년 동안 분산의 동질성에 대한 표준 검정이었다. 비정규성에 대한 극단적 민감성이 인식되면서 레빈(1960), 브라운과 포사이드(1974), 플리그너와 킬린(1976)의 로버스트 대안이 개발되었다. 오늘날 대부분의 통계 소프트웨어는 일상적인 용도로 바틀렛 검정 대신 레빈 검정이나 브라운–포사이드 검정을 기본값으로 삼는다.

그림으로 보는 통계학 1. 분산 검정을 만들었더니 정규성 검정이 되어 있었다

위 절은 바틀렛에서 레빈으로 넘어가는 길을 적었지만, 그 사이에 있던 한 해를 빼놓았다. \(1953\) 년이다. 그해 조지 박스는 바틀렛의 \(M\) 이 비정규 모집단에서 어떤 표집분포를 갖는지를 따져 보았고, 그것이 정규성 위반에 전혀 로버스트하지 않다는 것을 보였다. 그러고 나서 한 문장을 남겼다 — 바틀렛의 절차는 \(k\) 개 분산이 같은지 재는 검정이라기보다 정규성을 재는 검정으로 더 쓸모가 있다.

이 쪽의 §2 가 그 문장을 수로 다시 적은 것이다. 명목 \(5\%\) 가 균등분포에서 \(0.003\), 정규에서 \(0.049\), 지수분포에서 \(0.383\) 이다. 분포의 모양 하나가 기각률을 \(100\) 배 넘게 움직이는데 분산은 모든 줄에서 같다. 검정이 재고 있는 것이 분산이 아니라는 말이 이것보다 분명할 수 없다.

같은 논문에서 박스는 분산분석 앞에 등분산 사전검정을 두는 관행에도 한마디를 보탰고, 그 비유가 지금도 인용된다 — 5.10절 두 표본분산의 비의 상자가 그 문장을 그대로 옮겨 두었다. 요지는 하나다. 사전검정이 본검정보다 가정에 약하면, 통과했다는 소식도 걸렸다는 소식도 쓸 데가 없다.

비유가 「분산을 보지 말라」는 뜻은 아니었다. 같은 논문은 표본크기가 서로 비슷하면 분산분석의 \(F\) 가 등분산 위반에 꽤 버틴다는 것도 보였다. 그래서 그 비유는 분산을 무시하라는 허가가 아니라, 노 젓는 배로 바다를 재지 말라는 말이다 — 집단 크기를 맞추는 쪽이 사전검정보다 먼저다. §5 가 바틀렛에게 남겨 둔 자리가 좁은 까닭도 여기에 있다.

확인한 곳 — 박스의 \(1953\) 년 논문이 『Biometrika』 \(40\) 권 \(318\)–\(335\) 쪽의 「Non-normality and tests on variances」라는 것, 그 논문이 바틀렛의 \(M\) 의 표집분포가 정규성 위반에 로버스트하지 않음을 보였고 박스가 그것을 분산 동일성 검정보다 정규성 검정으로 더 쓸모 있다고 적었다는 것, 그리고 분산분석의 \(F\) 가 표본크기가 비슷할 때 등분산 위반에 로버스트하다는 결과가 같은 논문에 있다는 것을 확인했다. 노 젓는 배 비유가 이 논문에 돌려진다는 것도 확인했으나 인용마다 영어 문구가 조금씩 다르므로 뜻만 옮겼다. 표의 수는 모두 직접 계산한 값이다


연습문제

연습문제 1. 정규분포를 따르지 않는 두 자료집합에 바틀렛 검정을 수행하여 낮은 \(p\) 값(등분산 \(H_0\) 기각)을 얻었다. 그러나 레빈 검정은 높은 \(p\) 값(기각 실패)을 냈다. 이 두 결과를 어떻게 해석해야 하는가?

풀이
  • 정규성 가정이 위배된 상황에서 바틀렛 검정의 결과는 신뢰할 수 없다. 바틀렛 검정은 비정규성에 매우 민감하며, 귀무가설(null hypothesis) 기각이 실제 분산 차이가 아니라 분포의 모양 때문일 수 있다.
  • 레빈 검정은 정규성 위반에 덜 민감하므로 이 상황에서 더 믿을 만한 결과를 준다. 두 자료집합의 분산이 같다고 결론짓는 것이 합리적이다.

본문 표의 수치가 이를 뒷받침한다. 지수분포 자료에서 바틀렛의 실제 크기는 0.383이므로, 등분산인 자료에서도 열 번 중 네 번은 기각한다. 이런 검정의 "유의한" 결과에는 정보가 거의 없다.

다만 두 검정이 어긋날 때 자동으로 레빈을 믿는 것도 옳지 않다. 올바른 절차는 (1) 왜 어긋나는지 자료를 살펴보고, (2) Q-Q 그림으로 정규성 이탈의 유형과 정도를 확인하고, (3) 그 진단에 근거하여 판단하는 것이다. 이탈이 실제로 심하다면 레빈을 신뢰하고, 정규성이 무난한데도 결과가 갈린다면 검정력 차이 때문일 수 있으므로 표본크기와 효과 크기를 함께 보아야 한다. \(\square\)


연습문제 2. 균등분포 자료에서 바틀렛 검정의 크기가 0.003으로 극단적으로 작다. 이 "안전해 보이는" 결과가 실무에서 왜 위험한지, 특히 분산분석 사전검정 맥락에서 설명하라.

풀이

크기 0.003은 명목 5% 검정이 실제로는 0.3% 수준에서 작동한다는 뜻이다.

직접적 결과: 검정력의 붕괴. 사전검정으로서 바틀렛 검정의 임무는 등분산 가정이 깨졌을 때 그것을 알리는 것이다. 그런데 크기가 0.003이면 참 분산 차이가 상당해도 기각하지 못한다. 결국 모든 자료에 표준 분산분석을 통과시켜 준다.

더 나쁜 점: 거짓 안심. 실무자는 "바틀렛 검정을 통과했으니 등분산성이 확인되었다"고 결론짓고 표준 분산분석으로 진행한다. 그러나 실제로 분산이 다르다면 분산분석의 \(F\) 검정 자체가 왜곡된다. 사전검정이 오히려 잘못된 확신을 심어 준 셈이다.

왜 저첨(platykurtic) 자료에서 이런 일이 일어나는가. 저첨은 초과첨도가 음수, 곧 꼬리가 정규보다 얇다는 뜻이다. \(\gamma_2 = -1.2\)이면 \(\operatorname{Var}(\ln S^2) \approx 0.8/\nu\)로 정규의 \(2/\nu\)보다 훨씬 작다. 곧 \(T\)가 \(\chi^2_{k-1}\)보다 확률적으로 작아진다. 그런데 우리는 \(\chi^2_{k-1}\)의 상위 5% 지점을 임계값으로 쓰므로 거의 도달하지 못한다.

실무적 함의. 균등분포에 가까운 자료(예: 반올림된 측정값, 유계 척도의 설문 응답, 난수 생성기 출력)에서 바틀렛 검정은 사전검정으로 쓸모가 없다. 이런 상황에서도 크기가 안정적인 브라운–포사이드(15.1절 표에서 세 분포 모두 0.039~0.042)를 쓰거나, 애초에 사전검정 없이 웰치 분산분석으로 가는 편이 낫다. \(\square\)


연습문제 3. "바틀렛 검정이 유의하면 비정규성 때문일 수 있다"는 경고를 실제로 확인하라. 등분산인 지수분포 세 집단에서 바틀렛이 기각한 표본들을 모아 그 표본분산의 실제 산포를 조사하라.

풀이
import numpy as np
from scipy import stats

rng = np.random.default_rng(11)
n, k, R = 20, 3, 5000
rej_ratios, all_ratios = [], []

for _ in range(R):
    g = [rng.exponential(1, n) for _ in range(k)]
    v = np.array([x.var(ddof=1) for x in g])
    ratio = v.max() / v.min()
    all_ratios.append(ratio)
    if stats.bartlett(*g)[1] < 0.05:
        rej_ratios.append(ratio)

print(f"Rejection rate: {len(rej_ratios) / R:.4f}")
print(f"All samples   - median max/min variance ratio: "
      f"{np.median(all_ratios):.2f}")
print(f"Rejected only - median max/min variance ratio: "
      f"{np.median(rej_ratios):.2f}")

출력:

Rejection rate: 0.3882
All samples   - median max/min variance ratio: 2.55
Rejected only - median max/min variance ratio: 4.25

이 실험의 요점은 모든 표본이 같은 분포에서 왔다는 것이다. 참 분산은 세 집단 모두 정확히 1이므로 참 비율은 1이다.

그런데 전체 표본에서도 최대·최소 표본분산 비의 중앙값이 2.55이고, 바틀렛이 기각한 표본만 모으면 4.25로 뛴다. 실무자가 기각된 표본을 보면 "분산이 네 배 차이 난다"고 결론짓기 쉽다. 그러나 참 비율은 1이며, 그 차이는 전적으로 지수분포의 두꺼운 꼬리가 만들어 낸 표집변동이다.

기각률도 0.388로 본문 표의 0.383과 일치한다. 등분산인 자료의 39%에서 "분산이 다르다"는 결론이 나온다.

지수분포에서 \(\gamma_2 = 6\)이므로 \(\operatorname{Var}(S^2)\)이 정규의 네 배이다. 표본분산이 그만큼 널뛰므로 등분산인데도 큰 비율이 흔하게 나타난다.

핵심 교훈. 유의한 바틀렛 결과를 보았을 때 물어야 할 첫 질문은 "분산이 정말 다른가?"가 아니라 "자료가 정규인가?"이다. 정규성을 확인하지 않은 채 바틀렛의 기각을 분산 이질성의 증거로 받아들이면, 실제로는 분포 모양에 대한 정보를 분산에 대한 정보로 오독하게 된다. \(\square\)


연습문제 4. \(\operatorname{Var}(\ln S^2) \approx (\gamma_2 + 2)/\nu\)를 델타 방법으로 유도하고, 이것이 왜 바틀렛 검정을 F 검정보다 첨도에 민감하게 만드는지 설명하라.

풀이

델타 방법 유도. 15.1절에서 \(\operatorname{Var}(S^2) \approx \sigma^4(\gamma_2+2)/n\)이다. 함수 \(g(x) = \ln x\)에 델타 방법을 적용하면

\[ \operatorname{Var}(\ln S^2) \approx [g'(\sigma^2)]^2 \operatorname{Var}(S^2) = \frac{1}{\sigma^4}\cdot\frac{\sigma^4(\gamma_2+2)}{n} = \frac{\gamma_2+2}{n} \approx \frac{2}{\nu} + \frac{\gamma_2}{\nu}. \]

왜 바틀렛이 더 민감한가. 결정적인 차이는 모수 의존성이 제거되는 방식에 있다.

  • \(S^2\)의 분산은 \(\sigma^4\)에 비례한다. 곧 척도에 의존한다.
  • \(\ln S^2\)의 분산은 \(\sigma^2\)에 전혀 의존하지 않고 오직 \(\gamma_2\)에만 의존한다.

로그 변환이 척도 정보를 지우고 모양 정보만 남기는 것이다. 이는 검정의 설계에는 유리하지만(척도 불변 통계량을 만든다), 동시에 첨도의 영향을 순수하게 전달한다는 뜻이기도 하다.

F 검정에서는 분자와 분모 양쪽에서 첨도의 영향이 부분적으로 상쇄된다. \(S_1^2/S_2^2\)의 비에서 두 표본분산이 같은 방향으로 부풀려지면 비는 덜 영향받는다. 바틀렛 검정은 \(k\)개 로그분산의 산포를 재므로 이런 상쇄가 일어나지 않고, 각 \(\ln S_i^2\)의 부풀려진 변동이 그대로 누적된다.

본문 표에서 확인되듯 그 결과 바틀렛의 크기 팽창이 F 검정보다 1.2~1.4배 크다. \(\square\)


연습문제 5. 보기 1 은 등표본 바틀렛 검정의 극한 오류율을

\[ P\!\left(\chi^2_{k-1} > \frac{2\,\chi^2_{1-\alpha,\,k-1}}{\beta_2 - 1}\right) \]

로 적었다. 본문 표의 설정인 \(k = 3\), \(\alpha = 0.05\) 에서는 이것이 닫힌 식이 된다.

(1) \(\chi^2_2\) 가 평균 \(2\) 인 지수분포라는 사실(4장)에서 \(P(\chi^2_2 > x) = e^{-x/2}\) 를 쓰고, \(k = 3\), \(\alpha = 0.05\) 의 극한 오류율을 \(\beta_2\) 의 초등함수로 적으시오. 정규(\(\beta_2 = 3\))에서 \(0.05\) 가 나오는지 검산하고, \(\beta_2 \to 1^{+}\) 와 \(\beta_2 \to \infty\) 의 극단을 말하시오.

(2) 그 식에 본문 표의 일곱 모집단을 넣어 보기 1 출력의 마지막 열("극한 예측")이 재현되는지 확인하시오.

(3) 이 식을 써서 극한 오류율이 명목값의 정확히 두 배(\(0.10\))가 되는 초과첨도 \(\gamma_2\) 를 구하시오. 오류율이 \(1/2\) 이 되는 \(\gamma_2\) 도 구하시오. 앞의 값을 \(t_d\) 분포의 자유도로 환산하면 얼마인가(\(t_d\) 의 초과첨도는 \(6/(d-4)\)).

풀이

(1) 자유도 2 는 지수분포다. \(\chi^2_2\) 의 밀도는 \(\frac12 e^{-x/2}\) 이므로 생존함수(survival function)가 정확히 \(e^{-x/2}\) 다. \(x = 2c/(\beta_2-1)\) 을 넣으면 (\(c := \chi^2_{0.95,\,2} = 5.9915\))

\[ \text{극한 오류율}(\beta_2) = \exp\!\left(-\frac{c}{\beta_2 - 1}\right), \qquad c = 5.9915 \]

이다. 지수함수 하나로 끝난다. 검산: \(\beta_2 = 3\) 이면 \(e^{-5.9915/2} = e^{-2.9957} = 0.0500\) 으로 명목값이 정확히 복원된다. 이것은 우연이 아니고 \(\alpha = 0.05\) 가 \(e^{-c/2}\) 로 정의되었기 때문이다. 곧 \(\beta_2 - 1 = 2\) 가 정규의 좌표이고, 식은 그 점에서만 명목값을 준다.

극단을 보면 성질이 다 보인다. \(\exp(-c/(\beta_2-1))\) 은 \(\beta_2\) 에 대해 단조증가이고

\[ \beta_2 \to 1^{+}\ \Rightarrow\ \text{오류율} \to 0, \qquad \beta_2 \to \infty\ \Rightarrow\ \text{오류율} \to 1 \]

이다. 2장의 하한 \(\beta_2 \ge 1\) 이 왼쪽 끝이고, 그 끝에서 검정은 결코 기각하지 않는다. 오른쪽 끝에서는 항상 기각한다. 따라서 바틀렛의 극한 오류율은 \(\beta_2\) 를 조절해 \((0, 1)\) 안의 어떤 값으로도 만들 수 있다. 명목 수준이라는 말이 아무 뜻도 갖지 못한다는 것이 이 한 줄에 들어 있다.

(2) 일곱 모집단. \(\beta_2 = \gamma_2 + 3\) 을 넣는다.

모집단 \(\gamma_2\) \(\beta_2 - 1\) \(\exp(-c/(\beta_2-1))\) 보기 1 의 극한 예측
균등 \(-1.2\) \(0.8\) \(0.00056\) \(0.0006\)
정규 \(0\) \(2\) \(0.0500\) \(0.0500\)
\(t_{10}\) \(1\) \(3\) \(0.1357\) \(0.1357\)
\(\chi^2_4\) \(3\) \(5\) \(0.3017\) \(0.3017\)
오염 정규 \(5.3\) \(7.3\) \(0.4401\) \(0.4401\)
\(t_5\) \(6\) \(8\) \(0.4729\) \(0.4729\)
지수 \(6\) \(8\) \(0.4729\) \(0.4729\)

일곱 수가 모두 맞는다. 보기 1 의 코드는 stats.chi2.sf 를 불렀지만 \(k = 3\) 에서는 지수함수 한 번으로 충분했던 것이다.

(3) 두 배가 되는 임계값. \(\exp(-c/(\beta_2-1)) = 0.10\) 을 풀면

\[ \beta_2 - 1 = \frac{c}{\ln 10} = \frac{5.9915}{2.3026} = 2.6021 \quad\Longrightarrow\quad \beta_2 = 3.6021,\qquad \gamma_2 = 0.6021 \]

이다. 절반이 되는 임계값은 \(\beta_2 - 1 = c/\ln 2 = 5.9915/0.6931 = 8.6439\), 곧 \(\gamma_2 = 6.644\) 다. 지수분포의 \(\gamma_2 = 6\) 이 이 임계값 바로 아래라서 극한 오류율 \(0.4729\) 가 \(1/2\) 에 거의 닿는다.

\(t_d\) 로 환산하면 \(6/(d-4) = 0.6021\) 에서 \(d = 4 + 9.966 = 13.97\), 곧 \(t_{14}\) 다.

한 줄 해석. \(\gamma_2 = 0.60\) 은 눈으로도, 표본 첨도로도 정규와 거의 구별되지 않는 정도의 두꺼운 꼬리다(\(n = 20\) 에서 표본 첨도의 표준오차가 \(\sqrt{24/20} = 1.10\) 이니 \(0.60\) 은 잡음 안에 묻힌다). 그런데 그 정도로 이미 오류율이 두 배다. 본문이 "정규분포는 이 직선 위의 한 점에 불과하다" 고 한 말은 그 점에서 벗어날 여유가 거의 없다는 뜻이다. \(\square\)


연습문제 6. 본문 3절은 바틀렛의 크기 팽창이 \(F\) 검정보다 \(1.2\)~\(1.4\) 배 심한 까닭을 "바틀렛이 표본분산의 로그를 쓰고 \(\ln S^2\) 가 \(S^2\) 보다 첨도에 민감하기 때문" 이라고 설명한다. 그런데 보기 1 은 바틀렛의 극한 배율 \((\beta_2-1)/2\) 가 5.10절이 \(F\) 검정에 대해 얻은 배율과 같은 식이고, \(k = 2\) 로 두면 두 극한 오류율이 소수 넷째 자리까지 일치함을 보였다.

(1) 보기 1 의 그 출력을 근거로, 3절의 설명이 \(1.2\)~\(1.4\) 라는 비의 원인일 수 없음을 논하시오.

(2) 그렇다면 비는 어디서 오는가? 연습문제 5 의 극한식을 \(k = 2\) 와 \(k = 3\) 에 대해 \(\beta_2 = 3, 4, 6, 9\) 에서 계산하여 비를 구하고, 3절 표의 \(1.0,\ 1.2,\ 1.4,\ 1.4,\ 1.4\) 와 견주시오.

(3) 비가 1 보다 큰 이유를 \(\chi^2_{k-1}\) 의 모양으로 설명하고, 집단 수를 더 늘리면 어떻게 되는지 \(\beta_2 = 9\), \(k = 10\) 에서 계산하여 말하시오. \(k \to \infty\) 의 극한도 논하시오.

풀이

(1) 로그는 범인이 아니다. 보기 1 의 첫 출력은 \(k = 2\) 로 줄인 바틀렛의 극한 오류율과 5.10절이 \(F\) 검정에 대해 얻은 \(2[1 - \Phi(1.96\sqrt{2/(\beta_2-1)})]\) 이 정규 \(0.0500\), 균등 \(0.0019\), 지수 \(0.3271\), 로그정규 \(0.7942\) 로 네 모집단에서 모두 같다는 것이었다.

3절의 설명대로라면 \(\ln S_i^2\) 를 쓰는 바틀렛이 \(S_1^2/S_2^2\) 를 쓰는 \(F\) 검정보다 커야 한다. 그런데 \(k = 2\) 에서 두 극한이 완전히 같다. 로그가 첨도 민감도를 높인다면 \(k = 2\) 에서도 바틀렛이 더 커야 하는데 그렇지 않다. 그러므로 로그 변환은 \(1.2\)~\(1.4\) 의 원인이 아니다.

더 근본적으로, 단조변환은 검정을 바꾸지 못한다. \(F\) 검정의 기각역(rejection region) \(\{F < F_{\alpha/2}\} \cup \{F > F_{1-\alpha/2}\}\) 에 로그를 씌우면 \(\{\lvert \ln F - 0 \rvert > \text{대응하는 임계값}\}\) 이 되어 같은 표본을 같은 방향으로 판정한다. 통계량을 로그로 적든 안 적든 오류율은 한 글자도 달라지지 않는다. 5.10절이 \(\operatorname{Var}(\log F)\) 를 계산한 것은 유도의 편의였을 뿐이다.

까닭은 연습문제 4 의 유도에서 이미 보였다. 로그는 척도 \(\sigma^2\) 를 지우고 모양 정보만 남기는데, \(F\) 검정도 비 \(S_1^2/S_2^2\) 를 취해 같은 일을 한다. 두 검정은 같은 양을 두 가지 표기로 재고 있을 뿐이고, 그래서 배율 \((\beta_2-1)/2\) 가 같다. 두 검정이 갈리는 유일한 자리는 집단 수다.

(2) 범인은 \(k\) 다. \(k = 2\) 의 극한 오류율은 \(P(\chi^2_1 > 2 \times 3.8415/(\beta_2-1))\) 이고 \(k = 3\) 은 연습문제 5 의 \(\exp(-5.9915/(\beta_2-1))\) 이다.

\(\beta_2\) 모집단 \(k=2\) (= \(F\) 검정) \(k=3\) (바틀렛) 비 3절 표의 비
\(3\) 정규 \(0.0500\) \(0.0500\) \(1.00\) \(1.0\)
\(4\) \(t_{10}\) \(0.1095\) \(0.1357\) \(1.24\) \(1.2\)
\(6\) \(\chi^2_4\) \(0.2151\) \(0.3017\) \(1.40\) \(1.4\)
\(9\) \(t_5\), 지수 \(0.3271\) \(0.4729\) \(1.45\) \(1.4\)

3절 표의 비가 극한식에서 그대로 나온다. \(1.00,\ 1.24,\ 1.40,\ 1.45\) 대 \(1.0,\ 1.2,\ 1.4,\ 1.4\) 다. 3절은 집단 수가 달라 "엄밀한 비교가 아니다" 라고 단서를 달았는데, 사실은 집단 수의 차이가 비를 만든 전부였다. 3절 표의 두 열은 같은 모집단에 대한 두 검정의 비교가 아니라 같은 검정의 \(k = 2\) 열과 \(k = 3\) 열이다.

(3) 왜 \(k\) 가 커지면 나빠지는가. 배율 \(\lambda = (\beta_2-1)/2\) 는 \(k\) 와 무관하므로, 기각 조건은 모든 \(k\) 에서 \(\chi^2_{k-1} > \chi^2_{1-\alpha,\,k-1}/\lambda\) 꼴이다. 곧 임계값이 \(1/\lambda\) 배로 당겨진다. 이 당김이 얼마나 큰 확률 변화를 만드는지는 \(\chi^2_{k-1}\) 이 평균에 비해 얼마나 좁은지에 달려 있다. \(\chi^2_{d}\) 의 변동계수(coefficient of variation)는 \(\sqrt{2/d}\) 로 \(d\) 가 커지면 줄어든다. 분포가 상대적으로 좁아지므로 같은 비율의 당김이 더 많은 질량을 임계값 밖으로 밀어낸다.

정규근사로 적으면 선명하다. \(\chi^2_d \approx d + \sqrt{2d}\,Z\) 이고 \(\chi^2_{0.95,d} \approx d + 1.645\sqrt{2d}\) 이므로 기각 조건은

\[ Z > \frac{1.645}{\lambda} + \sqrt{\frac{d}{2}}\left(\frac{1}{\lambda} - 1\right) \]

이 된다. \(\lambda > 1\) 이면 둘째 항의 괄호가 음수이므로 임계값이 \(-\sqrt{d}\) 의 속도로 내려간다. 따라서 \(\lambda > 1\) 인 어떤 모집단에서도

\[ k \to \infty \quad\Longrightarrow\quad \text{극한 오류율} \to 1 \]

이다. \(\beta_2 = 9\)(\(\lambda = 4\))에서 수로 확인하면 \(k = 2\): \(0.3271\), \(k = 3\): \(0.4729\), \(k = 5\): \(0.6677\), \(k = 10\): \(0.8957\), \(k = 30\): \(0.9993\) 이다. \(k = 10\) 은 \(k = 2\) 의 \(2.74\) 배다.

한 줄 해석. 바틀렛의 병은 로그에 있지 않고 집단을 많이 비교하는 데 있다. 분산분석의 등분산 사전검정은 보통 집단이 여럿일 때 쓰이는데, 하필 그 쪽으로 갈수록 오류율이 1 로 간다. 지수분포 자료에서 집단이 열 개라면 분산이 참으로 모두 같은데도 열 번 가운데 아홉 번 기각한다. \(\square\)


연습문제 7. 본문 2절은 그림의 점들이 거의 한 줄이라며 "\(\gamma_2\) 하나가 오류율을 대부분 설명한다" 고 하고, 같은 \(\gamma_2 = 6\) 인 \(t_5\)(\(0.217\))와 지수분포(\(0.383\))의 차이는 왜도 때문이라고 설명한다. 보기 1 의 풀이는 같은 간격을 4차보다 높은 적률의 부재로 인한 느린 수렴 때문이라고 설명한다. 두 설명은 서로 다른 것을 예측한다.

(1) 본문 표 안에서, 두 모집단이 모두 대칭인데 첨도가 작은 쪽의 오류율이 더 큰 쌍을 찾으시오. 이 쌍이 위 두 주장 가운데 어느 것을 반박하는지 분명히 하고, 그 쌍의 극한 오류율도 계산하여 반박이 유한표본에 국한된 것임을 보이시오.

(2) 두 설명이 \(n \to \infty\) 에 대해 각각 무엇을 예측하는지 쓰고, 보기 1 의 \(n = 20 \to 1280\) 표가 어느 쪽을 지지하는지 \(t_5\) 와 지수분포의 간격을 수로 따져 판정하시오.

(3) (2)의 결론을 받아들이면 본문의 "마름모(치우친 분포)가 같은 첨도의 원(대칭분포)보다 위에 있다" 는 서술을 어떻게 고쳐 읽어야 하는가?

풀이

(1) 반례는 표 안에 있다. \(t_5\) 와 오염 정규를 고른다.

모집단 대칭성 \(\gamma_2\) \(n=20\) 오류율 극한 오류율
오염 정규 대칭 \(5.3\) \(0.335\) \(0.4401\)
\(t_5\) 대칭 \(6\) \(0.217\) \(0.4729\)

오염 정규는 \(0.9\,\mathcal{N}(0,1) + 0.1\,\mathcal{N}(0,9)\) 로 원점 대칭이고 \(t_5\) 도 대칭이다. 그런데 첨도가 작은 오염 정규의 오류율 \(0.335\) 가 첨도가 큰 \(t_5\) 의 \(0.217\) 보다 크다. 둘 다 왜도가 \(0\) 이므로 이 역전을 왜도로 설명할 길이 없다.

그러므로 이 쌍이 반박하는 것은 본문 2절의 "\(\gamma_2\) 하나가 오류율을 대부분 설명한다" 는 쪽이다. 첨도의 순서가 오류율의 순서를 결정하지 못한다는 뜻이고, 그것도 왜도라는 변명이 통하지 않는 대칭분포 안에서 깨진다. 본문 그림의 "거의 한 줄" 은 이 한 쌍에서 이미 접힌다.

반박은 유한표본에만 해당한다. 연습문제 5 의 식으로 극한을 계산하면 오염 정규 \(\exp(-5.9915/7.3) = 0.4401\), \(t_5\) \(\exp(-5.9915/8) = 0.4729\) 로 첨도의 순서가 복원된다. 곧 극한에서는 단조성이 정확히 성립하고(\(\exp(-c/(\beta_2-1))\) 이 \(\beta_2\) 의 증가함수니 당연하다), \(n = 20\) 에서의 역전은 극한에 다가가는 속도의 차이일 뿐이다.

(2) 두 예측이 갈리는 자리는 극한값이다.

  • 왜도 설명이 옳다면 왜도는 극한분포 자체를 바꾸는 것이므로, \(t_5\) 와 지수분포의 간격은 \(n\) 이 커져도 남아야 한다.
  • 수렴속도 설명이 옳다면 극한값은 \(\beta_2\) 만의 함수이니 두 모집단이 같은 값 \(0.4729\) 로 가야 하고, 간격은 \(n\) 과 함께 닫혀야 한다.

보기 1 의 표를 읽는다.

\(n\) \(t_5\) 지수 간격
\(20\) \(0.2233\) \(0.3859\) \(0.1626\)
\(80\) \(0.2950\) \(0.4485\) \(0.1535\)
\(320\) \(0.3477\) \(0.4565\) \(0.1088\)
\(1280\) \(0.3900\) \(0.4633\) \(0.0733\)

간격이 \(0.1626 \to 0.0733\) 으로 절반 이하로 줄어든다. 몬테카를로 표준오차가 \(0.005\) 이니 \(0.09\) 의 감소는 잡음이 아니다. 게다가 지수분포는 \(0.4633\) 으로 공통 예측 \(0.4729\) 에 거의 닿아 멈추었고 \(t_5\) 는 \(0.2233 \to 0.2950 \to 0.3477 \to 0.3900\) 으로 아직 단조증가 중이다. 평평해지지 않았다는 것은 자기 극한에 도달하지 않았다는 뜻이다.

그러므로 수렴속도 설명이 지지된다. 왜도가 극한값을 바꾼다면 두 열이 서로 다른 수평선에 안착해야 하는데, 지수분포만 안착하고 \(t_5\) 는 그 쪽으로 올라오고 있다.

(3) 그림을 다시 읽는 법. 세로 좌표는 "첨도의 함수" 가 아니라 "첨도가 정하는 극한값" 에서 "수렴 지체" 를 뺀 값이다. 왜도는 극한값을 바꾸지 않으므로, 마름모가 위에 있는 것은 치우친 분포가 더 나쁘기 때문이 아니라 같은 첨도의 대칭분포가 아직 덜 나빠 보이기 때문이다. 고쳐 읽으면

꼬리 적률이 겨우 존재하는 대칭분포(\(t_5\))는 \(n = 20\) 에서 자기 극한값에 한참 못 미쳐 아래로 처져 있다. 모든 적률이 유한한 치우친 분포(지수)는 이미 극한에 가까워 제자리에 있다.

가 된다. 왜도가 유한표본에서 수렴을 빠르게 하는 쪽으로 작용한다는 말은 아니다. 지수분포가 빠른 것은 치우쳐서가 아니라 모든 적률이 유한해서이고, \(t_5\) 가 느린 것은 대칭이어서가 아니라 8차 적률이 없어서다. 왜도와 적률의 존재가 본문 표에서 우연히 겹쳐 있어 왜도가 원인처럼 보였던 것이다. 오염 정규가 그 중첩을 끊는 증인이다. 대칭이면서 모든 적률이 유한하고, 그래서 \(n = 20\) 에서 이미 \(0.335\) 까지 올라와 있다. \(\square\)


연습문제 8. 흔히 권해지는 두 단계 절차가 있다 — 집단마다 샤피로–윌크로 정규성을 확인한 뒤, 통과하면 바틀렛을 쓰고 의심스러우면 브라운–포사이드를 쓰는 것이다(이 쪽 §5 의 지침은 그렇게 하지 말라고 적는다). 그 절차를 그대로 코드로 옮겨, 등분산인 \(t_{10}\) · \(\chi^2_4\) · 지수 세 모집단(\(k = 3\), \(n_i = 20\), \(\alpha = 0.05\), 반복 20,000)에서 다음 넷을 재시오.

(가) 세 집단이 모두 샤피로–윌크를 통과할 확률(관문 통과율), (나) 통과한 표본만 모았을 때 바틀렛의 조건부 크기, (다) 지침 전체의 크기, (라) 처음부터 브라운–포사이드만 쓸 때의 크기.

그리고 "정규성 검정을 관문으로 세우면 바틀렛을 안전하게 쓸 수 있다" 는 생각이 왜 성립하지 않는지 (가)와 (나)를 함께 읽어 말하시오.

풀이

먼저 짚어 둘 것. 관문이 걸러 내는 것은 "바틀렛에게 해로운 첨도" 가 아니라 "샤피로–윌크가 \(n = 20\) 에서 탐지할 수 있는 비정규성" 이다. 이 둘이 같은 양이 아니라는 것이 결과를 미리 말해 준다.

import numpy as np
from scipy import stats

# 흔히 권해지는 두 단계 절차를 그대로 코드로 옮긴다(본문 5절의 지침은 이것을 하지 말라고 한다).
#   (1) 집단마다 Shapiro-Wilk   (2) 셋 다 통과하면 Bartlett
#   (3) 하나라도 걸리면 Brown-Forsythe
# 세 집단을 늘 같은 분포에서 뽑으므로 분산은 참으로 같다. 모든 기각률이 0.05 여야 옳다.
rng = np.random.default_rng(15)
n, k, R, alpha = 20, 3, 20000, 0.05
N = n * k
C = 1 + (k + 1) / (3 * k * (n - 1))
cb = stats.chi2.ppf(1 - alpha, k - 1)
cf = stats.f.ppf(1 - alpha, k - 1, N - k)


def bartlett_reject(X):          # X 는 (R, k, n) 꼴
    S = X.var(axis=2, ddof=1)
    T = k * (n - 1) * (np.log(S.mean(axis=1)) - np.log(S).mean(axis=1)) / C
    return T > cb


def bf_reject(X):                # 브라운-포사이드 = 중앙값 이탈도의 일원분산분석
    Z = np.abs(X - np.median(X, axis=2, keepdims=True))
    gm = Z.mean(axis=2)
    ssb = n * ((gm - Z.mean(axis=(1, 2))[:, None]) ** 2).sum(axis=1)
    ssw = ((Z - gm[:, :, None]) ** 2).sum(axis=(1, 2))
    return (ssb / (k - 1)) / (ssw / (N - k)) > cf


pops = [("t(10)", lambda s: rng.standard_t(10, s)),
        ("chi2(4)", lambda s: rng.chisquare(4, s)),
        ("Exponential", lambda s: rng.exponential(1, s))]

print(f"{'분포':>12}{'관문통과':>9}{'통과수':>8}{'통과시Bart':>11}"
      f"{'지침전체':>9}{'늘Bart':>8}{'늘BF':>7}")
for name, gen in pops:
    X = gen((R, k, n))
    rb, rf = bartlett_reject(X), bf_reject(X)
    ok = np.array([all(stats.shapiro(x)[1] >= alpha for x in row) for row in X])
    pipe = np.where(ok, rb, rf)          # 관문이 고른 검정의 판정만 모은다
    print(f"{name:>12}{ok.mean():>9.4f}{ok.sum():>8d}{rb[ok].mean():>11.4f}"
          f"{pipe.mean():>9.4f}{rb.mean():>8.4f}{rf.mean():>7.4f}")

출력:

          분포     관문통과     통과수    통과시Bart     지침전체   늘Bart    늘BF
       t(10)   0.7406   14812     0.0921   0.0748  0.1051 0.0385
     chi2(4)   0.1085    2170     0.1488   0.0482  0.2316 0.0428
 Exponential   0.0041      82     0.3049   0.0442  0.3862 0.0438

(가) 관문의 통과율이 모집단에 따라 극단적으로 다르다. \(t_{10}\) 에서는 \(0.7406\), \(\chi^2_4\) 에서는 \(0.1085\), 지수분포에서는 \(0.0041\) 이다. 샤피로–윌크의 검정력이 왜도에 민감하므로 치우친 모집단은 거의 다 걸러진다. 지수분포 자료가 관문을 통과하는 일은 250 번에 한 번뿐이다.

(나) 그런데 통과한 표본에서도 바틀렛의 크기가 명목값이 아니다. \(t_{10}\) \(0.0921\), \(\chi^2_4\) \(0.1488\), 지수 \(0.3049\) 다(몬테카를로 표준오차는 차례로 \(0.0024\), \(0.0076\), \(0.051\); 지수의 통과 표본은 82 개뿐이라 셋째 수는 거칠다). 통과했다는 것이 아무것도 보증하지 않는다. \(\chi^2_4\) 에서는 관문을 통과한 자료에서조차 크기가 명목값의 세 배다.

(가)와 (나)를 함께 읽어야 한다. 관문이 잘 듣는 곳(\(\chi^2_4\), 지수)에서는 통과율이 \(0.11\) 과 \(0.004\) 라서 바틀렛이 사실상 쓰이지 않는다. 관문이 못 듣는 곳(\(t_{10}\))에서는 \(0.74\) 가 통과하지만 바로 그 통과분의 크기가 \(0.0921\) 로 두 배 가까이 부풀어 있다. 둘을 겹쳐 놓으면 남는 결론은 하나다.

  • 관문이 바틀렛을 통과시키는 상황은 비정규성이 탐지되지 않을 만큼 약한 상황인데, 연습문제 5 에서 보았듯 \(\gamma_2 = 0.60\) 만으로도 오류율은 두 배가 된다. 그 정도의 첨도는 \(n = 20\) 의 샤피로–윌크로 잡히지 않는다. 관문의 척도와 바틀렛의 민감도가 어긋나 있다.
  • 관문이 바틀렛을 막는 상황에서는 어차피 브라운–포사이드를 쓴다. 그러니 지침에 바틀렛을 남겨 두어서 얻는 것은 "\(t_{10}\) 같은 약한 비정규성에서 크기가 \(0.0921\) 로 망가지는 경로" 하나뿐이다.

(다)와 (라)가 그 손익을 합산해 준다. 지침 전체의 크기는 \(t_{10}\) \(0.0748\), \(\chi^2_4\) \(0.0482\), 지수 \(0.0442\) 다. 처음부터 브라운–포사이드만 쓰면 \(0.0385\), \(0.0428\), \(0.0438\) 이다. \(\chi^2_4\) 와 지수에서 두 줄이 사실상 같은 것은 관문이 거의 언제나 브라운–포사이드로 보냈기 때문이다. 두 줄이 갈리는 곳은 \(t_{10}\) 뿐이고, 그곳에서 지침은 \(0.0748\) 로 명목값의 1.5 배이며 브라운–포사이드는 \(0.0385\) 로 안전한 쪽이다. 사전검정을 붙여서 크기가 좋아지는 모집단이 셋 중 하나도 없다.

한 줄 해석. 사전검정의 역설이 여기서는 이렇게 나타난다. 관문은 왜도를 잘 보고 바틀렛은 첨도에 다친다. 재는 양과 다치는 양이 다르므로 관문을 아무리 정교하게 세워도 보호가 되지 않는다. 본문 5절의 지침이 첫머리에 "정규성이 이론적으로 보장되는 자리가 아니면 처음부터 브라운–포사이드를 쓴다" 고 적은 것은 이 표를 미리 알고 쓴 문장이다. \(\square\)


연습문제 9. 보기 1 은 \(T \to \frac{\beta_2-1}{2}\chi^2_{k-1}\) 을 보였다. 그렇다면 첨도를 표본에서 추정해

\[ T^{*} = \frac{2T}{\hat\beta_2 - 1} \]

로 고쳐 쓰면 어떤 모집단에서도 크기가 맞을 것 같다. 이 희망이 정규 자료에서 왜 깨지는지 계산으로 보이시오.

설정: \(k = 3\), \(n_i = 20\), \(\alpha = 0.05\) 이고 \(\hat\beta_2\) 는 세 집단을 합친 \(N = 60\) 개 관측값으로 추정한다. 정규성 아래 \(\hat\beta_2 \approx \mathcal{N}(3,\,24/N)\) 이고 \(\hat\beta_2\) 는 \(T\) 와 독립이라고 하자. 정규 오차 \(e \sim \mathcal{N}(0,\sigma^2)\) 의 적률생성함수 \(E[e^{\lambda e}] = e^{\lambda^2\sigma^2/2}\) 를 쓰라.

(1) \(T^{*}\) 검정의 크기를 닫힌 식으로 구하고 수를 계산하시오.

(2) \(n_i = 200\) 으로 키우면 어떻게 되는지 같은 식으로 구하시오.

(3) \(P(\hat\beta_2 < 1.5)\) 를 구하고 그때 \(T^{*}\) 가 \(T\) 의 몇 배가 되는지 말하여 이 보정의 또 다른 결함을 지적하시오. 아울러 표본첨도 자체도 2장의 하한 \(\hat\beta_2 \ge 1\) 을 반드시 만족한다는 점이 위 정규근사에 어떤 흠을 남기는지 짚으시오. 끝으로 이 보정의 분산이 어느 모집단에서 가장 커지는지 말하시오.

풀이

(1) 보정은 옌센 때문에 한쪽으로 치우친다. 자료가 정규이면 \(\beta_2 = 3\) 이라 배율이 \(1\) 이고 \(T \to \chi^2_2\) 다. 기각 조건을 \(\hat\beta_2\) 쪽으로 옮겨 쓰면

\[ T^{*} = \frac{2T}{\hat\beta_2 - 1} > c \quad\Longleftrightarrow\quad T > \frac{c\,(\hat\beta_2-1)}{2}, \qquad c = \chi^2_{0.95,\,2} = 5.9915 \]

이다. \(\hat\beta_2\) 가 \(T\) 와 독립이므로 \(\hat\beta_2\) 로 조건을 걸고 평균하면, \(P(\chi^2_2 > x) = e^{-x/2}\) 에서

\[ \text{크기} = E\!\left[\exp\!\left(-\frac{c(\hat\beta_2-1)}{4}\right)\right] \]

이다. \(\hat\beta_2 - 1 = 2 + e\), \(e \sim \mathcal{N}(0, \sigma^2)\), \(\sigma^2 = 24/60 = 0.4\) 로 쓰면

\[ \text{크기} = e^{-c/2}\,E\!\left[e^{-ce/4}\right] = e^{-c/2}\exp\!\left(\frac{(c/4)^2\sigma^2}{2}\right) = 0.05 \times \exp\!\left(\frac{c^2\sigma^2}{32}\right) \]

이다. 수를 넣으면 \(c^2 = 35.898\), \(c^2\sigma^2/32 = 35.898 \times 0.4/32 = 0.44872\), \(e^{0.44872} = 1.5663\) 이므로

\[ \text{크기} = 0.05 \times 1.5663 = 0.0783 \]

이다. 정규 자료에서 \(0.050\) 이던 크기가 \(0.078\) 로 망가졌다. 부등식의 방향은 옌센 부등식으로 미리 알 수 있다. \(x \mapsto e^{-cx/4}\) 가 볼록이므로 \(E[e^{-c(\hat\beta_2-1)/4}] > e^{-c(\beta_2-1)/4}\) 이고, 보정이 평균적으로 옳더라도 \(\hat\beta_2\) 의 요동이 크기를 언제나 위로 밀어 올린다.

(2) \(n_i = 200\). \(N = 600\) 이므로 \(\sigma^2 = 24/600 = 0.04\) 이고

\[ \text{크기} = 0.05 \times \exp\!\left(\frac{35.898 \times 0.04}{32}\right) = 0.05 \times e^{0.044872} = 0.05 \times 1.0459 = 0.0523 \]

이다. 집단마다 표본을 열 배로 늘려서야 \(0.078\) 이 \(0.052\) 로 내려온다. 지수가 \(\sigma^2 \propto 1/N\) 에 비례하니 당연한 결과이고, 다시 말하면 4차 적률의 추정오차가 \(\sqrt{N}\) 으로만 줄기 때문이다.

(3) 분모가 0 에 다가간다. 배율 \(2/(\hat\beta_2-1)\) 은 \(\hat\beta_2 \to 1^{+}\) 에서 발산한다. 정규 자료에서 그 근처에 떨어질 확률을 재면

\[ P(\hat\beta_2 < 1.5) = \Phi\!\left(\frac{1.5-3}{\sqrt{0.4}}\right) = \Phi(-2.3717) = 0.0089 \]

이다. 그때 \(\hat\beta_2 - 1 < 0.5\) 이므로 \(T^{*} > 4T\), 곧 통계량이 네 배 이상으로 뛴다. \(T\) 가 \(\chi^2_2\) 일 때 \(4T > c\) 가 될 확률은 \(e^{-c/8} = 0.472\) 이니, 이 \(0.9\%\) 의 자료에서는 등분산인데도 절반 가까이 기각한다. (1)의 전체 기각 \(0.0783\) 가운데 \(0.0089 \times 0.472 = 0.0042\), 곧 \(5.4\%\) 가 이 왼쪽 꼬리에서 나온다. 표본의 \(0.9\%\) 가 기각의 \(5.4\%\) 를 떠맡으니 자기 몫의 여섯 배다. 보정을 끼운 대가가 몇 개의 불운한 \(\hat\beta_2\) 에 집중된다.

정규근사 자체에도 흠이 있다. 2장의 부등식 \(\beta_2 \ge 1 + \gamma_1^2 \ge 1\) 은 임의의 분포에 대한 것이고 경험분포도 분포이므로, 어떤 자료에서나 \(\hat\beta_2 \ge 1\) 이 성립한다. 곧 \(\hat\beta_2\) 는 \(1\) 아래로 내려갈 수 없는데 근사 \(\mathcal{N}(3, 0.4)\) 는 거기에 \(\Phi(-3.1623) = 0.00078\) 의 질량을 둔다. 하한에 막힌 양을 벽 쪽에서 \(3.16\) 표준편차밖에 떨어지지 않은 정규로 근사한 것이니, 크기 \(0.0783\) 은 왼쪽 꼬리의 모양에 민감한 근사값일 뿐 정확한 값이 아니다. 하지만 결론의 방향은 근사와 무관하다. 볼록성이 주는 부등식 \(E[e^{-c(\hat\beta_2-1)/4}] > e^{-c/2} = 0.05\) 는 \(\hat\beta_2\) 의 분포 모양에 전혀 의존하지 않고 편향이 없다는 가정만으로 성립한다.

분산이 가장 커지는 곳이 하필 보정이 가장 필요한 곳이다. \(\hat\beta_2\) 는 4차 표본적률이므로 그 분산은 8차 적률에 달려 있다. 그런데 보정이 절실한 두꺼운 꼬리 모집단이 바로 높은 적률이 위태로운 분포들이다. 보기 1 의 풀이가 지적한 대로 \(t_5\) 는 4차 적률이 겨우 존재하고 8차 적률이 무한이라, \(\hat\beta_2\) 의 분산이 아예 발산한다. \(T^{*}\) 는 그런 모집단에서 쓸 수 없다.

한 줄 해석. 본문이 "첨도는 4차 적률이라 표본에서 정밀하게 추정하기가 매우 어렵고, 그 추정 자체가 작은 표본에서 믿을 만하지 못하다" 고 한 말의 정량적 내용이 이것이다. 첨도를 끼워 넣는 처방은 바틀렛이 유일하게 잘 작동하던 자리(정규)를 망치고, 가장 필요한 자리(두꺼운 꼬리)에서는 추정 자체가 무너진다. 그래서 길은 보정이 아니라 첨도에 의존하지 않는 통계량, 곧 15.5절의 로버스트 검정이다. \(\square\)


연습문제 10. 2장은 임의의 분포에서 \(\beta_2 \ge 1 + \gamma_1^2\) 임을 보였다(\(\gamma_1\) 은 왜도). 이것을 연습문제 5 의 닫힌 식에 넣으면 첨도를 전혀 모르고 왜도만 알아도 바틀렛의 극한 오류율에 하한을 매길 수 있다. \(k = 3\), \(\alpha = 0.05\) 로 한다.

(1) 하한식을 쓰고, 지수분포(\(\gamma_1 = 2.0\))와 \(\chi^2_4\)(\(\gamma_1 = \sqrt{8/4}\))에 대해 수를 구하여 연습문제 5 의 실제 극한값과 견주시오.

(2) 극한 오류율이 명목값의 두 배(\(0.10\)) 이상임이 보장되는 왜도의 임계값을 구하시오. 오류율이 적어도 \(0.05\) 임이, 곧 바틀렛이 결코 보수적이지 않음이 보장되는 임계값도 구하시오. 두 번째 임계값이 그렇게 깔끔한 수로 나오는 까닭을 말하시오.

(3) 하한이 등식이 되는 분포는 무엇인가. 그리고 이 임계값이 실무에서 첨도 기준보다 쓸모 있는 까닭을 한 단락으로 쓰시오.

풀이

(1) 증가함수에 하한을 끼워 넣는다. 연습문제 5 에서 극한 오류율은 \(\exp(-c/(\beta_2-1))\), \(c = 5.9915\) 이고 이것은 \(\beta_2\) 의 증가함수다. 따라서 \(\beta_2 - 1 \ge \gamma_1^2\) 을 그대로 넣으면

\[ \text{극한 오류율} = \exp\!\left(-\frac{c}{\beta_2-1}\right) \;\ge\; \exp\!\left(-\frac{c}{\gamma_1^2}\right) \]

이다. 오른쪽에는 왜도만 들어 있다.

모집단 \(\gamma_1\) 하한 \(\exp(-c/\gamma_1^2)\) 실제 극한값 \(\beta_2\) 대 \(1+\gamma_1^2\)
\(\chi^2_4\) \(\sqrt{2} = 1.4142\) \(0.0500\) \(0.3017\) \(6\) 대 \(3\)
지수 \(2.0\) \(0.2236\) \(0.4729\) \(9\) 대 \(5\)

지수분포: \(\gamma_1^2 = 4\) 이므로 하한은 \(\exp(-5.9915/4) = \exp(-1.4979) = 0.2236\) 이고 실제 극한값 \(0.4729\) 가 그보다 크다. \(\chi^2_4\): \(\gamma_1^2 = 2\) 이므로 하한은 \(\exp(-5.9915/2) = 0.0500\) 이고 실제는 \(0.3017\) 이다.

하한이 느슨하다. 두 분포 모두 \(\beta_2\) 가 \(1 + \gamma_1^2\) 보다 한참 크기 때문이다(\(9 > 5\), \(6 > 3\)). 하한은 "왜도가 이만큼인 분포들 가운데 가장 유리한 경우" 를 말하므로, 실제 자료는 언제나 그보다 나쁘다.

(2) 임계값. 하한 \(\exp(-c/\gamma_1^2)\) 를 \(0.10\) 이상으로 만들려면

\[ \gamma_1^2 \;\ge\; \frac{c}{\ln 10} = \frac{5.9915}{2.3026} = 2.6021 \quad\Longrightarrow\quad \lvert \gamma_1 \rvert \;\ge\; 1.6131 \]

이다. \(0.05\) 이상으로 만들려면

\[ \gamma_1^2 \;\ge\; \frac{c}{\ln 20} = \frac{5.9915}{2.9957} = 2.0000 \quad\Longrightarrow\quad \lvert \gamma_1 \rvert \;\ge\; \sqrt{2} = 1.4142 \]

이다. 두 번째 임계값이 정확히 \(\sqrt 2\) 인 것은 우연이 아니다. \(\alpha = 0.05 = e^{-c/2}\) 이므로 \(\ln(1/\alpha) = \ln 20 = c/2\) 이고, 하한이 \(\alpha\) 와 같아지는 조건은 \(c/\gamma_1^2 = c/2\), 곧 \(\gamma_1^2 = 2\) 가 된다. \(\alpha\) 가 무엇이든 "결코 보수적이지 않음" 의 임계값은 \(\gamma_1^2 = 2\) 다. 임계값 \(c\) 가 양쪽에서 약분되기 때문이다.

\(\chi^2_4\) 의 왜도가 바로 \(\sqrt 2\) 라는 것이 재미있는 검산이다. 그 분포는 왜도만으로 "하한이 정확히 \(\alpha\)" 인 경계에 서 있고, 실제 첨도가 하한을 넘으므로 실제 오류율은 \(0.3017\) 로 훌쩍 넘어간다.

(3) 등식은 두 점 분포에서만. 2장의 증명은 표준화한 \(X\) 에 대해 \(X^2 - 1\) 과 \(X\) 에 코시–슈바르츠를 쓴 한 줄이고, 등호는 \(X^2 - 1 = cX\) 가 확률 \(1\) 로 성립할 때, 곧 \(X\) 가 이차방정식 \(x^2 - cx - 1 = 0\) 의 두 근만 값으로 가질 때다. 베르누이\((p)\) 가 그 분포다. \(pq = p(1-p)\) 로 쓰면

\[ \gamma_1^2 = \frac{1-4pq}{pq}, \qquad \beta_2 = \frac{1-3pq}{pq}, \qquad \beta_2 - \gamma_1^2 = \frac{pq}{pq} = 1 \]

로 차가 정확히 \(1\) 이다. 예컨대 \(p = 0.1\) 이면 \(\gamma_1^2 = 7.111\) 이고 하한 \(\exp(-5.9915/7.111) = 0.4306\) 이 그대로 실제 극한값이다.

왜 왜도 기준이 쓸모 있는가. 바틀렛의 타당성을 가르는 양은 첨도지만, 첨도는 4차 적률이라 표본에서 믿을 만하게 추정되지 않는다(\(n = 20\) 에서 표본 첨도의 표준오차가 \(\sqrt{24/20} = 1.10\) 으로 연습문제 5 의 임계값 \(0.60\) 보다 크다. 재려는 양보다 자가 거칠다). 반면 왜도는 3차 적률이라 표준오차가 \(\sqrt{6/n}\) 으로 절반이고, 무엇보다 히스토그램이나 Q-Q 그림에서 눈으로 보인다. 그런데 위 하한은 왜도 하나만으로 "오류율이 적어도 두 배" 를 분포를 특정하지 않고 결론 낸다. 곧 실무 지침이 이렇게 간단해진다.

자료가 눈에 띄게 치우쳐 있으면(\(\lvert \gamma_1 \rvert \gtrsim 1.61\)) 첨도를 볼 필요도 없이 바틀렛은 자격을 잃는다.

흔히 권해지는 "샤피로–윌크가 기각하지 못하고 Q-Q 그림이 선형이면 바틀렛" 보다 훨씬 쓰기 쉬운 기준이고, 연습문제 8 이 보인 대로 관문으로서 더 정직하다. 다만 방향을 혼동하면 안 된다. 이것은 실격 기준이지 합격 기준이 아니다. 왜도가 작다고 첨도가 작을 리 없고(\(t_5\) 가 대칭이면서 \(\beta_2 = 9\) 다), 하한이 \(\alpha\) 아래로 떨어진다고 바틀렛이 안전해지는 것도 아니다. 2장의 부등식은 한쪽 방향으로만 말을 해 준다. \(\square\)


정리하며

바틀렛 검정은 정규일 때 최강, 아닐 때 최약이다.

  • 이 장에서 비정규성 민감도가 가장 높다. \(F\) 검정보다도 심하며, 꼬리가 두꺼운 자료에서 거짓 양성률이 크게 부푼다.
  • 기각의 원인을 구별할 수 없다. 분산이 달라서인지 자료가 비정규여서인지 알 수 없으며, 그것이 진단 도구로서 치명적인 결함이다.
  • 그래서 일상적인 등분산 확인에는 쓰지 않는다. 레빈이나 브라운–포사이드가 실무의 선택이다.
  • 정당한 용도는 정규성이 확립된 경우다. 공정이 오래 안정되어 정규성이 검증된 품질관리 자료 같은 상황이다.
  • 검정력의 이득이 크지 않다. 정규 자료에서 레빈 대비 이득이 있지만, 그 이득을 얻으려고 감수하는 위험이 훨씬 크다.

다음 절 바틀렛 검정 비정규성 민감도로 넘어간다. 여기서 말한 민감도를 모의실험으로 재어, 대수정규 자료에서 레빈·플리그너–킬린과 나란히 견준다.