콘텐츠로 이동

왜 분산을 검정하는가

들어가는 이야기 — 평균이 같은 두 기계의 불량률이 32 배

두 기계가 과자 상자를 채운다. 둘 다 평균이 정확히 \(500\) g 이라 평균만 보면 구별되지 않는데, 규격을 \(500 \pm 5\) g 으로 두면 불량률이 기계 A 는 \(1.25\%\), 기계 B 는 \(40.47\%\) 다 — \(32\) 배 차이다. 한쪽은 백 상자에 하나, 다른 쪽은 다섯에 둘이 불량인데 평균에 대한 검정은 둘을 같다고 말한다.

평균을 더 정밀하게 맞추는 것으로는 이 차이를 메울 수 없다. 규격 안에 들어오는 비율을 정하는 것은 중심의 위치가 아니라 산포의 폭이고, 평균은 이미 다 썼으니 남은 손잡이가 \(\sigma\) 하나뿐이다. 다행인 것은 \(\sigma\) 가 \(\mu\) 보다 훨씬 정밀하게 추정된다는 점이다 — \(10\) 년치 수익률로 재면 \(\hat\mu\) 의 상대오차가 \(79\%\) 인데 \(\hat\sigma\) 는 \(1.4\%\) 다.

그런데 그 일을 하는 연장이 생각보다 약하다. 대수정규 자료에서 바틀렛 검정의 실제 기각률을 재면 \(0.620\) 으로 명목 \(5\%\) 의 \(12\) 배이고, 집단평균을 중심으로 쓰는 레빈도 \(0.189\) 로 네 배 가까이 부푼다. 분산이 실제로 같은데 그렇다. 평균을 견줄 때 받던 중심극한정리(central limit theorem)의 보호가 여기에는 없기 때문이다.

그러면 위치가 아니라 산포를 묻는 검정은 왜, 어디서 필요하며, 그 가운데 어느 것을 집어야 하는가. 아래 상자가 품질 쪽에서 널리 쓰이는 수 하나가 어디서 왔는지 따라가고, \(\S 4\) 가 다섯 검정을 한 지도로 모으며 \(\S 5\) 가 고르는 기준을 세운다.

두 칸짜리 그림. 왼쪽은 재는 기간을 1 해에서 100 해까지 늘릴 때 기대수익률과 변동성의 상대오차를 로그 척도로 그린 두 직선으로, 10 년치에서 79 퍼센트와 1.4 퍼센트다. 오른쪽은 두 상대오차의 비로 기간과 무관하게 56 에 평평하다

왼쪽. 같은 자료에서 두 수를 뽑는데 정밀도가 자릿수로 갈린다 — \(10\) 년치로 재면 기대수익률의 상대오차가 \(79\%\) 인데 변동성은 \(1.4\%\) 다. 까닭은 세는 단위가 달라서다. 평균은 기간의 제곱근으로만 정밀해지는데 변동성은 관측 횟수의 제곱근으로 정밀해지므로 같은 \(10\) 년이라도 날마다 재면 \(2{,}520\) 번을 쓴다. 오른쪽. 그 비가 기간을 아무리 늘려도 \(56\) 에서 움직이지 않는다 — 평균 쪽이 더 오래 기다리면 된다는 뜻이 아니라 끝내 따라잡지 못한다는 뜻이다. 연 기대수익률 \(8\%\), 연 변동성 \(20\%\), 연 \(252\) 거래일로 두고 계산했다.

확인한 곳 — 이 쪽 「\(3.4\) 는 어디서 왔는가」 상자와 그 출처 줄. 불량률과 기각률은 모두 직접 계산하고 모의실험한 값이다

앞의 장들에서 가설검정과 신뢰구간은 모평균과 모비율(population proportion)에 초점을 맞추었다. 그러나 실무의 여러 질문은 위치가 아니라 산포를 중심에 둔다. 변동성이 흔들리는 제조공정은 평균이 목표에 맞아 있어도 불량품을 만들어 낸다. 두 투자전략을 비교하는 포트폴리오 관리자는 기대수익만큼이나 변동성에 관심을 둔다. 이 절은 분산에 대한 형식적 검정이 왜 필수적인지 설명하고 그런 검정이 등장하는 상황들을 미리 살펴본다.


1. 위험과 품질의 측도로서의 분산

모분산 \(\sigma^2\)는 개별 관측값이 모평균 \(\mu\)에서 얼마나 멀리 떨어지는 경향이 있는지를 수량화한다. \(\sigma^2\)이 크면 결과를 예측하기 어렵고, \(\sigma^2\)이 작으면 결과가 \(\mu\) 주위에 촘촘히 모인다.

품질관리에서 시리얼 상자를 채우는 기계는 목표 중량 \(\mu = 500\)그램의 상자를 만들어야 한다. 평균이 정확히 목표에 있더라도 변동성이 과도하면 어떤 상자는 과충전되고(제품 낭비) 어떤 상자는 부족하게 채워진다(고객 불만). 여기서 중요한 질문은 "평균이 500 g인가?"가 아니라 "분산이 규격 한계 \(\sigma_0^2\) 안에 있는가?"이다.

평균이 같고 분산만 다른 두 충전기의 규격 이탈 비율

두 충전기를 같은 축 위에 올렸다. 기계 A는 평균 500.1 g에 표준편차 2 g, 기계 B는 평균 499.9 g에 표준편차 6 g이다. 평균만 보면 두 기계는 구별되지 않는다. 0.2 g 차이는 어떤 표본크기에서도 실질적 의미가 없고, 평균에 대한 \(t\) 검정은 "두 기계가 같다"는 답을 낼 것이다.

그런데 고객이 받는 것은 평균이 아니라 개별 상자다. 규격을 \(500 \pm 5\) g으로 두면 붉게 칠한 영역이 불량이다. 기계 A는 1.25%, 기계 B는 40.47%이다. 32배 차이다. 같은 평균, 같은 목표, 같은 공정인데 한쪽은 100상자에 하나가 불량이고 다른 쪽은 다섯에 둘이 불량이다.

이 그림이 분산 검정의 존재 이유다. 규격 이탈 비율은 \(\mu\)가 아니라 \(\sigma\)가 지배한다. 정규 가정 아래에서 규격 \(\mu_0 \pm L\)의 이탈 확률은 대략 \(2\Phi(-L/\sigma)\)이고, \(\sigma\)가 분모에 들어가 있으니 \(\sigma\)가 세 배가 되면 확률은 세 배가 아니라 자릿수 단위로 뛴다. 평균을 아무리 정밀하게 맞춰도 이 곡선의 폭은 좁아지지 않는다.

그래서 물어야 할 질문이 "\(\sigma_A^2 = \sigma_B^2\)인가"로 바뀐다. 이 질문에 답하는 형식적 도구가 15.3절의 \(F\) 검정이고, "우리 공정의 \(\sigma^2\)이 규격 \(\sigma_0^2\) 안에 있는가"에 답하는 도구가 15.2절의 카이제곱 검정이다.

금융에서 자산 수익률의 분산은 위험의 표준적인 대리변수이다. 기대수익이 같은 두 포트폴리오라도 변동성이 크게 다를 수 있다. 다음의 형식적 검정은

\[ H_0\colon \sigma_1^2 = \sigma_2^2 \quad \text{대} \quad H_a\colon \sigma_1^2 \neq \sigma_2^2 \]

"이 두 전략의 위험이 같은가?"라는 질문에 증거에 기반한 답을 준다.


그림으로 보는 통계학 1. \(3.4\) 는 어디서 왔는가

분산이 주인공이 된 가장 큰 사례가 있다. \(1986\) 년 모토로라의 기술자 빌 스미스가 회사 안에서 쓰기 시작한 말, 식스시그마다. \(1988\) 년 모토로라는 그 공로로 첫 맬컴 볼드리지 국가품질상을 받았고, \(1995\) 년 제너럴 일렉트릭의 잭 웰치가 회사의 핵심 전략으로 삼으면서 전 세계로 퍼졌다. 경영서가 수백 권 나왔다.

그 전부가 한 문장 위에 서 있다. 「식스시그마는 백만 개에 \(3.4\) 개다.」

그런데 규격선이 평균에서 \(6\sigma\) 떨어져 있고 공정이 정규이며 중심이 맞아 있다면, 규격을 벗어날 확률은

\[ 2\,\Phi(-6) = 1.97 \times 10^{-9} = 0.002\ \text{ppm} \]

이다. 백만 개에 \(3.4\) 개가 아니라 십억 개에 두 개다. \(3.4\) 는 \(1{,}700\) 배나 느슨하다. 틀린 수가 교과서에 실린 것인가.

왼쪽은 중심이 맞은 정규와 1.5 시그마 밀린 정규를 로그 척도 밀도로 겹쳐 그리고 ±6 규격선 바깥을 칠한 그림, 가운데는 시그마 수준별 백만 개당 불량이 두 곡선으로 갈려 6 시그마에서 0.002 와 3.4 가 되는 그림, 오른쪽은 시그마를 n 개로 추정했을 때 참 시그마 수준의 95 퍼센트 구간이 n=30 에서 4.46 부터 7.53 까지 벌어지는 그림

왼쪽 두 칠한 영역의 넓이 비가 \(1{,}722\) 배다. 미는 폭 \(1.5\) 가 그 전부를 만든다.

답은 왼쪽 칸에 있다. 모토로라는 공정의 중심이 장기적으로 \(1.5\sigma\) 쯤 밀린다고 보았다. 기계가 닳고 온도가 바뀌고 재료가 달라진다. 평균이 \(1.5\) 밀리면 먼 쪽 규격선까지 남는 거리는 \(6 - 1.5 = 4.5\) 뿐이고,

\[ \Phi(-4.5) = 3.40 \times 10^{-6} = 3.4\ \text{ppm} \]

이 나온다. \(3.4\) 는 \(\Phi(-6)\) 이 아니라 \(\Phi(-4.5)\) 다.

가운데 칸이 널리 돌아다니는 그 표다. 두 줄이 나란히 있어야 읽을 수 있다.

시그마 수준 중심이 맞았을 때 \(1.5\sigma\) 밀렸을 때
\(3\sigma\) \(2{,}700\) ppm \(66{,}811\) ppm
\(4\sigma\) \(63\) ppm \(6{,}210\) ppm
\(5\sigma\) \(0.6\) ppm \(233\) ppm
\(6\sigma\) \(0.002\) ppm \(3.4\) ppm

오른쪽 열이 경영서에 실린 수다. 그러니 「우리 공정은 \(4\sigma\) 입니다」라는 말은 불량이 백만 개에 \(63\) 개라는 뜻이 아니라 \(6{,}210\) 개라는 뜻이고, 그 백 배 차이는 공정이 아니라 밀리는 폭에 대한 가정 하나에서 온다. \(1.5\) 는 확률에서 유도한 수가 아니라 모토로라가 공장에서 관찰했다고 보고한 값이다. 슈하트가 관리도의 한계선을 \(3\) 으로 고른 것과 같은 성격의 수이며, 그래서 줄곧 논란이 되어 왔다.

여기서 이 장이 시작된다. 오른쪽 칸을 보라. 저 모든 수의 분모에 \(\sigma\) 가 있는데, \(\sigma\) 는 재어서 얻는 값이다. \(n = 30\) 개로 추정해 「\(6\sigma\) 공정」이라고 보고했다면, 참 시그마 수준의 \(95\%\) 구간은 \([4.46,\ 7.53]\) 이다. ppm 으로 옮기면 \([0.0,\ 1{,}522]\) — 상한이 보고값의 \(450\) 배다. \(n = 100\) 이라야 \([5.16,\ 6.83]\) 으로 좁혀진다.

분산의 추정값 하나에 사업 전체가 걸려 있는데, 그 추정값에 얼마나 큰 오차가 붙는지를 묻는 것이 이 장의 일이다. 두 공정의 분산이 정말 다른지, 그 차이가 표본의 장난인지를 가리는 도구가 아래 \(2\) 절부터 줄줄이 나온다.

확인한 곳 — 빌 스미스가 \(1986\) 년 모토로라에서 식스시그마를 시작한 것, 모토로라의 \(1988\) 년 볼드리지상, GE 가 \(1995\) 년에 채택한 것, \(1.5\sigma\) 이동 가정. 표의 수는 모두 직접 계산한 값이다

2. 선행 확인 절차로서의 분산 검정

널리 쓰이는 여러 통계 절차가 집단 간 모분산이 같다고 가정한다. 합동분산(pooled variance)을 쓰는 이표본 \(t\) 검정과 일원분산분석은 모두 등분산성(homoscedasticity)을 요구한다. 곧

\[ \sigma_1^2 = \sigma_2^2 = \cdots = \sigma_k^2 \]

이 가정이 위배되었는데도 분석자가 그대로 진행하면 그 결과인 \(p\) 값과 신뢰구간이 심각하게 왜곡될 수 있다. 분산 검정은 이런 절차를 적용하기 전의 진단 확인 역할을 한다. 레빈 검정과 브라운–포사이드 검정이 분산분석(analysis of variance)의 등분산성 사전검정으로 가장 흔히 쓰인다.


3. 분산 자체가 관심 모수일 때

연구 질문이 분산을 장애모수(nuisance parameter)로 취급하지 않고 직접 겨냥하는 경우도 있다.

  • 측정 정밀도. 어떤 실험실이 자사 분석법의 표준편차가 최대 2 mg/dL이라고 주장한다. \(H_0\colon \sigma^2 \le 4\)를 \(H_a\colon \sigma^2 > 4\)에 대해 검정하면 그 주장을 평가할 수 있다.
  • 공정 안정성. 제조업체가 기계를 재보정한 뒤 제품 치수의 분산이 바뀌었는지 감시한다. \(\sigma_{\text{before}}^2\)과 \(\sigma_{\text{after}}^2\)의 전후 비교가 그 효과를 수량화한다.
  • 변동성 비교. 분석가가 위기 기간의 시장 변동성이 안정 기간의 변동성을 넘어서는지 검정한다.

각 상황에서 표본분산(sample variance) \(S^2\)이 \(\sigma^2\)의 자연스러운 점추정량이고, \(S^2\)의 표집분포(sampling distribution)가 형식적 추론의 근거를 제공한다.


4. 분산 검정 개관

이 장에서 다루는 검정들은 몇 가지 범주로 나뉜다.

검정 표본 수 가정 절
카이제곱 검정 일표본 정규성 15.2
F 검정 이표본 정규성 15.3
바틀렛 검정 \(k \ge 2\) 표본 정규성 15.4
레빈 검정 \(k \ge 2\) 표본 완화됨 15.5
브라운–포사이드 검정 \(k \ge 2\) 표본 완화됨 15.5
플리그너–킬린 검정 \(k \ge 2\) 표본 최소 15.5

카이제곱 검정과 F 검정은 정규성(normality) 아래에서 정확하지만 비정규성에 민감하다. 바틀렛 검정은 F 검정을 여러 집단으로 확장하되 같은 민감성을 물려받는다. 15.5절의 로버스트 검정들은 정규성 요구를 완화하는 대신 실제로 정규성이 성립할 때 검정력이 약간 낮아진다.

각 검정이 쓰는 통계량을 한자리에 모아 둔다. 유도와 분포는 절마다 따로 다룬다.

분산에 대한 카이제곱 검정

이 검정은 한 모집단의 분산이 지정된 값과 다른지 판정한다. 자료가 정규분포를 따른다고 가정하며 이 가정의 이탈에 매우 민감하다.

크기 \(n\)인 표본과 표본분산 \(s^2\)에 대한 검정통계량(test statistic)은

\[ \chi^2 = \frac{(n - 1) s^2}{\sigma_0^2} \]

여기서 \(\sigma_0^2\)은 가설로 세운 모분산이다.

F 검정

F 검정은 독립인 두 표본의 분산을 비교한다. 두 모분산이 같다는 귀무가설(null hypothesis)을 검정한다. 이 검정 역시 정규성 가정에 민감하며 두 표본이 독립일 것을 요구한다.

검정통계량은 두 표본분산의 비이다.

\[ F = \frac{s_1^2}{s_2^2} \]

여기서 \(s_1^2\)과 \(s_2^2\)은 두 집단의 표본분산이다.

바틀렛 검정

바틀렛 검정은 자료가 정규분포를 따른다는 가정 아래에서 여러 집단에 걸친 분산의 동일성을 평가한다. 정규성 위배에 매우 민감하여 정규성에서 조금만 벗어나도 오도하는 결과가 나올 수 있다. 이런 민감성에도 불구하고 정규성을 합리적으로 가정할 수 있을 때 자주 쓰인다.

검정통계량은

\[ T = \frac{(N - k) \ln(S_p^2) - \sum_{i=1}^k (n_i - 1) \ln(S_i^2)}{1 + \frac{1}{3(k - 1)} \left( \sum_{i=1}^k \frac{1}{n_i - 1} - \frac{1}{N - k} \right)} \]

여기서 \(N\)은 전체 표본크기, \(k\)는 집단의 수, \(S_p^2\)은 합동분산, \(S_i^2\)은 각 집단의 표본분산이다.

레빈 검정

레빈 검정은 분산의 동일성에 대한 F 검정의 로버스트 대안이다. 정규성 이탈에 덜 민감하므로 자료가 정규분포를 따르지 않을 때 더 적절하다. 각 관측값과 집단평균의 절대편차에 기반한다.

레빈 검정의 가설은

  • \(H_0\): 모분산이 모두 같다.
  • \(H_a\): 모분산이 모두 같지는 않다.

브라운–포사이드 검정

이 검정은 레빈 검정의 변형으로, 집단평균 대신 집단중앙값을 써서 이상치(outlier)에 대한 민감성을 더 줄인다. 자료에 이상치가 있을 때 특히 유용하며 분산 동일성을 더 로버스트하게 판정한다.

플리그너–킬린 검정

플리그너–킬린 검정은 순위에 기반한 비모수(nonparametric) 검정이다. 매우 로버스트하며 자료가 정규성 가정을 충족하지 못할 때 적절하다. 브라운–포사이드 검정과 마찬가지로 이상치가 있거나 비정규인 자료에 효과적이다.


5. 올바른 검정 선택하기

분산 검정의 선택은 세 요인에 달려 있다.

  1. 집단의 수. 일표본 문제에는 카이제곱 검정을 쓴다. 이표본 문제에는 F 검정을 쓴다. 다표본 문제에는 바틀렛, 레빈 또는 관련 절차가 필요하다.
  2. 분포 가정. 자료가 근사적으로 정규이면 카이제곱, F, 바틀렛 검정이 적절하고 검정력이 가장 높다. 자료가 치우쳤거나 꼬리가 두꺼우면 레빈이나 브라운–포사이드 같은 로버스트 검정을 선호해야 한다.
  3. 검정의 목적. 분산 검정을 분산분석 전의 예비 확인으로 쓰는 것 자체가 권할 일이 아니다 — 15.7절 분산분석 사전검정이 그 절차가 \(\alpha\) 를 잃는 것을 재어 둔다. 등분산을 설계가 보장하지 않으면 처음부터 웰치 쪽으로 간다. 분산 자체가 과학적 관심량이라면 정규성 아래에서 정확한 추론을 주는 카이제곱이나 F 검정이 낫다.

실무 지침

정규성이 의심스러울 때는 브라운–포사이드 검정을 기본값으로 삼으라. 편차를 잴 때 평균 대신 중앙값을 쓰므로 왜도(skewness)와 이상치에 로버스트하면서도 정규성 아래에서 합리적인 검정력을 유지한다.

표로 한 번, 그림으로 한 번

검정 표본 수 정규성 필요 이상치에 로버스트 용도
카이제곱 1 예 아니오 단일 모분산과 가설값 비교
F 검정 2 예 아니오 독립인 두 집단의 분산 비교
바틀렛 \(\geq 2\) 예 아니오 다집단 분산 동일성 (정규 자료)
레빈 \(\geq 2\) 아니오 중간 다집단 분산 동일성 (일반)
브라운–포사이드 \(\geq 2\) 아니오 예 다집단 분산 동일성 (이상치 존재)
플리그너–킬린 \(\geq 2\) 아니오 예 비모수 다집단 분산 동일성

표의 "정규성 필요" 열이 실제로 무엇을 뜻하는지는 숫자로 보아야 와닿는다. 세 집단을 똑같은 분포에서 각각 \(n = 40\)씩 뽑았다. 모분산이 정의상 완전히 같으므로 \(H_0\)이 참이고, 올바른 검정이라면 2000회 중 5%만 기각해야 한다.

분포와 검정에 따른 경험적 제1종 오류율

정규 자료(초록)에서는 네 검정이 모두 붉은 선 근처다. 0.045, 0.048, 0.039, 0.038 — 약속을 지킨다. 여기까지만 보면 어느 검정을 써도 상관없어 보인다.

자료를 대수정규로 바꾸면(주황) 그림이 무너진다. 바틀렛이 0.620이다. \(H_0\)이 참인데 열 번 중 여섯 번 기각한다. 명목 5%의 12배이고, 이 정도면 검정이 아니라 동전던지기보다 못한 장치다. 레빈(평균)도 0.189로 네 배 가까이 부풀었다. 치우친 자료에서 집단평균이 중심을 제대로 잡지 못하기 때문이다. \(t_5\) 자료(보라)에서도 바틀렛은 0.267이다.

그런데 브라운–포사이드 막대 세 개를 보라. 0.039, 0.039, 0.042. 분포를 바꿔도 거의 움직이지 않는다. 편차를 잴 때 평균 대신 중앙값을 쓴 것 하나가 이 차이를 만든다. 중앙값은 꼬리에 끌려가지 않으므로, 분포의 모양이 바뀌어도 "중심에서 얼마나 떨어져 있는가"라는 측도가 안정적으로 유지된다.

이 그림이 15장 전체의 요약이다. 고전적 검정은 정규성이라는 조건부 계약이고, 조건이 깨지면 계약 자체가 무효가 된다. 표본을 키워도 고쳐지지 않는다는 점이 결정적인데, 그 이유는 다음 절 분산 검정의 공통 가정에서 다룬다.


6. 교과과정 전체와의 연결

분산 검정은 앞의 여러 장에서 나온 흐름들을 하나로 엮는다.

  • 표집분포(5장): 정규성 아래에서 \((n-1)S^2/\sigma^2\)의 표집분포로 카이제곱분포(chi-squared distribution)가 나오고, 독립인 두 카이제곱 변수의 비로 F 분포가 나온다.
  • 가설검정(9장): 귀무가설과 대립가설(alternative hypothesis), 유의수준, \(p\) 값의 논리가 그대로 이어진다.
  • 분산분석(10장): 분산분석의 등분산 가정이 15.4절과 15.5절에서 다루는 사전검정의 동기가 된다.
  • 회귀 진단(13장): 회귀 잔차의 이분산은 15.7절에서 다루는 브로이시–페이건 검정 같은 분산 검정으로 탐지한다.

연습문제

연습문제 1. 어떤 시리얼 충전기가 목표 중량 500 g으로 상자를 채운다. 품질관리 담당자가 두 기계를 비교한 결과 표본평균(sample mean)이 각각 500.1 g과 499.9 g으로 사실상 같았지만, 표본표준편차는 각각 2.0 g과 6.0 g이었다. 왜 평균에 대한 검정만으로는 불충분한지 설명하고, 두 기계의 실질적 차이를 서술하라.

풀이

평균에 대한 \(t\) 검정은 두 기계가 구별되지 않는다고 결론지을 것이다. 두 표본평균 모두 목표치 500 g에 매우 가깝기 때문이다. 그러나 이는 잘못된 안심이다.

상자 중량이 근사적으로 정규라고 가정하면, 규격을 \(500 \pm 5\) g이라 할 때 규격을 벗어날 확률은

  • 기계 A (\(\sigma = 2\)): \(P(|Z| > 5/2) = P(|Z| > 2.5) = 0.0124\), 곧 약 1.2%.
  • 기계 B (\(\sigma = 6\)): \(P(|Z| > 5/6) = P(|Z| > 0.833) = 0.4047\), 곧 약 40%.

기계 B는 상자의 5분의 2가 규격을 벗어난다. 평균이 완벽하게 목표에 맞아 있는데도 그렇다.

핵심은 평균이 위치를, 분산이 신뢰성을 통제한다는 것이다. 품질관리에서 고객이 경험하는 것은 개별 상자이지 평균이 아니므로, 분산이야말로 결정적인 모수이다. 형식적 검정으로는 \(H_0: \sigma_A^2 = \sigma_B^2\)에 대한 F 검정이 적절하다. \(\square\)


연습문제 2. 어떤 실험실이 자사 혈당 분석법의 표준편차가 최대 2 mg/dL이라고 주장한다. 독립인 측정 \(n = 25\)회에서 \(s = 2.6\) mg/dL을 얻었다. \(H_0: \sigma^2 \le 4\)를 \(H_a: \sigma^2 > 4\)에 대해 \(\alpha = 0.05\)에서 검정하라.

풀이

검정통계량은

\[ \chi^2 = \frac{(n-1)s^2}{\sigma_0^2} = \frac{24 \times 2.6^2}{4} = \frac{24 \times 6.76}{4} = 40.56. \]

귀무가설 아래에서 \(\chi^2 \sim \chi^2_{24}\)이다. 상단 단측 검정이므로 임계값은 \(\chi^2_{0.95, 24} = 36.415\)이다.

\(40.56 > 36.415\)이므로 \(H_0\)을 기각한다. \(p\) 값은

\[ p = P(\chi^2_{24} \geq 40.56) = 0.0186. \]
from scipy import stats

n, s, sigma0 = 25, 2.6, 2.0
chi2_stat = (n - 1) * s**2 / sigma0**2
p = 1 - stats.chi2.cdf(chi2_stat, n - 1)
crit = stats.chi2.ppf(0.95, n - 1)
print(f"chi2 = {chi2_stat:.4f}, critical = {crit:.4f}, p = {p:.4f}")

출력:

chi2 = 40.5600, critical = 36.4150, p = 0.0186

손 계산과 일치한다. 관측된 \(\chi^2 = 40.56\)이 임계값 \(36.415\)를 넘는다.

결론: 5% 수준에서 실험실의 주장을 기각할 증거가 있다. 참 표준편차가 2 mg/dL을 넘는 것으로 보인다.

다만 \(p = 0.019\)가 압도적이지는 않고 \(n = 25\)가 작다는 점을 유념하라. 카이제곱 분산 검정은 정규성에 매우 민감하므로, 결론을 확정하기 전에 측정값의 정규성을 확인해야 한다. \(\square\)


연습문제 3. 어떤 분석가가 위기 기간(60거래일)의 일별 수익률 표준편차 \(s_1 = 2.1\%\)와 안정 기간(60거래일)의 \(s_2 = 1.3\%\)를 비교한다. F 검정으로 변동성이 달라졌는지 검정하고, 이 상황에서 F 검정을 쓰는 것의 위험을 논하라.

풀이

검정통계량은

\[ F = \frac{s_1^2}{s_2^2} = \frac{0.021^2}{0.013^2} = \frac{0.000441}{0.000169} = 2.6095. \]

귀무가설 아래에서 \(F \sim F_{59, 59}\)이다. 위기 기간의 변동성이 더 크다는 단측 대립가설에 대해

\[ p = P(F_{59,59} \geq 2.6095) = 1.58 \times 10^{-4}. \]
from scipy import stats

s1, s2, n1, n2 = 0.021, 0.013, 60, 60
F = (s1 / s2)**2
p = 1 - stats.f.cdf(F, n1 - 1, n2 - 1)
print(f"F = {F:.4f}, p = {p:.6f}")

출력:

F = 2.6095, p = 0.000158

\(p = 0.000158\)로, 위에서 적은 \(1.58 \times 10^{-4}\)과 같다.

명목상으로는 변동성 증가의 매우 강한 증거이다.

그러나 이 \(p\) 값을 믿어서는 안 된다

금융 수익률에 F 검정을 적용하는 것은 이 장에서 다루는 가장 위험한 오용 가운데 하나이다. 세 가지 문제가 겹친다.

  1. 두꺼운 꼬리. F 검정은 정규성에 극도로 민감하다. 일별 수익률의 초과첨도는 흔히 3에서 10 사이인데, 이런 자료에서 F 검정의 실제 제1종 오류율은 명목 5%가 아니라 20~30%에 이를 수 있다(15.3절 이표본 F 검정 참조).
  2. 독립성(independence) 위배. 수익률 자체는 거의 무상관이지만 제곱 수익률은 강하게 자기상관되어 있다(변동성 군집). F 검정은 \(n_1 = n_2 = 60\)개의 독립 관측을 가정하지만 유효 표본크기(effective sample size)는 훨씬 작다.
  3. 기간을 자료를 보고 골랐다. "위기 기간"을 변동성이 높았다는 이유로 사후적으로 정의했다면 검정이 순환논법이 된다.

대안: GARCH 모형으로 변동성 동학을 직접 추정하거나, 블록 부트스트랩(bootstrap)으로 자기상관을 반영한 귀무분포를 만들거나, 최소한 브라운–포사이드 같은 로버스트 검정을 쓴다. \(\square\)


연습문제 4. 분산분석을 수행하기 전에 등분산성을 확인하는 관행에는 논리적 문제가 있다. 그 문제를 설명하고, 실무에서 어떻게 대응하는 것이 나은지 논하라.

풀이

문제: 같은 자료로 두 번 결정한다.

"레빈 검정이 기각하지 않으면 표준 분산분석, 기각하면 웰치 분산분석"이라는 절차를 쓰면 최종 검정의 선택이 자료에 의존하게 된다. 그 결과 두 단계를 합친 절차의 실제 제1종 오류율이 명목 \(\alpha\)에서 벗어난다.

두 번째 문제는 검정력의 비대칭이다.

  • 집단이 작으면 레빈 검정의 검정력이 낮아, 등분산성이 실제로 크게 위배되어도 기각하지 못하고 부적절한 표준 분산분석으로 진행하게 된다.
  • 집단이 크면 레빈 검정의 검정력이 지나치게 높아, 실질적으로 무해한 작은 분산 차이도 기각하여 불필요하게 웰치 분산분석으로 가게 된다.

곧 사전검정이 가장 필요한 상황(작은 표본)에서 가장 도움이 안 되고, 필요 없는 상황(큰 표본)에서 가장 민감하다.

더 나은 실무.

  1. 사전검정 없이 처음부터 웰치 분산분석을 쓴다. 등분산일 때 검정력 손실이 미미하고(보통 몇 퍼센트) 등분산이 아닐 때는 크게 낫다. 여러 모의실험 연구가 이를 지지한다.
  2. 분산의 동질성 자체가 과학적 관심사일 때만 형식적 분산 검정을 하고, 그 결과를 분석 방법의 선택이 아니라 보고할 결과로 취급한다.
  3. 집단별 표준편차와 상자그림(box plot)을 항상 함께 보고하여 독자가 스스로 판단할 수 있게 한다. \(\square\)

연습문제 5. 1절은 정규 가정 아래에서 규격 \(\mu_0 \pm L\) 의 이탈 확률을 \(2\Phi(-L/\sigma)\) 로 적었다. 규격이 \(500 \pm 5\) g 이므로 \(L = 5\) 이고, 기계 A는 \(\sigma_A = 2\) 로 이탈률 \(0.0124\), 기계 B는 \(\sigma_B = 6\) 으로 이탈률 \(0.4047\) 이었다.

(1) 기계 B의 평균은 그대로 두고 이탈률만 기계 A와 같은 \(0.0124\) 로 낮추려면 \(\sigma_B\) 를 얼마로 줄여야 하는가. 분산으로는 몇 배를 줄여야 하는가.

(2) 공정은 손댈 수 없고 규격만 다시 쓸 수 있다고 하자. \(\sigma_B = 6\) 을 그대로 두고 이탈률을 \(0.0124\) 로 만드는 규격 폭 \(L\) 은 얼마인가.

(3) 중량이 \(N(\mu, \sigma_B^2)\) 이고 규격이 \([495, 505]\) 로 고정되어 있을 때 이탈률은

\[ p(\mu) = \Phi\!\left(\frac{495-\mu}{\sigma_B}\right) + 1 - \Phi\!\left(\frac{505-\mu}{\sigma_B}\right) \]

이다. 이것을 미분하여, 평균을 어디로 옮겨도 이탈률을 \(0.4047\) 아래로 내릴 수 없음을 보여라.

풀이

(1) 목표 이탈률을 \(\sigma\) 의 식으로 적으면

\[ 2\Phi\!\left(-\frac{5}{\sigma}\right) = 0.0124 \quad\Longleftrightarrow\quad \Phi\!\left(-\frac{5}{\sigma}\right) = 0.0062 \quad\Longleftrightarrow\quad \frac{5}{\sigma} = 2.5 \]

이므로 \(\sigma = 2\) g 이다. 곧 기계 B는 기계 A의 표준편차까지 내려와야 한다. 표준편차로는 \(6 \to 2\) 로 세 배 줄이는 것이지만 분산으로는

\[ \frac{\sigma_B^2}{\sigma_A^2} = \frac{36}{4} = 9 \]

이므로 분산을 9배 줄여야 한다. 공정 개선 비용은 보통 분산 척도로 매겨지므로 이 9배가 실제 부담이다.

(2) 같은 조건을 \(L\) 에 대해 풀면 \(L/\sigma_B = 2.5\), 곧

\[ L = 2.5 \times 6 = 15 \]

이다. 규격을 \(500 \pm 15\) g 으로 세 배 느슨하게 다시 써야 한다. 이는 공정을 고치는 대신 불량의 정의를 바꾸는 것이므로 품질이 좋아진 것이 아니다. 같은 \(2.5\) 라는 수가 (1)과 (2)에 모두 나타나는 것은 이탈률이 \(L\) 과 \(\sigma\) 의 비에만 달려 있기 때문이다.

(3) \(\sigma = \sigma_B\) 로 줄여 쓰고 미분한다. \(\frac{d}{d\mu}\Phi\!\left(\frac{495-\mu}{\sigma}\right) = -\frac{1}{\sigma}\varphi\!\left(\frac{495-\mu}{\sigma}\right)\) 이고 \(\frac{d}{d\mu}\left[1-\Phi\!\left(\frac{505-\mu}{\sigma}\right)\right] = \frac{1}{\sigma}\varphi\!\left(\frac{505-\mu}{\sigma}\right)\) 이므로

\[ p'(\mu) = \frac{1}{\sigma}\left[\varphi\!\left(\frac{505-\mu}{\sigma}\right) - \varphi\!\left(\frac{495-\mu}{\sigma}\right)\right]. \]

\(a = (505-\mu)/\sigma\), \(b = (495-\mu)/\sigma\) 로 두면 언제나 \(a - b = 10/\sigma > 0\) 이다. \(\varphi\) 는 \(0\) 에 대칭이고 \(\lvert \cdot \rvert\) 에 대해 감소하므로 \(\varphi(a) = \varphi(b)\) 는 \(a = -b\) 일 때만 성립하고, 이는 \(\mu = 500\) 을 뜻한다. 또

  • \(\mu > 500\) 이면 \(a < 5/\sigma\) 이고 \(b < -5/\sigma\) 라 \(\lvert b \rvert > \lvert a \rvert\) 이므로 \(\varphi(a) > \varphi(b)\), 곧 \(p'(\mu) > 0\).
  • \(\mu < 500\) 이면 같은 방식으로 \(p'(\mu) < 0\).

그러므로 \(\mu = 500\) 이 유일한 최소점이고 그 값이

\[ p(500) = 2\Phi\!\left(-\frac{5}{6}\right) = 0.4047 \]

이다. 기계 B는 이미 최적의 평균에 놓여 있으므로 평균 조정으로 얻을 것이 하나도 없다.

해석. \(\sigma\) 가 세 배인데 이탈률은 \(0.4047/0.0124 = 32.6\) 배다. \(\Phi\) 의 꼬리가 지수적으로 얇아서 \(L/\sigma\) 가 조금만 줄어도 확률이 자릿수로 뛰기 때문이다. 그리고 (3)이 보인 것은 본문의 "평균을 아무리 정밀하게 맞춰도 이 곡선의 폭은 좁아지지 않는다"는 말의 정확한 형태다. 평균은 이미 다 썼고 남은 손잡이는 \(\sigma\) 하나뿐이다. 그래서 물어야 할 질문이 \(\mu\) 가 아니라 \(\sigma^2\) 에 대한 것이 된다. \(\square\)


연습문제 6. 이 쪽은 분산 검정의 용도를 두 번 서로 다르게 말한다. 2절은 "레빈 검정과 브라운–포사이드 검정이 분산분석의 등분산성 사전검정으로 가장 흔히 쓰인다"고 적었고, '정리하며'는 "사전 검정으로 쓰는 관행은 권하지 않는다"고 적었다.

(1) 두 문장이 실제로 모순인지 판정하라. 모순이 아니라면 각 문장이 무엇에 대한 주장인지 구분해서 적어라.

(2) 연습문제 4의 권고를 끝까지 받아들여 사전검정 없이 처음부터 웰치 분산분석을 쓴다고 하자. 그러면 15.4절과 15.5절의 다표본 분산 검정은 쓸 자리가 없어지는가? 이 쪽의 3절에서 웰치 분산분석이 대신 답해 줄 수 없는 질문 두 개를 찾아 들고, 왜 대신할 수 없는지 한 줄로 적어라.

(3) 4절 표의 '가정' 열은 바틀렛 검정이 '정규성', 레빈 검정이 '완화됨'이라고 적었다. 로버스트 검정이 있는데도 바틀렛 검정을 이 장에 남겨 두는 까닭은 무엇인가. 4절의 표 바로 아래 문단에서 근거를 찾아라.

풀이

(1) 모순이 아니다. 하나는 기술적 주장이고 다른 하나는 규범적 주장이다.

2절의 문장은 "실무에서 무엇이 가장 많이 쓰이는가"에 대한 사실 서술이다. 실제로 많은 교과서와 통계 패키지가 분산분석 앞에 레빈 검정을 붙여 놓았다. '정리하며'의 문장은 "그 관행이 옳은가"에 대한 권고다. 연습문제 4가 그 근거를 적었다. 두 단계를 합친 절차의 제1종 오류율이 명목 \(\alpha\) 를 지키지 못하고, 사전검정의 검정력이 정작 필요한 작은 표본에서 가장 낮다.

곧 "널리 쓰인다"와 "권할 만하다"는 서로 다른 주장이고, 이 쪽은 둘을 모두 정직하게 적어 둔 것이다. 널리 쓰인다는 사실을 알아야 남의 분석을 읽을 수 있고, 권하지 않는다는 판단을 알아야 자기 분석을 설계할 수 있다.

(2) 없어지지 않는다. 웰치 분산분석은 평균에 대한 검정이기 때문이다.

3절이 든 세 상황 가운데 둘을 들면 다음과 같다.

  • 측정 정밀도. "이 실험실의 분석법 표준편차가 2 mg/dL 이하인가", 곧 \(H_0\colon \sigma^2 \le 4\). 가설 자체가 \(\sigma^2\) 에 대한 것이므로 평균을 비교하는 어떤 절차도 이 질문에 답하지 않는다.
  • 공정 안정성. "재보정 뒤 치수의 분산이 바뀌었는가", 곧 \(\sigma_{\text{before}}^2\) 과 \(\sigma_{\text{after}}^2\) 의 비교. 평균은 재보정 전후로 같게 맞춰 두는 것이 보통이므로 평균 비교는 아무것도 탐지하지 못한다.

(세 번째인 "위기 기간과 안정 기간의 변동성 비교"도 같은 성격이고, 연습문제 3이 그 예다.)

사전검정을 버리는 것은 분산 검정을 다른 검정의 수단으로 쓰지 않겠다는 뜻일 뿐이다. 분산이 그 자체로 관심 모수인 질문은 그대로 남아 있고, 15.4절과 15.5절의 검정들은 그 질문에 답하는 도구다. 연습문제 4의 권고 2번이 이것을 "분산의 동질성 자체가 과학적 관심사일 때만 형식적 분산 검정을 하라"로 적었다.

(3) 로버스트성이 공짜가 아니기 때문이다.

4절의 표 바로 아래 문단이 근거다. "15.5절의 로버스트 검정들은 정규성 요구를 완화하는 대신 실제로 정규성이 성립할 때 검정력이 약간 낮아진다." 5절의 2번도 같은 말을 한다. 자료가 근사적으로 정규이면 카이제곱·F·바틀렛 검정이 "적절하고 검정력이 가장 높다."

그러므로 바틀렛 검정은 버릴 도구가 아니라 쓸 조건이 분명한 도구다. 14장의 정규성 검정이나 Q-Q 그림으로 정규성을 지지할 근거가 있고 분산의 동질성이 관심량이라면 바틀렛 검정이 가장 예민하다. 정규성이 의심스러우면 5절의 실무 지침대로 브라운–포사이드 검정으로 옮긴다. 선택의 축은 "낡았는가 새것인가"가 아니라 "정규성을 믿을 근거가 있는가"다. \(\square\)


연습문제 7. 6절은 "정규성 아래에서 \((n-1)S^2/\sigma^2\) 의 표집분포로 카이제곱분포가 나오고, 독립인 두 카이제곱 변수의 비로 F 분포가 나온다"고 적었다. '정리하며'는 "평균 검정과 달리 분산 검정은 중심극한정리의 보호를 받지 못한다"고 적었다. 이 두 문장을 하나의 계산으로 잇는다.

(1) 위 인용의 두 사실이 각각 정규성을 어디서 쓰는지 적고, F 검정이 카이제곱 검정보다 정규성에 더 취약한 이유를 설명하라.

(2) 5.6절은 첨도(kurtosis) \(\beta_2 = \mu_4/\sigma^4\) 를 가진 임의의 모집단에서

\[ \operatorname{Var}(S^2) = \frac{\sigma^4}{n}\left(\beta_2 - \frac{n-3}{n-1}\right) \]

임을 보였다. 카이제곱 모형은 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\) 을 믿으므로 \(\operatorname{Var}(S^2) = 2\sigma^4/(n-1)\) 이라고 본다. 두 값의 비를 구하고 \(n \to \infty\) 의 극한을 적어라. 또 \(n = 25\), \(\beta_2 = 9\) (지수 모집단)에서 그 비의 값을 계산하라.

(3) 2장은 첨도의 하한 \(\beta_2 \ge 1 + \gamma_1^2\) 을 보였다. 왜도 계수가 \(\gamma_1 = 2\) 인 모집단에서 첨도를 전혀 모른다고 해도 (2)의 극한 비에 대해 말할 수 있는 하한은 얼마인가. 또 그 비가 1보다 작아지는 첨도의 범위는 무엇이고, 그때 카이제곱 검정은 어느 쪽으로 틀리는가.

풀이

(1) 정규성이 쓰이는 자리와 '두 겹'의 뜻.

  • \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\) 은 정규 모집단에서만 성립한다. \(S^2\) 의 분포 전체가 정규성에서 나오는 것이며, 표본평균의 경우처럼 \(n\) 이 커지면 모양이 저절로 맞아 주는 성질이 아니다.
  • F 분포는 독립인 두 카이제곱 변수의 비로 정의되므로, \(S_1^2/S_2^2 \sim F_{n_1-1,\,n_2-1}\) 을 쓰려면 위의 사실을 분자에 한 번, 분모에 한 번, 모두 두 번 가정해야 한다.

그래서 F 검정은 같은 가정 위배에 두 번 노출된다. 게다가 두 위배가 서로를 지워 주지도 않는다. 두 모집단이 같은 모양이면 첨도가 같으므로 분자와 분모의 왜곡이 같은 방향으로 쌓인다.

(2) 비는 첨도가 정하고 극한은 \((\beta_2-1)/2\) 다.

\[ \frac{\operatorname{Var}(S^2)}{2\sigma^4/(n-1)} = \frac{\sigma^4}{n}\left(\beta_2 - \frac{n-3}{n-1}\right)\cdot\frac{n-1}{2\sigma^4} = \frac{n-1}{2n}\left(\beta_2 - \frac{n-3}{n-1}\right). \]

\(n \to \infty\) 에서 \(\frac{n-1}{2n} \to \frac12\) 이고 \(\frac{n-3}{n-1} \to 1\) 이므로

\[ \frac{\operatorname{Var}(S^2)}{2\sigma^4/(n-1)} \;\longrightarrow\; \frac{\beta_2 - 1}{2}. \]

정규 모집단은 \(\beta_2 = 3\) 이라 비가 \((3-1)/2 = 1\) 로 꼭 맞는다. \(n = 25\), \(\beta_2 = 9\) 에서는

\[ \frac{24}{50}\left(9 - \frac{22}{24}\right) = 0.48 \times 8.0833 = 3.88 \]

이고 극한값 \((9-1)/2 = 4\) 에 이미 가깝다. \(\sigma^2\) 이 식에서 사라지고 첨도만 남은 것이 핵심이다. 척도가 아니라 꼬리가 \(S^2\) 의 변동을 정한다.

이것이 '정리하며'의 문장을 수로 옮긴 것이다. \(\bar X\) 에서는 중심극한정리가 1차 적률에 선물을 주어 \(n\) 이 커지면 모양이 맞아 간다. \(S^2\) 은 2차 적률이고 그 변동이 4차 적률에 달려 있어서 그 선물을 받지 못한다. 위의 비는 \(n\) 이 커져도 1로 가지 않고 \((\beta_2-1)/2\) 에 머무른다. 수렴이 느린 것이 아니라 틀린 값으로 수렴한다.

(3) 왜도만으로 하한이 나온다.

극한 비가 \((\beta_2-1)/2\) 이고 \(\beta_2 \ge 1 + \gamma_1^2\) 이므로

\[ \frac{\beta_2-1}{2} \;\ge\; \frac{\gamma_1^2}{2}. \]

\(\gamma_1 = 2\) 이면 하한이 \(4/2 = 2\) 다. 곧 첨도를 재 보지 않아도 참 분산이 카이제곱 모형이 믿는 값의 두 배 이상임을 알 수 있다. (지수 모집단은 \(\gamma_1 = 2\), \(\beta_2 = 9\) 라 실제로는 하한 2가 아니라 4다.) 더 일반적으로 \(\lvert \gamma_1 \rvert > \sqrt{2}\) 인 모집단은 예외 없이 비가 1보다 크다. 왜도가 있으면 그것만으로 카이제곱 모형이 위험한 쪽으로 틀린다.

비가 1보다 작아지는 것은 \(\beta_2 < 3\) 일 때다. 이때 참 산포가 카이제곱 모형이 믿는 것보다 작으므로 기각이 명목보다 드물게 일어나고, 검정은 지나치게 보수적이 된다. 하한 \(\beta_2 = 1\) 은 \(\pm a\) 두 점에 반반씩 있는 대칭 분포에서 달성되고 그때 비는 \(0\) 이다.

해석. 어느 쪽으로 틀리는지는 \(\beta_2\) 가 3보다 큰지 작은지 하나로 갈린다. 꼬리가 무거우면 오류율이 올라가 위험하고, 가벼우면 검정력을 버린다. 카이제곱 검정은 정규성을 가정하는 것이 아니라 첨도가 정확히 3임을 가정한다. \(\square\)


연습문제 8. 연습문제 2는 \(n = 25\), 명목 \(\alpha = 0.05\) 의 단측 카이제곱 분산 검정으로 \(p = 0.0186\) 을 얻고도 "카이제곱 분산 검정은 정규성에 매우 민감하다"는 경고로 끝났다. 그 민감도를 수로 재라.

\(H_0\colon \sigma^2 = \sigma_0^2\) 이 참인 네 모집단(정규, 균등, \(t_5\), 지수)에서 크기 \(n\) 의 표본을 40,000 개 뽑아, \((n-1)S^2/\sigma_0^2 > \chi^2_{0.95,\,n-1}\) 로 기각하는 비율을 \(n = 25\) 와 \(n = 100\) 에서 재라. 네 모집단의 첨도는 차례로 \(\beta_2 = 3,\ 1.8,\ 9,\ 9\) 다.

(1) \(n\) 이 크면 실제 오류율이

\[ 1 - \Phi\!\left(z_{0.95}\sqrt{\frac{2}{\beta_2-1}}\right) \]

로 간다는 것을 연습문제 7(2)의 결과를 써서 보여라.

(2) 모의실험으로 표를 얻고, 꼬리가 두꺼운 두 모집단에서 \(n\) 을 키울 때 오류율이 어느 방향으로 가는지 적어라. 균등 모집단의 오류율이 명목보다 낮은 까닭도 적어라.

(3) \(t_5\) 와 지수는 첨도가 똑같이 9 인데 \(n = 25\) 에서 오류율이 서로 다르다. 왜 그런가.

풀이

(1) 임계값은 \(1/\sqrt{n}\) 로 줄고 실제 산포도 \(1/\sqrt{n}\) 로 줄어서 \(n\) 이 약분된다.

기각역(rejection region)을 \(S^2/\sigma_0^2\) 척도로 다시 쓰면

\[ \frac{S^2}{\sigma_0^2} > \frac{\chi^2_{0.95,\,n-1}}{n-1}. \]

카이제곱분포의 평균은 \(n-1\), 분산은 \(2(n-1)\) 이므로 \(n\) 이 크면 \(\chi^2_{0.95,\,n-1} \approx (n-1) + z_{0.95}\sqrt{2(n-1)}\) 이고, 따라서 오른쪽은

\[ 1 + z_{0.95}\sqrt{\frac{2}{n-1}} \]

이다. 한편 \(H_0\) 아래에서 \(E[S^2/\sigma_0^2] = 1\) 이고, 연습문제 7(2)에서 참 표준편차는 \(n\) 이 크면

\[ \operatorname{SD}\!\left(\frac{S^2}{\sigma_0^2}\right) \approx \sqrt{\frac{\beta_2-1}{n}} \]

이다. \(S^2\) 은 평균의 꼴이므로 \(n\) 이 크면 근사적으로 정규이고, 그러므로

\[ P(\text{기각}) \approx 1 - \Phi\!\left(\frac{z_{0.95}\sqrt{2/(n-1)}}{\sqrt{(\beta_2-1)/n}}\right) \;\longrightarrow\; 1 - \Phi\!\left(z_{0.95}\sqrt{\frac{2}{\beta_2-1}}\right). \]

분자와 분모에서 \(\sqrt{n}\) 이 함께 사라졌다. 극한값은 \(n\) 과 무관하고 첨도 하나로 정해진다.

(2) 모의실험.

import numpy as np
from scipy import stats

rng = np.random.default_rng(0)
R, alpha = 40000, 0.05

# (이름, 첨도 beta_2, 참 분산, 표본 생성기)
pops = [
    ("정규", 3.0, 1.0,    lambda s: rng.standard_normal(s)),
    ("균등", 1.8, 1 / 12, lambda s: rng.uniform(size=s)),
    ("t(5)", 9.0, 5 / 3,  lambda s: rng.standard_t(5, size=s)),
    ("지수", 9.0, 1.0,    lambda s: rng.exponential(size=s)),
]

print("모집단  beta2    n=25   n=100    극한값")
for name, b2, var, gen in pops:
    rates = []
    for n in (25, 100):
        crit = stats.chi2.ppf(1 - alpha, n - 1)
        s2 = gen((R, n)).var(axis=1, ddof=1)
        rates.append(np.mean((n - 1) * s2 / var > crit))
    limit = 1 - stats.norm.cdf(stats.norm.ppf(1 - alpha) * np.sqrt(2 / (b2 - 1)))
    print(f"{name:5s} {b2:6.1f} {rates[0]:7.4f} {rates[1]:7.4f} {limit:9.4f}")

출력:

모집단  beta2    n=25   n=100    극한값
정규       3.0  0.0500  0.0493    0.0500
균등       1.8  0.0037  0.0046    0.0047
t(5)     9.0  0.1078  0.1313    0.2054
지수       9.0  0.1488  0.1771    0.2054

정규 줄만 명목 0.05 에 붙어 있다. 지수 모집단은 \(n = 25\) 에서 이미 \(0.1488\) 로 명목의 세 배이고, \(n = 100\) 에서 \(0.1771\) 로 더 올라가 극한 \(0.2054\) 로 향한다. \(t_5\) 도 \(0.1078 \to 0.1313\) 으로 같은 방향이다. 자료를 네 배 모으면 명목 5% 검정의 실제 오류율이 더 나빠진다. 연습문제 7이 보인 대로 문제는 근사의 수렴이 아니라 모형의 전제이므로, 표본크기로는 고쳐지지 않고 오히려 \(F\) 분포·카이제곱분포가 넓어서 왜곡을 가려 주던 완충만 걷힌다.

균등 모집단은 반대 방향의 같은 고장이다. \(\beta_2 = 1.8 < 3\) 이라 \(S^2\) 의 참 산포가 카이제곱 모형이 믿는 것의 \(\sqrt{(1.8-1)/2} = 0.632\) 배뿐이다. 기각역까지 닿는 일이 거의 없어 오류율이 \(0.0037\) 로 내려앉는다. 안전해 보이지만 검정력을 통째로 버린 것이다.

(3) 첨도는 극한값만 정한다. 유한 \(n\) 에서는 왜도가 들어간다.

(1)의 극한식에는 \(\beta_2\) 만 나오므로 \(t_5\) 와 지수는 같은 극한값 \(0.2054\) 로 간다. 표의 마지막 열이 실제로 같다. 그러나 그 극한은 \(S^2\) 의 정규근사에 기댄 것이고, \(n = 25\) 에서 \(S^2\) 의 분포는 아직 정규가 아니다. 그 불일치를 지배하는 것이 왜도다.

  • 지수 모집단: \(\gamma_1 = 2\). \(S^2\) 의 표집분포 자체가 오른쪽으로 길게 늘어나 상단 기각역에 더 자주 들어간다.
  • \(t_5\): 대칭이라 \(\gamma_1 = 0\). 비대칭이 보태는 몫이 없으므로 \(0.1078\) 로 덜 나쁘다.

그래서 \(n = 25\) 에서 지수가 \(0.1488\), \(t_5\) 가 \(0.1078\) 로 벌어지고, \(n\) 이 커지면 둘이 같은 값으로 모여 간다(\(0.1771\) 대 \(0.1313\) 으로 아직 멀지만 방향은 같다). 첨도는 어디로 가는지를 정하고 왜도는 얼마나 빨리 가는지를 정한다. \(\square\)


연습문제 9. 연습문제 3은 \(F = 2.6095\), \(p = 1.58 \times 10^{-4}\) 를 얻고도 "이 \(p\) 값을 믿어서는 안 된다"고 경고했다. 그 경고를 수로 바꾼다.

5.10절은 첨도 \(\beta_2\) 인 두 모집단에서 델타법으로

\[ \operatorname{Var}\!\left(\log \frac{S_1^2}{S_2^2}\right) \approx (\beta_2-1)\left(\frac{1}{n_1}+\frac{1}{n_2}\right) \]

이고 \(n\) 이 크면 \(\log F\) 가 근사적으로 정규임을 보였다. \(n_1 = n_2 = 60\) 이다.

(1) 정규 가정(\(\beta_2 = 3\))으로 \(\log F\) 를 표준화하여 단측 \(p\) 값을 구하고, 연습문제 3이 \(F\) 분포에서 얻은 \(1.58 \times 10^{-4}\) 과 비교하라.

(2) 연습문제 3은 일별 수익률의 초과첨도가 흔히 3에서 10 사이라고 했다. 그 양 끝, 곧 \(\beta_2 = 6\) 과 \(\beta_2 = 13\) 에서 같은 단측 \(p\) 값을 구하라.

(3) 단측 5% 에서 유의성이 사라지는 첨도의 임계값 \(\beta_2\) 를 구하고 초과첨도로도 적어라.

필요한 값: \(\log 2.6095 = 0.9591\), \(\Phi(3.7148) = 0.999898\), \(\Phi(2.3494) = 0.990598\), \(\Phi(1.5165) = 0.935304\), \(z_{0.95} = 1.6449\).

풀이

세 문항 모두 같은 틀이다. \(H_0\colon \sigma_1^2 = \sigma_2^2\) 아래에서 \(E[\log F] \approx 0\) 이므로

\[ z = \frac{\log F}{\sqrt{(\beta_2-1)\left(\frac{1}{60}+\frac{1}{60}\right)}} = \frac{0.9591}{\sqrt{(\beta_2-1)/30}}, \qquad p = 1 - \Phi(z). \]

(1) 정규 가정: \(\beta_2 = 3\).

\[ \operatorname{Var}(\log F) \approx \frac{3-1}{30} = 0.06667, \qquad \operatorname{SD} = 0.2582, \]
\[ z = \frac{0.9591}{0.2582} = 3.7148, \qquad p = 1 - 0.999898 = 1.02 \times 10^{-4}. \]

연습문제 3의 \(F_{59,59}\) 분포에서 얻은 \(1.58 \times 10^{-4}\) 과 같은 자릿수다. 정규 가정을 그대로 둔 채로는 델타법 근사와 정확한 \(F\) 계산이 사실상 같은 답을 준다. 그러므로 뒤에 나올 차이는 근사의 탓이 아니라 첨도의 탓이다.

(2) 초과첨도 3과 10.

초과첨도 \(\gamma_2 = \beta_2 - 3\) 이므로 \(\gamma_2 = 3\) 은 \(\beta_2 = 6\), \(\gamma_2 = 10\) 은 \(\beta_2 = 13\) 이다.

\(\beta_2 = 6\):

\[ \operatorname{Var}(\log F) \approx \frac{5}{30} = 0.16667, \quad \operatorname{SD} = 0.4082, \quad z = \frac{0.9591}{0.4082} = 2.3494, \]
\[ p = 1 - 0.990598 = 0.0094. \]

\(\beta_2 = 13\):

\[ \operatorname{Var}(\log F) \approx \frac{12}{30} = 0.4, \quad \operatorname{SD} = 0.6325, \quad z = \frac{0.9591}{0.6325} = 1.5165, \]
\[ p = 1 - 0.935304 = 0.0647. \]

정리하면 다음과 같다.

가정 \(\beta_2\) \(\operatorname{SD}(\log F)\) \(z\) 단측 \(p\) 5%에서
정규 3 0.2582 3.7148 \(1.02 \times 10^{-4}\) 유의
초과첨도 3 6 0.4082 2.3494 0.0094 유의
초과첨도 10 13 0.6325 1.5165 0.0647 유의하지 않다

(3) 임계값. \(p = 0.05\) 가 되는 것은 \(z = z_{0.95} = 1.6449\) 일 때이므로

\[ \operatorname{SD}(\log F) = \frac{0.9591}{1.6449} = 0.5831, \qquad \frac{\beta_2-1}{30} = 0.5831^2 = 0.3400, \]
\[ \beta_2 = 1 + 30 \times 0.3400 = 11.20. \]

초과첨도로는 \(\gamma_2 = 11.20 - 3 = 8.20\) 이다. 수익률의 초과첨도가 \(8.2\) 를 넘으면 같은 자료가 단측 5% 에서 유의하지 않게 된다.

해석. 자료는 한 글자도 바뀌지 않았다. \(s_1 = 2.1\%\), \(s_2 = 1.3\%\), \(n_1 = n_2 = 60\) 그대로다. 바뀐 것은 4차 적률에 대한 가정 하나뿐인데 \(p\) 값이 \(1.02 \times 10^{-4}\) 에서 \(0.0647\) 로 630배 커졌고 결론의 부호가 뒤집혔다. 분모의 \(\sqrt{\beta_2-1}\) 이 모든 것을 정하기 때문이며, 그래서 연습문제 3의 경고가 수사가 아니다. 실무에서는 표본첨도를 먼저 재어 \(\beta_2\) 가 3에서 얼마나 먼지 보고, 멀면 \(F\) 검정의 \(p\) 값을 보고하지 말아야 한다. \(\square\)


연습문제 10. 연습문제 4는 등분산 사전검정 뒤에 분산분석을 고르는 2단계 절차가 "두 단계를 합친 절차의 실제 제1종 오류율이 명목 \(\alpha\) 에서 벗어난다"고만 말했다. 얼마나, 그리고 어느 방향으로 벗어나는지 재라.

\(k = 3\), \(n = (20, 6, 6)\), 세 모평균이 모두 같은 정규 모집단에서 40,000 회 모의하여 세 절차의 기각률을 비교하라. 명목 수준은 모두 \(0.05\) 다.

  • 표준: 언제나 표준 일원분산분석
  • 웰치: 언제나 웰치 분산분석
  • 2단계: 평균 중심 레빈 검정을 \(\alpha = 0.05\) 로 먼저 하고, 기각하지 않으면 표준, 기각하면 웰치

집단 표준편차가 \((1,1,1)\) 인 경우와 \((1,1,2)\) 인 경우를 모두 보라.

(1) 세 절차와 레빈 검정의 기각률을 적어라.

(2) 이분산인 경우, 레빈 기각률을 가중값으로 삼은 혼합

\[ 0.5650 \times (\text{표준의 기각률}) + 0.4350 \times (\text{웰치의 기각률}) \]

을 계산하고 모의로 얻은 2단계 기각률과 비교하라. 어긋난다면 그 까닭을 밝히고, 불일치를 메우는 올바른 분해를 적어라.

(3) 등분산인 경우 레빈 검정 자신의 기각률이 \(0.05\) 가 아니다. 그것이 2단계 절차에 보태는 문제를 적어라.

풀이

(1) 모의실험. scipy 에 웰치 분산분석이 없으므로 직접 짠다. 레빈 검정은 \(z_{ij} = \lvert x_{ij} - \bar x_i \rvert\) 에 대한 일원분산분석이므로 같은 함수를 다시 쓴다.

import numpy as np
from scipy import stats

rng = np.random.default_rng(0)
R, alpha = 40000, 0.05
ns = np.array([20, 6, 6])
k, N = len(ns), ns.sum()


def oneway_p(groups):
    """집단별 자료 (R, n_i) 에 대한 표준 일원분산분석의 p 값."""
    m = np.stack([g.mean(axis=1) for g in groups], axis=1)
    gm = sum(n * m[:, i] for i, n in enumerate(ns)) / N
    ssb = sum(n * (m[:, i] - gm) ** 2 for i, n in enumerate(ns))
    ssw = sum(((g - m[:, i:i + 1]) ** 2).sum(axis=1) for i, g in enumerate(groups))
    return stats.f.sf((ssb / (k - 1)) / (ssw / (N - k)), k - 1, N - k)


def welch_p(groups):
    """Welch 분산분석의 p 값."""
    m = np.stack([g.mean(axis=1) for g in groups], axis=1)
    v = np.stack([g.var(axis=1, ddof=1) for g in groups], axis=1)
    w = ns / v
    W = w.sum(axis=1)
    mt = (w * m).sum(axis=1) / W
    A = (w * (m - mt[:, None]) ** 2).sum(axis=1) / (k - 1)
    lam = (((1 - w / W[:, None]) ** 2) / (ns - 1)).sum(axis=1)
    B = 1 + 2 * (k - 2) / (k * k - 1) * lam
    return stats.f.sf(A / B, k - 1, (k * k - 1) / (3 * lam))


def levene_p(groups):
    """평균 중심 Levene 검정 = |x - 집단평균| 에 대한 일원분산분석."""
    return oneway_p([np.abs(g - g.mean(axis=1, keepdims=True)) for g in groups])


print(f"n = (20, 6, 6), 세 모평균이 같음, 명목 {alpha}, {R}회")
print("표준편차     르벤기각   표준   웰치   2단계 | 표준|비기각 웰치|기각")
for sds in ([1.0, 1.0, 1.0], [1.0, 1.0, 2.0]):
    groups = [sd * rng.standard_normal((R, n)) for sd, n in zip(sds, ns)]
    p_a, p_w, p_l = oneway_p(groups), welch_p(groups), levene_p(groups)
    keep = p_l > alpha                      # 사전검정이 등분산을 기각하지 않음
    p_two = np.where(keep, p_a, p_w)
    print(f"({sds[0]:.0f}, {sds[1]:.0f}, {sds[2]:.0f})      "
          f"{np.mean(~keep):7.4f} {np.mean(p_a < alpha):6.4f} "
          f"{np.mean(p_w < alpha):6.4f} {np.mean(p_two < alpha):6.4f} |"
          f"{np.mean(p_a[keep] < alpha):9.4f} {np.mean(p_w[~keep] < alpha):9.4f}")

출력:

n = (20, 6, 6), 세 모평균이 같음, 명목 0.05, 40000회
표준편차     르벤기각   표준   웰치   2단계 | 표준|비기각 웰치|기각
(1, 1, 1)       0.0629 0.0482 0.0526 0.0519 |   0.0478    0.1125
(1, 1, 2)       0.4350 0.1347 0.0566 0.1048 |   0.1586    0.0351

읽어 낼 것은 이렇다.

표준편차 레빈 기각률 표준 웰치 2단계
\((1,1,1)\) 0.0629 0.0482 0.0526 0.0519
\((1,1,2)\) 0.4350 0.1347 0.0566 0.1048

등분산이면 세 절차가 모두 명목 근처다. 이분산이면 표준 분산분석의 오류율이 \(0.1347\) 로 명목의 2.7배인데, 2단계 절차도 \(0.1048\) 로 명목의 2.1배다. 명목 초과분 \(0.0847\) 가운데 \(0.0299\) 만 줄어들었으니 사전검정이 문제의 3분의 1 정도만 고쳐 준 것이다. 반면 처음부터 웰치를 쓰면 \(0.0566\) 으로 명목을 거의 지킨다. 연습문제 4의 권고 1번이 모의실험으로 확인된다.

(2) 혼합 공식은 독립을 가정하므로 맞지 않는다.

주변 기각률로 계산하면

\[ 0.5650 \times 0.1347 + 0.4350 \times 0.0566 = 0.0761 + 0.0246 = 0.1007 \]

인데 모의로 얻은 값은 \(0.1048\) 이다. \(0.0041\) 어긋난다. 까닭은 사전검정의 결과와 본검정의 통계량이 독립이 아니라는 것이다. 둘 다 같은 자료의 같은 집단분산 \(S_i^2\) 을 쓴다. 그러므로 올바른 분해는 조건부 기각률을 쓴 것이고, 출력의 마지막 두 열이 그 값이다.

\[ 0.5650 \times 0.1586 + 0.4350 \times 0.0351 = 0.0896 + 0.0153 = 0.1049 \approx 0.1048. \]

여기서 조건부 값이 주변 값과 어긋나는 방향이 이 절차의 진짜 고장을 보여 준다. 표준 분산분석의 기각률은 전체에서 \(0.1347\) 인데 레빈이 기각하지 못한 표본에서는 \(0.1586\) 으로 더 높다. 참 표준편차가 2인 작은 집단(\(n = 6\))의 \(S_3^2\) 이 우연히 작게 나온 표본일수록 레빈이 등분산을 기각하지 못하고, 그런 표본에서는 합동분산 \(\mathrm{MS}_W\) 도 작아져 \(F\) 통계량이 커진다. 곧 사전검정은 표준 분산분석이 가장 위험한 표본만 골라서 통과시킨다. 대칭적으로, 웰치의 기각률은 전체에서 \(0.0566\) 인데 레빈이 기각한 표본에서는 \(0.0351\) 로 내려간다. 걸러 낼 필요가 가장 적은 쪽으로 웰치를 보낸 것이다.

(3) 사전검정 자체가 명목을 지키지 못한다.

등분산인데도 레빈 검정의 기각률이 \(0.0629\) 다. 평균 중심 레빈 검정은 \(\lvert x - \bar x \rvert\) 의 분포가 정규에서 멀고(접힌 정규) 집단이 작을수록 분산분석 근사가 거칠어서 약간 자유로운(liberal) 쪽으로 틀린다. 그 결과

  • 등분산일 때도 \(6.3\%\) 의 표본에서 괜한 이유로 웰치로 넘어가고,
  • 2단계 절차의 수준을 계산하려면 사전검정의 참 수준이라는, 미리 알 수 없는 수를 하나 더 들여와야 한다.

오류가 두 겹으로 쌓인다는 것이 요점이다. 1단계의 수준도 \(0.05\) 가 아니고, 2단계의 선택이 1단계의 결과와 엮여 있으므로 합친 절차의 수준은 설계로 보장할 수 없고 모의실험으로만 알 수 있다. 이것이 연습문제 4가 말한 "같은 자료로 두 번 결정한다"의 비용이다. 반면 "언제나 웰치"는 조건부도 주변도 없는 단일 절차이므로 수준이 설계로 정해진다. 등분산인 경우에 웰치가 \(0.0526\), 표준이 \(0.0482\) 로 거의 차이가 없다는 것도 같은 표에서 읽을 수 있다. 사전검정으로 지키려던 검정력은 애초에 지킬 것이 거의 없었다. \(\square\)

연습문제 11. 크기가 각각 \(n_1 = 10\), \(n_2 = 12\), \(n_3 = 15\)이고 표본분산이 \(s_1^2 = 4.2\), \(s_2^2 = 9.8\), \(s_3^2 = 6.1\)인 세 집단이 있다. 바틀렛 통계량을 손으로 계산하고 \(\alpha = 0.05\)에서 판정하라.

풀이

\(N = 10 + 12 + 15 = 37\), \(k = 3\)이다.

1단계: 합동분산.

\[ S_p^2 = \frac{\sum (n_i - 1) S_i^2}{N - k} = \frac{9(4.2) + 11(9.8) + 14(6.1)}{34} = \frac{37.8 + 107.8 + 85.4}{34} = \frac{231.0}{34} = 6.7941. \]

2단계: 분자.

\[ (N-k)\ln(S_p^2) - \sum (n_i-1)\ln(S_i^2) = 34 \ln(6.7941) - [9\ln 4.2 + 11 \ln 9.8 + 14 \ln 6.1]. \]

\(\ln 6.7941 = 1.9160\), \(\ln 4.2 = 1.4351\), \(\ln 9.8 = 2.2824\), \(\ln 6.1 = 1.8083\)이므로

\[ 34(1.9160) - [9(1.4351) + 11(2.2824) + 14(1.8083)] = 65.144 - [12.916 + 25.106 + 25.316] = 65.144 - 63.338 = 1.8078. \]

3단계: 보정인자.

\[ C = 1 + \frac{1}{3(k-1)}\left(\sum \frac{1}{n_i - 1} - \frac{1}{N-k}\right) = 1 + \frac{1}{6}\left(\frac{1}{9} + \frac{1}{11} + \frac{1}{14} - \frac{1}{34}\right) = 1 + \frac{1}{6}(0.2443) = 1.0407. \]

4단계: 검정통계량과 판정.

\[ T = \frac{1.8078}{1.0407} = 1.7373. \]

\(H_0\) 아래에서 \(T \sim \chi^2_2\)이고 임계값은 \(\chi^2_{0.95,2} = 5.991\)이다. \(1.7373 < 5.991\)이므로 기각하지 못한다. \(p\) 값은 \(P(\chi^2_2 \geq 1.7373) = 0.4195\)이다.

import numpy as np
from scipy import stats

n = [10, 12, 15]
s2 = [4.2, 9.8, 6.1]
N, k = sum(n), len(n)

Sp2 = sum((ni - 1) * si for ni, si in zip(n, s2)) / (N - k)
num = (N - k) * np.log(Sp2) - sum((ni - 1) * np.log(si)
                                  for ni, si in zip(n, s2))
C = 1 + (1 / (3 * (k - 1))) * (sum(1 / (ni - 1) for ni in n) - 1 / (N - k))
T = num / C
print(f"Sp2 = {Sp2:.4f}, C = {C:.4f}, T = {T:.4f}, "
      f"p = {1 - stats.chi2.cdf(T, k - 1):.4f}")

출력:

Sp2 = 6.7941, C = 1.0407, T = 1.7373, p = 0.4195

손으로 계산한 \(S_p^2 = 6.794\), \(C = 1.041\), \(T = 1.737\), \(p = 0.420\)이 그대로 나온다.

표본분산의 최대·최소 비가 \(9.8/4.2 = 2.33\)으로 꽤 큰데도 기각하지 못했다는 점이 흥미롭다. 표본이 작으면 표본분산의 변동이 크기 때문이다. \(\square\)

연습문제 12. 바틀렛 검정이 여러 집단에 대한 가능도비(likelihood ratio) 검정임을 보이고, 왜 \(\ln S_i^2\)의 형태로 나타나는지 설명하라.

풀이

\(k\)개 집단이 각각 \(\mathcal{N}(\mu_i, \sigma_i^2)\)을 따른다고 하자. 정규 가능도의 로그를 최대화하면 각 집단의 분산 최대가능도추정량은 \(\hat{\sigma}_i^2 = \frac{1}{n_i}\sum (x_{ij} - \bar{x}_i)^2\)이고, 최대화된 로그가능도는 상수를 제외하고

\[ \ell_{\max} = -\frac{1}{2}\sum_i n_i \ln \hat{\sigma}_i^2 - \frac{N}{2}. \]

귀무가설 \(\sigma_1^2 = \cdots = \sigma_k^2 = \sigma^2\) 아래에서는 공통 분산의 추정량이 합동분산 \(\hat{\sigma}^2\)이고

\[ \ell_0 = -\frac{N}{2}\ln \hat{\sigma}^2 - \frac{N}{2}. \]

따라서 가능도비 통계량은

\[ -2\ln \Lambda = 2(\ell_{\max} - \ell_0) = N \ln \hat{\sigma}^2 - \sum_i n_i \ln \hat{\sigma}_i^2. \]

바틀렛 통계량의 분자가 정확히 이 형태이다(자유도를 \(n_i\) 대신 \(n_i - 1\)로 바꾼 불편 버전을 쓴다는 차이만 있다).

왜 로그인가. 정규 로그가능도가 \(\sigma^2\)에 \(\ln \sigma^2\)의 형태로 의존하기 때문이다. 분산 자체가 아니라 그 로그가 자연스러운 모수화이다. 이는 실무적으로도 뜻이 있다. 분산의 비가 차이보다 의미 있는 비교 대상이며, 로그가 비를 차이로 바꾼다.

보정인자 \(C\)의 역할. \(-2\ln\Lambda\)는 점근적으로만 \(\chi^2_{k-1}\)을 따른다. 바틀렛은 유한표본에서 \(\chi^2\) 근사가 훨씬 정확해지도록 통계량을 \(C\)로 나누는 보정을 고안했다. 이 아이디어는 오늘날 "바틀렛 보정"이라는 이름으로 가능도비 검정 일반에 쓰인다. \(\square\)

연습문제 13. 절 \(5\) 의 표에서 카이제곱, F, 바틀렛 검정만이 "정규성 필요: 예"로 표시되어 있다. 이 세 검정이 비정규성에 특별히 취약한 공통 이유를 설명하라.

풀이

세 검정 모두 정규성 아래에서 표본분산의 표집분포에 직접 의존한다.

\(X_i \sim \mathcal{N}(\mu, \sigma^2)\)이면

\[ \frac{(n-1)S^2}{\sigma^2} \sim \chi^2_{n-1} \]

가 정확히 성립하고, 여기서 카이제곱 검정이 나온다. 독립인 두 카이제곱의 비에서 F 검정이 나오고, 바틀렛은 이를 \(k\)개 집단으로 확장한 것이다.

문제는 이 관계가 정규성에 특유하다는 점이다. 일반적으로 \(S^2\)의 점근분산은

\[ \operatorname{Var}(S^2) \approx \frac{\mu_4 - \sigma^4}{n} = \frac{\sigma^4(\gamma_2 + 2)}{n} \]

이며 \(\gamma_2\)는 초과첨도이다. 정규분포는 \(\gamma_2 = 0\)이므로 \(\operatorname{Var}(S^2) = 2\sigma^4/n\)이 되고 이것이 \(\chi^2_{n-1}\) 근사의 근거이다.

자료의 꼬리가 두꺼우면(\(\gamma_2 > 0\)) \(S^2\)의 실제 분산이 정규 이론이 예측하는 것보다 훨씬 크다. 예컨대 \(\gamma_2 = 6\)인 \(t_5\) 자료에서는 4배가 된다. 그러면 검정이 정규 표집분포보다 큰 통계량 값을 자주 만들어 내고 제1종 오류율이 폭증한다.

반면 레빈 계열 검정은 절대편차라는 1차 척도 측도에 분산분석을 적용한다. 절대편차의 분포는 4차 적률에 그만큼 민감하지 않으므로 훨씬 안정적이다. 플리그너–킬린은 한 발 더 나아가 순위만 쓰므로 원분포의 모양에 아예 의존하지 않는다. \(\square\)

연습문제 14. \(\text{Lognormal}(0, 0.8)\)에서 크기 40인 세 표본을 뽑아(모분산이 정확히 같다) 바틀렛, 레빈, 브라운–포사이드, 플리그너–킬린 검정을 모두 수행하라. 결과를 비교하고 해석하라.

풀이
import numpy as np
from scipy import stats

rng = np.random.default_rng(7)
g = [rng.lognormal(0, 0.8, 40) for _ in range(3)]

print("sample variances:", [round(x.var(ddof=1), 3) for x in g])
print(f"Bartlett:        p = {stats.bartlett(*g)[1]:.4f}")
print(f"Levene (mean):   p = {stats.levene(*g, center='mean')[1]:.4f}")
print(f"Brown-Forsythe:  p = {stats.levene(*g, center='median')[1]:.4f}")
print(f"Fligner-Killeen: p = {stats.fligner(*g)[1]:.4f}")

출력:

sample variances: [0.341, 1.019, 0.931]
Bartlett:        p = 0.0021
Levene (mean):   p = 0.0488
Brown-Forsythe:  p = 0.1912
Fligner-Killeen: p = 0.0845

세 표본을 동일한 분포에서 뽑았으므로 \(H_0\)이 참이다. 그런데 바틀렛은 \(p = 0.002\)로 강하게 기각하고 레빈(평균)도 아슬아슬하게 기각한다. 둘 다 제1종 오류(type I error)이다. 브라운–포사이드와 플리그너–킬린은 올바르게 기각하지 않는다.

한 표본의 결과가 우연일 수 있으므로 2,000회 반복으로 경험적 크기를 추정하면(각 집단 \(n = 40\), 세 집단, \(\alpha = 0.05\))

자료 분포 바틀렛 레빈(평균) 브라운–포사이드 플리그너–킬린
\(\mathcal{N}(0,1)\) 0.045 0.048 0.039 0.038
\(\text{Lognormal}(0, 0.8)\) 0.620 0.189 0.039 0.087
\(t_5\) 0.267 0.054 0.042 0.040

결과가 충격적이다. 대수정규 자료에서 바틀렛 검정은 62%의 확률로 잘못 기각한다. 명목 5%의 12배가 넘는다. \(t_5\) 자료에서도 26.7%이다.

레빈(평균)은 대수정규에서 18.9%로 역시 문제가 있다. 치우친 자료에서 평균이 좋은 중심 측도가 아니기 때문이다.

브라운–포사이드는 세 분포 모두에서 0.039~0.042로 안정적이다. 이것이 이 장에서 반복될 결론이며, 정규성이 의심스러울 때 브라운–포사이드를 기본값으로 권하는 이유이다.

(플리그너–킬린이 정규 자료에서 0.038로 다소 보수적이고 대수정규에서 0.087로 약간 자유로운 쪽인 점도 눈여겨보라. 완벽한 검정은 없다.) \(\square\)

연습문제 15. 절 \(4\) 의 바틀렛 통계량 \(T\)가 항상 0 이상이고, 모든 집단의 표본분산이 같을 때만 0이 됨을 보여라. 가중치 \(w_i = (n_i - 1)/(N - k)\)를 두고 \(S_p^2\)이 \(S_i^2\)들의 가중평균임을 이용하라.

이것이 왜 바틀렛 검정을 \(\chi^2_{k-1}\)의 오른쪽 꼬리만 쓰는 검정으로 만드는지 설명하고, 연습문제 11의 자료에서 분자 1.8078을 산술평균과 기하평균의 비로 다시 적어 확인하라.

풀이

1단계: 분자를 가중평균의 로그로 적는다.

\(w_i = (n_i - 1)/(N - k)\)로 두면 \(w_i > 0\)이고 \(\sum_i w_i = 1\)이며, 합동분산은

\[ S_p^2 = \frac{\sum_i (n_i - 1) S_i^2}{N - k} = \sum_i w_i S_i^2 \]

즉 \(S_i^2\)들의 가중 산술평균이다. 그러면 바틀렛 통계량의 분자는

\[ (N-k)\ln S_p^2 - \sum_i (n_i - 1)\ln S_i^2 = (N-k)\left[\ln\left(\sum_i w_i S_i^2\right) - \sum_i w_i \ln S_i^2\right]. \]

2단계: 옌센 부등식.

\(\ln\)은 오목함수이므로 \(\ln\left(\sum w_i a_i\right) \geq \sum w_i \ln a_i\)이고, \(\ln\)이 순오목(strictly concave)이므로 등호는 \(a_1 = \cdots = a_k\)일 때만 성립한다. \(a_i = S_i^2\)을 넣으면 대괄호 안이 0 이상이고, 0이 되는 것은 \(S_1^2 = \cdots = S_k^2\)일 때뿐이다. 괄호 안의 양은 가중 산술평균과 가중 기하평균의 비의 로그

\[ \ln \frac{\sum_i w_i S_i^2}{\prod_i (S_i^2)^{w_i}} \]

이므로, 분자는 "AM/GM 비가 1에서 얼마나 떨어져 있는가"를 재는 양이다.

3단계: 보정인자는 양수다.

\(k \geq 2\)이면 \(N - k = \sum_i (n_i - 1) > n_1 - 1\)이므로

\[ \sum_i \frac{1}{n_i - 1} \geq \frac{1}{n_1 - 1} > \frac{1}{N - k} \]

이고 괄호 안이 양수이므로 \(C > 1 > 0\)이다. 따라서 \(T = (\text{분자})/C \geq 0\)이고, \(T = 0\)인 것은 모든 표본분산이 같을 때뿐이다.

4단계: 왜 단측인가.

\(T\)는 \(H_0\)가 말하는 "모두 같다"에서 벗어난 거리이고, 어느 방향으로 벗어나든 커진다. \(T\)가 작다는 것은 표본분산들이 서로 가깝다는 뜻이므로 \(H_0\)에 유리한 증거다. 그러므로 기각역은 \(T > \chi^2_{1-\alpha, k-1}\) 한쪽뿐이고, 연습문제 11에서 임계값을 \(\chi^2_{0.95,2} = 5.991\) 하나만 쓴 것이 이 때문이다. 왼쪽 꼬리를 기각역에 넣으면 "분산들이 너무 비슷하다"는 이유로 등분산을 기각하는 꼴이 된다.

5단계: 연습문제 11의 수치로 확인.

\(N - k = 34\), \(w = (9/34,\, 11/34,\, 14/34) = (0.2647,\, 0.3235,\, 0.4118)\)이다. 가중 산술평균은 \(S_p^2 = 6.7941\)이고 가중 기하평균은

\[ \prod_i (S_i^2)^{w_i} = \exp\!\big(0.2647 \ln 4.2 + 0.3235 \ln 9.8 + 0.4118 \ln 6.1\big) = e^{1.86288} = 6.4423 \]

이다. 따라서 분자는

\[ 34 \ln \frac{6.7941}{6.4423} = 34 \ln 1.0546 = 34 (0.053175) = 1.8079 \]

로 연습문제 11의 1.8078과 (반올림 오차만큼) 같다.

AM/GM 비가 1.0546, 즉 5.5%밖에 벌어지지 않았다는 것이 그 자료에서 기각하지 못한 이유를 한눈에 보여 준다. 최대·최소 비가 2.33이어도 로그 척도의 가중평균에서 보면 세 분산은 거의 모여 있다. \(\square\)

연습문제 16. 절 \(5\) 의 표에서 바틀렛 검정의 경험적 크기는 정규 0.045, \(t_5\) 0.267, \(\text{Lognormal}(0, 0.8)\) 0.620이었다. 연습문제 13은 이 부풀음의 원인이 초과첨도라고 했다. 세 분포의 첨도 \(\beta_2 = \mu_4/\sigma^4\)를 구하고, \(\operatorname{Var}(S^2)\)이 정규이론 값의 몇 배인지 각각 적어라.

\(\text{Lognormal}(0, \sigma)\)에 대해서는 \(\beta_2 = e^{4\sigma^2} + 2e^{3\sigma^2} + 3e^{2\sigma^2} - 3\), \(\gamma_1 = (e^{\sigma^2} + 2)\sqrt{e^{\sigma^2} - 1}\)을 쓰고, 얻은 값이 2장의 하한 \(\beta_2 \geq 1 + \gamma_1^2\)을 만족하는지 확인하라. 끝으로, 자유도가 \(t_4\)나 \(t_3\)였다면 이 설명 자체가 왜 무너지는지 말하라.

풀이

1단계: 정규. \(\mu_4 = 3\sigma^4\)이므로 \(\beta_2 = 3\), 초과첨도 \(\gamma_2 = \beta_2 - 3 = 0\)이다.

2단계: \(t_\nu\). \(\nu > 4\)에 대해 \(\beta_2 = 3 + 6/(\nu - 4)\)이므로 \(\nu = 5\)에서

\[ \beta_2 = 3 + \frac{6}{1} = 9, \qquad \gamma_2 = 6. \]

3단계: 대수정규. \(\sigma = 0.8\)이므로 \(\sigma^2 = 0.64\)이고

\[ e^{0.64} = 1.8965, \quad e^{1.28} = 3.5966, \quad e^{1.92} = 6.8210, \quad e^{2.56} = 12.9358 \]

이다. 따라서

\[ \beta_2 = 12.9358 + 2(6.8210) + 3(3.5966) - 3 = 12.9358 + 13.6420 + 10.7898 - 3 = 34.3677 \]

이고 \(\gamma_2 = 31.3677\)이다.

4단계: 2장의 하한 확인. 왜도는

\[ \gamma_1 = (1.8965 + 2)\sqrt{1.8965 - 1} = 3.8965 \times 0.9469 = 3.6893 \]

이므로 \(1 + \gamma_1^2 = 1 + 13.611 = 14.611\)이고, \(\beta_2 = 34.368 \geq 14.611\)로 하한을 넉넉히 만족한다. 왜도만으로도 첨도가 14를 넘어야 한다는 점, 즉 치우친 분포는 첨도가 작을 수 없다는 점이 요점이다.

5단계: \(\operatorname{Var}(S^2)\)의 배율. 연습문제 13의 \(\operatorname{Var}(S^2) \approx \sigma^4(\gamma_2 + 2)/n\)을 정규이론 값 \(2\sigma^4/n\)으로 나누면 배율은 \((\gamma_2 + 2)/2\)다.

자료 분포 \(\beta_2\) \(\gamma_2\) \(\operatorname{Var}(S^2)\) 배율 바틀렛 경험적 크기
\(\mathcal{N}(0,1)\) 3 0 1.00 0.045
\(t_5\) 9 6 4.00 0.267
\(\text{Lognormal}(0,0.8)\) 34.37 31.37 16.68 0.620

세 줄의 순서가 정확히 일치한다. 배율이 1이면 크기가 약속을 지키고, 4배면 0.267, 16.7배면 0.620이다. 대수정규가 \(t_5\)보다 훨씬 더 나쁜 이유가 "치우쳐서"라는 막연한 말이 아니라 첨도가 네 배 더 크기 때문이라는 수가 된다.

6단계: \(\nu \leq 4\)라면. \(t_\nu\)는 \(\nu \leq 4\)에서 \(\mu_4 = \infty\)이므로 \(\beta_2\)가 존재하지 않고, 따라서 \(\operatorname{Var}(S^2)\) 자체가 무한이다. 그러면 "첨도가 몇 배라서 크기가 얼마"라는 설명이 성립하지 않을 뿐 아니라, \(S^2\)의 표집분포가 중심극한정리의 적용 범위를 벗어난다. 즉 4차 적률의 유한성은 이 장의 모든 로버스트성 논의가 서 있는 최소 조건이다. \(\square\)

연습문제 17. 분산에 대한 카이제곱 검정은 \(\chi^2 = (n-1)s^2/\sigma_0^2\)을 \(\chi^2_{n-1}\)의 분위수(quantile)와 비교한다. 4차 적률이 유한한 임의의 모집단에서 \(H_0: \sigma^2 = \sigma_0^2\)이 참일 때, 유의수준 \(\alpha\)의 양측 검정의 실제 기각확률이

\[ \lim_{n \to \infty} P(\text{기각}) = 2\left[1 - \Phi\!\left(z_{1-\alpha/2}\sqrt{\frac{2}{\gamma_2 + 2}}\right)\right] \]

로 감을 보여라. \(\chi^2_{n-1}\)의 분위수가 \((n-1) + z\sqrt{2(n-1)} + o(\sqrt{n})\)임은 써도 된다.

\(\alpha = 0.05\)에서 정규, \(t_5\), \(\text{Lognormal}(0,0.8)\)(연습문제 16의 \(\gamma_2\)), \(\text{Uniform}\)(\(\gamma_2 = -1.2\))에 대해 이 값을 구하라. 이것이 5절의 "표본을 키워도 고쳐지지 않는다"를 어떻게 한 줄로 설명하는지, 그리고 평균에 대한 \(t\) 검정과 어떻게 대조되는지 말하라.

풀이

1단계: 표본분산의 중심극한정리. 4차 적률이 유한하면 \(S^2\)에 대해

\[ \sqrt{n}\,\frac{S^2 - \sigma^2}{\sigma^2} \;\xrightarrow{\ d\ }\; \mathcal{N}(0,\, \gamma_2 + 2) \]

이 성립한다. \(n\operatorname{Var}(S^2)/\sigma^4 \to \gamma_2 + 2\)(연습문제 13)가 그 분산이다.

2단계: 기각역을 그 척도로 옮긴다. \(H_0\)가 참이므로 \(\sigma^2 = \sigma_0^2\)이다. 위쪽 기각은

\[ \frac{(n-1)S^2}{\sigma_0^2} > (n-1) + z_{1-\alpha/2}\sqrt{2(n-1)} + o(\sqrt n) \]

이고, 양변에서 \(n-1\)을 빼고 \(\sqrt{n-1}\)로 나누면

\[ \sqrt{n-1}\,\frac{S^2 - \sigma_0^2}{\sigma_0^2} > z_{1-\alpha/2}\sqrt{2} + o(1). \]

좌변은 1단계에 의해 \(\mathcal{N}(0, \gamma_2+2)\)로 수렴하므로, 표준화하면

\[ P(\text{위쪽 기각}) \to 1 - \Phi\!\left(\frac{z_{1-\alpha/2}\sqrt 2}{\sqrt{\gamma_2+2}}\right) = 1 - \Phi\!\left(z_{1-\alpha/2}\sqrt{\frac{2}{\gamma_2+2}}\right). \]

아래쪽 기각도 대칭적으로 같은 값을 주고 두 사건은 점근적으로 배타적이므로 합하면 주장한 식이 된다.

3단계: 수치. \(z_{0.975} = 1.9600\)이고 \(c = \sqrt{2/(\gamma_2+2)}\)라 두면

자료 분포 \(\gamma_2\) \(c\) \(z_{0.975}\,c\) 실제 크기의 극한
\(\mathcal{N}\) 0 1.0000 1.9600 0.0500
\(\text{Uniform}\) \(-1.2\) 1.5811 3.0990 0.0019
\(t_5\) 6 0.5000 0.9800 0.3271
\(\text{Lognormal}(0,0.8)\) 31.3677 0.2448 0.4798 0.6313

정규에서만 0.05가 나온다. 균등처럼 꼬리가 가벼우면 0.0019로 지나치게 보수적이고(\(\gamma_2 < 0\)), 꼬리가 무거우면 0.327, 0.631로 폭증한다.

4단계: "표본을 키워도 고쳐지지 않는다". 극한값이 \(\alpha\)가 아니라 \(\gamma_2\)의 함수다. \(n\)은 식에 아예 등장하지 않으므로, 표본을 열 배 백 배로 키워도 기각확률은 0.631 근처에 그대로 머문다. 비정규성은 \(n\)이 커지면서 씻겨 나가는 잡음이 아니라 극한 자체를 바꾸는 편향이다.

5단계: \(t\) 검정과의 대조. 평균에 대한 \(t\) 검정은 \(\sqrt n (\bar X - \mu_0)/S \xrightarrow{d} \mathcal{N}(0,1)\)이 분포 모양과 무관하게 성립하므로 실제 크기가 \(\alpha\)로 수렴한다. 중심극한정리가 1차 적률의 추론은 지켜 주지만 2차 적률의 추론은 지켜 주지 않는다. \(\bar X\)의 극한분산 \(\sigma^2\)은 \(S^2\)으로 일치추정되어 척도가 자동으로 맞춰지는데, \(S^2\)의 극한분산 \(\sigma^4(\gamma_2+2)\)에서 카이제곱 검정은 \(\gamma_2 = 0\)을 못박아 두기 때문이다.

(5절의 바틀렛 값 0.267, 0.620은 \(k = 3\), \(n = 40\)의 유한표본 값이므로 위 극한값 0.327, 0.631과 정확히 같을 이유는 없다. 그러나 두 자리가 거의 겹치고 순서도 같다는 것이, 부풀음을 지배하는 양이 집단 수나 표본크기가 아니라 \(\gamma_2\)임을 말해 준다.) \(\square\)

연습문제 18. 실무에서 흔한 관행이 있다. 두 집단의 평균을 비교할 때 먼저 F 검정으로 등분산을 확인하고, 기각되면 웰치 검정을, 기각되지 않으면 합동분산 \(t\) 검정을 쓴다. 이 두 단계 절차의 제1종 오류율을 모의실험으로 재어라.

정규자료로 \(n_1 = 6\)(\(\sigma_1 = 2\)), \(n_2 = 24\)(\(\sigma_2 = 1\)), 두 집단의 평균은 모두 0으로 두고 20,000회 반복하라. 모든 검정은 \(\alpha = 0.05\) 양측이다. (i) 항상 합동분산 \(t\), (ii) 항상 웰치, (iii) F로 선택하기 세 전략의 크기를 비교하고, (iv) "F가 등분산이라고 말한 표본만" 모았을 때 합동분산 \(t\)의 크기가 그 무조건 크기보다 더 나쁜 이유를 설명하라.

풀이
import numpy as np
from scipy import stats

rng = np.random.default_rng(15)
R, n1, n2 = 20000, 6, 24
a = rng.normal(0, 2.0, (R, n1))      # 작은 집단이 분산이 크다
b = rng.normal(0, 1.0, (R, n2))      # 평균은 두 집단 모두 0

m1, m2 = a.mean(1), b.mean(1)
v1, v2 = a.var(1, ddof=1), b.var(1, ddof=1)

# 1단계: 두 분산의 F 검정 (양측)
F = v1 / v2
pF = 2 * np.minimum(stats.f.cdf(F, n1 - 1, n2 - 1),
                    stats.f.sf(F, n1 - 1, n2 - 1))

# 2단계 후보 A: 합동분산 t 검정
sp2 = ((n1 - 1) * v1 + (n2 - 1) * v2) / (n1 + n2 - 2)
p_student = 2 * stats.t.sf(np.abs(m1 - m2) / np.sqrt(sp2 * (1/n1 + 1/n2)),
                           n1 + n2 - 2)

# 2단계 후보 B: 웰치 t 검정
se = np.sqrt(v1 / n1 + v2 / n2)
df = se**4 / (v1**2 / (n1**2 * (n1 - 1)) + v2**2 / (n2**2 * (n2 - 1)))
p_welch = 2 * stats.t.sf(np.abs(m1 - m2) / se, df)

# 두 단계 절차: F 가 기각하면 웰치, 아니면 합동분산 t
p_both = np.where(pF < 0.05, p_welch, p_student)
acc = pF >= 0.05                     # F 가 '등분산'이라고 말한 표본

print(f"F 가 등분산을 기각한 비율 = {np.mean(~acc):.4f}")
print(f"항상 합동분산 t : 크기 = {np.mean(p_student < 0.05):.4f}")
print(f"항상 웰치       : 크기 = {np.mean(p_welch < 0.05):.4f}")
print(f"F 로 선택하기     : 크기 = {np.mean(p_both < 0.05):.4f}")
print(f"  '같다'고 한 표본에서 합동분산 t = {np.mean(p_student[acc] < 0.05):.4f}")
print(f"  '다르다'고 한 표본에서 웰치     = {np.mean(p_welch[~acc] < 0.05):.4f}")
print(f"  v1 의 평균: 전체 {v1.mean():.4f} / '같다'고 한 표본 {v1[acc].mean():.4f}"
      f"  (참값 4)")

출력:

F 가 등분산을 기각한 비율 = 0.5648
항상 합동분산 t : 크기 = 0.1852
항상 웰치       : 크기 = 0.0533
F 로 선택하기     : 크기 = 0.1008
  '같다'고 한 표본에서 합동분산 t = 0.2161
  '다르다'고 한 표본에서 웰치     = 0.0120
  v1 의 평균: 전체 4.0010 / '같다'고 한 표본 2.0811  (참값 4)

(i) 항상 합동분산 \(t\): 0.1852. 분산비가 4인데 큰 분산이 작은 집단에 붙어 있다. 합동분산은 자유도로 가중하므로 \(n_2 = 24\) 쪽의 작은 분산에 끌려가고, 그 결과 \(\bar X_1 - \bar X_2\)의 표준오차를 과소추정한다. 명목 5%가 18.5%가 된다.

(ii) 항상 웰치: 0.0533. 자유도가 작아 약간 넘치지만 사실상 약속을 지킨다.

(iii) F로 선택하기: 0.1008. 정확히 명목값의 두 배다. F 검정이 이 설정에서 진짜 차이(분산비 4)를 56.5%만 잡아낸다. 남은 43.5%에서는 합동분산 \(t\)가 쓰이고 그쪽의 오류율이 그대로 섞여 들어온다. 전체 크기는 두 팔의 혼합

\[ 0.5648 \times 0.0120 + 0.4352 \times 0.2161 = 0.0068 + 0.0940 = 0.1008 \]

로 맞아떨어진다. 두 팔이 각각 0.0120과 0.2161이라는 점을 보라. 어느 팔도 0.05가 아니다. 한쪽은 지나치게 보수적이고 다른 쪽은 네 배 넘게 자유로운데, 그것을 섞어서 0.10을 얻은 것이다.

(iv) 선택이 거꾸로 작동한다: 0.2161 > 0.1852. 여기가 이 문제의 핵심이다. F 검정이 "분산이 같다"고 말하는 표본은 \(v_1/v_2\)가 우연히 작게 나온 표본이다. 실제로 그 표본들에서 \(v_1\)의 평균이 2.081로, 참값 4의 절반이다(전체 평균은 4.001로 정확하다). 그런데 합동분산 \(t\)가 틀리는 원인이 바로 그 \(v_1\)의 과소추정이다. 따라서 사전검정은 합동분산 \(t\)를 쓰면 안 되는 표본을 정확히 골라서 그것에 합동분산 \(t\)를 적용한다. 조건부 크기 21.6%가 무조건 크기 18.5%보다 높은 것이 그 증거다. 반대쪽 팔에서 웰치가 0.0120으로 보수적인 것도 같은 선택 효과의 거울상이다. \(v_1\)이 크게 관측된 표본만 모였으므로 웰치의 표준오차가 과대추정된다.

결론. 사전검정은 두 단계의 오류를 더해 주는 것이 아니라, 두 번째 단계가 가장 취약한 자리로 표본을 몰아 준다. 그래서 "F로 확인한 다음 선택하기"보다 처음부터 웰치를 쓰는 쪽이 낫다. 15장의 분산 검정들은 ANOVA 전처리 관문으로 쓸 것이 아니라, 분산 자체가 관심사일 때 쓰는 도구로 보아야 한다. \(\square\)

연습문제 19. 절 \(5\) 는 브라운–포사이드가 세 분포에서 0.039~0.042로 안정적이라고 했다. 공짜일 수는 없다. 중앙값으로 바꾸어 얻은 안정성의 값을 수로 재어라.

레빈 검정을 "\(\lvert x - \text{중심} \rvert\)에 일원분산분석 F를 적용한 것"이라는 정의 그대로 직접 구현하고(\(\text{중심}\)이 평균이면 레빈, 중앙값이면 브라운–포사이드), \(k = 3\), \(n = 40\), 20,000회 반복으로 두 가지를 재어라. (a) 정규자료에서 \(\sigma = (1, 1, 1.4)\)일 때의 검정력, (b) \(\text{Lognormal}(0, 0.8)\) 등분산일 때의 크기. 바틀렛도 함께 재어 세 검정을 비교하고, 포기한 것과 얻은 것을 수로 적어라.

풀이
import numpy as np
from scipy import stats

k, n = 3, 40
N = k * n
f_crit = stats.f.ppf(0.95, k - 1, N - k)
c_crit = stats.chi2.ppf(0.95, k - 1)

def levene_reject(x, center):
    """|x - 중심|에 일원분산분석 F 를 적용한다 (center='mean' 이면 레빈)."""
    c = x.mean(axis=2, keepdims=True) if center == "mean" \
        else np.median(x, axis=2, keepdims=True)
    z = np.abs(x - c)
    gi = z.mean(axis=2, keepdims=True)
    g = z.mean(axis=(1, 2), keepdims=True)
    ssb = n * ((gi - g) ** 2).sum(axis=(1, 2))
    ssw = ((z - gi) ** 2).sum(axis=(1, 2))
    return (ssb / (k - 1)) / (ssw / (N - k)) > f_crit

def bartlett_reject(x):
    v = x.var(axis=2, ddof=1)
    num = (N - k) * np.log(v.mean(axis=1)) - (n - 1) * np.log(v).sum(axis=1)
    C = 1 + (1 / (3 * (k - 1))) * (k / (n - 1) - 1 / (N - k))
    return num / C > c_crit

rng = np.random.default_rng(1)
R = 20000
# 상황 A: 정규, 분산이 정말 다르다 -> 검정력을 잰다
xa = rng.normal(0, 1, (R, k, n)) * np.array([1.0, 1.0, 1.4]).reshape(1, k, 1)
# 상황 B: 대수정규, 분산이 모두 같다 -> 크기를 잰다
xb = rng.lognormal(0, 0.8, (R, k, n))

for x, label in [(xa, "검정력 (정규, sigma=1,1,1.4)"),
                 (xb, "크기   (대수정규, 등분산)   ")]:
    print(f"{label}  Levene = {levene_reject(x, 'mean').mean():.4f}   "
          f"Brown-Forsythe = {levene_reject(x, 'median').mean():.4f}   "
          f"Bartlett = {bartlett_reject(x).mean():.4f}")

출력:

검정력 (정규, sigma=1,1,1.4)  Levene = 0.5228   Brown-Forsythe = 0.4854   Bartlett = 0.5816
크기   (대수정규, 등분산)     Levene = 0.1995   Brown-Forsythe = 0.0413   Bartlett = 0.6337

구현이 맞는지는 둘째 줄이 보증한다. 크기 쪽의 0.1995 / 0.0413 / 0.6337이 5절 그림의 0.189 / 0.039 / 0.620과 (반복 수와 씨앗만 다르므로) 같은 값이다.

트레이드오프(trade-off)을 수로.

검정 정규에서 검정력 대수정규에서 크기
바틀렛 0.5816 0.6337
레빈(평균) 0.5228 0.1995
브라운–포사이드 0.4854 0.0413
  • 바틀렛 \(\to\) 레빈: 검정력 0.0588(상대 10.1%)을 내주고 크기를 0.634에서 0.200으로 내린다.
  • 레빈 \(\to\) 브라운–포사이드: 검정력 0.0374(상대 7.2%)를 더 내주고 크기를 0.200에서 0.041로 내린다.

해석. 중앙값으로 바꾸는 값은 정규자료에서 검정력 7%p 남짓이다. 그 대가로 치우친 자료에서 크기가 명목값으로 돌아온다. 교환비가 극단적으로 유리하다. 크기가 0.20이면 기각을 해도 그것이 참된 차이인지 분포 모양 탓인지 구별할 수 없으므로 검정력 0.52라는 숫자 자체가 의미를 잃는다. 반면 크기가 0.041로 맞아 있으면 검정력 0.49는 그대로 믿을 수 있다.

이것이 "크기를 먼저, 검정력은 그다음"이라는 순서의 실제 내용이다. 크기가 망가진 검정의 높은 검정력은 싸게 산 기각일 뿐이며, 바틀렛의 0.5816이 브라운–포사이드의 0.4854보다 좋다고 말할 수 없는 이유다. \(\square\)

연습문제 20. 연습문제 17의 극한식을 끝까지 밀어 보자. 2장의 하한 \(\beta_2 \geq 1 + \gamma_1^2\)에서 모든 분포에 대해 \(\gamma_2 \geq -2\)임이 따라온다.

(a) 극한 크기가 \(\gamma_2\)의 증가함수임을 보이고, \(\gamma_2\)가 \([-2, \infty)\)를 훑을 때 그 값의 범위를 구하라. 명목 5%라는 표시가 분포 가정 없이 무엇을 약속하는가?

(b) 명목 5% 검정의 실제 극한 크기를 정확히 0.10으로, 그리고 0.25로 만드는 \(\gamma_2\)를 각각 구하라.

(c) 하한 \(\gamma_2 = -2\)가 실제로 달성되는 분포를 하나 들고, 그 분포에서 유한한 \(n\)에 대해서도 위쪽 기각확률이 0이 됨을 직접 보여라.

풀이

(a) 단조성과 범위. \(c(\gamma_2) = \sqrt{2/(\gamma_2+2)}\)는 \(\gamma_2\)에 대해 감소하므로 \(z_{1-\alpha/2}c\)도 감소하고, \(\Phi\)가 증가하므로 극한 크기

\[ g(\gamma_2) = 2\left[1 - \Phi\!\left(z_{1-\alpha/2}\,c(\gamma_2)\right)\right] \]

는 \(\gamma_2\)의 증가함수다. 양 끝을 보면

\[ \gamma_2 \to -2^{+}: \ c \to \infty \Rightarrow g \to 2[1 - \Phi(\infty)] = 0, \]
\[ \gamma_2 \to \infty: \ c \to 0 \Rightarrow g \to 2[1 - \Phi(0)] = 2 \times 0.5 = 1. \]

따라서 \(g\)는 \((0, 1)\) 전체를 훑는다. 즉 명목 5%라고 적힌 분산 검정의 실제 크기는 분포에 따라 0과 1 사이 어디든 될 수 있다. 정규성(또는 적어도 \(\gamma_2\)에 대한 가정) 없이는 "5%"라는 표시가 아무것도 약속하지 않는다. 4절이 카이제곱 검정을 두고 "이 가정의 이탈에 매우 민감하다"고 한 문장의 정량적 내용이 이것이다.

(b) 역산. \(g(\gamma_2) = p\)를 풀면 \(z_{1-\alpha/2}c = z_{p/2}\), 즉

\[ \gamma_2 = \frac{2}{c^2} - 2 = 2\left(\frac{z_{1-\alpha/2}}{z_{p/2}}\right)^{2} - 2. \]

\(\alpha = 0.05\)에서 \(z_{0.975} = 1.9600\)이다.

  • \(p = 0.10\): \(z_{0.95} = 1.6449\), \(c = 1.6449/1.9600 = 0.8392\), \(\gamma_2 = 2/0.8392^2 - 2 = 0.8397\).
  • \(p = 0.25\): \(z_{0.875} = 1.1503\), \(c = 0.5869\), \(\gamma_2 = 2/0.5869^2 - 2 = 3.8059\).

초과첨도가 0.84면 크기가 두 배가 된다. 0.84는 \(n\)이 웬만큼 크지 않으면 어떤 정규성 검정으로도 잡아내기 어려운 미세한 이탈이다(\(t_{11}\)의 초과첨도가 \(6/7 = 0.857\)로 거의 이 값이다). 크기를 다섯 배인 0.25로 부풀리는 데도 3.81이면 되는데, 이는 \(t_6\)(\(\gamma_2 = 3\))과 \(t_5\)(\(\gamma_2 = 6\)) 사이, 즉 자유도 5.6짜리 \(t\)에 해당한다. 14장의 정규성 검정으로 "정규성을 기각하지 못했다"는 것이 분산 검정을 안심하고 써도 된다는 뜻이 되지 못하는 까닭이다.

(c) 하한의 달성. \(\beta_2 = 1 + \gamma_1^2\)의 등호는 \(X\)가 값을 두 개만 가질 때 성립한다. 대칭인 두 점 분포

\[ P(X = \mu + \sigma) = P(X = \mu - \sigma) = \tfrac12 \]

를 잡으면 \(\gamma_1 = 0\)이고 \((X-\mu)^4 = \sigma^4\)이 항상 성립하므로 \(\mu_4 = \sigma^4\), 즉 \(\beta_2 = 1\), \(\gamma_2 = -2\)다.

이제 \(Y_i = (X_i - \mu)/\sigma = \pm 1\)로 두면 \(Y_i^2 = 1\)이므로

\[ \sum_i (Y_i - \bar Y)^2 = \sum_i Y_i^2 - n \bar Y^2 = n(1 - \bar Y^2), \]

따라서 \((n-1)S^2/\sigma^2 = n(1 - \bar Y^2) \leq n\)이다. 검정통계량이 위로 막혀 있다. 그러므로 위쪽 기각 \(n(1-\bar Y^2) > \chi^2_{1-\alpha/2,\,n-1}\)은

\[ \chi^2_{1-\alpha/2,\,n-1} \geq n \]

이면 아예 일어날 수 없다. \(\alpha = 0.05\)에서는 이 부등식이 \(n \geq 2\)의 모든 \(n\)에서 성립한다. \(n = 2\)에서 \(5.024 \geq 2\), \(n = 10\)에서 \(19.023 \geq 10\), \(n = 40\)에서 \(58.120 \geq 40\)이고, 일반적으로 \(\chi^2_{0.975,n-1} \approx (n-1) + 1.96\sqrt{2(n-1)} > n\)이 \(1.96\sqrt{2(n-1)} > 1\)에서 따라온다. 즉 위쪽 기각확률은 극한값이 아니라 모든 \(n\)에서 정확히 0이다.

아래쪽은 \(n\bar Y^2 > n - \chi^2_{\alpha/2,\,n-1}\)를 요구한다. \(\chi^2_{\alpha/2,n-1} \approx (n-1) - z_{1-\alpha/2}\sqrt{2(n-1)}\)이므로 우변은 \(1 + z_{1-\alpha/2}\sqrt{2(n-1)}\), 즉 \(\sqrt n\)의 속도로 커진다. 반면 \(\sqrt n \bar Y \xrightarrow{d} \mathcal{N}(0,1)\)이므로 좌변 \((\sqrt n \bar Y)^2\)은 \(\chi^2_1\)로 수렴한다. 따라서 이 확률도 0으로 간다. 두 꼬리를 합쳐 (a)의 \(g(-2) = 0\)과 맞는다.

해석. 하한에서 카이제곱 검정의 실제 크기는 위쪽으로는 모든 \(n\)에서 정확히 0이고 전체로도 0으로 간다. 약속한 5%를 한 푼도 쓰지 않는 검정은 그만큼 검정력도 버리므로, \(\sigma^2\)이 \(\sigma_0^2\)에서 조금 벗어난 대립가설을 거의 잡아내지 못한다. 반대로 \(\gamma_2\)가 크면 같은 공식이 거의 항상 기각하는 장치가 된다. 식 \(\chi^2 = (n-1)s^2/\sigma_0^2\)은 하나도 바뀌지 않았는데 분포의 네 번째 적률 하나가 그것을 "절대 기각 안 함"과 "거의 항상 기각함" 사이 어디로든 옮겨 놓는다. 이 장이 로버스트 검정을 기본값으로 권하는 이유가 여기에 있다. \(\square\)


정리하며

여러 실무 문제는 위치가 아니라 산포를 묻는다.

먼저 이 장이 다루는 검정을 한 지도로 적어 둔다.

검정 표본 수 정규성 민감도
카이제곱 1 매우 높음
\(F\) 2 매우 높음
바틀렛 \(k\) 높음
레빈 · 브라운–포사이드 \(k\) 낮음
플리그너–킬린 \(k\) 낮음
  • 품질관리가 전형적이다. 평균이 목표에 맞아도 분산이 크면 불량이 생긴다. 물어야 할 것은 "평균이 500g 인가"가 아니라 "분산이 규격 안에 있는가" 다.
  • 금융에서는 변동성 자체가 위험이다. 기대수익만큼이나 \(\sigma\) 가 중요하며, 5.14절 수익률 추정이 보인 대로 \(\sigma\) 는 \(\mu\) 보다 훨씬 정밀하게 추정된다 — \(10\) 년치로 재면 \(\hat\mu\) 의 상대오차가 \(79\%\) 인데 \(\hat\sigma\) 는 \(1.4\%\) 다.
  • 등분산 가정 확인에도 쓰인다. 스튜던트 \(t\) 검정과 분산분석의 전제이며, 10장에서 다룬 문제다.
  • 다만 사전 검정으로 쓰는 관행은 권하지 않는다. 2단계 절차가 전체 오류율을 왜곡하므로 웰치를 기본으로 쓰는 편이 낫다.
  • 정규성 민감도가 이 장 전체를 관통하는 주제다. 평균 검정과 달리 분산 검정은 중심극한정리의 보호를 받지 못한다.

다음 절 분산 검정의 공통 가정으로 넘어간다.