두 표본비율 차의 표본분포¶

개요¶

임상시험에서 처리군 200명 가운데 120명이, 대조군 200명 가운데 90명이 회복했다. 회복률로 치면 60%와 45%이니 차가 15%포인트다. 이 15%포인트를 치료의 효과라고 말해도 되는가, 아니면 두 군에 누가 배정되었는가에서 생긴 운의 차이일 뿐인가.

독립인 두 모집단의 비율을 비교할 때(처리군 대 대조군, 브랜드 A 대 브랜드 B, A안 대 B안) 관심 통계량은 \(\hat{p}_1 - \hat{p}_2\)이다. 이 차도 표본이 바뀌면 함께 바뀌므로 그 표본분포를 알아야 하고, 알고 나면 차 \(p_1 - p_2\)에 대한 신뢰구간과 가설검정이 따라 나온다.

그런데 이 쪽에는 걸려 넘어지기 쉬운 지점이 하나 있다. 같은 자료를 놓고도 신뢰구간과 검정이 서로 다른 표준오차를 쓴다는 것이다. 왜 그렇게 되는지가 아래에서 밝혀진다.

차의 중심과 퍼짐¶

\(\hat{p}_1\)과 \(\hat{p}_2\)를 참 비율이 \(p_1\)과 \(p_2\)인 모집단에서 뽑은 크기 \(n_1\), \(n_2\)의 독립 표본으로부터 얻은 표본비율이라 하자.

차의 기댓값은 그냥 두 모비율의 차다.

퍼짐은 사정이 다르다. 두 표본이 독립이므로 분산이 빼지지 않고 더해진다.

제곱근을 취한 것이 차의 표준오차다.

차를 구하는데 분산을 더한다는 것이 처음에는 어색하다. 그러나 어느 쪽이 흔들려도 차는 흔들린다. 두 추정값 각각의 불확실성이 차의 불확실성에 함께 얹히는 것이다.

정규근사¶

\(\hat{p}_1\)과 \(\hat{p}_2\)가 각각 근사적으로 정규이고 서로 독립이므로 그 차도 근사적으로 정규다. \(n_1\)과 \(n_2\)가 충분히 크면(두 \(i\) 모두에 대해 \(n_i p_i \geq 5\)이고 \(n_i(1-p_i) \geq 5\)) 차를 표준화한 양이 표준정규를 따른다.

그런데 분모에 미지의 \(p_1\)과 \(p_2\)가 들어 있어 이대로는 계산할 수 없다. 실무에서는 표본비율로 대체한다.

이 대체가 뒤에서 갈림길을 만든다. 무엇으로 대체하는 것이 옳은지가 지금 무엇을 묻고 있느냐에 따라 달라지기 때문이다.

신뢰구간에서는 두 비율을 따로 추정한다¶

차가 얼마인지만 묻고 어떤 가설도 전제하지 않는 경우를 먼저 보자. 이때 분모에 넣을 수 있는 것은 방금 얻은 추정 표준오차, 곧 \(\hat{p}_1\)과 \(\hat{p}_2\)를 각각 따로 넣어 계산한 값뿐이다. 두 비율이 같은지 다른지 모르는 채로 차가 얼마인지를 가늠하는 일이므로, 각 비율은 각자의 자료로 추정하는 수밖에 없다.

그러므로 이 물음에 대응하는 표본분포는 중심이 참 차 \(p_1 - p_2\)에 있고 폭이 그 비합동 표준오차인 정규분포다. 여기까지가 표본분포의 몫이다. 이 분포의 양옆을 임계값만큼 벌려 구간을 만드는 일은 8.3절 \(p_1-p_2\)의 신뢰구간에서 한다.

가설검정에서는 귀무가설이 표준오차를 바꾼다¶

검정은 사정이 다르다. 검정통계량의 분포는 귀무가설이 참이라는 전제 아래에서 구하는 것이므로, 그 귀무가설이 표준오차에 관해 무엇을 말해 주는지 따져 보아야 한다.

귀무가설이 \(H_0: p_1 - p_2 = d_0\)처럼 차를 어떤 값 \(d_0\)로 못박는 일반적인 형태라면, 두 비율이 각각 얼마인지는 여전히 알려 주지 않는다. 그래서 신뢰구간에서와 같은 추정 표준오차를 그대로 쓴다.

그러나 실제로 가장 많이 쓰는 귀무가설은 \(H_0: p_1 = p_2\), 곧 \(d_0 = 0\)인 경우다. 이때는 이야기가 달라진다. 귀무가설이 참이라면 두 모비율이 같은 값 \(p\)이므로 추정할 것이 하나뿐이고, 두 표본의 자료를 모두 모아 그 하나를 추정하는 편이 낫다. 이렇게 얻은 것이 합동비율이다.

그것을 표준오차에 넣으면 귀무가설 아래에서 표준화한 양이 된다.

두 표준오차가 갈리는 까닭이 이것이다. 신뢰구간은 아무것도 전제하지 않으므로 합동하지 않고, 검정은 귀무가설을 전제하므로 합동한다.

두 세계를 나란히 그리면 이렇다.

주황 곡선이 검정의 세계다. 귀무가설이 참이라고 가정했으므로 중심이 \(0\)에 있고, 폭은 두 표본을 합쳐 추정한 합동 표준오차다. 관측된 차 \(0.40\)은 이 세계에서 보면 중심에서 \(5.66\) 표준오차만큼 떨어진 자리, 곧 일어나기 어려운 자리에 있다.

파랑 곡선이 구간의 세계다. 아무 가설도 전제하지 않으므로 중심을 관측된 차에 두고, 폭은 두 비율을 따로 추정한 비합동 표준오차다. 이 곡선의 양옆을 \(1.96\) 표준오차만큼 벌린 것이 아래의 신뢰구간이다.

두 곡선은 중심도 폭도 다르다. 중심이 다른 것은 전제가 다르기 때문이고, 폭이 다른 것은 합동 여부 때문이다. 이 예에서 합동 표준오차가 오히려 조금 더 큰데, \(p(1-p)\)가 \(p = 0.5\)에서 가장 크기 때문에 두 비율을 \(0.5\) 쪽으로 합쳐 놓으면 폭이 늘어나는 것이다. 두 비율이 서로 멀수록 이 차이가 벌어진다.

여기서 눈여겨볼 것은 같은 자료를 놓고도 무엇을 묻느냐에 따라 표본분포가 달라진다는 점이다. 표준오차는 곧 표본분포의 폭이므로, 합동을 쓴다는 것은 \(\hat{p}_1 - \hat{p}_2\)를 귀무가설이 참인 세상에 놓고 그 세상에서의 흔들림을 재겠다는 뜻이다. 두 표본을 합쳐 하나의 \(p\)를 추정하므로 자료를 두 배로 쓰는 셈이고, 귀무가설이 정말 참이라면 그 폭이 더 정확하게 잡힌다. 두 값은 대개 비슷하지만 참 비율이 서로 멀수록 갈라지며, 얼마나 갈라지는지는 연습문제 2와 다음 쪽에서 잰다.

이 표본분포가 기대는 것¶

지금까지의 유도에서 실제로 쓴 가정은 셋이다.

첫째, 각 표본 안에서 관측이 서로 독립이고 성공확률이 일정하다. 이것이 있어야 \(X_i\)가 이항분포를 따르고 \(\text{Var}(\hat{p}_i) = p_i(1-p_i)/n_i\)가 나온다. 둘째, 두 표본이 서로 독립이다. 이 가정은 분산을 더하는 단 한 단계에서 쓰였으며, 독립이 아니면 그 자리에 공분산 항이 붙어 폭이 통째로 달라진다(연습문제 6). 셋째, 정규근사다. 이것은 모집단이 정규라는 가정이 아니라 베르누이 시행의 합에 중심극한정리를 적용한 결과이므로, "정규가 맞는가"의 문제가 아니라 "\(n\)이 얼마나 커야 하는가"의 문제가 된다.

가정이 쓰인 자리를 보면 무엇이 정확하고 무엇이 근사인지도 갈린다. 중심 \(p_1 - p_2\)와 분산 \(p_1(1-p_1)/n_1 + p_2(1-p_2)/n_2\)는 표본크기와 무관하게 정확히 성립한다. 근사가 개입하는 곳은 모양뿐이다.

그리고 모양에 관해서는 사정이 좋은 편이다. \(\hat{p}_1 - \hat{p}_2\)는 관측값을 그냥 더해 만든 1차 적률 계열의 통계량이라 중심극한정리가 구해 준다. 표본을 키우면 모양의 어긋남이 줄어든다는 뜻이며, 정리의 전제 자체가 어그러져 표본을 키워도 회복되지 않는 \(S^2\)이나 \(S_1^2/S_2^2\)과는 처지가 다르다.

다만 단서가 둘 붙는다.

첫째, 이산성이 남는다. \(\hat{p}_1 - \hat{p}_2\)가 가질 수 있는 값은 연속이 아니라 격자 위에만 놓인다. \(n_1 = n_2 = n\)이면 간격이 \(1/n\)인 격자다. 정규근사는 이 계단을 매끈한 곡선으로 바꿔 읽는 일이므로, 기대도수가 작아 격자가 성기면 확률 덩어리 하나가 통째로 임계선 안팎을 오가며 근사가 계단처럼 어긋난다. 표본이 커지면 격자가 촘촘해져 이 효과가 묻히지만, 완전히 사라지지는 않는다.

둘째, 오차가 두 집단에서 더해진다. 차의 분산이 두 분산의 합이듯 근사의 오차도 두 겹이다. 한 집단이 아무리 넉넉해도 다른 집단이 부실하면 차의 표본분포는 부실한 쪽을 따라간다(연습문제 5). 그래서 조건은 두 군 모두에 건다.

성공과 실패가 두 군 모두에서 충분히 많아야 한다는 뜻이며, 한 군이라도 조건을 어기면 근사를 믿을 수 없다. 문턱값을 얼마로 할지는 무엇을 보려는가에 달렸다. 4.1절의 약속대로, 봉우리의 모양만 눈으로 보려면 5로 족하고 구간의 포함률이나 검정의 오류율까지 따지려면 10이 필요하다. 두 비율의 차는 오차가 두 겹이므로 한 비율일 때보다 넉넉하게 잡는 편이 안전하다.

조건이 무너지면 어긋남은 표본분포에서 멈추지 않는다. 폭을 잘못 알면 그 폭으로 벌린 구간이 참값을 명목보다 덜 담고, 모양을 잘못 알면 그 모양으로 정한 임계값이 실제로는 다른 크기의 꼬리를 자른다. 이어지는 두 쪽에서 그 어긋남을 포함률과 오류율이라는 숫자로 직접 잰다.

연습문제¶

import numpy as np

z, zb = 1.959964, 0.8416
print(f"{'p1':>6}{'p2':>6}{'차':>7}{'집단당 n':>12}")
for p1, p2 in [(0.50,0.40), (0.50,0.45), (0.10,0.05), (0.30,0.20)]:
    pb = (p1 + p2) / 2
    n = int(np.ceil((z*np.sqrt(2*pb*(1-pb))
                     + zb*np.sqrt(p1*(1-p1) + p2*(1-p2)))**2 / (p1-p2)**2))
    print(f"{p1:>6}{p2:>6}{p1-p2:>7.2f}{n:>12}")

    p1    p2      차       집단당 n
   0.5   0.4   0.10         388
   0.5  0.45   0.05        1565
   0.1  0.05   0.05         435
   0.3   0.2   0.10         294

정리하며¶

두 비율의 차도 두 평균의 차와 같은 논리를 따른다. 기댓값은 빼고, 두 표본이 독립이므로 분산은 더한다. 중심 \(p_1 - p_2\)와 그 분산은 표본크기와 무관하게 정확하며, 근사가 개입하는 곳은 모양뿐이다. 표본이 충분히 크면 차를 표준화한 양이 근사적으로 \(N(0, 1)\)을 따른다. 쓸 수 있는 조건은 두 군 모두에서 \(n_i p_i \geq 5\)이고 \(n_i(1-p_i) \geq 5\)인 것이며, 구간의 포함률이나 검정의 오류율까지 지키려면 5 대신 10을 본다.

이 쪽에서 가져갈 것 하나를 고르라면 표준오차가 두 가지라는 사실이다. 신뢰구간에서는 두 비율을 각각 따로 추정해 넣고, \(H_0: p_1 = p_2\)를 물을 때는 두 표본을 합쳐 하나의 공통 비율을 추정해 넣는다. 표준오차는 곧 표본분포의 폭이므로, 표준오차가 둘이라는 말은 같은 자료 위에 표본분포가 둘 놓인다는 뜻이다. 검정은 귀무가설이 참이라는 전제 위에서 분포를 구하므로 "두 비율이 같다"는 정보를 폭에까지 반영하고, 아무 가설도 전제하지 않는 쪽은 그럴 수 없다. 같은 자료에서 서로 다른 숫자가 나오는 것이 흔한 혼동거리이지만, 묻고 있는 질문이 다르니 당연한 일이다.

이어지는 두 쪽에서 타당성 조건을 검증한다. 기대도수가 충분히 클 때 정규근사가 얼마나 잘 맞는지 확인하고, 조건이 깨졌을 때 무엇이 어떻게 무너지는지(구간의 붕괴, 이산성, 실제 오류율)를 본다.

구간과 검정은 어디에서 다루는가¶

이 쪽이 한 일은 여기까지다. \(\hat{p}_1 - \hat{p}_2\)가 어디를 중심으로 얼마나 흔들리는가, 그 흔들림을 정규곡선으로 읽어도 되는 조건은 무엇인가, 그리고 무엇을 묻느냐에 따라 그 폭이 어떻게 갈리는가. 표본분포를 다루는 이 장의 몫은 그것으로 끝난다.

남는 물음은 "그래서 구간을 얼마나 벌리고 무엇을 근거로 판정하는가"이다. 그 일은 방금 구한 표본분포를 받아 쓰는 절차이며, 비합동 표준오차로 폭을 재어 구간을 만드는 쪽은 8.3절 \(p_1-p_2\)의 신뢰구간, 합동 표준오차로 표준화해 판정하는 쪽은 9.3절 이표본 비율 검정이 맡는다. 원하는 크기의 차를 검출하려면 각 군에 몇 명이 필요한가 하는 설계 문제는 8.5절 두 집단 비교를 위한 표본크기에, 기대도수가 작아 정규근사를 아예 믿을 수 없을 때 쓰는 정확검정은 10장 피셔의 정확검정에 있다.