신뢰구간 시연¶

(1) 두 구간. \(n = 20\), \(\bar x = 123.9\), \(s = 5.73906\) 이다.

\(z\)-구간은 \(z_{0.025} = 1.95996\), \(\text{SE} = \sigma/\sqrt n = 6/\sqrt{20} = 1.34164\) 이므로

\(t\)-구간은 자유도 \(19\), \(t_{0.025,\,19} = 2.09302\), \(\text{SE} = s/\sqrt n = 5.73906/\sqrt{20} = 1.28329\) 이므로

(2) 두 몫이 서로 상쇄한다. 폭의 비는 두 인자의 곱이다.

임계값은 폭을 \(6.8\%\) 키우려 하고 산포는 \(4.3\%\) 줄이려 한다. 둘이 거의 맞부딪혀 남은 차이가 \(2.1\%\) 뿐이다.

두 몫의 성격이 다르다는 점이 중요하다. 임계값 몫 \(1.068\) 은 \(n = 20\) 하나로 정해지는 확정된 비용이고, 산포 몫 \(0.957\) 은 이 표본에서 우연히 \(s < \sigma\) 가 나온 우연한 양이다. 다른 표본에서는 \(s > \sigma\) 가 되어 두 몫이 같은 방향으로 겹칠 수도 있다. 그러므로 폭을 보고 방법을 고르면 안 된다. 고르는 기준은 \(\sigma\) 를 정말로 아는가 하나다.

scale 에는 \(s\) 가 아니라 \(s/\sqrt n\) 을 넣는다. stats.t.interval(0.95, df, loc, scale) 의 loc 과 scale 은 구간이 가리키는 양의 분포, 곧 \(\bar X\) 의 분포를 기술한다. 자료의 분포가 아니다. scale=s 로 두면 구간이 \(\sqrt{20} = 4.47\) 배 넓어져 \((112.0,\ 135.8)\) 쯤이 된다. 자릿수가 틀렸을 뿐 오류 메시지는 나지 않는다.

확인.

import numpy as np
from scipy import stats

data = np.array([120, 125, 118, 130, 122, 128, 115, 135, 121, 126,
                 119, 132, 124, 117, 129, 123, 131, 116, 127, 120])
n = len(data)
xbar = data.mean()
s = data.std(ddof=1)
alpha = 0.05

# z-구간: sigma를 안다고 가정한다.
# ppf(1 - alpha/2)인 것에 주의하라. 양쪽 꼬리에 alpha/2씩 남겨야 하므로
# 필요한 것은 상위 alpha/2 분위수, 즉 왼쪽 누적확률 1 - alpha/2 지점이다.
sigma_known = 6
z_crit = stats.norm.ppf(1 - alpha / 2)
me_z = z_crit * sigma_known / np.sqrt(n)
print(f"z-interval: ({xbar - me_z:.2f}, {xbar + me_z:.2f})")

# t-구간: sigma를 모르고 s로 대신한다.
# s가 그 자체로 흔들리는 양이라 임계값을 z보다 키워 그 불확실성을 갚아 준다.
# 자유도는 n-1이다. 편차를 x_bar에서 재는 순간 자유도 하나를 잃기 때문이다.
t_crit = stats.t.ppf(1 - alpha / 2, df=n - 1)
me_t = t_crit * s / np.sqrt(n)
print(f"t-interval: ({xbar - me_t:.2f}, {xbar + me_t:.2f})")

# scipy로 한 번에. scale에 s가 아니라 **표준오차** s/sqrt(n)을 넣어야 한다.
# 여기서 흔히 틀린다. loc/scale은 자료의 분포가 아니라 x_bar의 분포를 가리킨다.
ci = stats.t.interval(1 - alpha, df=n - 1, loc=xbar, scale=s / np.sqrt(n))
print(f"scipy t.interval: ({ci[0]:.2f}, {ci[1]:.2f})")

출력:

z-interval: (121.27, 126.53)
t-interval: (121.21, 126.59)
scipy t.interval: (121.21, 126.59)

(1)과 맞는다. \(z\)-구간 \((121.27,\ 126.53)\), \(t\)-구간 \((121.21,\ 126.59)\) 다. stats.t.interval 의 답이 손으로 만든 \(t\)-구간과 한 자리도 다르지 않다 — scale 에 \(s/\sqrt n\) 을 넣었기 때문이다.

두 구간의 반폭은 \(2.62957\) 과 \(2.68596\) 으로 \(2.1\%\) 차이이고, 이것이 (2)에서 구한 \(1.06789 \times 0.95651 = 1.02145\) 와 같다.

(1) 세 구간. \(\hat p = 84/200 = 0.42\), \(z = 1.95996\), \(z^2 = 3.84146\) 이다.

왈드. \(\text{SE} = \sqrt{0.42 \times 0.58/200} = 0.0349000\), \(\text{MOE} = 0.0684025\) 이므로 \((0.35160,\ 0.48840)\).

윌슨. 중심 \(\dfrac{\hat p + z^2/(2n)}{1 + z^2/n} = 0.4215076\), 반폭 \(0.0677716\) 이므로 \((0.35374,\ 0.48928)\).

아그레스티–쿨. \(\tilde n = 203.84146\), \(\tilde p = (84 + 1.92073)/\tilde n = 0.4215076\), 반폭 \(z\sqrt{\tilde p(1-\tilde p)/\tilde n} = 0.0677881\) 이므로 \((0.35372,\ 0.48930)\).

(2) 중심이 같은 것은 필연이다. 윌슨 중심의 분자·분모에 \(n\)을 곱하면

로 아그레스티–쿨의 \(\tilde p\) 와 같은 식이다. 자료가 무엇이든 두 중심은 언제나 일치한다.

폭이 같은 것은 필연이 아니다. 두 반폭은

로 서로 다른 식이고, 여기서는 \(0.0677716\) 대 \(0.0677881\) 로 \(0.0000165\) 차이다. 폭으로 치면 \(3.3 \times 10^{-5}\) 이라 소수 넷째 자리에서 보이지 않을 뿐이다.

세 구간이 겹치는 것도 이 자료의 사정이다. 보정량 \(z^2/2 = 1.92\) 가 \(x = 84\) 의 \(2.3\%\), \(z^2 = 3.84\) 가 \(n = 200\) 의 \(1.9\%\) 에 불과하다. 중심이 \(0.42\) 에서 \(0.4215\) 로 \(0.0015\) 밀렸을 뿐인데, 이것은 구간 폭의 \(1.1\%\) 다. \(n\)이 작거나 \(\hat p\) 이 \(0\) 또는 \(1\) 에 가까우면 보정량의 비중이 커져 세 구간이 크게 갈라지고, 그때 왈드가 무너진다.

확인.

x, n = 84, 200
p_hat = x / n
z = stats.norm.ppf(1 - alpha / 2)

# Wald: 표준오차에 p_hat을 그냥 대입한다. 가장 간단하지만 가장 나쁘다.
# p_hat이 0이나 1이면 표준오차가 0이 되어 폭이 0인 구간이 나온다.
me_wald = z * np.sqrt(p_hat * (1 - p_hat) / n)
print(f"Wald: ({p_hat - me_wald:.4f}, {p_hat + me_wald:.4f})")

# Wilson: |p_hat - p| <= z*sqrt(p(1-p)/n) 을 p에 대한 이차부등식으로 풀어 얻는다.
# 표준오차에 미지의 p를 그대로 두고 풀었다는 것이 핵심이다.
# 그래서 중심이 p_hat이 아니라 p_hat과 0.5 사이로 조금 당겨진다.
denom = 1 + z**2 / n
center = (p_hat + z**2 / (2 * n)) / denom
me_wilson = z * np.sqrt(p_hat * (1 - p_hat) / n + z**2 / (4 * n**2)) / denom
print(f"Wilson: ({center - me_wilson:.4f}, {center + me_wilson:.4f})")

# Agresti-Coull: Wilson의 중심을 그대로 쓰되 너비는 Wald 공식으로 계산한다.
# 95%에서는 z^2 = 3.84 ~ 4 이므로 "성공 2개와 실패 2개를 더하고 Wald를 쓰라"는
# 손계산 규칙이 된다.
n_tilde = n + z**2
p_tilde = (x + z**2 / 2) / n_tilde
me_ac = z * np.sqrt(p_tilde * (1 - p_tilde) / n_tilde)
print(f"Agresti-Coull: ({p_tilde - me_ac:.4f}, {p_tilde + me_ac:.4f})")

출력:

Wald: (0.3516, 0.4884)
Wilson: (0.3537, 0.4893)
Agresti-Coull: (0.3537, 0.4893)

(1)과 맞는다. 세 구간이 손 계산과 같고, 윌슨과 아그레스티–쿨이 넷째 자리까지 겹친다. 더 많은 자리를 찍어 보면 \((0.3537360,\ 0.4892793)\) 과 \((0.3537195,\ 0.4892957)\) 로 다섯째 자리에서 갈라진다. (2)에서 예고한 대로 중심은 \(0.4215076\) 으로 똑같고 반폭만 \(0.0677716\) 대 \(0.0677881\) 이다.

(1) \(s^2\)이 딱 떨어진다. 합이 \(1240\)이므로 \(\bar x = 124\) 이고 편차가

이다. 제곱합이 \(16+1+36+36+4+16+81+121+9+4 = 324\) 이므로

이다(보기 1에서 "안다"고 가정했던 \(\sigma = 6\) 과 우연히 같다).

자유도 \(9\)의 임계값은 \(\ell = \chi^2_{0.025,\,9} = 2.70039\), \(u = \chi^2_{0.975,\,9} = 19.02277\) 이다. 추축량 \((n-1)S^2/\sigma^2 \sim \chi^2_9\) 을 \(\sigma^2\) 에 대해 풀면 큰 임계값이 아래끝의 분모로 간다.

제곱근은 \(\sigma > 0\) 에서 순증가이므로 양 끝에 그대로 씌우면 \(\sigma\)의 구간이다.

(2) 배수는 자료와 무관하다. 상한을 하한으로 나누면 \((n-1)s^2\) 이 통째로 약분된다.

\(s^2\) 이 \(36\) 이든 \(1\) 이든 \(1000\) 이든 언제나 \(7.04\) 배다. \(n\) 하나가 정하는 값이며, 자료를 보기도 전에 "이 표본크기로는 분산을 일곱 배 범위까지밖에 못 좁힌다"는 사실이 정해져 있다는 뜻이다. \(\sigma\) 척도에서는 제곱근인 \(\sqrt{7.04445} = 2.654\) 배로 줄어든다.

평균의 구간과 견주면 차이가 분명하다. 보기 1에서 같은 자료의 평균 구간은 \(123.9 \pm 2.69\) 로 중심의 \(2\%\) 폭이었다. 여기서 분산의 구간은 점추정값 \(36\) 을 \(17\) 에서 \(120\) 까지 늘어뜨린다. 같은 표본으로 평균은 꽤 정확히, 분산은 거의 모르는 채로 추정한다.

확인.

data = np.array([120, 125, 118, 130, 122, 128, 115, 135, 121, 126])   # 앞의 20개 중 10개
n = len(data)
s2 = data.var(ddof=1)

chi2_lower = stats.chi2.ppf(alpha / 2, df=n - 1)
chi2_upper = stats.chi2.ppf(1 - alpha / 2, df=n - 1)

# 분모에 들어가는 임계값이 **뒤바뀐다**. 자주 틀리는 자리다.
# (n-1)s²/σ² 이 chi2_lower 와 chi2_upper 사이에 있다는 부등식을
# σ² 에 대해 풀면 σ² 이 분모로 내려가면서 대소가 뒤집히기 때문이다.
ci_var = ((n - 1) * s2 / chi2_upper, (n - 1) * s2 / chi2_lower)
# 제곱근은 단조증가 함수라 양끝에 그대로 씌우면 σ의 구간이 된다.
ci_sd = (np.sqrt(ci_var[0]), np.sqrt(ci_var[1]))

print(f"95% CI for sigma^2: ({ci_var[0]:.2f}, {ci_var[1]:.2f})")
print(f"95% CI for sigma:   ({ci_sd[0]:.2f}, {ci_sd[1]:.2f})")

출력:

95% CI for sigma^2: (17.03, 119.98)
95% CI for sigma:   (4.13, 10.95)

(1)과 맞는다. \(\sigma^2\) 구간 \((17.03,\ 119.98)\), \(\sigma\) 구간 \((4.13,\ 10.95)\) 다. 배수는 \(119.98/17.03 = 7.045\) 로 \(u/\ell = 7.04445\) 와 같다.

\(\sigma\) 구간이 참값 \(\sigma = 6\) 을 담지만 \(4.13\) 에서 \(10.95\) 까지다. 같은 자료로 "표준편차가 \(4\) 쯤인가 \(11\) 쯤인가"조차 가리지 못한다는 뜻이다.

(1) 웰치 구간. \(n_1 = n_2 = 10\), \(\bar x_A = 13.2\), \(\bar x_B = 18.1\), \(s_A = 1.93218\), \(s_B = 1.91195\) 이다. 두 표본이 독립이므로 분산이 더해진다.

새터스웨이트 자유도는

이고 \(t_{0.025,\,17.998} = 2.10094\) 다. 차이가 \(13.2 - 18.1 = -4.9\) 이므로

구간이 통째로 음수 쪽에 있다. \(0\)을 담지 않으므로 B군의 평균이 A군보다 \(3\)에서 \(7\) 정도 높다고 읽으며, 이것은 유의수준 \(5\%\)에서 \(\mu_A = \mu_B\) 를 기각하는 것과 같은 말이다(9장).

(2) \(n_1 = n_2\) 이면 표준오차가 대수적으로 같다. 합동분산은

이고 합동 표준오차는

인데, 이것이 웰치의 \(\sqrt{s_A^2/n + s_B^2/n}\) 와 글자 그대로 같은 식이다. 둘 다 \(0.85959\) 다. 표본크기가 같으면 두 방법의 표준오차는 언제나 일치한다.

남는 차이는 자유도 하나뿐이다. \(n_1 = n_2 = n\) 일 때 새터스웨이트 자유도를 정리하면

인데, \(a = s_A^2\), \(b = s_B^2\) 로 두면 \((a+b)^2 \le 2(a^2+b^2)\) 이고 등호는 \(a = b\) 일 때뿐이다. 그러므로

이고, 두 분산이 같을수록 \(\nu\) 가 \(18\) 에 가까워진다. 여기서는 \(s_A\) 와 \(s_B\) 가 거의 같아 \(\nu = 17.998\) 이고 임계값이 \(2.10094\) 대 \(2.10092\) 로 소수 넷째 자리에서야 갈린다. 두 구간은 \((-6.70594,\ -3.09406)\) 와 \((-6.70592,\ -3.09408)\) 로 사실상 같다.

일치가 깨지는 곳. 두 가지다. 표본크기가 다르면(\(n_1 \ne n_2\)) 표준오차부터 달라지고, 분산이 크게 다르면 \(\nu\) 가 \(2(n-1)\) 보다 뚜렷이 작아진다. 둘이 겹치면 — 작은 표본에 큰 분산이 붙으면 — 합동 구간이 너무 좁아져 포함률을 지키지 못한다. 그래서 등분산을 확인하기 전에는 웰치가 기본값이다.

확인.

group_a = np.array([12, 15, 11, 14, 13, 16, 10, 15, 12, 14])
group_b = np.array([18, 20, 17, 19, 16, 21, 15, 20, 18, 17])

n1, n2 = len(group_a), len(group_b)
x1, x2 = group_a.mean(), group_b.mean()
s1, s2_val = group_a.std(ddof=1), group_b.std(ddof=1)   # 위의 분산 s2와 이름이 겹치지 않게

# 두 표본이 독립이므로 분산이 더해진다. 표준오차는 제곱해서 더한 뒤 제곱근이다.
se = np.sqrt(s1**2 / n1 + s2_val**2 / n2)

# Satterthwaite 자유도. 정수가 아니어도 된다.
# 두 분산이 같고 n도 같으면 n1+n2-2가 되고, 한쪽 분산이 압도하면
# 그쪽 표본의 자유도(n-1)로 줄어든다. 즉 "실효 표본크기"를 재는 양이다.
df_welch = (s1**2 / n1 + s2_val**2 / n2)**2 / (
    (s1**2 / n1)**2 / (n1 - 1) + (s2_val**2 / n2)**2 / (n2 - 1)
)
t_crit = stats.t.ppf(1 - alpha / 2, df=df_welch)
diff = x1 - x2
ci_welch = (diff - t_crit * se, diff + t_crit * se)
print(f"Welch CI: ({ci_welch[0]:.2f}, {ci_welch[1]:.2f})")

출력:

Welch CI: (-6.71, -3.09)

(1)과 맞는다. \(\text{SE} = 0.85959\), \(\nu = 17.998\), 구간 \((-6.71,\ -3.09)\) 이다. 합동 구간을 같은 자료로 계산하면 \((-6.70592,\ -3.09408)\) 로, 웰치의 \((-6.70594,\ -3.09406)\) 와 소수 다섯째 자리에서야 갈린다. (2)에서 본 대로 표준오차가 같고 자유도만 \(17.998\) 대 \(18\) 로 다르기 때문이다.

(1) 두 포함률 모두 닫힌 꼴이다. 정규표본에서

이고, 두 구간이 \(\mu\)를 담는 사건은 각각 \(|T| \le 1.96\) 과 \(|T| \le t_{0.025,\,n-1}\) 이다. 그러므로

이다. \(t\) 구간의 포함률은 모든 \(n\)에서 정확히 \(0.95\) 이고, \(z\) 구간의 포함률은 \(n\)에만 의존한다.

\(n = 5\)에서 \(0.878\) 이다. 스무 번에 한 번 놓친다고 믿는데 실제로는 여덟 번에 한 번 놓친다. \(n = 100\) 에서도 아직 \(0.9472\) 로 \(0.95\) 에 닿지 못한다.

(2) 모의실험.

np.random.seed(42)
mu_true, sigma_true = 100, 15
n_sim = 10_000

for n in [5, 10, 30, 100]:
    z_covers = 0
    t_covers = 0
    for _ in range(n_sim):
        sample = np.random.normal(mu_true, sigma_true, n)
        xbar = sample.mean()
        s = sample.std(ddof=1)

        # 흔하지만 틀린 방식: sigma를 모르면서 s를 넣고 임계값은 z를 쓴다.
        # 자료마다 흔들리는 s를 상수처럼 취급하는 셈이라 구간이 너무 좁아진다.
        me_z = 1.96 * s / np.sqrt(n)
        if xbar - me_z <= mu_true <= xbar + me_z:
            z_covers += 1

        # 올바른 방식: 같은 s를 쓰되 임계값을 t로 키운다.
        t_c = stats.t.ppf(0.975, df=n - 1)
        me_t = t_c * s / np.sqrt(n)
        if xbar - me_t <= mu_true <= xbar + me_t:
            t_covers += 1

    # 참값을 알고 있으니 "구간이 참값을 담았는가"를 그냥 세면 된다.
    # 이것이 신뢰수준의 정의다. 명목값 0.95에 얼마나 가까운지를 본다.
    print(f"n={n:>3}: z-coverage={z_covers/n_sim:.3f}  t-coverage={t_covers/n_sim:.3f}")

출력:

n=  5: z-coverage=0.876  t-coverage=0.953
n= 10: z-coverage=0.915  t-coverage=0.945
n= 30: z-coverage=0.937  t-coverage=0.945
n=100: z-coverage=0.946  t-coverage=0.949

(1)의 닫힌 꼴과 나란히 두면 이렇다. 되풀이 \(10{,}000\)회의 몬테카를로 표준오차는 \(0.95\) 근처에서 \(\sqrt{0.95 \times 0.05/10^4} = 0.00218\), \(0.88\) 근처에서 \(0.00327\) 이다.

여덟 비교 가운데 둘이 \(2.2\) 표준오차 떨어져 있다. 한 번의 비교에서 그만큼 벌어질 확률이 양측 \(0.03\) 쯤이므로 여덟 번 중 둘은 조금 많지만 놀랄 일은 아니다. 중요한 것은 어느 쪽이 참값인지 이미 안다는 점이다. \(t\) 구간의 포함률이 정확히 \(0.95\) 라는 것은 추축량이 보장하므로, \(0.9453\) 은 모의실험의 흔들림이지 \(t\) 구간의 성질이 아니다.

반면 \(z\) 쪽의 \(0.876\) 은 흔들림이 아니다. \(0.95\) 에서 \(34\) 표준오차 떨어져 있다. 모의실험이 할 수 있는 일은 이렇게 큰 어긋남을 드러내는 것이지 소수 셋째 자리를 가리는 것이 아니다.

(1) 공식. 오차한계가 \(E\) 이내라는 조건은

이다. \(n\)은 정수여야 하므로 이 하계 이상인 가장 작은 정수, 곧 올림을 취한다.

올림이 아니면 조건을 어긴다. \(E = 1\), \(95\%\), \(\sigma = 15\) 에서

인데, 내림해서 \(n = 864\) 를 쓰면 오차한계가

로 요구를 넘어선다. \(n = 865\) 면 \(29.39946/\sqrt{865} = 0.99961 \le 1\) 이다. 한 개 차이로 약속이 지켜지고 깨진다.

\(t\) 가 아니라 \(z\) 를 쓰는 까닭. 자료를 모으기 전이라 \(s\) 가 없고, \(t\) 의 자유도 \(n-1\) 은 구하려는 \(n\) 자신에 달려 있어 순환이 된다. 그래서 계획 단계에서는 \(z\) 와 \(\sigma\) 의 사전 추정값으로 계산한다. 그 대신 \(\sigma\) 추정이 빗나가면 계획 전체가 빗나간다는 점을 기억해야 한다. \(n\) 이 \(\sigma^2\) 에 비례하므로 \(\sigma\) 를 \(20\%\) 낮게 잡으면 필요한 표본의 \(64\%\) 만 모으게 된다.

(2) 정밀도가 신뢰수준보다 비싸다. \(n \propto (z/E)^2\) 이므로 두 값이 모두 제곱으로 들어온다.

\(E = 2 \to 1\) 은 \(217\) 개에서 \(865\) 개로 \(3.99\) 배, \(95\% \to 99\%\) 는 \(217\) 개에서 \(374\) 개로 \(1.72\) 배다. 오차한계를 절반으로 줄이는 값이 신뢰수준을 네 단계 올리는 값의 두 배를 넘는다.

비율이면 \(\sigma^2\) 자리에 \(p(1-p)\) 가 들어간다. 그런데 \(p\) 를 모르므로 최악의 경우를 쓴다. \(p(1-p)\) 는 \(p = 1/2\) 에서 최대 \(1/4\) 이므로

이다. 이렇게 잡으면 참 \(p\) 가 무엇이든 오차한계가 \(E\) 이내임이 보장된다. 예컨대 \(E = 0.03\), \(95\%\) 면 \(n = \lceil (1.95996/0.06)^2 \rceil = 1068\) 로, 여론조사에서 흔히 보는 "표본 \(1{,}000\) 명, 오차 \(\pm 3\%\)" 가 여기서 나온다.

확인.

sigma_est = 15
for E in [1, 2, 3, 5]:
    for conf in [0.90, 0.95, 0.99]:
        z = stats.norm.ppf(1 - (1 - conf) / 2)
        # 자료를 모으기 전이라 s가 없으므로 t를 쓸 수 없다.
        # 그래서 표본크기 계산은 언제나 z와 sigma의 사전 추정값으로 한다.
        # 올림(ceil)은 부족한 쪽으로 내려가지 않기 위해서다.
        n_needed = int(np.ceil((z * sigma_est / E)**2))
        print(f"  E=+/-{E}, {conf*100:.0f}% conf -> n = {n_needed}")

출력:

  E=+/-1, 90% conf -> n = 609
  E=+/-1, 95% conf -> n = 865
  E=+/-1, 99% conf -> n = 1493
  E=+/-2, 90% conf -> n = 153
  E=+/-2, 95% conf -> n = 217
  E=+/-2, 99% conf -> n = 374
  E=+/-3, 90% conf -> n = 68
  E=+/-3, 95% conf -> n = 97
  E=+/-3, 99% conf -> n = 166
  E=+/-5, 90% conf -> n = 25
  E=+/-5, 95% conf -> n = 35
  E=+/-5, 99% conf -> n = 60

(1)과 맞는다. \(E = 1\), \(95\%\) 에서 \(n = 865\) 다. 열두 칸 가운데 \((z\sigma/E)^2\) 이 정수로 떨어지는 것이 하나도 없으므로 올림이 매번 실제로 일어난다.

(2)도 맞는다. \(E = 2 \to 1\) 은 \(217 \to 865\) 로 \(3.99\) 배(\(95\%\) 기준), \(95\% \to 99\%\) 는 \(217 \to 374\) 로 \(1.72\) 배다. 이론값 \(4\) 와 \(1.727\) 에 올림 때문에 생긴 오차만큼 못 미친다.

표준오차는 \(\text{SE} = 120 / \sqrt{36} = 20\)이다. 임계값은 \(z_{0.025} = 1.96\)이다. 오차한계는 \(1.96 \times 20 = 39.2\)이다. 따라서 95% 신뢰구간은

참 평균 수명이 1160.8시간과 1239.2시간 사이에 있다고 95% 신뢰한다. \(\square\)

여기서 \(\hat{p} = 220/400 = 0.55\)이고 \(z_{0.025} = 1.96\)이다.

Wald 구간:

Wilson 구간: 분모 \(1 + z^2/n = 1 + 3.8416/400 = 1.009604\)이므로,

\(n\)이 크고 \(\hat{p}\)가 극단적이지 않아 두 구간이 가깝다. 그래도 일반적으로는 \(n\)이 작거나 \(\hat{p}\)가 극단적일 때 포함 성질이 더 좋은 Wilson 구간이 낫다. \(\square\)

\(n = 15\), \(\text{df} = 14\), \(\alpha = 0.10\)일 때:

\(\sigma^2\)의 90% 신뢰구간은

제곱근을 취하면 \(\sigma\)의 90% 신뢰구간은

\(\square\)

두 가지 수렴이 결합된다:

1. 임계값. \(\text{df} = n - 1 \to \infty\)일 때 \(t_{n-1}\) 분포가 \(N(0,1)\)로 수렴한다. 따라서 \(t_{\alpha/2,\,n-1} \to z_{\alpha/2}\)이다.

2. 표본표준편차. 대수의법칙에 의해 \(s^2 \xrightarrow{P} \sigma^2\)이고, 연속사상정리에 의해 \(s \xrightarrow{P} \sigma\)이다.

합치면 오차한계가

을 만족하므로 큰 \(n\)에서 두 구간을 구별할 수 없게 된다. \(\square\)

임계값은 \(z_{0.005} = 2.576\)이다. 필요한 표본크기는

적어도 관측값 166개가 필요하다. \(\square\)

원리 1 — 추축량(pivotal quantity). 모수를 담고 있으면서 그 분포가 모수에 의존하지 않는 양을 찾는다.

\(P(a\le Q\le b)=0.95\)를 \(\theta\)에 대해 풀면 구간이 나온다.

• 예: \(\dfrac{\bar X-\mu}{S/\sqrt n}\sim t_{n-1}\), \(\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}\), \(2\lambda\sum X_i\sim\chi^2_{2n}\).
• 장점: 구간이 정확하다. 근사가 없다.
• 한계: 추축량이 존재하는 모형이 제한적이다. 대체로 위치-척도족이나 지수족.

원리 2 — 검정의 역전. 수준 \(\alpha\) 검정을 각 \(\theta_0\)에 대해 수행하고, 기각되지 않는 \(\theta_0\)를 모아 구간으로 삼는다.

• 예: 우도비 구간, 점수 구간(윌슨), 클로퍼-피어슨(정확 이항검정의 역전).
• 장점: 가장 일반적이다. 검정이 있으면 언제나 구간을 만들 수 있고, 검정의 수준이 곧 구간의 포함확률이다.
• 핵심 성질: 구간과 검정이 논리적으로 일치한다. \(\theta_0\)가 구간 밖이면 반드시 기각된다.

원리 3 — 점근 정규성. \(\hat\theta\approx N(\theta, \operatorname{SE}^2)\)을 이용해

• 예: 왈드 구간 일반.
• 장점: 어떤 모형에도 기계적으로 적용된다.
• 한계: 근사이며, 앞서 여러 번 본 대로 경계 근처나 소표본에서 나쁘다.

관계. 세 원리는 독립적이지 않다. 추축량이 있으면 그것을 뒤집는 검정이 자연스럽게 정의되고, 점근 정규성은 왈드 검정을 역전한 것이다. 역전 원리가 가장 넓고, 나머지가 그 특수한 경우다.

실무 선택. 정확한 추축량이 있으면 그것을 쓰고, 없으면 우도비 역전을 쓰며, 계산이 부담되면 왈드를 쓰되 그 한계를 확인한다.

쌍대성. 수준 \(\alpha\)의 양측검정족 \(\{\phi_{\theta_0}\}\)과 포함확률 \(1-\alpha\)의 구간족 \(\{C(\mathbf{x})\}\)이

으로 일대일 대응한다.

따라서 구간이 \(\theta_0\)를 담지 않는 것과 \(p\)-값이 \(\alpha\)보다 작은 것이 논리적으로 동치다.

어긋나 보이는 경우와 그 이유.

(1) 서로 다른 근사를 썼다. 앞서 본 두 비율 비교가 대표적이다.

• 검정은 합동 비율로 표준오차를 계산한다(\(H_0\) 아래의 분산).
• 구간은 각각의 비율로 계산한다.

둘이 다르므로 경계 근처에서 결론이 갈릴 수 있다. 엄밀히 말하면 이 둘은 쌍대가 아니다. 진짜 쌍대인 구간은 검정을 역전해 얻어야 한다.

(2) 단측과 양측을 혼동했다. 단측 검정의 \(p\)-값이 0.03이면 5%에서 기각이지만, 양측 95% 구간은 \(\theta_0\)를 담을 수 있다. 대응하는 것은 단측 구간이다.

(3) 다중비교 보정이 한쪽에만 적용됐다. 검정에는 본페로니를 쓰고 구간에는 안 쓰면 어긋난다.

(4) 검정통계량과 구간의 중심이 다르다. 우도비 검정과 왈드 구간을 함께 쓰면 근사 방식이 달라 갈릴 수 있다.

실무 권고.

• \(p\)-값과 구간을 같은 방법으로 계산한다. 같은 소프트웨어 함수에서 나온 쌍이면 대개 일관된다.
• 어긋나면 어느 쪽 근사가 나쁜지 확인한다. 경계 근처면 왈드를 의심한다.
• 보고할 때는 구간을 우선한다. 효과의 크기와 불확실성을 함께 주므로 \(p\)-값보다 정보가 많다.

문제. 모수가 \((\theta_1,\theta_2)\)일 때, 각각의 95% 구간 \(C_1\), \(C_2\)를 만들어 직사각형 \(C_1\times C_2\)를 쓰면

다. 두 사건이 동시에 일어나야 하므로 확률이 줄어든다. 독립이면 \(0.95^2=0.9025\)이고, 상관이 있으면 다르지만 어쨌든 0.95보다 작다.

더 근본적인 문제 — 모양. 두 추정값이 상관되어 있으면 참 신뢰영역이 기울어진 타원인데, 직사각형은 그 모양을 담지 못한다. 타원 밖의 모서리를 포함하고 타원 안의 일부를 빠뜨린다.

올바른 구성.

(1) 왈드 타원. \(\hat{\boldsymbol\theta}\approx N(\boldsymbol\theta, \Sigma)\)이면

앞서 본 마할라노비스 거리와 카이제곱의 관계 그대로다.

(2) 우도비 영역.

타원이 아니라 가능도의 실제 모양을 따르는 영역이 나온다.

(3) 본페로니 직사각형. 각 구간을 \(1-\alpha/p\) 수준으로 만들면 곱집합의 포함확률이 \(1-\alpha\) 이상이다. 보수적이지만 해석이 쉽고 각 모수를 따로 읽을 수 있다는 장점이 있다.

어느 것을 쓰는가.

• 모수들을 함께 판단해야 한다면 타원이나 우도비 영역. "두 계수가 동시에 0인가"를 묻는 경우다.
• 각 모수를 개별적으로 해석한다면 본페로니 구간이나 그냥 개별 구간. 다만 동시 보장이 없다는 점을 명시해야 한다.
• 논문에서 회귀계수 표에 개별 구간을 싣는 것이 관행인데, 이는 동시 신뢰영역이 아니다. 여러 계수에 대한 결합 주장을 하려면 보정이 필요하다.

공집합이 되는 예. 앤더슨-루빈 검정을 역전한 도구변수 신뢰구간은 도구가 아주 약하면 빈 집합이 될 수 있다. 모든 \(\beta_0\)가 기각되는 것이다.

전체가 되는 예. 같은 방법에서 도구가 전혀 정보를 주지 못하면 \((-\infty,\infty)\) 가 나온다. 어떤 \(\beta_0\)도 기각되지 않는다.

잘못된 것인가. 아니다. 오히려 정직한 답이다.

• \((-\infty,\infty)\) 는 "이 자료로는 모수에 대해 아무것도 말할 수 없다"는 뜻이다. 약한 도구 상황에서 정확히 옳은 결론이며, 이를 숨기고 좁은 구간을 보고하는 2SLS 왈드 구간이 오히려 잘못이다.

실제로 모수가 약한 도구 아래에서 식별되지 않을 수 있고, 그때 유한한 구간을 주는 방법은 반드시 포함확률을 어긴다. 이것은 정리로 증명되어 있다(더프-소마이니).

• 공집합은 "모형이 자료와 맞지 않는다"는 신호다. 과대식별 제약이 위배되었을 때 나타나며, \(J\) 검정이 기각하는 것과 같은 정보다. 모형을 재검토하라는 뜻이다.

다른 예들.

• 클로퍼-피어슨. \(k=0\)이면 구간이 \([0,\ 3/n]\) 꼴로 한쪽이 경계에 붙는다. 퇴화는 아니지만 비대칭이 극심하다.
• 프로파일 가능도 구간. 가능도가 다봉이면 연결되지 않은 구간이 나올 수 있다. 두 영역이 모두 그럴듯하다는 뜻이며, 이것도 정직한 표현이다.
• 분산성분. 경계해가 나오면 구간이 \([0,\ u]\)로 한쪽이 0에 붙는다.

실무 권고. 이런 결과가 나왔을 때 억지로 "정상적인" 구간을 만들려 하지 않는다. 대신

• 왜 그런지 진단한다(약한 도구, 모형 오설정, 다봉성, 경계).
• 결과를 그대로 보고하고 해석을 붙인다.
• 필요하면 자료를 더 모으거나 설계를 바꾼다.

"모른다"는 답이 틀린 답보다 낫다.

반드시 적을 것.

1. 신뢰수준. 95%가 기본이지만 명시한다. 90%나 99%를 썼다면 특히.
2. 구성 방법. \(t\) 구간인지 부트스트랩인지 우도비인지. 부트스트랩이면 어느 변형(백분위, BCa)이고 \(B\)가 얼마인지.
3. 점추정값. 구간만으로는 중심을 알 수 없다. 비대칭 구간이면 특히 중요하다.
4. 표본크기. 독자가 정밀도를 가늠하는 기준이다.
5. 단측인지 양측인지.
6. 다중비교 보정 여부. 여러 구간을 보고하면 동시 보장이 있는지.

흔히 놓치는 것.

• 표집오차만 담는다는 사실. 무응답 편향, 측정오차, 모형 오설정은 구간에 들어 있지 않다. 조사 자료라면 응답률을 함께 적어야 한다.
• "유의하지 않다"와 "효과가 없다"의 혼동. 구간이 0을 담는다고 효과가 없는 것이 아니다. 구간이 넓으면 큰 효과도 배제하지 못한다. 구간의 양끝을 보고 실무적으로 의미 있는 값이 포함되는지 논해야 한다.
• 유효숫자의 과잉. \(n=30\)인 자료에서 구간을 소수 넷째 자리까지 적으면 없는 정밀도를 주장하는 것이다. 대략 표준오차의 10분의 1 자리까지가 적당하다.
• 비대칭을 대칭으로 보고. 부트스트랩 구간이 \((0.12, 0.45)\)인데 "\(0.28\pm0.17\)"로 적으면 비대칭 정보가 사라진다.
• 여러 구간의 비교. 두 구간이 겹치는지로 차이의 유의성을 판단하면 안 된다. 차이에 대한 구간을 따로 계산해야 한다.

좋은 보고의 예.

처리군과 대조군의 회복률 차이는 15.0%포인트였다(\(n_1=n_2=200\), 95% 신뢰구간 5.3%p~24.7%p, 왈드 방법). 구간이 0을 담지 않으므로 차이가 있다고 볼 근거가 있으나, 실무적으로 의미 있다고 보는 5%p 문턱에 하한이 가까워 효과의 크기는 불확실하다.