콘텐츠로 이동

σ²의 신뢰구간

1. 모분산의 신뢰구간

들어가는 이야기 — 폭을 정한 것은 자료가 아니다

기계학습 논문과 보고서는 같은 실험을 씨앗(seed) — 난수를 어디서 시작할지 정하는 수 — 만 바꾸어 셋이나 다섯 번 돌린 뒤, 결과를 「\(74.2 \pm 0.8\)」 처럼 적는다. 그 \(0.8\) 은 다섯 번의 산포를 잰 표본표준편차 \(s\) 이고, 참 산포가 어디쯤인지를 적으려면 이 쪽이 세우는 구간이 필요하다. 그 구간을 세워 놓고 보면 평균의 구간과 두 군데가 다르다.

첫째, 폭을 자료가 정하지 않는다. 같은 다섯 번에서 분산의 \(95\%\) 구간은 상한이 하한의 \(23.003\) 배다. 그런데 그 \(23.003\) 은 자료를 보기 전에 이미 정해져 있다 — 자유도만으로 결정되므로 어떤 표본이 나오든 같은 수다. 평균의 구간에서는 이런 일이 없다. 거기서는 \(s\) 가 폭을 직접 정하므로 표본마다 길이가 달라진다. 이 쪽이 쓰는 표본 열둘에서는 \(5.745\) 배, \(n = 100\) 에서도 \(1.751\) 배이고, 상한이 하한의 두 배 안으로 들어오는 데만 \(66\) 개가 든다.

왼쪽은 분산 구간 다섯 개를 로그 척도에 그린 것으로, 위의 세 개는 크기 열둘의 표본에서 나와 표본분산이 서로 다른데도 로그 자 위 길이가 똑같고 상한을 하한으로 나눈 값이 모두 5.745 이며, 아래 두 개는 크기 다섯의 표본에서 나와 훨씬 길고 그 값이 모두 23.003 이다. 오른쪽은 그 비가 표본 크기에 따라 줄어드는 곡선으로, 5 에서 23.003 이고 12 에서 5.745 이며 100 에서 1.751 이고 두 배 선을 66 에서 지난다

왼쪽. 그룹 안에서는 표본분산(sample variance)이 \(1.487\) 이든 \(6.524\) 든 상한을 하한으로 나눈 값이 똑같다. 로그 척도에서 길이가 같은 것이 그 뜻이다 — 자료가 정하는 것은 구간의 자리뿐이고 폭은 자유도가 미리 정해 둔다. 그룹 사이에서는 그 길이를 \(n\) 이 정한다. 평균의 구간에서는 이런 일이 없다. 거기서는 \(s\) 가 폭을 직접 정하므로 같은 \(n\) 안에서도 표본마다 길이가 달라진다. 오른쪽. 그 비가 줄어드는 속도다. 들머리의 이야기인 씨앗 다섯에서 \(23.003\), 이 쪽의 보기인 \(n = 12\) 에서 \(5.745\), \(n = 100\) 에서도 \(1.751\) 이고, 상한이 하한의 두 배 안으로 들어오는 데만 \(66\) 개가 든다. 이 \(66\) 은 이 책이 따져 본 값이다.

둘째, 그 넓이로도 약속을 지키지 못한다. 평균이라면 중심극한정리(central limit theorem)가 모집단의 모양을 덜어 주는데 분산에는 그 구제가 없다. 지수분포(exponential distribution) 자료에서는 명목 \(95\%\) 가 실제로 \(72\%\) 로 떨어지고, \(n\) 을 키워도 낫지 않는다 — 오히려 나빠지는 자리가 있다. 무엇이 그것을 정하는지도 분명하다. 왜도(skewness)가 아니라 꼬리의 두께다. \(t_5\) 는 완전히 대칭인데도 \(n = 25\) 에서 포함률이 \(0.835\) 이고, 왜도가 \(0.5\) 인 감마 자료는 같은 자리에서 \(0.932\) 로 거의 버틴다.

분산의 구간은 왜 이렇게 넓고, 그러면서도 왜 그 넓이로도 약속을 지키지 못하는가. 이 쪽은 카이제곱 추축량(pivotal quantity)을 뒤집어 그 구간을 세우고, 폭과 포함률을 함께 센다. 그러면 논문의 그 \(\pm\) 는 결국 어떻게 적어야 하는가 — 아래 상자가 거기까지 따라간다.

확인한 곳 — 「\(74.2 \pm 0.8\)」 은 꼴을 보이려고 든 수이고 특정 논문의 값이 아니다. 구간의 비 \(23.003\)·\(5.745\)·\(1.751\) 과 두 배에 드는 \(66\), 그리고 \(t_5\) 의 \(0.835\) 와 감마 자료의 \(0.932\) 는 모두 이 책이 직접 계산하거나 반복해 재어 본 값이다

모집단의 변동성 자체가 물음일 때가 있다. 공정의 산포가 규격을 넘지 않는지, 측정기의 잡음이 얼마인지, 수익률의 변동성이 어느 범위인지 — 이때 재려는 것은 평균이 아니라 \(\sigma^2\) 이다.

그런데 분산의 구간은 평균의 구간과 성격이 다르다. 평균에는 중심극한정리가 있어서 모집단이 정규가 아니어도 \(n\) 이 커지면 구간이 구제된다. 분산에는 그런 구제가 없다. 정규성(normality)은 편의를 위한 가정이 아니라 이 구간이 서 있는 전제이고, 아래 쪽지가 그 대가를 적는다.

출발점은 5.2절 카이제곱분포가 세운 사실 하나다. 모집단이 정규이면

\[ \frac{(n-1)S^2}{\sigma^2} \sim \chi^2_{n-1} \]

이 근사가 아니라 정확히 성립한다. 이 양에는 모르는 값이 \(\sigma^2\) 하나뿐이고 그 분포에는 모수가 남지 않으므로 추축량 — 분포가 모르는 모수에 의존하지 않는 양 — 이다. 그러니 가운데를 \(1-\alpha\) 확률로 가두고 \(\sigma^2\) 에 대해 풀면 구간이 나온다.

\[ \left[\frac{(n-1)s^2}{\chi^2_{1-\alpha/2,\,n-1}},\;\frac{(n-1)s^2}{\chi^2_{\alpha/2,\,n-1}}\right] \]

여기서 \(s^2\) 은 베셀 수정을 쓴 표본분산(ddof=1)이고 자유도는 \(n-1\) 이며, \(\chi^2_{\alpha/2,\,n-1}\) 과 \(\chi^2_{1-\alpha/2,\,n-1}\) 은 카이제곱분포(chi-squared distribution)의 아래쪽·위쪽 임계값이다.

임계값이 뒤집혀 들어가는 것에 주의할 것. 추축량을 \(\sigma^2\) 에 대해 풀 때 \(\sigma^2\) 이 분모에 있으므로 부등호가 반대로 돌아간다. 그래서 큰 임계값이 구간의 아래끝 분모로 가고 작은 것이 위끝으로 간다. 보기 1 이 이 뒤집힘을 따라가며, 상한과 하한의 비가 자료와 무관한 상수임도 거기서 확인한다.

그 비가 분산 추정의 정밀도를 그대로 말해 준다. \(n = 12\) 에서 \(\chi^2_{0.025,11} = 3.816\), \(\chi^2_{0.975,11} = 21.920\) 이므로 상한이 하한의 \(5.745\) 배다. 같은 표본으로 만든 \(\mu\) 의 \(t\) 구간이 \(\bar x \pm 0.635 s\) 로 꽤 좁은 것과 대비된다. 같은 자료에서 평균은 제법 정확히, 분산은 자릿수 가까이 흐리게 짚인다. \(n\) 을 키워도 느리게 줄어든다 — \(n = 30\) 에서 \(2.849\) 배, \(n = 100\) 에서도 \(1.751\) 배다. 분산을 재려면 평균을 잴 때보다 훨씬 많은 표본이 필요하다는 말이 이 수에 들어 있다.

결정적인 정규성 가정

이 신뢰구간은 정규 자료에서만 정확하다. 추축 결과 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\)은 모집단이 정규일 때에만 성립한다. 모집단이 치우쳐 있거나 꼬리가 두꺼우면 이 관계가 깨지고, \(n\)이 커도 카이제곱 신뢰구간의 포함확률이 명목값보다 낮거나 높아질 수 있다. 평균에 도움을 주는 중심극한정리가 이 분산 신뢰구간을 구해 주지는 못한다.

그러니 쓸 자리와 피할 자리가 갈린다. 정규모집단으로 볼 만한 자료라면 이 구간이 정확하고, 소표본에서도 그렇다 — 정규 잡음으로 모형화되는 측정오차나 공정 자료가 전형이다. 쓰기 전에 히스토그램과 정규 Q-Q 그림으로 대칭성과 꼬리를 확인하는 것이 순서다.

반대로 자료가 치우쳐 있거나 꼬리가 두껍거나 이상치(outlier)이 눈에 띄면 포함확률이 명목값에서 어긋난다. 그때는 \(\sigma\) 나 \(\sigma^2\) 에 부트스트랩(bootstrap) 구간(백분위수 또는 BCa)을 쓰거나, MAD 같은 로버스트 척도추정량과 부트스트랩을 함께 쓴다. 로그 같은 변환으로 정규에 가깝게 만들 수도 있지만 그러면 구간이 가리키는 것이 변환된 척도의 분산이므로 해석이 함께 바뀐다. 그리고 같은 요구가 두 분산을 비교하는 \(F\) 구간에도 그대로 붙는다 — 8.3절 σ₁²/σ₂²의 신뢰구간이 그 자리다.

보기 1. 분산의 신뢰구간 계산. 정규모집단에서 크기 \(n = 12\)인 표본을 뽑아 \(s^2\)을 얻었다.

(1) 추축량에서 \(\sigma^2\)의 \(95\%\) 신뢰구간을 유도하시오. 큰 임계값이 아래끝의 분모로 가는 까닭을 밝히고, 상한과 하한의 비가 자료와 무관한 상수임을 보이시오.

(2) 참 \(\sigma = 2\)인 모집단에서 표본 하나를 뽑아 구간을 만들고 (1)의 비를 확인하시오. \(\sigma\)의 구간은 어떻게 얻는가.

풀이

(1) 추축량을 뒤집는다. 정규표본에서

\[ W = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2_{n-1} \]

이고 이 분포는 \(\mu\)에도 \(\sigma\)에도 의존하지 않는다. 자유도 \(n-1 = 11\)의 하위·상위 \(2.5\%\) 임계값을 \(\ell = \chi^2_{0.025,\,11}\), \(u = \chi^2_{0.975,\,11}\) 이라 하면

\[ P\!\left(\ell \le \frac{(n-1)S^2}{\sigma^2} \le u\right) = 0.95 \]

이다. 안쪽을 \(\sigma^2\)에 대해 푼다. 세 양이 모두 양수이므로 역수를 취할 수 있고, 역수를 취하면 부등호가 뒤집힌다.

\[ \frac{\ell}{(n-1)S^2} \le \frac{1}{\sigma^2} \le \frac{u}{(n-1)S^2} \;\Longrightarrow\; \frac{(n-1)S^2}{u} \le \sigma^2 \le \frac{(n-1)S^2}{\ell} \]

그래서 큰 임계값 \(u\)가 아래끝의 분모로 간다. \(\sigma^2\)이 추축량의 분모에 있다는 것이 유일한 이유이며, 평균의 구간과 모양이 달라지는 지점이 바로 여기다.

비가 상수다. 상한을 하한으로 나누면 \(S^2\)이 통째로 약분된다.

\[ \frac{\text{상한}}{\text{하한}} = \frac{(n-1)s^2/\ell}{(n-1)s^2/u} = \frac{u}{\ell} \]

\(n = 12\)에서 \(u/\ell = 21.92005/3.81575 = 5.74463\) 이다. 자료를 보기도 전에 정해지는 값이며 \(n\)에만 달렸다. 평균의 \(t\)-구간은 \(\bar x\)를 가운데 두고 차가 \(s\)에 비례했는데, 분산의 구간은 \(s^2\)에 곱해지는 구조라 비가 고정된다. 폭 자체는 \((n-1)s^2(1/\ell - 1/u)\) 로 \(s^2\)에 정비례한다.

(2) 표본 하나.

import numpy as np
from scipy.stats import chi2

n = 12
sigma = 2.0        # 참 모표준편차 (모의실험용이므로 답을 알고 있다)
alpha = 0.05

rng = np.random.default_rng(42)
x = rng.normal(loc=0, scale=sigma, size=n)

# ddof=1이 필수다. 베셀 수정을 빼면 s²이 아래로 편향되어
# 구간 전체가 왼쪽으로 밀린다.
s2 = x.var(ddof=1)
df = n - 1

chi2_lo = chi2(df=df).ppf(alpha / 2.0)
chi2_hi = chi2(df=df).ppf(1 - alpha / 2.0)

# 큰 임계값이 아래끝의 분모로 간다.
# (n-1)s²/σ² 이 두 임계값 사이에 있다는 부등식을 σ²에 대해 풀면
# σ²이 분모로 내려가 대소가 뒤집히기 때문이다.
ci_lower = df * s2 / chi2_hi
ci_upper = df * s2 / chi2_lo

print(f"s2 = {s2:.4f},  chi2_lo = {chi2_lo:.5f},  chi2_hi = {chi2_hi:.5f}")
print(f"95% CI for σ²: ({ci_lower:.4f}, {ci_upper:.4f})")
print(f"95% CI for σ:  ({np.sqrt(ci_lower):.4f}, {np.sqrt(ci_upper):.4f})")

# (1) 상한/하한의 비는 s2 와 무관하게 chi2_hi / chi2_lo 다.
print(f"\n구간의 비 = {ci_upper / ci_lower:.5f}   chi2_hi/chi2_lo = {chi2_hi / chi2_lo:.5f}")
print(f"σ 척도에서의 비 = {np.sqrt(ci_upper / ci_lower):.5f}")

출력:

s2 = 3.6752,  chi2_lo = 3.81575,  chi2_hi = 21.92005
95% CI for σ²: (1.8443, 10.5947)
95% CI for σ:  (1.3580, 3.2549)

구간의 비 = 5.74463   chi2_hi/chi2_lo = 5.74463
σ 척도에서의 비 = 2.39680

(1)의 비가 그대로 나온다. 구간의 상한/하한 \(10.5947/1.8443 = 5.74463\) 이 \(u/\ell = 21.92005/3.81575 = 5.74463\) 과 소수 다섯째 자리까지 같다. \(s^2 = 3.6752\) 가 무엇이든 이 비는 바뀌지 않는다.

참값 \(\sigma^2 = 4\)가 구간 안에 있다. 다만 구간 \((1.8443,\ 10.5947)\) 이 \(s^2 = 3.6752\) 를 가운데 두지 않는다. 왼쪽으로 \(1.83\), 오른쪽으로 \(6.92\) 다. 카이제곱분포가 오른쪽으로 늘어져 있으므로 \(S^2\)이 참값보다 크게 나오는 쪽의 여지를 더 많이 남겨야 하기 때문이다.

\(\sigma\)의 구간은 제곱근을 취하면 된다. \(\sigma > 0\)에서 \(\sigma \mapsto \sigma^2\) 이 순증가이므로

\[ \sigma^2 \in [L,\ U] \iff \sigma \in [\sqrt L,\ \sqrt U] \]

로 두 사건이 같다. 사건이 같으니 확률도 같고, 따라서 \((\sqrt{1.8443},\ \sqrt{10.5947}) = (1.3580,\ 3.2549)\) 가 \(\sigma\)의 \(95\%\) 구간이다. 비는 \(\sqrt{5.74463} = 2.3968\) 로 줄어든다. 단조변환은 신뢰구간을 그대로 옮긴다. 평균의 구간에서 보았던 아핀변환 불변성과 같은 이치이고, 거기서와 달리 여기서는 변환이 비선형이라 구간의 모양(비대칭의 정도)이 달라진다.

참값 \(\sigma^2 = 4\)가 구간 안에 있지만 구간이 대단히 넓다. 위끝이 아래끝의 5.7배이며, \(s^2 = 3.68\)을 중심으로 대칭도 아니다. 카이제곱분포가 오른쪽으로 늘어져 있는 탓이다. \(\sigma\)의 척도에서는 제곱근을 취한 만큼 비대칭이 완화되어 \((1.36, 3.25)\)가 된다.

\(n = 12\)로 분산을 추정한다는 것이 이 정도로 막연한 일이다. 같은 표본크기에서 평균의 구간은 이보다 훨씬 단단하다.


2. 정규라면 포함확률이 정확히 95%다

§1 이 「정확히」라고 적은 말을 수로 확인해 둘 차례다. 평균의 구간에서는 \(n\) 이 작으면 포함확률이 명목값에 못 미치는 일이 흔했지만, 여기서는 모집단이 정규이기만 하면 \(n\) 이 얼마든 \(0.95\) 가 그대로 나온다. 추축량이 근사가 아니기 때문이다. 아래 보기가 정규모집단에서 구간을 반복해 만들어 그것을 보이고, 이어서 정규를 벗어났을 때 그 보장이 어떻게 무너지는지까지 따라간다.

보기 2. 분산 신뢰구간의 포함확률. \(n = 12\), \(\sigma = 2\)인 정규모집단에서 \(\sigma^2\)의 \(95\%\) 카이제곱 구간을 \(100\)개 만든다.

(1) 이 구간의 포함확률을 구하시오. 근사인가 정확인가. \(n\)에 의존하는가.

(2) \(100\)개를 그리고, 실패한 구간들의 모양에서 무엇이 읽히는지 수와 함께 말하시오.

(3) 모집단이 정규가 아니면 포함률이 얼마가 되는가. 표본을 키우면 나아지는가.

풀이

(1) 정규모집단에서는 정확히 \(0.95\)다. 구간이 \(\sigma^2\)을 담는 사건은 앞 보기의 유도에 의해

\[ \frac{(n-1)S^2}{u} \le \sigma^2 \le \frac{(n-1)S^2}{\ell} \iff \ell \le W \le u, \qquad W = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2_{n-1} \]

과 같은 사건이다. \(\ell\)과 \(u\)가 \(\chi^2_{n-1}\)의 \(2.5\)·\(97.5\) 백분위수이므로

\[ P(\ell \le W \le u) = 0.975 - 0.025 = 0.95 \]

이다. 근사가 아니라 정확한 값이고, \(n \ge 2\)인 모든 \(n\)과 모든 \(\mu\), \(\sigma\)에서 그렇다. \(W\)가 추축량이라서다. 평균의 \(t\)-구간과 같은 구조이며, 중심극한정리가 들어설 자리가 없다.

(2) 그림.

#!/usr/bin/env python3
"""분산 신뢰구간을 100번 만들어 참 분산을 몇 번이나 담는지 센다.

(n-1)S^2/sigma^2 이 카이제곱을 따른다는 사실에서 구간이 나온다. 평균의
구간과 달리 좌우가 대칭이 아니므로 양쪽 임계값을 따로 구해야 한다.
"""

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import chi2

plt.rcParams["font.sans-serif"] = ["NanumGothic", "Apple SD Gothic Neo", "Malgun Gothic"]
plt.rcParams["font.family"] = "sans-serif"
plt.rcParams["axes.unicode_minus"] = False

rng_seed = 42        # 아래 그림을 재현하려면 고정한다
n_simulations = 100
n_samples = 12
mu = 0.0
sigma = 2.0
alpha = 0.05
report_sigma_not_sigma2 = False  # True로 두면 σ² 대신 σ의 구간을 그린다


def main():
    if rng_seed is not None:
        np.random.seed(rng_seed)

    true_var = sigma**2
    lowers = np.empty(n_simulations)
    uppers = np.empty(n_simulations)
    centers = np.empty(n_simulations)

    df = n_samples - 1
    chi2_lo = chi2(df=df).ppf(alpha / 2.0)
    chi2_hi = chi2(df=df).ppf(1 - alpha / 2.0)

    for i in range(n_simulations):
        x = np.random.normal(loc=mu, scale=sigma, size=n_samples)
        s2 = x.var(ddof=1)
        lowers[i] = df * s2 / chi2_hi
        uppers[i] = df * s2 / chi2_lo
        centers[i] = s2

    covered = (lowers <= true_var) & (true_var <= uppers)
    n_fail = int((~covered).sum())
    coverage_pct = 100.0 * covered.mean()

    if report_sigma_not_sigma2:
        lowers, uppers, centers = np.sqrt(lowers), np.sqrt(uppers), np.sqrt(centers)
        true_ref = np.sqrt(true_var)
        x_label = "Standard Deviation (σ)"
    else:
        true_ref = true_var
        x_label = "Variance (σ²)"

    fig, ax = plt.subplots(figsize=(12, 12))
    for i in range(n_simulations):
        color = "k" if covered[i] else "r"
        ax.plot([lowers[i], uppers[i]], [i, i], lw=2, color=color)
        ax.plot(centers[i], i, marker="o", ms=3, color=color)

    ax.axvline(true_ref, linestyle="--", linewidth=1.5, color="r")
    ax.set_title(
        f"{n_simulations} Chi-square CIs | n={n_samples}, df={df}, "
        f"CL={int((1 - alpha) * 100)}% | Fail={n_fail} (Coverage ≈ {coverage_pct:.1f}%)")
    ax.set_yticks([])
    for sp in ["left", "right", "top"]:
        ax.spines[sp].set_visible(False)
    ax.set_xlabel(x_label)
    plt.tight_layout()
    plt.show()


if __name__ == "__main__":
    main()

100 Chi-square CIs | n=12, df=11, CL=95%

\(100\)개 가운데 \(95\)개가 담았다. (1)의 \(0.95\)와 맞는다. 반복 \(100\)회의 표준오차가 \(0.0218\)이므로 이 일치는 운이 좋은 것이고, \(93\)개나 \(97\)개가 나왔더라도 똑같이 (1)과 맞는다고 보아야 한다.

읽히는 것 하나 — 점이 가운데에 없다. 각 선의 점이 \(s^2\)인데, 구간의 왼쪽에 치우쳐 있다. 앞 보기에서 본 대로 하한까지가 \((n-1)s^2(1/u)\) 만큼, 상한까지가 \((n-1)s^2(1/\ell)\) 만큼이라 오른쪽이 \(u/\ell = 5.74\) 배 멀다.

읽히는 것 둘 — 실패가 양쪽으로 갈리되 모양이 다르다. 실패한 다섯 중 셋은 구간이 통째로 참값 오른쪽(하한 \(> 4\))에 있고 둘은 왼쪽(상한 \(< 4\))에 있다. 그런데 오른쪽으로 빠진 세 구간의 폭이

\[ 19.90, \quad 20.34, \quad 24.78 \]

로, \(100\)개 전체의 폭 중앙값 \(9.01\)의 두 배를 넘는다(가장 좁은 구간은 \(2.51\)이다). 폭이 \(s^2\)에 정비례하므로 \(s^2\)이 우연히 크게 나오면 구간이 오른쪽으로 밀리는 동시에 길어진다. 왼쪽으로 빠진 구간은 반대로 짧다.

이것이 분산 구간의 고유한 성질이다. 평균의 \(t\)-구간에서는 중심과 폭이 독립이었다(\(\bar X \perp S\)). 분산 구간에서는 중심 노릇을 하는 \(s^2\)이 폭도 함께 정하므로 둘이 완전히 묶여 있다. 그래서 "크게 틀린 구간은 길고, 작게 틀린 구간은 짧다"는 비대칭이 생긴다.

(3) 정규성이 무너지면 포함률도 무너진다. 구간이 쓰는 유일한 사실은 \(W = (n-1)S^2/\sigma^2\)이 \(\chi^2_{n-1}\)을 따른다는 것인데, 이것은 정규모집단에서만 참이다. 비정규 모집단에서 \(S^2\)의 변동을 재는 양은 모집단의 첨도(kurtosis) \(\beta_2\)이고, 5장에서 유도한 대로

\[ \operatorname{Var}(S^2) \approx \frac{(\beta_2 - 1)\sigma^4}{n}, \qquad r = \frac{\beta_2 - 1}{2} \]

이다. \(r\)는 "카이제곱 모형이 예측하는 분산"에 대한 실제 분산의 배율이고, \(n \to \infty\)에서 명목 \(95\%\) 구간의 포함률은

\[ 2\Phi\!\left(\frac{1.95996}{\sqrt r}\right) - 1 \]

로 수렴한다. 유도와 수치 확인은 분산의 표집분포 — 균등모집단의 보기 2에 있으므로 여기서는 결과만 쓴다.

모집단 \(\beta_2\) \(r\) 극한 포함률
균등 \(1.8\) \(0.4\) \(0.9981\)
정규 \(3\) \(1\) \(\mathbf{0.95}\)
라플라스 \(6\) \(2.5\) \(0.7849\)
지수 \(9\) \(4\) \(0.6729\)
\(t_5\) \(9\) \(4\) \(0.6729\)

표본을 키워도 낫지 않는다. 이 값들은 \(n \to \infty\)의 극한이다. 반복 \(5\)만 회로 확인하면 지수모집단에서 \(n = 25,\ 200,\ 2000\)의 포함률이 \(0.724,\ 0.686,\ 0.675\) 로 \(0.673\) 쪽으로 내려가고, 균등모집단에서는 \(0.997,\ 0.998,\ 0.998\) 로 \(0.998\)에 붙어 있다. 꼬리가 두꺼울수록 \(r\)가 커져 구간이 실제보다 좁아지고, 꼬리가 가벼우면 반대로 지나치게 넓어진다.

\(t_5\)는 수렴이 특히 느리다. 같은 모의에서 \(n = 2000\)일 때가 아직 \(0.724\)다. \(t_5\)의 \(4\)차 적률은 유한하지만 \(8\)차 적률이 발산해 \(S^2\)의 변동 자체가 잘 안정되지 않기 때문이다. 극한값이 \(0.673\)이라는 것과 그 값에 \(n = 2000\)에서도 닿지 못한다는 것이 둘 다 참이다.

평균의 구간과 결정적으로 다른 점이 여기다. \(\bar X\)는 중심극한정리가 모집단 모양을 지워 주므로 \(n\)을 키우면 \(t\)-구간이 어떤 모집단에서든 \(0.95\)로 간다. \(S^2\)에는 그런 보호가 없다. \(S^2\)의 분포 모양은 \(n\)이 커지면 정규로 가지만 그 폭은 끝까지 첨도에 매여 있다. 그래서 비정규가 의심되면 카이제곱 구간을 버리고 부트스트랩이나 보넷 구간을 써야 한다(연습문제 13).

포함확률은 95.0%로 명목값과 정확히 맞는다. 근사가 아니라 정확한 분포 결과이므로 정규자료에서는 \(n\)이 작아도 어긋나지 않는다.

그림에서 눈여겨볼 것은 구간의 모양이다. 점(=\(s^2\))이 구간 한가운데가 아니라 왼쪽으로 치우쳐 있고, 오른쪽 꼬리가 길다. 실패한 다섯 중 셋은 구간이 통째로 참값 오른쪽에 있고 둘은 왼쪽에 있는데, 오른쪽으로 빠진 구간들은 길이가 20 안팎이거나 그보다 길다. \(s^2\)이 우연히 크게 나오면 구간의 아래끝도 함께 밀려 올라가면서 폭까지 커지기 때문이다.


포함확률이 맞는다는 것으로 끝나지 않는다. 구조상 맞는 값을 재서 맞았다고 확인하는 일에는 배울 것이 없고, 이 구간의 쓸모를 가르는 것은 다른 양이다.

보기 3. 분산 신뢰구간 모의실험. \(n = 12\), \(\sigma = 2\)인 정규모집단에서 \(\sigma^2\)의 \(95\%\) 카이제곱 구간을 \(100\)개 만든다.

(1) 이 모의실험으로 포함률을 재는 것이 뜻이 있는가. 뜻이 없다면 무엇을 재야 하는가. 구간의 기대 폭을 닫힌 꼴로 구하고 \(n = 12\), \(\sigma^2 = 4\)에서 계산하시오.

(2) 모의실험으로 (1)을 확인하시오.

풀이

(1) 포함률은 잴 것이 못 된다. 추축량 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\) 때문에 포함률은 정확히 \(0.95\)이고 이것은 \(n\)과 \(\mu\), \(\sigma\)에 전혀 의존하지 않는다. 모의실험이 \(0.95\)를 재현해도 새로 알게 되는 것이 없고, \(0.93\)이 나오면 그것은 반복 \(100\)회의 몬테카를로(Monte Carlo) 잡음일 뿐이다.

잴 것은 폭이다. 포함률이 고정되어 있으므로 이 구간의 쓸모를 가르는 것은 얼마나 좁은가 하나뿐이다. 폭은

\[ \text{폭} = \frac{(n-1)S^2}{\ell} - \frac{(n-1)S^2}{u} = (n-1)S^2\left(\frac{1}{\ell} - \frac{1}{u}\right) \]

로 \(S^2\)에 정비례한다(\(\ell = \chi^2_{0.025,\,n-1}\), \(u = \chi^2_{0.975,\,n-1}\)). \(S^2\)이 \(\sigma^2\)의 불편추정량(unbiased estimator)이므로 \(E[S^2] = \sigma^2\)이고, 따라서 기대 폭은 닫힌 꼴로 나온다.

\[ E[\text{폭}] = (n-1)\sigma^2\left(\frac{1}{\ell} - \frac{1}{u}\right) \]

\(n = 12\)이면 \(\ell = 3.81575\), \(u = 21.92005\) 이므로

\[ E[\text{폭}] = 11 \times 4 \times \left(\frac{1}{3.81575} - \frac{1}{21.92005}\right) = 44 \times 0.2164514 = 9.52386 \]

이다. 추정하려는 값 \(\sigma^2 = 4\)의 \(2.38\)배다. 폭의 표준편차도 같은 식에서 나온다. \(\operatorname{SD}(S^2) = \sigma^2\sqrt{2/(n-1)}\) 이므로

\[ \operatorname{SD}(\text{폭}) = 9.52386 \times \sqrt{\frac{2}{11}} = 4.06099 \]

로, 폭 자체가 크게 흔들린다.

(2) 모의실험.

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import chi2

np.random.seed(42)          # 아래 출력과 그림을 재현하려면 고정한다

n_simulations = 100
n_samples = 12
mu, sigma = 0.0, 2.0
alpha = 0.05

true_var = sigma**2
df = n_samples - 1
# 임계값은 표본과 무관하므로 반복문 밖에서 한 번만 구한다.
# 자유도만으로 정해지는 값이기 때문이다.
chi2_lo = chi2.ppf(alpha / 2, df=df)
chi2_hi = chi2.ppf(1 - alpha / 2, df=df)

lowers = np.empty(n_simulations)
uppers = np.empty(n_simulations)
centers = np.empty(n_simulations)

for i in range(n_simulations):
    x = np.random.normal(loc=mu, scale=sigma, size=n_samples)
    s2 = x.var(ddof=1)
    lowers[i] = df * s2 / chi2_hi
    uppers[i] = df * s2 / chi2_lo
    centers[i] = s2

covered = (lowers <= true_var) & (true_var <= uppers)
n_fail = int((~covered).sum())
coverage_pct = 100.0 * covered.mean()
print(f"Coverage: {coverage_pct:.1f}%, Failures: {n_fail}")

# (1) 잴 것은 폭이다. 기대 폭은 E[S^2] = sigma^2 에서 닫힌 꼴로 나온다.
widths = uppers - lowers
exp_w = df * true_var * (1 / chi2_lo - 1 / chi2_hi)
print(f"기대 폭 (이론)  {exp_w:.5f}    표준편차 (이론) {exp_w * np.sqrt(2 / df):.5f}")
print(f"평균 폭 (모의)  {widths.mean():.5f}    표준편차 (모의) {widths.std(ddof=1):.5f}")
print(f"폭 최소 {widths.min():.4f}  중앙값 {np.median(widths):.4f}  최대 {widths.max():.4f}")
print(f"참값 4 와 8 을 동시에 담는 구간 {int(((lowers <= 4) & (8 <= uppers)).sum())} 개")
print(f"참값 2 와 8 을 동시에 담는 구간 {int(((lowers <= 2) & (8 <= uppers)).sum())} 개")

출력:

Coverage: 95.0%, Failures: 5
기대 폭 (이론)  9.52386    표준편차 (이론) 4.06099
평균 폭 (모의)  9.35875    표준편차 (모의) 4.08747
폭 최소 2.5049  중앙값 9.0140  최대 24.7756
참값 4 와 8 을 동시에 담는 구간 69 개
참값 2 와 8 을 동시에 담는 구간 26 개

기대 폭이 맞는다. 이론값 \(9.52386\) 과 모의 평균 \(9.35875\) 의 차이는 \(0.165\)인데, 폭의 표준편차가 \(4.06\) 이므로 \(100\)개 평균의 몬테카를로 표준오차는 \(4.06/\sqrt{100} = 0.406\) 이다. \(0.41\) 표준오차 안이다. 폭의 표준편차도 이론 \(4.06099\) 대 모의 \(4.08747\) 로 맞는다.

포함률은 \(95.0\%\)가 나왔지만 이것은 확인이 아니다. (1)에서 말한 대로 참값이 \(0.95\)임을 이미 알고 있고, \(100\)회의 표준오차가 \(0.0218\) 이라 \(93\)개나 \(97\)개가 나왔어도 똑같이 "맞는다"고 했을 것이다.

폭이 말해 주는 것이 훨씬 아프다. 평균 폭 \(9.36\) 은 추정하려는 \(\sigma^2 = 4\) 의 \(2.3\)배이고, 가장 넓은 구간은 \(24.78\) 로 참값의 여섯 배가 넘는다. 구체적으로 보면

  • \(100\)개 중 \(69\)개가 \(4\)와 \(8\)을 동시에 담는다. 곧 열에 일곱은 "분산이 두 배인가"조차 가르지 못한다.
  • \(100\)개 중 \(26\)개가 \(2\)와 \(8\)을 동시에 담는다. 넷에 하나는 네 배 차이도 가르지 못한다.

포함률이 정확히 \(0.95\)라는 것과 구간이 쓸모 있다는 것은 전혀 다른 말이다. \(n = 12\)로 분산을 추정하는 일은 이 정도로 막연하며, 그 사실은 포함률이 아니라 폭에만 나타난다.

\(n = 12\)밖에 안 되지만 포함확률이 명목값과 정확히 맞는다. 근사가 아니라 정확한 분포 결과이기 때문이다. 단, 이것은 자료가 정규일 때의 이야기다. 정규가 아니면 어떻게 되는지는 보기 2에서 \(t_5\) 로 보았다.


AI로 보는 통계학 1. 다섯 번 돌려 적은 \(\pm s\) 가 말하는 것

\(\S 1\) 이 세운 구간을 배수로 적어 보면 읽기가 달라진다. \(s\) 를 \(1\) 로 두고 \(\sigma\) 가 어디에 있을 수 있는지를 쓰면

반복 \(n\) \(3\) \(5\) \(10\) \(30\) \(100\)
\(\sigma/s\) 의 \(95\%\) 구간 \([0.52,\ 6.28]\) \(\mathbf{[0.60,\ 2.87]}\) \([0.69,\ 1.83]\) \([0.80,\ 1.34]\) \([0.88,\ 1.16]\)

\(n = 5\) 면 참 \(\sigma\) 가 \(s\) 의 \(0.6\) 배일 수도 \(2.9\) 배일 수도 있다. 폭이 거의 다섯 배다. \(\S 2\) 의 모의가 이 구간의 포함률이 정말 \(95\%\) 임을 확인해 준다 — 구간이 틀린 것이 아니라 원래 이만큼 넓다.

기계학습 논문과 보고서가 씨앗(seed) 셋이나 다섯으로 돌린 뒤 「\(74.2 \pm 0.8\)」 을 적는다. 그 \(0.8\) 이 \(s\) 이고, 위 표가 말하는 것은 참 산포가 \(0.5\) 일 수도 \(2.3\) 일 수도 있다는 것이다.

반복 횟수에 따른 시그마의 구간, 위아래 비대칭, 그리고 다음 한 번이 들어오는 비율

① 넓다. ①의 막대가 그 표다. \(n\) 이 \(100\) 은 되어야 \(\pm 15\%\) 안으로 들어온다.

② 그리고 비대칭이다. \(n = 5\) 에서 위쪽으로는 \(+1.87\) 만큼 벌어지는데 아래쪽으로는 \(-0.40\) 밖에 못 간다. 네 배 넘게 차이 난다. \(\sigma\) 는 \(0\) 아래로 갈 수 없고 위로는 열려 있기 때문이고, \(\pm\) 라는 기호가 담을 수 있는 모양이 아니다.

③ 독자는 다른 것을 읽는다. \(\bar x \pm 1.96 s\) 를 보고 사람들이 읽는 것은 대개 「다시 돌리면 이 안에 들어오겠구나」다. 그 뜻으로 재면

반복 \(n\) \(3\) \(5\) \(10\) \(50\)
\(\bar x \pm 1.96 s\) \(0.769\) \(\mathbf{0.853}\) \(0.906\) \(0.943\)
\(\bar x \pm t\,s\) \(0.936\) \(0.936\) \(0.941\) \(0.948\)
\(\bar x \pm t\,s\sqrt{1+1/n}\) \(0.950\) \(\mathbf{0.950}\) \(0.950\) \(0.951\)

\(n = 5\) 에서 \(\pm 1.96s\) 는 다음 한 번을 \(85\%\) 만 담는다. 고치는 데 드는 것은 두 가지다 — \(1.96\) 을 \(t_{n-1}\) 로 바꾸고(\(\sigma\) 를 모르니까), \(\sqrt{1+1/n}\) 을 곱한다(\(\bar x\) 도 흔들리니까). 둘을 다 하면 정확히 \(95\%\) 가 된다.

정리하면 세 가지가 서로 다르다.

적고 싶은 것 적어야 하는 것
참 평균이 어디인가 \(\bar x \pm t_{n-1}\,s/\sqrt n\)
다음 한 번이 어디에 떨어지는가 \(\bar x \pm t_{n-1}\,s\sqrt{1+1/n}\)
참 산포가 얼마인가 \(\S 1\) 의 \(\sigma\) 구간 — 비대칭이고 넓다

씨앗 다섯으로 적은 \(\pm s\) 는 셋 가운데 어느 것도 아니다. 그래서 반복 횟수를 함께 적는 일이 요식이 아니다 — \(n\) 을 모르면 위 표의 어느 줄로도 읽을 수 없다.

3. 정규가 아니면 포함률이 무너진다

\(\S 1\) 이 적은 「분산에는 중심극한정리의 구제가 없다」를 수로 보면 이렇다. 명목 \(95\%\) 카이제곱 구간의 실제 포함률이 지수모집단에서 \(0.7208\) 까지 떨어지고(연습문제 13), \(n\) 을 키워도 낫지 않는다 — \(n = 25,\ 200,\ 2000\) 에서 \(0.724,\ 0.686,\ 0.675\) 로 내려간다(\(\S 2\) 의 보기 2). 평균의 \(t\) 구간이라면 \(n\) 이 해결해 주는 자리인데 여기서는 아니다. 무엇이 그것을 정하는지도 분명하다. 왜도가 아니라 초과첨도다. 지수분포와 \(t_5\) 는 초과첨도가 둘 다 \(6\) 이라 극한 포함률이 같다(\(0.673\)). 다만 그 극한에 닿는 속도가 달라 \(n = 25\) 에서는 \(0.7208\) 대 \(0.8286\) 으로 \(11\) 퍼센트포인트나 벌어진다 — \(t_5\) 는 \(8\) 차 적률이 발산해 수렴이 특히 느리다.

무너지는 방식은 한 줄로 드러난다. 지수분포 자료에서 카이제곱 구간의 폭이 \(1.32\) 인데, 이것은 정규 자료일 때와 같은 폭이다 — 자료가 두꺼운 꼬리를 가졌는데도 구간이 넓어지지 않았고, 그것이 포함률이 무너진 까닭이다. 고치는 길은 셋이다. 첨도를 추정해 넣는 보넷의 구간(같은 자리에서 폭을 \(2.38\) 로 넓히고 포함률을 \(0.721 \to 0.848\) 로 올린다, 연습문제 13), 자료가 말하게 두는 부트스트랩 BCa, 그리고 \(\sigma\) 대신 MAD 같은 로버스트 척도에 부트스트랩을 얹는 길이다. 셋 다 정규 자료에서는 조금 손해를 본다(보넷은 \(0.952 \to 0.923\)). 모형을 덜 가정하는 대가는 늘 있다.

8.3절 σ₁²/σ₂²의 신뢰구간 \(\S 3\) 이 두 분산의 비에서 같은 일이 일어나는 것을 다룬다. 거기서는 두 모집단이 함께 정규여야 하므로 사정이 더 나쁘다.


연습문제

연습문제 1. 볼베어링에서 \(n = 15\), \(s^2 = 0.0025\) mm²이다. (a) \(\sigma^2\)의 95% 신뢰구간. (b) \(\sigma\)의 95% 신뢰구간.

풀이

(a) \(\chi^2_{0.025,\,14} = 5.629\), \(\chi^2_{0.975,\,14} = 26.119\).

\(\sigma^2\)의 신뢰구간: \((14 \cdot 0.0025/26.119, 14 \cdot 0.0025/5.629) = (0.00134, 0.00622)\).

(b) \(\sigma\)의 신뢰구간 = \((\sqrt{0.00134}, \sqrt{0.00622}) = (0.0366, 0.0789)\) mm.

유의: \(\sigma^2\)의 신뢰구간에 단조변환을 적용하면 \(\sigma\)에 대한 타당한 신뢰구간이 된다 — 포함확률이 같다.


연습문제 2. \(\sigma^2\)의 구간과 \(\sigma\)의 구간이 같은 포함확률을 갖는 이유를 설명하고 모의실험으로 확인하라.

풀이

이유. \(g(t)=\sqrt t\)는 \((0,\infty)\)에서 순증가하는 함수다. 따라서

\[ L\le\sigma^2\le U \iff \sqrt L\le\sigma\le\sqrt U \]

로 두 사건이 논리적으로 동일하다. 확률도 같을 수밖에 없다.

import numpy as np
from scipy import stats

rng = np.random.default_rng(42)
n, M = 20, 40_000
x = rng.normal(0, 2, (M, n))                  # σ = 2, σ² = 4
s2 = x.var(1, ddof=1)
lo = (n - 1) * s2 / stats.chi2.ppf(0.975, n - 1)
hi = (n - 1) * s2 / stats.chi2.ppf(0.025, n - 1)

print(f"σ² = 4 포함확률  {np.mean((lo <= 4) & (4 <= hi)):.6f}")
print(f"σ  = 2 포함확률  "
      f"{np.mean((np.sqrt(lo) <= 2) & (2 <= np.sqrt(hi))):.6f}")
σ² = 4 포함확률  0.948075
σ  = 2 포함확률  0.948075

소수 여섯째 자리까지 같다. 우연이 아니라 같은 사건이기 때문이다.

일반 원리. 모수 \(\theta\)의 구간에 단조함수 \(g\)를 적용하면 \(g(\theta)\)의 구간이 되고, 신뢰수준(confidence level)이 그대로 보존된다. 이것을 변환 등변성(equivariance)이라 한다.

주의할 점 세 가지.

  1. 감소함수면 양끝이 뒤바뀐다. \(\theta\)의 구간 \((L,U)\)에 \(g(t)=1/t\)를 적용하면 \((1/U,\ 1/L)\)이다.

  2. 점추정값은 옮겨 가지 않는다. \(E[S^2]=\sigma^2\)이지만 \(E[S]\ne\sigma\)다. 5장 베셀 수정이 다룬 \(c_4\) 보정(\(E[S] = c_4\sigma\) 이므로 \(S/c_4\) 가 \(\sigma\) 의 불편추정량이다)이 필요한 이유다. 구간은 옮겨 가고 불편성은 옮겨 가지 않는다.

  3. 왈드 구간은 등변이 아니다. \(\hat\theta\pm z\widehat{\operatorname{SE}}\)에 \(g\)를 적용한 것과, \(g(\hat\theta)\pm z\widehat{\operatorname{SE}}_g\)는 다르다. 델타법으로 표준오차를 다시 계산하면 결과가 달라진다. 추축량이나 우도비로 만든 구간만이 등변이다.


연습문제 3. 추축량. 정규성 아래에서 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\)이 추축량임을 보여라.

풀이

추축량은 미지의 모수에 의존하지 않는 알려진 분포를 갖는다.

\((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\) — 이 카이제곱분포는 \(\sigma^2\)이나 \(\mu\)가 아니라 오직 \(n\)에만 의존한다.

따라서 \(P(\chi^2_{\alpha/2,\,n-1} \le (n-1)S^2/\sigma^2 \le \chi^2_{1-\alpha/2,\,n-1}) = 1 - \alpha\)라고 쓸 수 있다.

\(\sigma^2\)에 대해 뒤집으면 신뢰구간을 얻는다.

다른 추축량: 정규성 아래 평균의 신뢰구간에 쓰는 \((\bar X - \mu)/(s/\sqrt n) \sim t_{n-1}\).


연습문제 4. 비대칭 신뢰구간. \(\sigma^2\)의 신뢰구간이 \(S^2\)을 중심으로 비대칭인 이유는?

풀이

카이제곱분포는 오른쪽으로 치우쳐 있어 평균을 중심으로 분위수(quantile)가 비대칭이다.

\(\chi^2_{14}\)(연습문제 1)에서 하위 2.5% 분위수는 5.629, 상위 2.5% 분위수(97.5 백분위수)는 26.119이다. 평균은 14이다.

평균에서 아래쪽까지의 거리: \(14 - 5.6 \approx 8.4\). 평균에서 위쪽까지의 거리: \(26 - 14 = 12\). 위쪽 꼬리가 더 멀리 뻗는다.

\(\sigma^2\)의 신뢰구간으로 뒤집으면 하한은 \(S^2\)에 더 가깝고(더 큰 분모를 쓴다) 상한은 더 멀다(더 작은 분모를 쓴다).

\(n\)이 크면 카이제곱이 정규에 가까워져 비대칭성이 줄어든다. \(n = 100\)쯤이면 신뢰구간이 거의 대칭이다.


연습문제 5. 분산 신뢰구간을 위한 표본크기. \(\sigma\)의 신뢰구간의 반너비가 \(\sigma\)의 \(10\%\) 이하가 되려면 \(n\)은 얼마여야 하는가?

풀이

큰 \(n\)에서 델타법을 쓰면 \(S/\sigma \approx N(1, 1/(2(n-1)))\)이며, 따라서 \(\mathrm{SE}(\log S) \approx 1/\sqrt{2(n-1)}\)이다.

\(\sigma\)의 95% 신뢰구간의 상대 반너비는 \(\approx 1.96/\sqrt{2(n-1)}\)이다. 이를 0.10으로 놓으면 이렇게 된다.

\(\sqrt{2(n-1)} = 19.6 \Rightarrow n - 1 \approx 192 \Rightarrow n \approx 193\).

즉 상대 반너비 10%를 위해 대략 \(n = 200\)이 필요하다. 분산추정에는 놀랄 만큼 큰 표본이 필요하다 — 평균추정보다 훨씬 크다.


연습문제 6. 정규가 아닌 자료와 \(\sigma^2\)의 신뢰구간. 카이제곱 기반 신뢰구간이 비정규성에 취약한 이유는?

풀이

추축량 \((n-1)S^2/\sigma^2 \sim \chi^2_{n-1}\)은 바탕 자료의 정규성에 의존한다. 정규가 아닌 자료에서는 \(n\)이 커도 이것이 성립하지 않는다.

구체적으로 \(S^2\)의 표집분포(sampling distribution)는 모집단의 4차 적률(첨도)에 의존한다. 꼬리가 두꺼운 모집단에서는 \(S^2\)이 카이제곱 공식이 시사하는 것보다 훨씬 크게 변동한다.

결과: 정규가 아닌 자료에서 명목 95% 신뢰구간의 실제 포함확률이 70–80%일 수 있다. 꼬리가 두꺼운 자료가 특히 영향을 받는다.

로버스트한 대안은 이렇다.

  • \(\sigma^2\)에 대한 부트스트랩 신뢰구간: 재표본추출이 실제 표집분포를 포착한다.
  • 중앙값 절대편차(MAD): 로버스트한 척도추정량. 부트스트랩으로 신뢰구간을 얻는다.
  • 절사 표준편차: 극단 관측값에 로버스트하다.

분산에 카이제곱 신뢰구간을 쓰기 전에 항상 정규성을 확인하라(Q-Q 그림). 의심스러우면 부트스트랩을 쓰라.


연습문제 7. \(\sigma\)의 신뢰구간과 \(\sigma^2\)의 신뢰구간. \(\sigma = \sqrt{\sigma^2}\)인데도 두 구간이 다른 이유는?

풀이

두 가지로 답할 수 있다.

(a) 단조변환: \(\sqrt{\cdot}\)가 단조이므로 \(\sigma^2\) 신뢰구간의 끝점에 적용하면 (포함확률이 같은) \(\sigma\)의 타당한 신뢰구간이 된다. 그런 의미에서 하나가 다른 하나에서 얻어지므로 사실상 같다.

(b) \(S\)로 직접 구성: 대안으로 \(S\)에 직접 기반해 추론할 수도 있다. 그러나 \(S\)의 정확한 분포는 더 복잡하고(카이분포(chi distribution) — 카이제곱 변수의 제곱근이 따르는 분포), \(S^2\)은 깔끔한 카이제곱분포를 갖는다. 그래서 표준적인 방법은 \(\sigma^2\)의 신뢰구간을 만들고 제곱근을 취해 \(\sigma\)의 신뢰구간을 얻는 것이다.

대칭성: \(\sigma\)의 신뢰구간은 \(\sigma^2\)의 신뢰구간보다 더 대칭적이다(제곱근이 비대칭성을 줄인다). 그래도 여전히 비대칭이다.

편향: \(S\)는 (옌센 부등식에 의해) \(\sigma\)의 편향추정량이다. \(S^2\)은 \(\sigma^2\)에 대해 불편이다. \(\sigma\)에 대해서는 \(c_4\) 같은 편향 보정인자가 있지만 흔히 쓰이지는 않는다.


연습문제 8. 변동계수(coefficient of variation) \(\text{CV}=\sigma/\mu\)의 신뢰구간을 구하는 세 가지 방법을 비교하고, \(n=30\), \(\bar x=50\), \(s=8\)에서 계산하라.

풀이

왜 필요한가. CV는 단위가 없는 산포 측도라 척도가 다른 집단을 비교할 수 있다. 측정기기의 정밀도, 실험의 재현성, 자산의 위험도 평가에 쓰인다.

방법 1 — 델타법. \(\hat c=S/\bar X\)에 델타법을 적용하면 정규모집단에서

\[ \operatorname{Var}(\hat c)\approx\frac{c^2}{n}\left(\frac12+c^2\right) \]

방법 2 — 로그 척도 델타법. \(\log\hat c\)의 분산이 \(\left(\frac12+c^2\right)/n\)이므로 로그 척도에서 대칭 구간을 만들고 지수를 취한다. 하한이 음수가 되는 일이 없다.

방법 3 — 맥케이 근사. 카이제곱분포를 이용한 고전적 방법이다.

\[ \frac{\hat c}{\sqrt{\left(\frac{q+2}{n}-1\right)\hat c^2+\frac{q}{n-1}}}, \qquad q=\chi^2_{1-\alpha/2,\,n-1}\ \text{또는}\ \chi^2_{\alpha/2,\,n-1} \]
import numpy as np
from scipy import stats

n, xbar, s = 30, 50.0, 8.0
c = s / xbar
z = stats.norm.ppf(0.975)
nu = n - 1
print(f"CV 추정 {c:.4f}")

se = c * np.sqrt((0.5 + c**2) / n)                        # 델타법
print(f"델타법     ({c - z * se:.4f}, {c + z * se:.4f})   SE {se:.5f}")

se_log = np.sqrt((0.5 + c**2) / n)                        # 로그 척도
print(f"로그 델타  ({c * np.exp(-z * se_log):.4f}, {c * np.exp(z * se_log):.4f})")

def mckay(cv, n, q):
    return cv / np.sqrt(((q + 2) / n - 1) * cv**2 + q / (n - 1))

lo_m = mckay(c, n, stats.chi2.ppf(0.975, nu))
hi_m = mckay(c, n, stats.chi2.ppf(0.025, nu))
print(f"맥케이     ({lo_m:.4f}, {hi_m:.4f})")

# 정규모집단에서 세 방법의 포함확률
rng = np.random.default_rng(9)
M = 20_000
x = rng.normal(50, 8, (M, n))
ch = x.std(1, ddof=1) / x.mean(1)
d = ch * np.sqrt((0.5 + ch**2) / n)
dl = np.sqrt((0.5 + ch**2) / n)
lo_mm = mckay(ch, n, stats.chi2.ppf(0.975, nu))
hi_mm = mckay(ch, n, stats.chi2.ppf(0.025, nu))
print()
print(f"델타법 포함확률   {np.mean((ch - z * d <= 0.16) & (0.16 <= ch + z * d)):.4f}")
print(f"로그 델타 포함확률 "
      f"{np.mean((ch * np.exp(-z * dl) <= 0.16) & (0.16 <= ch * np.exp(z * dl))):.4f}")
print(f"맥케이 포함확률   {np.mean((lo_mm <= 0.16) & (0.16 <= hi_mm)):.4f}")
CV 추정 0.1600
델타법     (0.1185, 0.2015)   SE 0.02118
로그 델타  (0.1234, 0.2074)
맥케이     (0.1268, 0.2171)

델타법 포함확률   0.9303
로그 델타 포함확률 0.9421
맥케이 포함확률   0.9531

맥케이가 가장 낫다. 포함확률 0.953으로 명목에 가장 가깝고, 구간도 오른쪽으로 더 뻗어 CV 표집분포의 비대칭을 반영한다. 델타법은 0.930으로 부족하다.

주의할 점.

  1. \(\mu\)가 0 근처면 쓸 수 없다. \(\hat c=S/\bar X\)의 분모가 0에 가까우면 발산한다. CV는 비율척도(참 영점이 있고 값이 양수인) 자료에만 의미가 있다. 섭씨 온도의 CV는 무의미하다 — 화씨로 바꾸면 값이 달라진다.

  2. \(c\)가 크면 근사가 나쁘다. \(c>0.33\)(\(\mu<3\sigma\))이면 \(\bar X\)가 음수가 될 확률이 무시할 수 없어, 위 공식들이 모두 무너진다. 부트스트랩을 쓴다.

  3. 비정규성. 위 공식은 모두 정규를 가정한다. 로그정규라면 \(c=\sqrt{e^{\sigma_{\log}^2}-1}\)이라는 정확한 관계가 있어 훨씬 나은 구간을 만들 수 있다.

실무 지침. 측정 정밀도를 CV로 보고하는 관행이 임상검사실 표준에 있다. 이때 \(c\)가 작고(\(<0.2\)) \(n\)이 충분하므로 맥케이 근사로 충분하다.


연습문제 9. 분산 구간을 검정으로 역전하면 무엇을 얻는가? \(n=15\), \(s^2=0.0025\)인 자료에서 구간과 검정이 일치함을 확인하라.

풀이

역전의 원리. 카이제곱 검정통계량(test statistic)

\[ \chi^2=\frac{(n-1)S^2}{\sigma_0^2} \]

이 \([\chi^2_{\alpha/2,\,\nu},\ \chi^2_{1-\alpha/2,\,\nu}]\) 안에 있으면 \(H_0:\sigma^2=\sigma_0^2\)을 기각하지 않는다. 기각되지 않는 \(\sigma_0^2\)의 집합이 곧 신뢰구간이다.

\[ \chi^2_{\alpha/2,\,\nu}\le\frac{(n-1)s^2}{\sigma_0^2}\le\chi^2_{1-\alpha/2,\,\nu} \iff \frac{(n-1)s^2}{\chi^2_{1-\alpha/2,\,\nu}}\le\sigma_0^2\le\frac{(n-1)s^2}{\chi^2_{\alpha/2,\,\nu}} \]

부등식을 뒤집을 때 방향이 바뀐다는 점이 비대칭의 근원이다. 상위 분위수가 하한을 만든다.

import numpy as np
from scipy import stats

n, s2 = 15, 0.0025
nu = n - 1
lo = nu * s2 / stats.chi2.ppf(0.975, nu)
hi = nu * s2 / stats.chi2.ppf(0.025, nu)
print(f"95% 구간 ({lo:.6f}, {hi:.6f})")
print(f"σ의 구간 ({np.sqrt(lo):.5f}, {np.sqrt(hi):.5f})")

print()
print("검정으로 확인")
for s0sq in [0.00130, 0.00140, 0.00250, 0.00615, 0.00630]:
    chi = nu * s2 / s0sq
    pv = 2 * min(stats.chi2.cdf(chi, nu), stats.chi2.sf(chi, nu))
    inside = lo <= s0sq <= hi
    print(f"  σ0² = {s0sq:.5f}  χ² = {chi:7.3f}  p = {pv:.4f}  "
          f"구간 {'안' if inside else '밖'}  {'기각 안 함' if pv > 0.05 else '기각'}")
95% 구간 (0.001340, 0.006218)
σ의 구간 (0.03661, 0.07885)

검정으로 확인
  σ0² = 0.00130  χ² =  26.923  p = 0.0394  구간 밖  기각
  σ0² = 0.00140  χ² =  25.000  p = 0.0691  구간 안  기각 안 함
  σ0² = 0.00250  χ² =  14.000  p = 0.8994  구간 안  기각 안 함
  σ0² = 0.00615  χ² =   5.691  p = 0.0526  구간 안  기각 안 함
  σ0² = 0.00630  χ² =   5.556  p = 0.0470  구간 밖  기각

완벽히 일치한다. 구간 안의 값은 모두 \(p>0.05\), 밖의 값은 모두 \(p<0.05\)다. 구간의 경계에서 \(p\) 값이 정확히 0.05를 지난다.

역전이 주는 것.

  1. 일관성. 구간과 검정이 같은 결론을 준다. 서로 다른 근사를 쓰면 어긋나는데, 역전으로 만들면 그런 일이 없다.

  2. 일반성. 검정만 있으면 구간을 만들 수 있다. 분산에 대한 정확한 추축량이 없는 상황(비정규, 혼합모형의 분산성분)에서도 우도비 검정을 역전할 수 있다.

  3. 비대칭의 자동 처리. 위 예에서 하한까지 거리 \(0.0025-0.00134=0.00116\), 상한까지 \(0.00622-0.0025=0.00372\)로 상한 쪽이 3배 멀다. \(S^2\)을 중심으로 대칭인 구간을 만들면 잘못이다.

주의. 이 일치는 동등꼬리 검정을 역전했을 때다. 최단 구간이나 우도비 구간을 만들면 다른 검정에 대응하며, 그것도 각각 타당하다.


연습문제 10. 분산의 신뢰구간을 실무에서 어떻게 보고하고 해석해야 하는지 정리하라. 흔한 오용은 무엇인가?

풀이

보고할 것.

  1. \(\sigma\) 척도로. 분산은 단위가 제곱(\(\text{mm}^2\))이라 직관적이지 않다. 표준편차로 바꿔 보고하는 것이 낫다. 구간의 양끝에 제곱근을 취하면 되며, 단조변환이라 신뢰수준이 보존된다.

  2. 어느 구간을 쓸지는 자료를 보기 전에 정한다. 8.1절 해석과 흔한 오해가 적은 대로, 자료를 본 뒤에 고르면 그렇게 나온 구간은 더 이상 \(1-\alpha\) 를 약속하지 않는다. 그러니 정규성 검정을 통과하면 카이제곱, 아니면 보넷이라는 분기를 쓰지 말 것 — 양이 정규라고 볼 근거가 설계에서 나오지 않으면 애초에 보넷으로 간다. 보고할 때는 어느 구간을 왜 미리 골랐는지와 함께 Q-Q 그림이나 첨도 추정값을 독자가 판단할 재료로 제시한다.

  3. 표본크기. 분산 구간은 \(n\)에 매우 민감하다.

  4. 비대칭 그대로. "\(s^2\pm\)"로 적지 않는다. 양끝을 그대로 적는다.

폭의 감각.

import numpy as np
from scipy import stats

print(f"{'n':>5s} {'하한/s²':>9s} {'상한/s²':>9s} {'상한/하한':>10s}")
for n in [5, 10, 20, 30, 50, 100, 500]:
    nu = n - 1
    lo = nu / stats.chi2.ppf(0.975, nu)
    hi = nu / stats.chi2.ppf(0.025, nu)
    print(f"{n:5d} {lo:9.4f} {hi:9.4f} {hi / lo:10.2f}")
    n     하한/s²     상한/s²      상한/하한
    5    0.3590    8.2573      23.00
   10    0.4731    3.3329       7.04
   20    0.5783    2.1333       3.69
   30    0.6343    1.8072       2.85
   50    0.6978    1.5528       2.23
  100    0.7709    1.3495       1.75
  500    0.8867    1.1367       1.28

\(n=10\)이면 상한이 하한의 7배다. 분산을 정밀하게 추정하려면 평균보다 훨씬 큰 표본이 필요하다. \(n=500\)에서야 비로소 1.3배로 좁아진다.

흔한 오용.

  1. 평균 구간과 같은 감각으로 읽기. "분산이 4.2에서 18.5 사이"를 보고 "대략 10쯤"이라고 생각하기 쉽지만, 로그 척도에서 중심은 \(\sqrt{4.2\times18.5}=8.81\)이다. 기하평균이 맞는 중심이다.

  2. 비정규 자료에 카이제곱 구간 쓰기. 가장 흔하고 가장 심각한 잘못이다. 앞서 보았듯 포함확률이 72%까지 떨어진다.

  3. 두 분산의 비교를 각각의 구간 중첩으로 판단. 평균에서와 같은 오류다. 분산비 \(F\) 구간을 따로 계산해야 한다.

  4. 분산을 비교하려는 것이 아닌데 분산 구간을 쓰기. 공정능력지수(\(C_p\))나 측정 불확실성이 목적이라면 그 양에 대한 구간을 직접 만드는 것이 낫다.

  5. 표본표준편차의 편향과 혼동하기. \(E[S]<\sigma\)이지만, 구간 자체는 \(S\)의 편향과 무관하게 타당하다. 점추정(point estimation)에 \(c_4\) 보정을 쓰더라도 구간에는 적용하지 않는다.

좋은 보고의 예.

15개 볼베어링의 지름 표준편차는 0.050 mm였다(95% 신뢰구간 0.037~0.079 mm, 카이제곱 방법). 구간은 자료를 보기 전에 카이제곱으로 정했다(지름은 공정 규격상 정규로 볼 근거가 있다). Q-Q 그림과 표본첨도를 함께 싣는다. 구간이 비대칭이며, 상한이 규격 한계 0.06 mm를 넘으므로 공정 개선이 필요할 수 있다.


연습문제 11. \(\sigma^2\)의 95% 신뢰구간이 \((9.25, 34.13)\)이라면 모표준편차가 6보다 작다고 주장할 수 있는가? 답을 정당화하라.

풀이

\(\sigma\)의 95% 신뢰구간은 \((\sqrt{9.25}, \sqrt{34.13}) = (3.04, 5.84)\)이다. 구간 전체가 6보다 아래이므로 95% 신뢰수준에서 자료는 \(\sigma < 6\)과 부합한다. 동등하게, 값 \(\sigma = 6\)(즉 \(\sigma^2 = 36\))은 \(\sigma^2\)의 95% 신뢰구간 \((9.25, 34.13)\) 밖에 있다. 따라서 5% 유의수준에서 \(\sigma < 6\)이라고 결론지을 충분한 증거가 있다. \(\square\)


연습문제 12. 분산 구간의 모의실험을 설계할 때 쓸 자료생성 분포 목록을 만들고, 각각에서 참 분산이 얼마인지 정리하라. 설계상 주의점도 함께 적어라.

풀이

분포 목록. 첨도를 넓게 훑되 참 분산을 아는 것들로 고른다.

import numpy as np
from scipy import stats

rows = [
    ("균등(0,1)",        1 / 12,           -1.2),
    ("정규(0,1)",        1.0,               0.0),
    ("로지스틱(0,1)",     np.pi**2 / 3,      1.2),
    ("t(9) / √(9/7)",   1.0,               1.2),
    ("지수(1)",          1.0,               6.0),
    ("t(5) / √(5/3)",   1.0,               6.0),
    ("감마(2,1)",        2.0,               3.0),
    ("로그정규(0,1)",     np.exp(2) - np.exp(1), 110.9),
    ("오염 0.9N(0,1)+0.1N(0,9)", 0.9 + 0.1 * 9, 5.3),
]
print(f"{'분포':26s} {'참 분산':>10s} {'초과첨도':>9s}")
for name, var, kur in rows:
    print(f"{name:26s} {var:10.4f} {kur:9.1f}")
분포                               참 분산      초과첨도
균등(0,1)                        0.0833      -1.2
정규(0,1)                        1.0000       0.0
로지스틱(0,1)                      3.2899       1.2
t(9) / √(9/7)                  1.0000       1.2
지수(1)                          1.0000       6.0
t(5) / √(5/3)                  1.0000       6.0
감마(2,1)                        2.0000       3.0
로그정규(0,1)                      4.6708     110.9
오염 0.9N(0,1)+0.1N(0,9)         1.8000       5.3

설계상 주의점.

  1. 분산을 1로 정규화한다. 분포마다 참 분산이 다르면 폭을 비교할 수 없다. \(X/\sigma\)로 표준화하면 포함확률은 그대로, 폭은 비교 가능해진다.

  2. 첨도가 지표다. 위 표에서 보듯 초과첨도가 같으면 극한 포함확률이 같다. 지수와 \(t_5\)가 둘 다 6이고, 실제로 카이제곱 구간의 극한 포함확률이 둘 다 \(0.673\) 이다(\(\S 3\)). 다만 작은 \(n\) 에서는 그 극한에 닿는 속도가 달라 값이 벌어진다. 왜도는 상대적으로 덜 중요하다.

  3. 첨도가 존재하지 않는 분포도 넣는다. \(t_4\) 이하는 4차 적률이 무한대라 점근이론이 아예 성립하지 않는다. 이런 극단도 한 번 확인해 둘 가치가 있다.

  4. 로그정규는 극단적이다. 초과첨도 110.9로, 어떤 방법도 살아남지 못한다. "이 방법은 로그정규에서도 잘 된다"는 주장은 의심해야 한다.

  5. 오염 모형을 반드시 넣는다. 실무의 비정규성은 매끄러운 두꺼운 꼬리보다 소수의 이상치 형태인 경우가 많다. 혼합분포가 그것을 흉내 낸다.

  6. \(n\)의 격자. 분산은 \(n\)에 민감하므로 \(n\in\{10,20,50,100,500\}\) 정도를 훑는다. 보기 2에서 보았듯 큰 \(n\)에서 오히려 나빠질 수 있어, 큰 \(n\)을 빼면 잘못된 안도감을 준다.

  7. 평가 지표. 포함확률, 평균 폭, 좌우 누락의 균형(구간이 참값 아래인지 위인지). 치우친 분포에서는 누락이 한쪽으로 쏠린다.

  8. 참 분산을 코드에서 계산하지 말고 손으로 확인한다. 표본에서 추정한 값을 "참값"으로 쓰면 모의실험이 무의미해진다. 흔한 버그다.


연습문제 13. 보넷의 구간을 구현하여 카이제곱 구간과 포함확률을 비교하라. 정규·지수·\(t_5\) 세 모집단에서 \(n=25\)로 확인한다.

풀이

동기. 앞서 보았듯 카이제곱 구간은 정규성 위배에 취약하다. \(S^2\)의 점근분산이

\[ \operatorname{Var}(S^2)\approx\frac{\sigma^4(\gamma_2+2)}{n} \]

로 초과첨도 \(\gamma_2\)에 의존하는데, 카이제곱 구간은 \(\gamma_2=0\)을 가정하기 때문이다.

보넷의 방법. 첨도를 자료에서 추정해 넣고, 로그 척도에서 구간을 만든 뒤 되돌린다. 첨도 추정에는 이상치의 영향을 줄이려고 절사평균을 중심으로 한 4차 적률을 쓴다.

\[ \hat\gamma_4=\frac{n\sum_i(x_i-m)^4}{\left\{\sum_i(x_i-\bar x)^2\right\}^2},\qquad \widehat{\operatorname{se}}=\sqrt{\frac{\hat\gamma_4-(n-3)/n}{n-1}} \]
\[ \left(c\,s^2e^{-z\widehat{\operatorname{se}}},\ \ c\,s^2e^{z\widehat{\operatorname{se}}}\right), \qquad c=\frac{n}{n-z_{1-\alpha/2}} \]
import numpy as np
from scipy import stats

def bonett(x, alpha=0.05):
    n = len(x)
    z = stats.norm.ppf(1 - alpha / 2)
    trim = 1 / (2 * np.sqrt(max(n - 4, 1)))       # 절사 비율
    m = stats.trim_mean(x, min(trim, 0.49))       # 절사평균
    xb = x.mean()
    g4 = n * np.sum((x - m)**4) / np.sum((x - xb)**2)**2
    se = np.sqrt((g4 - (n - 3) / n) / (n - 1))
    c = n / (n - z)                               # 소표본 보정
    s2 = x.var(ddof=1)
    return c * s2 * np.exp(-z * se), c * s2 * np.exp(z * se)

rng = np.random.default_rng(3)
n, M = 25, 20_000
cases = [("정규", lambda: rng.normal(0, 1, n), 1.0),
         ("지수", lambda: rng.exponential(1.0, n), 1.0),
         ("t(5)", lambda: rng.standard_t(5, n), 5 / 3)]
for name, gen, var in cases:
    hc = hb = 0
    wc = wb = 0.0
    for _ in range(M):
        x = gen()
        s2 = x.var(ddof=1)
        lo = (n - 1) * s2 / stats.chi2.ppf(0.975, n - 1)
        hi = (n - 1) * s2 / stats.chi2.ppf(0.025, n - 1)
        hc += (lo <= var <= hi)
        wc += hi - lo
        lb, hb_ = bonett(x)
        hb += (lb <= var <= hb_)
        wb += hb_ - lb
    print(f"{name}: 카이제곱 {hc / M:.4f}/{wc / M:.3f}   "
          f"보넷 {hb / M:.4f}/{wb / M:.3f}")
정규: 카이제곱 0.9516/1.327   보넷 0.9232/1.266
지수: 카이제곱 0.7208/1.321   보넷 0.8482/2.384
t(5): 카이제곱 0.8286/2.215   보넷 0.8813/3.071

읽기.

모집단 카이제곱 보넷
정규 0.952 / 1.33 0.923 / 1.27
지수 0.721 / 1.32 0.848 / 2.38
\(t_5\) 0.829 / 2.22 0.881 / 3.07

비정규에서 크게 개선된다. 지수분포에서 0.721 → 0.848, \(t_5\)에서 0.829 → 0.881.

정규에서 약간 손해다. 0.952 → 0.923. 첨도를 추정하느라 생긴 추가 변동의 대가다. 모형을 덜 가정하는 대가는 항상 있다.

폭을 보라. 지수분포에서 카이제곱 구간의 폭이 1.32로 정규일 때와 같다. 자료가 두꺼운 꼬리를 가졌는데도 구간이 넓어지지 않았다 — 그것이 포함확률이 무너진 이유다. 보넷은 2.38로 넓혀 잡는다. 정직한 구간은 넓어야 한다.

여전히 부족한 이유. \(\hat\gamma_4\)의 추정오차가 크다. 4차 적률을 안정적으로 추정하려면 8차 적률이 존재하고 \(n\)이 커야 하는데, \(n=25\)에서는 무리다.

더 나은 대안.

  • 부트스트랩 BCa. 첨도를 명시적으로 추정하지 않고 자료가 말하게 한다.
  • 분포를 바꾼다. 자료가 지수분포처럼 보이면 지수분포의 모수를 추정하는 편이 훨씬 효율적이다.
  • 분산이 정말 필요한가. 치우친 자료에서 분산은 해석하기 어려운 양이다. 사분위범위(interquartile range)나 MAD가 나을 수 있다.

정리하며

분산의 구간은 카이제곱 추축량에서 나오며, 좌우가 대칭이 아니다.

\[ \left[\frac{(n-1)s^2}{\chi^2_{1-\alpha/2,\,n-1}},\;\frac{(n-1)s^2}{\chi^2_{\alpha/2,\,n-1}}\right] \]
  • 추축량이 \((n-1)s^2/\sigma^2\sim\chi^2_{n-1}\) 이다. 이 양의 분포가 \(\sigma^2\) 에 의존하지 않기 때문에 구간을 만들 수 있다.
  • 분모의 아래위 임계값이 뒤바뀐다. 큰 분위수가 하한에, 작은 분위수가 상한에 들어간다. 부등식을 뒤집어 \(\sigma^2\) 에 대해 풀면 그렇게 되며, 부호를 헷갈리기 쉬운 대목이다.
  • 비대칭이라 점추정값이 구간의 가운데가 아니다. 위쪽으로 더 길게 늘어지며, \(n\) 이 작을수록 심하다.
  • \(\sigma\) 의 구간은 제곱근을 취하면 된다. 변환이 단조이므로 포함확률이 보존된다. 점추정에서는 성립하지 않던 성질이 구간에서는 성립한다.
  • 포함확률이 맞는다는 것과 구간이 쓸모 있다는 것은 다른 말이다. 정규모집단에서는 포함률이 구조상 정확히 \(1-\alpha\) 라 재도 배울 것이 없고(정규가 아니면 \(\S 3\) 이 보인 대로 무너진다), 정규 아래에서 쓸모를 가르는 것은 폭이다. \(n = 12\), \(\sigma^2 = 4\) 에서 기대 폭이 \(9.52\) 로 추정하려는 값의 \(2.4\) 배이고, 구간 \(100\) 개 가운데 \(69\) 개가 \(4\) 와 \(8\) 을 함께 담는다(보기 3). 열에 일곱은 "분산이 두 배인가"조차 가르지 못한다.
  • 정규성이 본질적이다. 카이제곱 관계는 정규모집단에서만 성립하며, 4장 연습문제에서 보았듯 로그정규 자료에서 명목 \(95\%\) 의 실제 포함률이 \(42\%\) 까지 떨어진다. \(t\) 구간과 달리 로버스트하지 않고, 표본을 늘려도 나아지지 않는다.

다음 절 \(\mu_1-\mu_2\) 의 신뢰구간으로 넘어간다. 두 표본이 되면 분산을 같다고 볼지가 새 갈림길이 된다.