F 분포¶

(1) 해석적으로. 끝 열이 \(2\)인 것은 모집단과 아무 상관이 없다. \(\log F = \log S_1^2 - \log S_2^2\)이고 두 항이 독립이면서 같은 분포이므로

이다. 차를 잡아 지워지는 것은 기댓값이고(\(E[\log S_1^2] = E[\log S_2^2]\)이므로 \(E[\log F] \approx 0\)) 쌓이는 것은 분산이다. 본문이 "두 겹"이라 부른 것이 이 등식이며, 이것 자체는 고장이 아니라 정상이다.

정규모집단에서는 오른쪽 변을 닫힌 꼴로 적을 수 있다. \((n-1)S^2/\sigma^2 \sim \chi^2_d\) (\(d = n-1\))이므로

이고, 더해진 두 항은 상수여서 분산을 바꾸지 않는다. 그러므로 \(\operatorname{Var}(\log S^2) = \operatorname{Var}(\log \chi^2_d)\)이다. 카이제곱의 적률이 \(E[(\chi^2_d)^t] = 2^t\,\Gamma(d/2+t)/\Gamma(d/2)\)이므로 \(\log\chi^2_d\)의 누적생성함수는

이고, 두 번 미분해 \(t = 0\)을 넣으면 분산이 나온다.

여기서 \(\psi'\)은 트라이감마 함수다. \(\sigma^2\)이 식에서 사라지고 \(n\)만 남는다는 점을 눈여겨 두라. 본문이 델타법으로 얻은 "척도가 사라지고 첨도만 남는다"가 정규모집단에서는 근사가 아니라 등식으로 성립한다.

수치를 넣으면 \(\psi'(9.5) = 0.1110\)과 \(\psi'(99.5) = 0.0101\)이다. 본문이 쓰는 델타근사 \(2/n\)은 이 정확값의 극한이며, \(n = 20\)에서 \(0.1000\)으로 \(10\%\) 낮고 \(n = 200\)에서 \(0.0100\)으로 \(1\%\) 낮다. 델타법은 정규모집단에서조차 근사라는 것을 적어 둘 만하다.

(2) 지수모집단에는 닫힌 꼴이 없다. \((n-1)S^2/\sigma^2\)이 카이제곱을 따르지 않으므로 위의 트라이감마 계산이 통하지 않는다. 쓸 수 있는 것은 본문의 델타법 결과

뿐이고, \(n = 20\)에서 \(0.4000\), \(n = 200\)에서 \(0.0400\)을 예측한다. 이것은 극한에서만 맞는 값이므로 유한한 \(n\)에서 얼마나 빗나가는지를 재어 보아야 한다.

from scipy import special

# 정규모집단에서는 (n-1)S^2/sigma^2 ~ chi^2_{n-1} 이므로 log S^2 은
# log(chi^2_{n-1}) 에 상수를 더한 것이고, 그 분산은 트라이감마로 닫힌다.
print(f"{'n':>5}{'정규 정확값':>14}{'정규 델타근사':>15}{'지수 델타근사':>15}")
for n in (20, 200):
    d = n - 1
    print(f"{n:>5}{special.polygamma(1, d / 2):>14.4f}{2 / n:>15.4f}{8 / n:>15.4f}")

출력:

    n        정규 정확값        정규 델타근사        지수 델타근사
   20        0.1110         0.1000         0.4000
  200        0.0101         0.0100         0.0400

이제 모의실험을 그 옆에 놓는다.

import numpy as np

rng = np.random.default_rng(0)
B = 200_000

# 어긋남이 상쇄되는지 겹치는지를 로그 척도에서 잰다.
# 표본분산 하나를 볼 때와 비를 볼 때를 나란히 놓는다.
print(f"{'모집단':>8}{'n':>6}{'Var(log S²)':>14}{'Var(log F)':>13}{'비/하나':>10}")
for name, rvs in [("정규", lambda s: rng.normal(size=s)),
                  ("지수", lambda s: rng.exponential(size=s))]:
    for n in (20, 200):
        a = np.log(rvs((B, n)).var(axis=1, ddof=1))
        b = np.log(rvs((B, n)).var(axis=1, ddof=1))
        one, both = a.var(), (a - b).var()
        print(f"{name:>8}{n:>6}{one:>14.4f}{both:>13.4f}{both / one:>10.2f}")

출력:

     모집단     n   Var(log S²)   Var(log F)      비/하나
      정규    20        0.1115       0.2228      2.00
      정규   200        0.0101       0.0203      2.01
      지수    20        0.3510       0.6999      1.99
      지수   200        0.0390       0.0779      2.00

이론값과 모의값을 한 표에 모으면 이렇다. 되풀이 20만 번에서 이 분산추정값의 몬테카를로 오차는 상대적으로 \(0.4\%\) 안이다(씨앗을 열 개 바꿔 재어 보았다).

두 줄씩 성격이 다르다. 정규 쪽은 닫힌 꼴이라 \(n = 20\)에서도 모의값이 몬테카를로 오차 안에서 맞는다. 지수 쪽은 극한식이라 \(n = 20\)에서 \(12\%\) 빗나가고 \(n = 200\)에서 \(2.5\%\)로 줄어든다. 오차가 \(0.4\%\) 수준이니 이 차이는 잡음이 아니라 근사식 자체의 차수이며, \(n\)과 함께 줄어드는 모습이 \(O(1/n)\) 보정항이 남아 있다는 신호다. 달리 말해 지수모집단에서 \(8/n\)을 쓸 때는 작은 표본에서 어긋남의 크기를 과대평가한다는 것까지 알고 써야 한다.

오른쪽 끝 열이 어느 모집단에서나 2다. 비를 잡으면 로그 척도의 분산이 정확히 두 배가 되며, 이것은 모집단이 정규이든 아니든 똑같이 일어나는 정상적인 일이다. 문제는 그 두 배가 무엇의 두 배인가이다. \(n = 200\)에서 정규는 0.0101이고 지수는 0.0390으로 약 네 배인데, 이 4가 바로 \((\beta_2-1)/2 = (9-1)/2\)다. 정규를 기준으로 짠 기각역은 위의 두 배는 알고 있지만 옆의 네 배는 모른다.

분산이 같으면 \(F = S_1^2/S_2^2 \sim F_{14, 9}\)이다(분자 자유도 = \(n_1 - 1 = 14\), 분모 자유도 = \(n_2 - 1 = 9\)).

유도: \(S_i^2 \sim \sigma^2 \chi^2_{n_i - 1}/(n_i - 1)\)이다. 독립인 척도조정된 카이제곱을 각각 자유도로 나눈 비는 정확히 \(F\)이다.

수치: \(P(F_{14, 9} > 1.5) \approx 0.274\)로 약 27%이다.

\(F\) 분포는 자유도가 작을 때 심하게 치우쳐 있어, 비가 그리 크지 않아도 꼬리에 무시할 수 없는 확률이 있다.

\(q = F_{d_1,d_2}(\alpha)\)라 하자. \(F\) 분포는 연속이고 양의 값만 가지므로

이고, 따라서 \(P(1/X \le 1/q) = 1 - \alpha\)다. \(1/X \sim F_{d_2,d_1}\)이므로 \(1/q\)가 곧 \(F_{d_2,d_1}\)의 \((1-\alpha)\)분위수이며, 양변의 역수를 취하면 주장한 식이 된다. \(\square\)

from scipy import stats

for d1, d2 in [(14, 9), (5, 20), (2, 21)]:
    a = stats.f(d1, d2).ppf(0.05)
    b = 1 / stats.f(d2, d1).ppf(0.95)
    print(f"F({d1},{d2}) 의 0.05 분위수 = {a:.4f},   1/F({d2},{d1}) 의 0.95 분위수 = {b:.4f}")

출력:

F(14,9) 의 0.05 분위수 = 0.3780,   1/F(9,14) 의 0.95 분위수 = 0.3780
F(5,20) 의 0.05 분위수 = 0.2194,   1/F(20,5) 의 0.95 분위수 = 0.2194
F(2,21) 의 0.05 분위수 = 0.0514,   1/F(21,2) 의 0.95 분위수 = 0.0514

표 하나로 두 꼬리를 다 읽는다. \(F(9,14)\)의 0.95 분위수 2.6458을 뒤집으면 \(F(14,9)\)의 0.05 분위수 0.3780이 나온다.

이 관계를 \(F\)의 비대칭과 함께 보아 두면 좋다. \(F(14,9)\)의 두 임계값은 0.3780과 3.0255인데, 1을 가운데 두고 아래로는 0.62, 위로는 2.03 떨어져 있다. 산술적으로는 전혀 대칭이 아니지만 로그를 씌우면 \(\log 0.3780 = -0.973\)과 \(\log 3.0255 = 1.107\)로 제법 가까워진다. 분산비가 곱셈 척도의 양이기 때문이며, 본문이 어긋남을 따질 때 줄곧 \(\log F\)를 들여다본 것도 같은 이유에서다.

무엇이 상쇄되고 무엇이 상쇄되지 않는가. 두 모집단이 같은 모양이면 \(E[\log S_1^2] = E[\log S_2^2]\)이므로 \(E[\log F] \approx 0\)이다. 중심은 제자리에 있다. 그러나 두 항이 독립이므로

이다. 분산은 차를 잡아도 더해진다. 상쇄되는 것은 기댓값이고 누적되는 것은 분산이다.

델타법. \(g(t) = \log t\)이고 \(g'(t) = 1/t\)이므로 \(S^2\)이 \(\sigma^2\) 근처에 모여 있으면

이고, 앞 절의 \(\text{Var}(S^2) \approx (\beta_2-1)\sigma^4/n\)을 넣으면 \(\text{Var}(\log S^2) \approx (\beta_2-1)/n\)이다. \(\square\)

\(\sigma^4\)이 약분되어 척도가 사라지고 첨도만 남는다. 그래서 \(\log F\)의 분포가 \(\sigma\)에는 전혀 의존하지 않고 오직 \(\beta_2\)에만 의존하며, 검정의 수준이 어긋나는 정도도 첨도만으로 결정된다.

극한 오류율. \(n_1 = n_2 = n\)이라 하자. 참 표준편차는 \(\sqrt{2(\beta_2-1)/n}\)인데 \(F\) 검정은 그것을 \(\sqrt{4/n}\)으로 믿고 \(\pm 1.96\)배만큼 기각역을 잡는다. 기각역이 참 표준편차 단위로는

만큼만 뻗으므로 실제 오류율은 \(2\left[1 - \Phi\!\left(1.96\sqrt{\frac{2}{\beta_2-1}}\right)\right]\)로 간다. 지수 모집단은 \(\beta_2 = 9\)이므로

이다. 첨도가 9라는 사실 하나만으로 "명목 5% 검정이 실제로는 33%"라는 결론이 나온다. 정규(\(\beta_2 = 3\))를 넣으면 \(2[1-\Phi(1.96)] = 0.05\)로 검산이 맞는다. 5.9절이 이 값을 모의실험으로 확인한다.

방향은 첨도가 3보다 큰지 작은지로 갈린다. 꼬리가 가벼운 모집단(\(\beta_2 < 3\))에서는 \(S^2\)이 카이제곱 예측보다 덜 흔들리므로 \(F\)가 1 근처에 지나치게 모이고, 검정이 명목보다 훨씬 덜 기각한다. 안전해 보이지만 대가가 있다. 수준이 내려간 만큼 검정력도 함께 내려가므로 분산이 정말 다를 때도 잡아내지 못한다. 꼬리가 무거운 모집단(\(\beta_2 > 3\))에서는 반대로 \(F\)의 꼬리가 두꺼워져 명목 5%가 실제로는 수십 %로 작동한다. 위험한 방향이다.

어느 쪽이든 근본 문제는 같다. 명목 수준이 지켜지지 않는다는 것 자체이며, 보고한 \(p\)-값이 참값이 아니라는 뜻이다. 방향이 안전한 쪽으로 어긋나는 것은 우연일 뿐 절차의 미덕이 아니다.

자료의 첨도를 재서 판단하면 되지 않느냐고 물을 수 있는데, 두 가지 걸림돌이 있다. 첫째, 표본첨도는 4차 적률의 추정이라 그 자체가 매우 불안정하다. 둘째, 표본크기 \(n\)으로 계산한 표본첨도에는 위쪽 상한이 있어서 꼬리가 극단적으로 무거운 모집단을 아예 알아보지 못한다. 가장 위험한 경우를 가장 못 알아보는 잣대인 셈이다.

그래서 결론은 "첨도를 재서 판단하라"가 아니라 "애초에 첨도에 의존하지 않는 방법을 쓰라"가 된다. 편차의 절댓값에 분산분석을 적용하는 르빈 검정, 평균 대신 중앙값을 기준으로 삼아 더 강건해진 브라운–포사이드 검정, 순위를 쓰는 플리그너–킬린 검정, 표지를 다시 섞는 순열검정이 선택지다. 바틀렛 검정은 정규 자료에서 검정력이 가장 높지만 정규성 위반에는 \(F\)만큼이나 약하므로 대안이 되지 못한다. 이들을 실제로 나란히 놓고 고르는 일은 15장의 몫이고, 이 절의 몫은 왜 갈아타야 하는지까지다.

일원배치 분산분석: 집단 \(i = 1, \ldots, k\)에 각각 \(n_i\)개의 관측값이 있고 전체는 \(n = \sum n_i\)이다. 총/집단 간/집단 내 제곱합은:

• \(\mathrm{SST} = \sum_{ij}(Y_{ij} - \bar Y_{..})^2\)
• \(\mathrm{SSB} = \sum_i n_i (\bar Y_{i\cdot} - \bar Y_{..})^2\)
• \(\mathrm{SSW} = \sum_{ij}(Y_{ij} - \bar Y_{i\cdot})^2\)

F 통계량:

평균이 같다는 \(H_0\) 아래에서는 분자와 분모가 모두 \(\sigma^2\)을 추정하므로 비가 1 근처에 놓인다. 평균이 다르면 분자만 집단 간 분산으로 부풀려지고 분모는 그대로이므로 비가 큰 쪽으로만 밀린다. 본문의 임계값 표가 상단 꼬리만 담고 있는 까닭이 이것이다.

자유도: 집단 간은 \(k - 1\)(집단 평균의 개수보다 하나 적다), 집단 내는 \(n - k\)(각 집단이 \(n_i - 1\)씩 기여하여 합이 \(n - k\)가 된다).

\(k = 2\)이면 분자 자유도가 1이 되어 \(F_{1, n-2} = t_{n-2}^2\)이다. 두 표본 \(t\) 검정과 분산분석이 같은 절차의 두 표현이라는 뜻이며, 유의수준 \(\alpha\)에서 기각 여부도 \(F > t_{n-2,\,1-\alpha/2}^2\)으로 정확히 일치한다.

import numpy as np
from scipy import stats

rng = np.random.default_rng(3)
B, k = 100_000, 3

print(f"{'n':>6}{'ANOVA F':>12}{'등분산 F':>12}")
for n in (10, 50, 200):
    # (1) 일원배치 분산분석: 세 집단을 모두 Exp(1)에서 뽑으므로 평균이 같다.
    X = rng.exponential(size=(B, k, n))
    gm = X.mean(axis=(1, 2), keepdims=True)
    gi = X.mean(axis=2, keepdims=True)
    ssb = (n * (gi - gm) ** 2).sum(axis=(1, 2))
    ssw = ((X - gi) ** 2).sum(axis=(1, 2))
    N = k * n
    F = (ssb / (k - 1)) / (ssw / (N - k))
    a1 = np.mean(F > stats.f(k - 1, N - k).ppf(0.95))

    # (2) 등분산 F: 두 표본을 모두 Exp(1)에서 뽑으므로 분산이 같다. 양쪽 5%.
    d = n - 1
    lo, hi = stats.f(d, d).ppf([0.025, 0.975])
    R = (rng.exponential(size=(B, n)).var(axis=1, ddof=1)
         / rng.exponential(size=(B, n)).var(axis=1, ddof=1))
    a2 = np.mean((R < lo) | (R > hi))
    print(f"{n:>6}{a1:>12.3f}{a2:>12.3f}")

출력:

     n     ANOVA F       등분산 F
    10       0.044       0.229
    50       0.048       0.294
   200       0.049       0.315

왼쪽 열은 멀쩡하고 오른쪽 열은 무너진다. 같은 모집단, 같은 명목 5%, 같은 \(F\) 분포를 쓰는데 하나는 0.044~0.049로 제자리를 지키고 다른 하나는 0.229에서 0.315로 올라간다.

까닭은 분자에 무엇이 들어 있는가에 있다. 분산분석의 분자 \(\text{SSB}\)는 집단 평균들의 흩어짐이다. 평균은 1차 적률이므로 각 \(\bar Y_{i\cdot}\)가 중심극한정리를 타고 정규로 다가가고, 그러면 \(\text{SSB}\)는 정규확률변수들의 제곱합이 되어 실제로 카이제곱에 가까워진다. 분모 \(\text{SSW}\)도 4차 적률에 노출되지만, 집단 크기가 고르면 그 왜곡이 분자와 분모에 같은 방식으로 들어와 상당 부분 상쇄된다. 반면 분산비에서는 분자와 분모가 둘 다 2차 적률이라 중심극한정리가 손댈 자리가 없고, 본문이 보인 대로 로그 척도에서 왜곡이 상쇄되기는커녕 더해진다.

표본크기가 작용하는 방향도 반대다. 왼쪽 열은 \(n\)이 커지면 0.05에 더 가까워지고 오른쪽 열은 \(n\)이 커지면 극한 오류율 0.327을 향해 멀어진다. 같은 분포를 쓴다는 것이 같은 가정 위에 서 있다는 뜻은 아니다. 분산분석이 실제로 무엇에 약한지, 곧 정규성보다 집단 크기의 불균형과 이분산에 약하다는 점은 11장에서 다룬다.

집단 평균이 \(\mu_1,\dots,\mu_k\)이고 각 집단 크기가 \(n\)일 때 분자의 제곱합은 중심 카이제곱이 아니라 비중심 카이제곱을 따르며, 비중심모수는

이다. 이때 \(F \sim F_{k-1,\,N-k}(\lambda)\)이고, \(H_0\)가 참이면 \(\lambda=0\)이 되어 보통의 \(F\) 분포로 돌아온다.

\(\lambda\)가 커지면 분포 전체가 오른쪽으로 밀려 상단 꼬리에 질량이 몰린다. 그 \(\lambda\)를 키우는 것이 무엇인지는 식에 그대로 적혀 있다. 집단 평균들이 멀리 흩어져 있을수록 \(\sum(\mu_i-\bar\mu)^2\)이 커지고, 집단당 표본이 많을수록 \(n\)이 커지며, 오차분산 \(\sigma^2\)이 작을수록 분모가 작아진다. 특히 \(\lambda\)가 \(n\)에 비례한다는 점을 눈여겨 두자. 표본을 두 배로 하면 비중심모수도 두 배가 된다.

\(\lambda\)가 재는 것이 평균 차이의 제곱합뿐이라는 점도 함께 보아 두자. 세 집단 평균이 \((0, 0, \delta)\)인 경우와 \((0, \delta/2, \delta)\)인 경우가 같은 \(\lambda\)를 줄 수 있으므로, 비중심 \(F\)는 "평균들이 얼마나 흩어져 있는가"까지만 알고 "어떤 모양으로 흩어져 있는가"는 모른다. 그 모양을 겨냥해 대비를 설계하고 사후비교를 다루는 일은 11장 사후비교의 몫이다.

표본크기와 얽히는 방향이 정반대다. \(\lambda\)가 \(n\)에 비례한다는 사실을 연습문제 3·6과 나란히 놓아 보라. 분산분석에서는 표본을 키우면 비중심모수가 커져 대립가설을 잡아낼 힘이 오른다. 등분산 \(F\) 검정에서는 표본을 키우면 귀무가설 아래의 오류율이 극한 \(2[1-\Phi(1.96\sqrt{2/(\beta_2-1)})]\)을 향해 오른다. 같은 \(F\) 분포를 쓰는데 한쪽에서는 \(n\)이 약이고 다른 쪽에서는 독이다. 그 까닭은 연습문제 6이 보인 대로 분자에 들어 있는 것이 1차 적률이냐 2차 적률이냐에 있다.

정의로 돌아가면 한 줄이다. \(X = \dfrac{U/d_1}{V/d_2}\)이고 \(U \sim \chi^2_{d_1}\), \(V \sim \chi^2_{d_2}\)가 독립이므로

이다. 그런데 \(\chi^2_d = \text{Gamma}(d/2,\ \text{척도}=2)\)이고, 척도가 같은 독립인 감마 \(U \sim \text{Gamma}(\alpha)\), \(V \sim \text{Gamma}(\beta)\)에 대해

라는 표준적인 사실이 있다. \(\alpha = d_1/2\), \(\beta = d_2/2\)를 넣으면 결론이 나온다. \(\square\)

import numpy as np
from scipy import stats

d1, d2 = 6, 9
F = stats.f.rvs(d1, d2, size=200_000, random_state=3)
B = (d1 * F / d2) / (1 + d1 * F / d2)

print(f"  KS p = {stats.kstest(B, 'beta', args=(d1/2, d2/2)).pvalue:.4f}")
print(f"  모의 평균 {B.mean():.5f}   Beta 이론 {(d1/2)/((d1/2)+(d2/2)):.5f}")

출력:

  KS p = 0.2143
  모의 평균 0.40034   Beta 이론 0.40000

무엇이 편리해지는가.

• \(F\)의 누적분포를 베타의 불완전베타함수로 계산한다. 실제로 scipy를 포함한 수치 라이브러리가 \(F\)의 CDF를 정규화 불완전베타함수 \(I_x(a,b)\)로 구현한다. \(F\)를 직접 적분하는 것보다 안정적이다.
• 무한 구간이 유한 구간으로 바뀐다. \(X \in (0,\infty)\)가 \(B \in (0,1)\)로 옮겨지므로 수치적분과 분위수 탐색이 쉬워진다.
• 연습문제 2의 역수 관계가 자명해진다. \(1/X\)로 바꾸면 \(B \to 1-B\)이고, \(\text{Beta}(a,b)\)의 대칭성 \(1-B \sim \text{Beta}(b,a)\)가 곧 \(1/X \sim F_{d_2,d_1}\)이다.

개념적으로도 읽을 것이 있다. \(B = U/(U+V)\)는 "전체 제곱합 중 분자가 차지하는 몫" 이다. 분산분석으로 옮기면 \(B\)가 곧 \(R^2\)이며(집단 간 제곱합 / 총 제곱합), 회귀의 결정계수가 베타분포를 따른다는 사실이 여기서 나온다. \(F\)와 \(R^2\)이 같은 정보를 다른 눈금으로 적은 것임을 이 변환이 보여 준다.

원인은 분모가 확률변수라는 데 있다. \(1/x\)는 볼록함수이므로 옌센 부등식에 의해

이다. 분자와 분모가 독립이므로

이 된다(\(d_2 > 2\)). 분모가 우연히 작게 나올 때 비가 크게 튀는 것이 평균을 위로 끌어올린다.

import numpy as np
from scipy import stats

print(f"{'d1':>5}{'d2':>5}{'E[F] 이론':>12}{'모의':>10}{'중앙값':>10}")
for d1, d2 in [(5,5), (5,10), (10,20), (20,50), (10,200)]:
    X = stats.f.rvs(d1, d2, size=400_000, random_state=1)
    print(f"{d1:>5}{d2:>5}{d2/(d2-2):>12.4f}{X.mean():>10.4f}{np.median(X):>10.4f}")

출력:

   d1   d2     E[F] 이론        모의       중앙값
    5    5      1.6667    1.6640    0.9974
    5   10      1.2500    1.2516    0.9327
   10   20      1.1111    1.1102    0.9663
   20   50      1.0417    1.0422    0.9807
   10  200      1.0101    1.0102    0.9372

\(d_2 = 5\)이면 평균이 \(1.67\)이다. 두 모분산이 완전히 같은데도 분산비의 기댓값이 \(1\)에서 \(67\%\)나 위로 치우친다. \(d_2\)가 커지면 \(1\)로 수렴하지만 수렴이 느려서 \(d_2 = 50\)에서도 여전히 \(4\%\) 높다.

중앙값은 오히려 \(1\)보다 조금 작다. \(d_2=5\)에서 \(0.997\), \(d_2=20\)에서 \(0.966\)이다. 평균이 위로 끌려간 것은 오른쪽 꼬리의 극단값 때문이고, 분포의 몸통은 \(1\) 근처 혹은 약간 왼쪽에 있다는 뜻이다. \(F\)가 심하게 오른쪽으로 치우친 분포임을 이 둘의 차이가 말해 준다.

실무적 함의 둘.

• \(F\) 값을 "1에서 얼마나 먼가"로 눈대중하면 안 된다. \(F = 1.5\)가 \(d_2 = 5\)에서는 평균보다도 작은 흔한 값이고 \(d_2 = 200\)에서는 꽤 큰 값이다. 반드시 자유도에 맞는 임계값과 견주어야 한다.
• \(F\) 값을 여러 연구에서 평균내는 것은 위험하다. 편향이 \(d_2\)에 따라 달라서 자유도가 작은 연구가 평균을 끌어올린다. 메타분석에서 \(F\) 대신 \(\log F\)나 효과크기를 쓰는 이유이며, 연습문제 3이 \(\log\) 척도로 간 것과 같은 동기다.

유도. 정규성 아래

이므로, 이 양이 \([F_{0.025},\ F_{0.975}]\)에 들어갈 확률이 \(0.95\)다. \(\sigma_1^2/\sigma_2^2\)에 대해 풀면

이다. 점추정값을 위쪽 분위수로 나눈 것이 하한이라는 점에 주의하라. 부등식을 뒤집으면서 순서가 바뀐다.

import numpy as np
from scipy import stats

n1, n2, s1, s2 = 15, 10, 4.0, 2.5
r = s1**2 / s2**2
lo = r / stats.f.ppf(0.975, n1-1, n2-1)
hi = r / stats.f.ppf(0.025, n1-1, n2-1)
print(f"  점추정 s1^2/s2^2 = {r:.4f}")
print(f"  95% CI = [{lo:.4f}, {hi:.4f}]   (상한/하한 = {hi/lo:.2f})")
print(f"  로그 척도: 점추정 {np.log(r):.4f}, 구간 중심 {(np.log(lo)+np.log(hi))/2:.4f}")

출력:

  점추정 s1^2/s2^2 = 2.5600
  95% CI = [0.6740, 8.2158]   (상한/하한 = 12.19)
  로그 척도: 점추정 0.9400, 구간 중심 0.8558

구간이 \(1\)을 포함한다. 점추정이 \(2.56\)으로 두 배 넘게 차이 나 보이지만, \(n_1=15\), \(n_2=10\)으로는 분산이 같을 가능성을 배제하지 못한다.

왜 이렇게 넓은가 — 분산의 추정이 원래 부정확하다. 연습문제 3에서 \(\operatorname{Var}(\log S^2) \approx (\beta_2-1)/n\)을 얻었다. 정규모집단이면 \(2/n\), 자유도로 고쳐 적으면 \(2/(n-1)\)이고, \(n=10\)이면 표준편차가 \(\sqrt{2/9} = 0.47\)이다. 로그 척도에서 \(\pm0.47\)이면 비율로 \(1.6\)배다. 두 개를 비로 만들면 불확실성이 두 배로 쌓인다. 평균에 대한 구간이 \(\sigma/\sqrt n\)으로 줄어드는 것과 달리, 분산비의 구간은 \(n\)이 어지간히 커지기 전에는 좁아지지 않는다.

비대칭인 이유는 척도가 곱셈적이기 때문이다. 하한까지가 \(2.56/0.674 = 3.8\)배이고 상한까지가 \(8.22/2.56 = 3.2\)배로, 비로 보면 거의 대칭이다. 차로 보면 \(1.89\)와 \(5.66\)으로 심하게 비대칭이지만, 로그를 취하면 \(-1.33\)과 \(+1.17\)로 비슷해진다. 분산비는 로그 척도에서 읽어야 하는 양이다.

(로그 구간 중심 \(0.856\)이 점추정 \(\log r = 0.940\)과 정확히 같지는 않다. \(\log F\) 분포가 완전히 대칭은 아니기 때문이며, 자유도가 커질수록 둘이 가까워진다.)

실무 지침.

• 분산비 구간은 표본이 어지간히 크지 않으면 거의 항상 \(1\)을 포함한다. 그래서 "등분산 검정에서 유의하지 않았으니 등분산이다"라는 논법이 위험하다. 검정력이 낮아 못 잡은 것일 수 있다.
• 그래서 등분산 사전검정 대신 웰치 방법을 기본으로 쓰는 것이 권장된다. 15장에서 이 논점을 본격적으로 다룬다.
• 정규성 위반에 특히 약하다. 연습문제 4·6에서 본 대로 이 구간의 포함확률은 첨도에 민감하며, 표본을 키워도 나아지지 않는다. \(\square\)