집계 편향¶

• 각 주 안에서 수백만 명에 걸쳐 평균을 내면 개인 수준 잡음이 제거되어 집단 평균의 산포가 좁아진다.
• 산업, 정책, 인구 구성의 주별 차이가 개인 수준 변동보다 소득과 학력을 더 강하게 정렬시키는 주 간 변동을 만든다.

학력이 소득 변동의 72%를 설명한다(\(r^2 = 0.72\))고 결론짓는 것은 개인 수준 관계(\(r^2 = 0.16\))를 심각하게 과장하는 것이다.

집계 편향 때문이다. 자료를 도시 수준으로 집계하면 각 도시 안의 개인 수준 변동이 평균으로 사라지고 도시 간 변동만 남는다. 평균 소득이 높은 도시가 (더 나은 기반시설, 의료 등 덕분에) 평균 기대수명도 높은 경향이 있으므로 도시 수준 상관이 부풀려진다.

개인 수준에서는 소득–기대수명 관계가 더 약하다. 어느 한 도시 안에서는 부유한 개인과 가난한 개인의 기대수명이 도시 수준 평균이 시사하는 것보다 서로 비슷하기 때문이다. (상관을 희석하는) 도시 내 변동이 집계 자료에서는 보이지 않는다.

수학적으로는 집계 평균의 분산이 \(\text{Var}_B + \text{Var}_W/m\)이므로, 집단 크기 \(m\)이 클수록 집단 내 성분이 사라지고 집단 간 관계만 남아 상관이 커진다.

집계(집단 안에서 평균 내기)는 집단 내 변동을 제거하고 집단 간 변동만 남긴다.

이므로 전체 분산은 집단 간 성분과 집단 내 성분의 합이다. 집계 후에는 집단 간 분산만 남아 더 작아진다.

집단 간 관계가 집단 내 관계보다 강하면(개별적인 잡음이 상쇄되어 집단 평균이 추세를 더 가깝게 따르므로 흔히 그렇다) 집단 평균들 사이의 상관이 개인 수준 상관을 넘어선다.

예외: 집단 간 관계와 집단 내 관계의 부호가 반대이면(Simpson의 역설) 집계가 오히려 상관을 줄이거나 뒤집을 수 있다.

여러 집계 편향의 원천이 작동한다:

1. 지역 수준의 교란: 매출 잠재력이 큰 지역(인구가 많고 소득이 높은 지역)이 자연스럽게 더 많은 광고 예산을 받는다. 상관은 광고의 인과효과가 아니라 이 자원 배분 결정을 반영한다.

2. 지역 내 변동의 손실: 각 지역 안에서 개별 고객의 광고 노출은 다르지만 평균을 내면 이 변동이 사라진다. 지역 수준 상관은 광고가 많은 지역의 매출이 높다는 사실만 포착하고 개인 수준의 잡음은 놓친다.

3. 역인과: 회사가 이미 매출이 좋은 지역에 (성과 보상 차원에서) 광고를 더 배정할 수 있어 집계 상관이 부풀려진다.

참된 개인 수준 효과를 추정하려면 개인 수준 자료를 쓰거나, 더 나아가 개인이나 소집단 수준에서 무작위 실험(A/B 검정)을 수행해야 한다.

일반적으로 추가 가정 없이는 집단 수준 자료에서 개인 수준 상관을 유일하게 복원할 수 없다. 서로 다른 개인 수준 자료 구조가 같은 집단 수준 요약을 낳을 수 있기 때문이다(개인 자료에서 집계 통계로 가는 대응이 다대일이다).

부분적인 복원을 시도하는 접근으로는 다음이 있다:

1. 생태학적 추론 모형(King, 1997): 집단 내 변동에 분포 가정을 부과하여 개인 수준 양을 한정하거나 추정한다.
2. 다수준 모형: 집단 수준 자료와 일부 개인 수준 자료가 함께 있으면 계층 모형으로 집단 간 효과와 집단 내 효과를 분리할 수 있다.
3. 외부 검증: 일부 집단의 개인 수준 자료로 집계 편향을 보정한다.

가장 안전한 방법은 연구 질문이 개인 수준 연관에 관한 것이라면 개인 수준 자료를 수집하는 것이다. 어떤 통계 방법도 집계로 인한 정보 손실을 완전히 극복하지는 못한다.

import numpy as np

rng = np.random.default_rng(1)
n, k = 4000, 40
x = rng.normal(0, 1, n); y = 0.4*x + rng.normal(0, 1, n)
print(f"  개인 수준 r = {np.corrcoef(x, y)[0,1]:.4f}")

for rep in range(3):
    g = rng.permutation(n) % k                 # 무작위 배정
    xa = np.array([x[g==j].mean() for j in range(k)])
    ya = np.array([y[g==j].mean() for j in range(k)])
    print(f"  무작위 배정 {rep+1}: 집계 r = {np.corrcoef(xa, ya)[0,1]:+.4f}")

출력:

  개인 수준 r = 0.3681
  무작위 배정 1: 집계 r = +0.4802
  무작위 배정 2: 집계 r = +0.4555
  무작위 배정 3: 집계 r = +0.4207

개인 상관 \(0.368\) 주위에 머물지만 흔들림이 있다. \(0.42 \sim 0.48\)로 퍼진다. 집계가 상관을 체계적으로 키우지는 않는다.

두 가지가 동시에 일어난다.

• 편향은 없다. 무작위 배정이면 집단이 \(x\)에 대해 정보를 갖지 않으므로, 집계가 상관을 체계적으로 키우지 않는다.
• 분산은 커진다. 관측이 \(4000\)개에서 \(40\)개로 줄었으니 추정이 훨씬 불안정하다.

그래서 무작위 배정은 "안전하지만 낭비"다. 편향은 없어도 정보를 대부분 버린다. 집계의 이점(잡음 평균)이 표본 수 감소로 상쇄되기 때문이다.

현실의 집단은 무작위가 아니다. 지역·학교·병원은 구성원이 서로 닮아 있고, 그 닮음이 \(x\)와 관련되면 집계가 상관을 키운다. 무작위 배정이라는 조건이 현실에서 거의 만족되지 않는다는 점이 집계 편향이 흔한 이유다.

분산성분 모형을 세운다. 집단 \(g\)의 개인 \(i\)에 대해

로 두고 집단 간 성분과 집단 내 성분이 독립이라 하자. 집단 평균은

이므로

이다.

\(m \to \infty\)이면 개인 수준 성분이 전부 사라진다.

즉 집계 상관은 집단 수준 성분의 상관으로 수렴한다. 개인 수준 상관 \(\sigma_{uv}/(\sigma_u\sigma_v)\)은 완전히 지워진다.

import numpy as np

rng = np.random.default_rng(2)
G = 400
sa = sb = 1.0; rho_g = 0.9         # 집단 수준 상관
su = sv = 1.0; rho_w = -0.5        # 개인 수준 상관 (부호 반대!)
print(f"  집단 수준 상관 = {rho_g}, 개인 수준 상관 = {rho_w}")
print(f"{'집단 크기 m':>12}{'집계 r':>10}")
for m in (1, 5, 20, 100, 1000):
    a = rng.normal(0, sa, G)
    b = rho_g*a + np.sqrt(1-rho_g**2)*rng.normal(0, sb, G)
    u = rng.normal(0, su, (G, m))
    v = rho_w*u + np.sqrt(1-rho_w**2)*rng.normal(0, sv, (G, m))
    Xg = a + u.mean(1); Yg = b + v.mean(1)
    print(f"{m:>12}{np.corrcoef(Xg, Yg)[0,1]:>10.4f}")

출력:

  집단 수준 상관 = 0.9, 개인 수준 상관 = -0.5
    집단 크기 m      집계 r
             1    0.1597
             5    0.6311
            20    0.8467
           100    0.8887
          1000    0.8816

\(m=1\)이면 두 수준이 섞여 \(0.16\)인데 \(m \ge 100\)이면 \(0.88\) 근처로 집단 수준 상관 \(0.9\)에 수렴한다.

개인 수준 상관이 \(-0.5\)인데 집계에서는 흔적조차 없다. 이것이 생태학적 오류의 수학적 핵심이다.

실무적 함의. 집단이 클수록 집계 자료는 집단 수준 현상만 보여 준다. 국가 단위 자료(\(m\)이 수백만)는 사실상 순수한 집단 수준 상관이며, 개인에 대해 아무것도 말해 주지 않는다.

import numpy as np

rng = np.random.default_rng(3)
G = 30
sizes = rng.integers(10, 2000, G)           # 크기가 매우 불균등
a = rng.normal(0, 1, G)
b = 0.7*a + np.sqrt(1-0.49)*rng.normal(0, 1, G)
Xg = np.array([a[i] + rng.normal(0, 1, sizes[i]).mean() for i in range(G)])
Yg = np.array([b[i] + rng.normal(0, 1, sizes[i]).mean() for i in range(G)])

r_un = np.corrcoef(Xg, Yg)[0,1]
w = sizes / sizes.sum()
mx, my = (w*Xg).sum(), (w*Yg).sum()
r_w = (w*(Xg-mx)*(Yg-my)).sum() / np.sqrt((w*(Xg-mx)**2).sum() *
                                          (w*(Yg-my)**2).sum())
print(f"  집단 크기 범위: {sizes.min()} ~ {sizes.max()}")
print(f"  단순 상관 = {r_un:.4f}")
print(f"  가중 상관 = {r_w:.4f}")
print(f"  참 집단수준 상관 = 0.7")

출력:

  집단 크기 범위: 75 ~ 1776
  단순 상관 = 0.7025
  가중 상관 = 0.6952
  참 집단수준 상관 = 0.7

이 실행에서는 둘이 거의 같다(\(0.703\) 대 \(0.695\)). 참값 \(0.7\)에 모두 가깝다. 작은 집단의 평균은 잡음이 크므로(\(\sigma/\sqrt m\)) 원리적으로는 가중이 낫지만, 차이가 언제나 크게 나타나지는 않는다. 집단 크기 편차가 더 극단적이거나 작은 집단이 많을수록 차이가 벌어진다.

그러나 "무엇을 추정하려는가"에 따라 답이 달라진다.

세 목적이 서로 다른 답을 준다. "OECD 국가에서 복지지출과 빈곤율의 관계"를 묻는다면 미국과 아이슬란드를 같은 무게로 볼 것인가, 인구로 가중할 것인가? 통계적 정답이 아니라 연구 질문이 정한다.

보고할 때는 가중 방식을 반드시 밝힌다. 두 결과가 크게 다르면 둘 다 제시하는 것이 정직하다.

개인 수준에서 \(x\)를 오차와 함께 관측하면 기울기가 감쇠한다(2장 가격자료 연습문제 9).

집단 평균을 쓰면 오차가 \(\sigma_e^2/m\)으로 줄어든다.

import numpy as np

rng = np.random.default_rng(4)
G, beta = 300, 1.0
print(f"{'집단 크기 m':>12}{'개인 기울기':>12}{'집계 기울기':>12}")
for m in (1, 5, 20, 100):
    xg = rng.normal(0, 1, G)                     # 집단 수준 참값
    xs = xg[:, None] + rng.normal(0, 0.3, (G, m))  # 개인 참값
    y = beta*xs + rng.normal(0, 0.5, (G, m))
    xo = xs + rng.normal(0, 1.0, (G, m))         # 측정오차
    b_ind = np.polyfit(xo.ravel(), y.ravel(), 1)[0]
    b_agg = np.polyfit(xo.mean(1), y.mean(1), 1)[0]
    print(f"{m:>12}{b_ind:>12.4f}{b_agg:>12.4f}")

출력:

    집단 크기 m    개인 기울기    집계 기울기
             1      0.5255      0.5255
             5      0.5196      0.8170
            20      0.5242      0.9574
           100      0.5376      0.9916

개인 수준 기울기는 \(0.52\) 근처에 머문다. 참값 \(1.0\)의 절반 정도로 감쇠한다(\(\sigma_{x^*}^2/(\sigma_{x^*}^2+\sigma_e^2) \approx 1/2\)).

집계하면 감쇠가 사라진다. \(m=100\)에서 \(0.99\)로 참값을 거의 회복한다. 집단 평균을 내면 측정오차가 \(\sigma_e/\sqrt m\)로 줄기 때문이다.

(집단 수준 참값 \(x_g\)를 두고 개인 참값이 그 주위에 흩어지도록 구성한 점이 중요하다. 개인 참값이 집단과 무관하면 집단 평균도 잡음일 뿐이라 감쇠가 완화되지 않는다.)

이것은 집계의 드문 장점이다. 대부분의 경우 집계는 정보를 잃고 편향을 만들지만, 측정오차가 지배적일 때는 오히려 도움이 된다.

세 번째 줄이 현실이다. 실제 자료에서는 두 효과가 함께 작동해 집계 결과가 참값보다 클지 작을지 예측하기 어렵다. 그래서 집계 자료의 기울기를 개인 수준 인과효과로 읽는 것은 언제나 위험하다.

경제학의 "집계 도구변수"가 이 원리를 이용한다. 개인 수준 측정오차가 심한 변수를 지역 평균으로 대체해 도구로 쓰는 기법이며, 12.4절 도구변수와 이어진다.

집단 \(i\)에서 \(x=1\)의 비율 \(p_i\)와 \(y=1\)의 비율 \(q_i\)를 안다고 하자. 개인 수준 \(2\times2\) 표의 한 칸 \(\pi_i = P(x=1, y=1)\)이 결정되면 나머지가 정해지는데, \(\pi_i\)는 자유롭지 않다.

프레셰–회프딩 경계다(4장 베르누이 연습문제 10).

import numpy as np

print(f"{'p':>6}{'q':>6}{'pi 하한':>10}{'pi 상한':>10}{'폭':>8}")
for p, q in [(0.5,0.5), (0.2,0.3), (0.8,0.9), (0.5,0.1)]:
    lo, hi = max(0, p+q-1), min(p, q)
    print(f"{p:>6.1f}{q:>6.1f}{lo:>10.3f}{hi:>10.3f}{hi-lo:>8.3f}")

출력:

     p     q    pi 하한    pi 상한      폭
   0.5   0.5     0.000     0.500   0.500
   0.2   0.3     0.000     0.200   0.200
   0.8   0.9     0.700     0.800   0.100
   0.5   0.1     0.000     0.100   0.100

주변분포가 극단적이면 범위가 좁아진다. \(p=0.8\), \(q=0.9\)면 \(\pi\)가 \([0.70,\ 0.80]\)로 \(0.1\) 폭이다. 반대로 \(p=q=0.5\)면 \([0,\ 0.5]\)로 전혀 좁혀지지 않는다.

여러 집단이 있으면 더 좁힐 수 있다. 각 집단의 경계를 모두 만족하는 개인 수준 모수만 가능하므로, 집단 수가 많고 \(p_i\)가 다양하면 교집합이 작아진다. 던컨–데이비스의 방법이 이 발상이다.

이것이 "부분 식별"의 예다. 점추정은 불가능하지만 범위는 말할 수 있다. 검증 불가능한 가정을 얹어 점추정하는 굿맨 회귀(생태학적 상관 문서 연습문제 9)와 대비된다.

어느 쪽이 나은가. 맨스키의 주장대로, "가정 없이 넓은 답"이 "강한 가정으로 좁은 답"보다 정직할 때가 많다. 특히 가정을 검증할 수 없는 생태학적 추론에서는 범위를 보고하는 것이 안전하다.

설계 단계에서 할 수 있는 것.

1. 가능하면 개인 수준 자료를 확보한다 (근본적 해결)
2. 전부가 어렵다면 일부라도 — "검증 표본"
   -> 집계 자료와 결합해 식별력을 크게 높인다
3. 집단을 작게 잡는다
   -> m 이 작을수록 집단 내 변동이 살아남는다 (연습문제 6)
4. 집단 내 분산도 함께 보고받는다
   -> 평균만이 아니라 표준편차/분위수를 수집
5. 집단 정의를 여러 방식으로 준비한다
   -> MAUP 민감도 분석 가능

세 번째와 네 번째가 특히 실용적이다.

집단을 작게 잡으면 집계 상관이 개인 상관 쪽으로 이동한다. 주 대신 카운티, 카운티 대신 센서스 트랙을 쓰면 편향이 줄어든다. 다만 집단 수가 늘어 잡음도 늘고, 사생활 보호 때문에 세분화가 제한되기도 한다.

집단 내 분산을 함께 받으면 연습문제 6의 분해를 실제로 수행할 수 있다. 집단 평균만으로는 \(\sigma_\alpha^2\)과 \(\sigma_u^2\)을 나눌 수 없지만, 집단 내 분산이 있으면 \(\sigma_u^2\)을 추정해 집단 간 성분을 분리할 수 있다.

분석 단계의 보완.

그러나 가장 중요한 것은 결론의 수준을 지키는 것이다. 집계 자료로 집계 수준 결론을 내리면 아무 문제가 없다. 문제는 언제나 수준을 넘어설 때 생긴다. \(\square\)