재표집이 실패할 때¶

동기¶

붓스트랩과 순열 방법은 놀랄 만큼 다재다능하지만 보편적으로 타당하지는 않다. 어떤 조건에서는 재표집이 잘못된 결과를 만든다. 포함확률이 어긋난 신뢰구간, 편향된 표준오차, 타당하지 않은 \(p\)값이 그것이다. 이런 실패 양상을 알아보는 것은 재표집 방법을 책임 있게 쓰기 위한 필수 조건이다.

이 절에서는 재표집이 무너지는 주요 상황을 정리하고, 각각의 이유를 설명하며, 대안을 제시한다.

종속자료¶

표준적인(iid) 붓스트랩은 관측값 \(x_1, \ldots, x_n\)이 독립이고 동일한 분포를 따른다고 가정한다. 자료에 시간적·공간적·군집 종속성이 있으면 개별 관측을 재표집하는 것이 종속 구조를 파괴한다.

왜 실패하는가. \(x_1, \ldots, x_n\)이 양의 자기상관을 갖는 시계열이면 \(\bar{x}\)의 참 표준오차가 \(\sigma/\sqrt{n}\)보다 크다. 연속한 관측이 담고 있는 독립적 정보가 더 적기 때문이다. iid 붓스트랩은 모든 관측을 독립으로 취급하므로 이 표준오차를 과소추정한다.

대책:

• 블록 붓스트랩 (Kunsch, 1989): 연속된 관측 블록을 재표집하여 국소적 종속성을 보존한다. 블록 길이 \(\ell \approx n^{1/3}\)이 흔한 선택이다.
• 이동 블록 붓스트랩: \(n - \ell + 1\)개의 겹치는 블록을 모두 쓴다.
• 원형 블록 붓스트랩: 계열을 원형으로 감아 모든 관측이 같은 개수의 블록에 나타나게 한다.
• 정상 붓스트랩 (Politis and Romano, 1994): 기하분포에서 뽑은 무작위 블록 길이를 써서 정상인 붓스트랩 표본을 만든다.

왼쪽 두 칸이 실패의 원인이다. \(X_t = 0.7X_{t-1} + \varepsilon_t\)를 \(n = 200\)으로 생성한 원 계열(위)은 위아래로 느릿하게 굽이치며, 한 번 올라가면 한동안 위에 머문다. 아래는 같은 관측값을 iid 붓스트랩으로 재표집한 것이다. 값의 집합은 거의 같은데 굽이침이 사라지고 뾰족한 잡음만 남았다. 재표집이 시점을 무작위로 뽑으므로 순서가 담고 있던 정보가 통째로 버려진 것이다.

가운데 칸이 그 손실을 수치로 보여 준다. 원 계열의 자기상관은 이론값 \(0.7^k\)를 따라 시차 \(4\)까지도 \(0.14\)를 유지하는데, 재표본의 자기상관은 시차 \(1\)부터 \(0\) 주위에서 진동한다. 자기상관이 사라지면 \(\bar{X}\)의 변동도 함께 사라진다. 이 과정의 참 표준오차는 장기분산에 의해 \(0.2357\)인데 독립을 가정한 값은 \(0.0990\)으로 \(42\%\)에 불과하다.

오른쪽 칸이 결과이자 처방이다. iid 붓스트랩의 포함확률은 \(0.572\)로, \(95\%\)를 약속한 구간이 절반을 겨우 넘긴다. 이동 블록 붓스트랩은 연속된 덩어리를 통째로 뽑아 굽이침을 일부 살려 내며 \(\ell = 10\)에서 \(0.865\)까지 올라간다. 그러나 곡선이 위로 볼록하다는 점이 중요하다. \(\ell\)이 작으면 블록 경계에서 종속성이 끊기고, 너무 크면 서로 다른 블록이 부족해져 다시 나빠진다(\(\ell = 40\)에서 \(0.805\)). 경험칙 \(\ell \approx n^{1/3} = 5.9\)가 여기서는 최선이 아니며, 어떤 \(\ell\)을 골라도 명목값 \(0.95\)에는 닿지 못한다. 블록 붓스트랩은 iid 붓스트랩의 재앙을 완화할 뿐 종속성을 공짜로 없애 주지 않는다.

극단 순서통계량¶

표본최댓값 \(X_{(n)}\)이나 최솟값 \(X_{(1)}\)처럼 표본의 극단값에 의존하는 통계량에서는 붓스트랩이 실패한다.

고전적 예. \(X_1, \ldots, X_n \overset{\text{iid}}{\sim} \text{Uniform}(0, \theta)\)에서 \(\theta\)를 \(\hat{\theta} = X_{(n)}\)으로 추정한다고 하자. \(n(\theta - X_{(n)})\)의 참 분포는 \(\text{Exp}(1)\)에 수렴하지만, \(n(\hat{\theta} - X^*_{(n)})\)의 붓스트랩 분포는 \(\text{Exp}(1)\)로 수렴하지 않는다.

왜 실패하는가. 붓스트랩 표본의 최댓값 \(X^*_{(n)}\)은 \(X_{(n)}\)을 결코 넘을 수 없다(붓스트랩 값이 원래 자료에서 뽑히기 때문이다). 참 \(X_{(n)}\)은 \(1/n\) 속도로 아래에서 \(\theta\)에 접근할 수 있지만, 붓스트랩 최댓값은 양의 확률로 관측된 최댓값에 "붙어" 있다. 실제로 \(P(X^*_{(n)} = X_{(n)}) = 1 - (1-1/n)^n \to 1 - e^{-1} = 0.632\)이다.

대책:

• 모수적 붓스트랩: 모수모형을 적합하고 그로부터 모의생성한다.
• 부분표집(subsampling): 더 작은 크기 \(m < n\)으로 비복원 재표집한다(Politis, Romano, and Wolf, 1999).
• \(m\)-out-of-\(n\) 붓스트랩: \(m < n\)개를 복원추출하되 \(m/n \to 0\)이 되게 한다.

두꺼운 꼬리 분포¶

모집단의 분산이 무한이면(지수 \(\alpha < 2\)인 안정분포, 모양모수가 \(\le 2\)인 파레토분포 등) 표본평균이 통상적인 형태의 중심극한정리를 만족하지 않는다.

왜 실패하는가. \(\sqrt{n}(\bar{X} - \mu)\)의 분포에 대한 붓스트랩 근사는 경험분포에 기반하는데, 경험분포는 두꺼운 꼬리를 그대로 물려받는다. 그러나 붓스트랩 분산 \(\text{Var}^*(\bar{X}^*) = s^2/n\)은 확률적으로 무한대로 발산하는 반면, \(\bar{X}\)의 참 극한분포는 정규분포가 아니라 안정분포이다. 붓스트랩 표준오차가 실행마다 크게 요동칠 수 있다.

대책:

• 부분표집: 더 약한 적률 조건에서도 타당하다.
• 로버스트 통계량: 평균 대신 중앙값이나 절사평균을 쓴다.
• 꼬리 특화 방법: 꼬리지수를 추정하고 극단값 이론을 쓴다.

작은 표본¶

\(n\)이 매우 작으면(예: \(n < 10\)) 경험분포 \(\hat{F}_n\)이 \(F\)의 거친 근사에 불과하다. 붓스트랩 분포가 이 거칢을 물려받아 표준오차와 신뢰구간이 신뢰하기 어려워진다.

작은 \(n\)의 구체적 문제:

• 붓스트랩 분포가 이산적이며 서로 다른 재표집이 최대 \(\binom{2n-1}{n}\)가지뿐이다.
• 신뢰구간의 포함확률이 명목값에서 크게 벗어날 수 있다.
• \(n\)개의 잭나이프 값에 기반한 BCa 가속 추정값 \(\hat{a}\)가 불안정하다.
• \(\hat{\text{se}}^*\)가 \(0\)에 가까울 때 붓스트랩-\(t\)에 극단적인 이상값이 생긴다.

대책:

• 모수적 붓스트랩: 모수모형이 정당화되면 \(F\)에 대한 더 매끄러운 근사를 준다.
• 정확법: 단순한 통계량(평균, 비율)에는 정확한 분포 결과를 쓴다.
• 베이즈 접근: 사전정보를 넣어 추론을 정칙화한다.

매끄럽지 않은 통계량¶

붓스트랩은 통계량 \(\hat{\theta} = T(\hat{F}_n)\)이 경험분포의 매끄러운 범함수이기를 요구한다. \(T\)가 매끄럽지 않으면(불연속이거나 미분 불가능하면) 붓스트랩이 일치성을 잃거나 수렴이 느려진다.

매끄럽지 않은 통계량의 예:

• 동점이 있거나 이산인 자료의 표본중앙값
• 분포의 최빈값
• 밀도가 \(0\)인 지점의 분위수
• \(\mathbf{1}(\hat{\theta} > c)\) 같은 지시함수

연속자료의 표본중앙값에 대해서는 붓스트랩이 일치하지만 수렴이 느리다. 최빈값에 대해서는 일치하지 않을 수 있다.

대책:

• 평활 붓스트랩: 재표집된 각 관측에 작은 잡음을 더해 경험분포를 매끄럽게 한다.
• 부분표집: 더 넓은 통계량 부류에 대해 타당한 추론을 준다.
• \(m\)-out-of-\(n\) 붓스트랩: 적절한 \(m\)에서 일부 비정칙 통계량에 타당하다.

극단 분위수 추정¶

극단 분위수(예: \(99\)번째나 \(99.9\)번째 백분위수)의 붓스트랩은 신뢰할 수 없다. 붓스트랩이 분포의 꼬리에 대해 가진 정보가 제한적이기 때문이다. 관측이 \(n\)개이면 경험분포는 표본최댓값 너머와 최솟값 아래에 아무 자료도 갖지 않는다.

왜 실패하는가. 붓스트랩은 원래 표본에 나타난 값만 생성할 수 있다. 극단 분위수는 \(F\)의 꼬리 거동에 의존하는데, \(n\)이 중간 정도일 때 \(\hat{F}_n\)은 이를 제대로 담지 못한다.

대책:

• 극단값 이론: 꼬리에 일반화 파레토분포를 적합하고 외삽한다.
• 모수적 붓스트랩: 꼬리 거동을 담는 모수모형을 쓴다.
• 문턱 초과(peaks-over-threshold) 방법

무한차원 모수¶

붓스트랩은 관심 모수가 자료 분포의 매끄러운 범함수로 표현될 수 있다고 가정한다. 무한차원 대상(전체 CDF, 비모수 밀도추정값, 함수형 자료 곡선 등)에 대해서는 성립하지 않을 수 있는 추가적인 정칙성 조건이 필요하다.

실패 양상 요약¶

연습문제¶

import numpy as np
rng = np.random.default_rng(101)
phi, n = 0.7, 200

def ar1(n, phi=0.7):
    e = rng.normal(0, 1, n + 200); x = np.zeros(n + 200)
    for t in range(1, n + 200):
        x[t] = phi * x[t-1] + e[t]
    return x[200:]                       # burn-in 제거

def mbb(x, ell, B=1000):
    n = len(x); k = int(np.ceil(n / ell)); starts = n - ell + 1
    out = np.empty(B)
    for b in range(B):
        s = rng.integers(0, starts, k)
        out[b] = np.concatenate([x[i:i+ell] for i in s])[:n].mean()
    return out

import numpy as np
rng = np.random.default_rng(303)

def cov_max(n, M=3000, B=2000, theta=1.0):
    res = dict(full=0, m_sqrt=0, m_n23=0, param=0)
    m1, m2 = int(np.sqrt(n)), int(round(n**(2/3)))
    for _ in range(M):
        x = rng.uniform(0, theta, n); mx = x.max()
        # 완전 붓스트랩
        b = x[rng.integers(0, n, (B, n))].max(1)
        lo, hi = np.percentile(n*(mx - b), [2.5, 97.5])
        res['full'] += (mx + lo/n) <= theta <= (mx + hi/n)
        # m-out-of-n
        for key, m in (('m_sqrt', m1), ('m_n23', m2)):
            bm = x[rng.integers(0, n, (B, m))].max(1)
            lo, hi = np.percentile(m*(mx - bm), [2.5, 97.5])
            res[key] += (mx + lo/n) <= theta <= (mx + hi/n)
        # 모수적 붓스트랩: Uniform(0, mx) 에서 생성
        bp = rng.uniform(0, mx, (B, n)).max(1)
        lo, hi = np.percentile(n*(mx - bp), [2.5, 97.5])
        res['param'] += (mx + lo/n) <= theta <= (mx + hi/n)
    return {k: round(v/M, 3) for k, v in res.items()}

import numpy as np
rng = np.random.default_rng(303)

def instab(gen, n=100, R=200, B=2000):
    x = gen(n)                       # 하나의 고정된 자료
    sem, sed = [], []
    for _ in range(R):               # 같은 자료에 붓스트랩을 R 번
        s = x[rng.integers(0, n, (B, n))]
        sem.append(s.mean(1).std())
        sed.append(np.median(s, 1).std())
    return (round(np.mean(sem), 4), round(np.std(sem)/np.mean(sem), 4),
            round(np.mean(sed), 4), round(np.std(sed)/np.mean(sed), 4))

정리하며¶

재표집 방법은 표준 가정(독립성, 유한분산, 매끄러움, 충분한 표본크기)이 깨질 때 실패한다. 가장 흔한 실패 양상은 종속자료(iid 붓스트랩이 불확실성을 과소평가한다), 극단 순서통계량(붓스트랩 분포가 관측 범위를 넘어설 수 없다), 두꺼운 꼬리(분산 추정이 불안정하다), 작은 표본(경험분포가 너무 거칠다)이다. 이런 한계를 알아보고 적절한 대책 — 블록 붓스트랩, 부분표집, 모수적 붓스트랩, 꼬리 특화 방법 — 을 아는 것이 재표집 기법을 책임 있게 쓰기 위한 조건이다.