콘텐츠로 이동

16장: 비모수 검정

개요

들어가는 이야기 — 벌레 여덟 마리로 답을 내야 했던 사람

이 장에 이름이 가장 많이 나오는 사람은 통계학자가 아니었다. 프랭크 윌콕슨은 화학자였고, 벌레와 곰팡이를 잡는 약을 시험하던 사람이다. 하루 일은 약을 뿌린 쪽과 뿌리지 않은 쪽에서 죽은 벌레를 세는 것이었다. 통계는 연구소 동료들과 피셔의 교과서를 함께 읽는 모임을 꾸려 혼자 배웠다 — 쓰는 사람의 자리에서 배운 것이다.

그런 자료가 어떻게 생겼을지 생각해 보자. 한 조건에 여덟 마리, 열 마리다. \(0\) 이 수두룩하고 가끔 아주 큰 수가 하나 툭 섞인다. 교과서의 방법들은 자료가 종 모양으로 고르게 퍼져 있다고 보고 만들어졌는데 죽은 벌레 수는 그런 모양이 아니고, 여덟 마리로는 그 방법들이 애초에 제대로 돌아가지도 않는다.

그가 한 일은 어려운 계산을 쉽게 만든 것이 아니라 물음을 바꾼 것이었다. 「평균이 다른가」를 묻는 대신 「어느 쪽이 큰 값 쪽에 더 몰려 있는가」를 물었다. 값을 크기 순서로만 바꾸어 놓으면 자료가 어떤 모양이든 답이 흔들리지 않는다. \(1\) 이든 \(100\) 이든 「가장 큰 값」이기는 마찬가지이기 때문이다. 그렇게 값을 버리고도 종 모양 자료에서 잃는 것이 \(5\%\) 남짓이다.

이런 방법이 왜 있느냐 묻는다면 답의 한쪽은 이것이다 — 누군가는 벌레 여덟 마리로 답을 내야 했다. 다른 한쪽은 수로 답해야 한다. 값을 버리고 순서만 남겼을 때 지켜지는 것과 사라지는 것은 각각 무엇인가. 이 장이 그 맞교환을 하나의 수로 재고, 일표본·대응·이표본·다집단에 상관까지 여섯 절로 갈라 상황마다 쓸 검정을 세운다.

두 칸짜리 그림. 왼쪽은 약을 뿌린 쪽과 뿌리지 않은 쪽 여덟 마리씩의 죽은 벌레 수를 점으로 찍고 점마다 열여섯 개를 통틀어 매긴 순위를 적은 것이다. 오른쪽은 가장 큰 값 하나만 8 에서 1,000 까지 바꿀 때 두 검정의 p 값으로, 평균을 쓰는 쪽은 0.0005 에서 0.3386 으로 가는데 순서만 쓰는 쪽은 0.0009 에 그대로 있다

죽은 벌레 수처럼 \(0\) 이 수두룩하고 큰 수가 하나 섞인 자료다. 오른쪽. 그 큰 값 하나만 바꾸고 나머지 열다섯은 그대로 두면, 평균을 쓰는 검정의 답이 \(p = 0.0005\) 에서 \(0.3386\) 으로 간다 — 같은 실험에서 「확실히 다르다」가 「모르겠다」가 되는 것이다. 순서만 쓰는 검정은 \(0.0009\) 에서 한 자리도 움직이지 않는다. \(1\) 이든 \(1{,}000\) 이든 「가장 큰 값」이기는 마찬가지이기 때문이고, 그것이 이 장이 쓰는 수법의 전부다. 값을 버리고 얻는 것이 이 흔들리지 않음이고, 버린 값의 대가는 16.1절 순위의 성질부터 수로 적는다.

확인한 곳 — 16.1절 비모수 검정을 언제, 왜 쓰는가의 윌콕슨 상자와 그 출처 줄

비모수(nonparametric) 검정(nonparametric test)은 모집단 분포에 정규성(normality) 같은 특정한 모수적 형태를 가정하지 않는 통계적 방법이다. 자료가 특정 분포를 따르는지에 타당성이 의존하지 않으므로 분포무관 검정(distribution-free test)이라고도 부른다. 이 장에서는 일표본, 대응표본(paired samples), 이표본, 다집단 상황에 쓰이는 순위 기반·부호 기반 검정을 두루 다루고, 비모수 상관 측도도 함께 살펴본다.


1. 장의 구성

16.1 기초

이 절은 비모수 검정의 이론적 토대를 세운다. 언제·왜 이 방법을 쓰는지, 그리고 대응하는 모수적 검정과 어떻게 비교되는지를 다룬다.

  • 비모수 검정을 언제, 왜 쓰는가 --- 정규성이 깨졌거나, 자료가 순서형이거나, 표본크기가 작거나, 이상치(outlier)가 있을 때 분포무관 방법이 필요한 이유를 설명한다.
  • 순위와 순위변환 --- 대부분의 비모수 검정이 기대는 핵심 장치, 즉 원자료를 순위로 바꾸어 극단값의 영향을 줄이는 방법을 소개한다.
  • 모수적 검정과의 검정력 비교 --- 비모수 검정과 모수적 검정 사이의 효율 맞교환을 정량화하고, 순위 기반 절차의 점근상대효율(ARE)을 다룬다.
  • 비모수 검정 모음 --- 이 장의 검정들을 상황별로 갈라 놓은 지도이고, 고르는 지침을 준다. 그리고 그 쪽의 마지막 절이 못을 박는다 — 비모수가 무가정은 아니다. 모두 독립성(independence)을 요구하고, 부호순위는 대칭성을 더 요구하며, 순위검정이 재는 것은 중앙값의 차가 아니다.

16.2 일표본 비모수 검정

하나의 표본, 또는 일변량 수열의 성질을 다루는 검정이다.

  • 무작위성에 대한 런 검정 --- 이진 수열에서 같은 값이 연달아 이어지는 최대 구간(런)의 개수를 세어 무작위성을 검정한다(왈드–울포위츠 검정).
  • 부호검정 --- 가설값으로부터의 편차의 부호만 사용하는 모중앙값 검정으로, 가정이 가장 약하다.
  • 윌콕슨 부호순위검정 --- 편차의 부호와 크기를 함께 사용하여 부호검정보다 검정력이 높은 대안이다.
  • 이항검정 --- 이항분포(binomial distribution)에 근거하여 비율이 가설값과 같은지를 검정하는 정확검정이다.

16.3 대응표본 비모수 검정

대응자료 또는 짝지은 자료에 대한 대응표본 t 검정의 비모수 대안이다.

  • 대응 부호검정 --- 짝지은 차이에 부호검정을 적용하여, 변화의 방향만으로 중앙값 차이가 0인지 검정한다.
  • 대응자료에 대한 윌콕슨 부호순위검정 --- 짝지은 차이에 윌콕슨 절차를 적용하여 부호와 크기를 모두 활용하므로 검정력이 더 높다.
  • 대응 순열검정 --- 재표집에 기반한 순열 논리로, 분포 가정 없이 대응설계의 처리효과를 검정한다.

16.4 이표본 비모수 검정

독립인 두 집단을 비교하는 분포무관 검정이다.

  • 윌콕슨 순위합검정 --- 각 집단에 배정된 순위의 합을 비교하여 두 독립표본(independent samples)이 같은 분포에서 왔는지 검정한다.
  • 만–휘트니 U 검정 --- 순위합검정과 동치인 형태로, 집단 간 쌍별 승수를 세며 동점 처리를 명시적으로 다룬다.
  • 콜모고로프–스미르노프 이표본 검정 --- 두 경험적 누적분포함수(cumulative distribution function)의 최대 차이를 재어 두 표본이 같은 연속분포에서 왔는지 검정한다.

16.5 다집단 비모수 검정

셋 이상의 독립 또는 관련 집단으로의 확장이다.

  • 크러스컬–월리스 검정 --- 일원분산분석의 비모수 대응물로, 평균순위를 비교하여 여러 독립집단이 같은 분포를 갖는지 검정한다.
  • 프리드먼 검정 (반복측정) --- 반복측정(repeated measures) 분산분석(analysis of variance)의 비모수 대응물로, 블록 내 순위를 이용하여 관련 집단 간 차이를 검정한다.
  • 무드 중앙값검정 --- 전체 중앙값 위·아래 도수를 이용하는 간단한 카이제곱 기반 검정으로, 여러 집단의 중앙값이 같은지 검정한다.
  • 사후 던 검정 --- 크러스컬–월리스 검정이 유의할 때 이어서 쓰는 쌍별 다중비교(multiple comparisons) 절차로, 다중검정에 대한 p 값 보정을 포함한다.

16.6 비모수 상관

이변량 정규성을 요구하지 않는 순위 기반 연관성 측도이다.

2. 선수 지식

이 장은 다음 내용 위에 세워진다.

  • 9장 (가설검정) --- 귀무가설(null hypothesis)과 대립가설(alternative hypothesis), p 값, 검정통계량(test statistic), 유의수준, 제1종·제2종 오류(type II error).
  • 5장 (추정량과 표집분포(sampling distribution)) --- 순위 기반 검정통계량의 대표본 형태에 쓰이는 정규근사.
  • 10장 (분산분석) --- 크러스컬–월리스 검정의 모수적 대응물인 일원배치 분산분석(one-way analysis of variance). 프리드먼 검정의 대응물은 반복측정 분산분석인데 이 책은 그것을 따로 다루지 않는다 — 10.5절 관측의 독립성 확인이 그 설계를 어디로 보내야 하는지만 적는다.
  • 12장 (상관과 인과) --- 피어슨, 스피어만, 켄들 상관의 기초.
  • 14장 (정규성 검정) --- 모수적 가정이 언제 깨져 비모수 대안이 필요해지는지 판단하는 방법.

3. 핵심 요약

  1. 비모수 검정은 원자료를 순위로 대체하여 이상치와 정규성 위반에 로버스트해진다. 대가는 모수적 가정이 성립할 때의 완만한 검정력 손실이다.
  2. 일표본과 대응표본 문제에서는 부호검정의 가정이 가장 약하고, 대칭성 가정이 성립하면 윌콕슨 부호순위검정이 더 강력하다.
  3. 만–휘트니 U 검정과 윌콕슨 순위합검정은 같은 검정의 두 형태이고, 정규성을 요구하지 않는다. 다만 무가정은 아니다 — 이 검정이 재는 것은 중앙값의 차가 아니라 \(P(X < Y) = \tfrac12\) 이고, 그 둘이 같은 말이 되는 것은 두 분포의 모양이 같을 때다. 모양이 다르면(산포가 다른 것도 그렇다) 위치 이동이 아니라 임의의 분포적 차이를 검정하게 된다. 16.1절 비모수 검정 모음 \(\S 4\) 가 이것을 못 박는다.
  4. 크러스컬–월리스 검정은 순위 기반 이표본 검정을 여러 집단으로 확장하며, 사후 쌍별 비교에는 던 검정을 쓸 수 있다.
  5. 스피어만의 \(r_s\) 와 켄들의 \(\tau\) 는 비선형성이나 비정규성이 있을 때 단조 연관성을 재는 피어슨 r의 로버스트한 대안이다.