순위와 순위변환¶

대부분의 비모수 검정은 원자료를 순위 --- 관측값을 작은 값부터 정렬했을 때 차지하는 위치 --- 로 바꾸어 분포무관 성질을 얻는다. 이 단순한 변환은 구체적인 수치를 버리면서 순서는 보존하는데, 위치 이동·확률적 우월·단조 연관성을 탐지하는 데 필요한 정보는 정확히 그 순서이다.

이 절에서는 순위변환을 형식적으로 정의하고, 중간순위로 동점을 처리하는 방법을 설명하며, 순위통계량을 비모수 추론의 토대로 만드는 핵심 성질을 소개한다.

순위의 정의¶

표본 \(X_1, X_2, \ldots, X_n\)이 주어졌을 때 관측값 \(X_i\)의 순위는 정렬된 표본에서 \(X_i\)가 차지하는 위치이다. 형식적으로 \(X_{(1)} \le X_{(2)} \le \cdots \le X_{(n)}\)을 순서통계량이라 하자. 모든 값이 서로 다르면 \(X_i\)의 순위는 다음을 만족하는 유일한 정수 \(R_i\)이다.

동치로,

여기서 \(\mathbf{1}(\cdot)\)은 지시함수이다.

중간순위로 동점 처리하기¶

관측값 둘 이상이 같은 값을 가지면 각각에 서로 다른 정수 순위를 배정하는 일이 모호해진다. 표준적인 해법은 동점인 관측값 모두에 중간순위(평균순위라고도 한다), 즉 그 동점값들이 차지했을 순위들의 산술평균을 배정하는 것이다.

정렬된 표본에서 위치 \(j, j+1, \ldots, j+k-1\)의 관측값이 모두 같다면 각각은 다음 중간순위를 받는다.

순위의 성질¶

순위를 분포무관 추론에 특히 유용하게 만드는 성질이 여럿 있다.

순위의 합. 크기 \(n\)인 임의의 표본에서 순위 \(R_1, R_2, \ldots, R_n\)은 \(\{1, 2, \ldots, n\}\)의 순열이므로(동점이 있어 중간순위를 써도 총합은 같다),

평균순위. 순위의 평균은 밑에 깔린 분포의 모양과 무관하게 언제나

이다.

순위의 분산. 동점이 없을 때 순위의 분산은

분포무관 성질. 모든 관측값이 같은 연속분포에서 나왔다는 귀무가설 아래에서는 순위의 모든 순열이 동등하게 가능하다. 따라서 순위에만 의존하는 임의의 통계량의 귀무분포를 모집단 분포를 몰라도 열거만으로 정확히 계산할 수 있다.

실전에서의 순위변환¶

순위변환은 임의의 연속분포를 \(\{1, 2, \ldots, n\}\) 위의 이산균등분포로 바꾼다. 여기에는 두 가지 중요한 귀결이 있다.

1. 이상치 저항성. 극단적인 관측값은 그 값이 10이든 10{,}000이든 순위 \(n\)을 받는다. 순위변환은 모든 관측값의 영향력에 상한을 씌운다.
2. 척도 불변성. 순위는 자료에 대한 임의의 단조증가 변환에 불변이다. 순위를 매기기 전에 로그변환이나 제곱근변환을 적용해도 순위는 바뀌지 않는다.

세 줄 모두 \(n = 12\)인 표본이고, 위쪽 축에는 원값이 실제 간격대로, 아래쪽 축에는 그 값들의 순위가 놓여 있다. 두 축을 잇는 선이 각 관측값이 어디로 가는지를 보여 준다.

첫째 줄은 정규 자료 \((29.6, 33.8, \ldots, 66.3, 76.6)\)이다. 원값이 가운데 \(46\)--\(48\) 근처에 뭉쳐 있어 위쪽 점들이 서로 붙어 있지만, 아래쪽에서는 \(1\)부터 \(12\)까지 똑같은 간격으로 펼쳐진다. 둘째 줄은 같은 순서를 유지한 채 지수함수를 씌워 만든 치우친 자료 \((12.1, 16.3, \ldots, 151.8, 307.2)\)인데, 원값 배치는 완전히 달라졌지만 아래쪽 줄은 첫째 줄과 한 점도 다르지 않다. 이것이 척도 불변성이며, 순위검정에 로그변환을 먼저 적용해도 \(p\)값이 소수점 이하 전부 그대로인 이유이다.

셋째 줄이 로버스트성을 보여 준다. 첫째 줄의 마지막 값 \(76.6\)을 \(900\)으로 바꾼 것뿐인데 표본평균이 \(49.17\)에서 \(117.78\)로, 표준편차가 \(12.62\)에서 \(246.51\)로 스무 배 가까이 부풀었다. 위쪽 축에서는 나머지 11개가 왼쪽 끝에 짓눌려 구별이 되지 않는다. 그런데 아래쪽 순위 축은 첫째 줄과 완전히 동일하다. \(900\)이든 \(9{,}000\)이든 순위 12를 받을 뿐이기 때문이다.

이 그림이 말하는 바를 한 문장으로 옮기면 이렇다. 순위변환은 임의의 연속분포를 \(\{1, 2, \ldots, n\}\) 위의 균등한 격자로 보내며, 그 격자 위에서 관측값 하나가 행사할 수 있는 영향력의 상한은 순위 \(n\)칸이다. 표본평균에는 그런 상한이 없다. 위쪽 축의 모양이 세 줄 모두 다르다는 것이 모수적 검정이 세 경우에 서로 다르게 반응한다는 뜻이고, 아래쪽 축이 세 줄 모두 같다는 것이 순위검정이 세 경우에 똑같은 답을 낸다는 뜻이다.

동점 보정계수¶

동점이 있으면 순위 기반 통계량의 정확 귀무분포가 달라진다. 대부분의 검정통계량은 보정계수를 넣는다. \(g\)를 서로 다른 동점 집단의 개수, \(t_j\)를 \(j\)번째 집단의 동점 관측값 개수라 하자. 흔히 쓰는 보정계수는

이다. 보정된 검정통계량은 보정되지 않은 통계량을 \(C\)로 나누어 얻는다(동치로, 그 분산을 \(C\)로 나눈다). 동점이 없으면 모든 \(j\)에 대해 \(t_j = 1\)이므로 \(C = 1\)이고 보정이 필요 없다.

흔히 쓰는 순위 기반 통계량¶

이 장 전체에서 다음 순위 기반 검정통계량이 등장한다.

이들 통계량은 모두 원자료가 아니라 순위 위에서 작동하므로, 위에서 설명한 분포무관 성질과 이상치 저항성을 물려받는다.

연습문제¶

import numpy as np
from scipy import stats
x = np.array([3, 5, 5, 5, 8, 8, 11, 11, 11, 11])
r = stats.rankdata(x)
print(r, r.sum())   # [1. 3. 3. 3. 5.5 5.5 8.5 8.5 8.5 8.5] 55.0

[1.  3.  3.  3.  5.5 5.5 8.5 8.5 8.5 8.5] 55.0

print(r.var())              # 7.5
print((10**2 - 1) / 12)     # 8.25
print(7.5 / 8.25)           # 0.9090909...

7.5
8.25
0.9090909090909091

y = np.array([2.0, 7.5, 1.1, 9.9, 4.4])
for name, z in [("y", y), ("log y", np.log(y)), ("y^3", y**3),
                ("-y", -y), ("(y-5)^2", (y - 5)**2)]:
    print(name, stats.rankdata(z))

y [2. 4. 1. 5. 3.]
log y [2. 4. 1. 5. 3.]
y^3 [2. 4. 1. 5. 3.]
-y [4. 2. 5. 1. 3.]
(y-5)^2 [3. 2. 4. 5. 1.]

a, b, c = [3, 5, 5, 8], [5, 8, 11, 11], [11, 11]
print(stats.kruskal(a, b, c))
# KruskalResult(statistic=5.235, pvalue=0.0730)

KruskalResult(statistic=5.2349999999999985, pvalue=0.07298509768315993)

import numpy as np
R = np.array([12.5, 25.5, 17.0]); ni = np.array([4, 4, 2]); n = 10
H_raw = 12 / (n * (n + 1)) * np.sum(R**2 / ni) - 3 * (n + 1)
print(H_raw, H_raw / (10 / 11))    # 4.759... 5.235...

4.759090909090908 5.2349999999999985

정리하며¶

순위변환은 비모수 검정의 중심 장치이다. 관측값을 정렬된 표본에서의 위치로 대체함으로써 순위 기반 방법은 분포무관성, 이상치에 대한 로버스트성, 순서형 자료에 대한 적용성을 얻는다. 동점이 생기면 중간순위가 순위변환의 핵심 성질을 보존하고, 보정계수가 검정통계량의 명목 유의수준을 유지하게 한다. 이 토대 위에 세워지는 구체적인 순위 기반 절차들은 이어지는 절에서 전개한다.