t 검정과 분산분석에서의 정규성¶

import numpy as np
from scipy import stats

# ===================================================================
# 분산분석 잔차의 정규성 확인
#
# 집단마다 평균이 다르므로 자료 전체를 한 번에 검정하면 안 된다.
# 각 관측값에서 제 집단의 평균을 뺀 것이 잔차이고, 정규성은 여기에 요구된다.
# ===================================================================

np.random.seed(42)

# 평균이 조금씩 다른 세 집단. 분산은 모두 같다.
group1 = np.random.normal(loc=5.0, scale=1.5, size=30)
group2 = np.random.normal(loc=5.5, scale=1.5, size=30)
group3 = np.random.normal(loc=6.0, scale=1.5, size=30)

# 집단별 평균을 빼면 세 집단이 같은 중심으로 모인다. 이렇게 모은 뒤라야
# 하나의 검정으로 정규성을 물을 수 있다.
residuals = np.concatenate([
    group1 - np.mean(group1),
    group2 - np.mean(group2),
    group3 - np.mean(group3),
])

# 잔차에 대한 Shapiro-Wilk 검정
sw_stat, sw_p = stats.shapiro(residuals)

# 가정을 확인했으니 본 검정으로 넘어간다.
f_stat, f_p = stats.f_oneway(group1, group2, group3)

if __name__ == "__main__":
    print("Normality check on ANOVA residuals:")
    print(f"  Shapiro-Wilk: W = {sw_stat:.4f}, p = {sw_p:.4f}")
    print(f"\nOne-way ANOVA:")
    print(f"  F = {f_stat:.4f}, p = {f_p:.4f}")

    if sw_p > 0.05:
        print("\n  Residuals are consistent with normality (p > 0.05).")
    else:
        print("\n  Evidence of non-normality in residuals (p <= 0.05).")

Normality check on ANOVA residuals:
  Shapiro-Wilk: W = 0.9925, p = 0.8948

One-way ANOVA:
  F = 6.3788, p = 0.0026

  Residuals are consistent with normality (p > 0.05).

import numpy as np
from scipy import stats

np.random.seed(42)
gs = [np.random.normal(loc=m, scale=1.5, size=30) for m in (5.0, 5.5, 6.0)]
N, k = 90, 3
grand = np.concatenate(gs).mean()

print("(1) 분산분해로 F 를 손계산")
SSB = sum(30 * (g.mean() - grand)**2 for g in gs)
SSW = sum(((g - g.mean())**2).sum() for g in gs)
MSB, MSW = SSB / (k - 1), SSW / (N - k)
print(f"  집단평균 {np.round([g.mean() for g in gs], 4)},  대평균 {grand:.4f}")
print(f"  SSB = {SSB:.4f},  SSW = {SSW:.4f}")
print(f"  MSB = {MSB:.4f},  MSW = {MSW:.4f}")
print(f"  F = MSB/MSW = {MSB/MSW:.4f}   scipy = {stats.f_oneway(*gs)[0]:.4f}")
print(f"  p = {stats.f.sf(MSB/MSW, k-1, N-k):.4f},  임계 F = {stats.f.ppf(0.95, k-1, N-k):.4f}")
print(f"  sigma-hat = sqrt(MSW) = {np.sqrt(MSW):.4f}  (참 1.5,"
      f" 상대편차 {(np.sqrt(MSW)-1.5)/1.5:+.4f} = {((np.sqrt(MSW)-1.5)/1.5)*np.sqrt(2*(N-k)):+.2f} SD)")

print("\n(2) 중심화의 효과")
resid = np.concatenate([g - g.mean() for g in gs])
print(f"  잔차 shapiro p         = {stats.shapiro(resid)[1]:.4f}  (집단별 합 모두 0)")
print(f"  중심화 안 한 통합 p    = {stats.shapiro(np.concatenate(gs))[1]:.4f}")
print(f"  평균간격 / sigma = 0.5/1.5 = {0.5/1.5:.4f}")

print("\n(3) 잔차에 샤피로를 걸면 크기가 명목값을 지키는가 (명목 0.05, R = 20000)")
rng, R = np.random.default_rng(2026), 20000
print(f"  몬테카를로 SE = {np.sqrt(0.05*0.95/R):.4f}")
cnt = sum(stats.shapiro(rng.normal(0, 1, 90))[1] < 0.05 for _ in range(R))
print(f"  iid n=90 (제약 없음)      크기 = {cnt/R:.4f}")
for kk, m in [(3, 30), (9, 10), (30, 3)]:
    c = 0
    for _ in range(R):
        x = rng.normal(0, 1, (kk, m))
        c += stats.shapiro((x - x.mean(axis=1, keepdims=True)).ravel())[1] < 0.05
    print(f"  잔차 k={kk:<2d} 집단당 {m:<2d} (k/N = {kk/90:.3f})  크기 = {c/R:.4f}")

(1) 분산분해로 F 를 손계산
  집단평균 [4.7178 5.3183 6.0193],  대평균 5.3518
  SSB = 25.4610,  SSW = 173.6298
  MSB = 12.7305,  MSW = 1.9957
  F = MSB/MSW = 6.3788   scipy = 6.3788
  p = 0.0026,  임계 F = 3.1013
  sigma-hat = sqrt(MSW) = 1.4127  (참 1.5, 상대편차 -0.0582 = -0.77 SD)

(2) 중심화의 효과
  잔차 shapiro p         = 0.8948  (집단별 합 모두 0)
  중심화 안 한 통합 p    = 0.5458
  평균간격 / sigma = 0.5/1.5 = 0.3333

(3) 잔차에 샤피로를 걸면 크기가 명목값을 지키는가 (명목 0.05, R = 20000)
  몬테카를로 SE = 0.0015
  iid n=90 (제약 없음)      크기 = 0.0496
  잔차 k=3  집단당 30 (k/N = 0.033)  크기 = 0.0500
  잔차 k=9  집단당 10 (k/N = 0.100)  크기 = 0.0482
  잔차 k=30 집단당 3  (k/N = 0.333)  크기 = 0.0316