正規性の検定

統計量

KS検定の統計量

KS検定には1標本と2標本の検定があります. ここでは正規分布との比較になりますので、1標本のKS検定を紹介します.

この図の描き方

# 標準正規分布からの累積密度関数（CDF）を計算
x_values <- seq(-3, 3, by = 0.01)
normal_cdf <- pnorm(x_values)
# 一様分布からサンプルデータを生成し、経験的CDFを計算
sample_cdf <- ecdf(dat$data)(x_values)
# データフレームの作成
normal_df <- data.frame(
  x = x_values, cdf = normal_cdf, Distribution = 'Normal CDF')
sample_df <- data.frame(
  x = x_values, cdf = sample_cdf, Distribution = 'Sample CDF')
# ggplotを使用してグラフを描画
ggplot() +
  geom_line(
    data = normal_df, 
    aes(x = x, y = cdf, color = Distribution), size = 1) +
  geom_point(
    data = sample_df,
    aes(x = x, y = cdf, color = Distribution), size = 1.5) +
  labs(title = "Comparison of Normal CDF and Sample CDF",
       x = "Value",
       y = "Cumulative Density") +
  theme_minimal() +
  scale_color_manual(
    values = c("Normal CDF" = "blue", "Sample CDF" = "red"))

KS検定は，サンプルデータが理論分布の累積分布関数 $F(z)$ に従うかどうかを検定する方法です. 上図では理論分布を正規分布としています. 実際に得られたデータから作成された経験的累積分布関数 $F^*(z)$ とし、正規分布の累積分布関数 $F(z)$ との乖離を以下の検定統計量Dで評価することになります.　

$D= \displaystyle \max_{-\infty<x<\infty}|F(x)-F^*(x)|$

帰無仮説: $F^*(x)$ が $F(x)$ に一致する

帰無仮説のもとで $\sqrt{n}D$ は以下の分布に従うことが知られています

$P(\sqrt{n}D \le x)$

$=1-2\sum_{i=1}^\infty(-1)^{i-1}exp(-2i^2x^2)$

$=\dfrac{\sqrt{2\pi}}{x}\sum_{i=1}^\infty exp(-\dfrac{(2i-1)^2\pi^2}{8x^2})$

$n:$ サンプルサイズ
$x:$ 統計量の特定の値
$i:$ 無限級数の各項

Shapiro-Wilk 検定の統計量

Shapiro-Wilk検定の統計量 $W$ は、サンプルデータ $x_i$ の順序統計量と標準正規分布に従う確率変数の順序統計量の期待値の関係を利用します

順序統計量
データセット $y$ から順序統計量を計算します。これは、データセットを小さいものから大きいものへと順序付けしたものです。

$y_i =(y_1, y_2, \dotsc , y_n) \quad y_1 \leq y_2 \leq \dotsc \leq y_n$

期待値と共分散行列
標準正規分布に従う確率変数の順序統計量の期待値 $m$ と共分散行列 $V$ を定義します。 $m_i$ は $i$ 番目の順序統計量の期待値、$v_{ij}$ は $i$ 番目と $j$ 番目の順序統計量の共分散。

$m=(m_1, m_2, \dotsc ,m_n)$
$V=(v_{ij})$

$V$ の分散共分散行列の求め方は以下の文献をご参照ください

• Royston, J. P. (1982). Algorithm AS 177: Expected normal order statistics (exact and approximate). Journal of the royal statistical society. Series C (Applied statistics), 31(2), 161-165.
• Davis, C. S., & Stephens, M. A. (1978). Approximating the covariance matrix of normal order statistics. Journal of the Royal Statistical Society: Series C (Applied Statistics), 27(2), 206-212.

重み
共分散行列 $V$ の逆行列 $V^{-1}$、期待値 $m$ の転置ベクトル $m^T$ を用いて重みベクトル $(a_1, a_2, \dotsc , a_n)$ を計算します。この重みは、サンプルデータの順序統計量と正規分布の順序統計量を関連付けるためのものです。検定統計量を計算する際に、サンプルデータが正規分布にどの程度近いかを測定するために用いられます。

共分散行列 $V$ の逆行列 $V^{-1}$、期待値 $m$ の転置ベクトル $m^T$ を用いて重みベクトル $(a_1, a_2, \dotsc, a_n)$ を計算します。この重みは、サンプルデータの順序統計量と正規分布の順序統計量を関連付けるためのものです。検定統計量を計算する際に、サンプルデータが正規分布にどの程度近いかを測定するために用いられます。

$(a_1, a_2, \dotsc , a_n) = \dfrac{m^TV^{-1}}{\sqrt{m^TV^{-1}V^{-1}m}}$

統計量
重み付けされたサンプルデータの線形結合の平方を、サンプルデータの分散で割ることで統計量 $W$ を計算します。これは、サンプルデータがどの程度正規分布に近いかを示す値になります。

$W=\dfrac{(\sum_{i=1}^na_iy_i)^2}{\sum_{i=1}^n(y_i- \bar{y})^2}$