Skip to main content

Table 4 Empirical type I error rates for X2* and T2 for unequal allele probabilities across K = 5 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n D p1+ p+1 X 2* T 2
50, 50, 50, 50, 50 -0.045 0.5, 0.4, 0.3, 0.4, 0.5 0.5, 0.4, 0.3, 0.4, 0.5 0.048 0.049
  0.0    0.048 0.049
  0.105    0.085 0.163
  -0.025 0.5, 0.4, 0.3, 0.4, 0.5 0.5, 0.4, 0.3, 0.2, 0.1 0.047 0.041
  0.0    0.057 0.054
  0.025    0.077 0.060
  -0.005 0.5, 0.4, 0.3, 0.2, 0.1 0.5, 0.4, 0.3, 0.2, 0.1 0.048 0.035
  0.0    0.042 0.057
  0.045    0.133 0.489
  -0.015 0.5, 0.4, 0.3, 0.4, 0.5 0.3, 0.2, 0.1, 0.2, 0.3 0.045 0.037
  0.0    0.045 0.053
  0.035    0.082 0.100
  -0.015 0.5, 0.4, 0.3, 0.2, 0.1 0.3, 0.2, 0.1, 0.2, 0.3 0.032 0.023
  0.0    0.034 0.048
  0.035    0.104 0.136
  -0.005 0.3, 0.2, 0.1, 0.2, 0.3 0.3, 0.2, 0.1, 0.2, 0.3 0.045 0.034
  0.0    0.035 0.057
  0.045    0.160 0.475
100, 100, 100, 100, 100 -0.045 0.5, 0.4, 0.3, 0.4, 0.5 0.5, 0.4, 0.3, 0.4, 0.5 0.050 0.051
  0.0    0.051 0.051
  0.105    0.060 0.190
  -0.025 0.5, 0.4, 0.3, 0.4, 0.5 0.5, 0.4, 0.3, 0.2, 0.1 0.050 0.050
  0.0    0.051 0.051
  0.025    0.062 0.067
  -0.005 0.5, 0.4, 0.3, 0.2, 0.1 0.5, 0.4, 0.3, 0.2, 0.1 0.050 0.037
  0.0    0.041 0.049
  0.045    0.058 0.653
  -0.015 0.5, 0.4, 0.3, 0.4, 0.5 0.3, 0.2, 0.1, 0.2, 0.3 0.046 0.040
  0.0    0.047 0.051
  0.035    0.054 0.118
  -0.015 0.5, 0.4, 0.3, 0.2, 0.1 0.3, 0.2, 0.1, 0.2, 0.3 0.037 0.027
  0.0    0.037 0.050
  0.035    0.060 0.168
  -0.005 0.3, 0.2, 0.1, 0.2, 0.3 0.3, 0.2, 0.1, 0.2, 0.3 0.047 0.035
  0.0    0.038 0.053
  0.045    0.060 0.610
200, 200, 200, 200, 200 -0.045 0.5, 0.4, 0.3, 0.4, 0.5 0.5, 0.4, 0.3, 0.4, 0.5 0.049 0.050
  0.0    0.048 0.049
  0.105    0.053 0.230
  -0.025 0.5, 0.4, 0.3, 0.4, 0.5 0.5, 0.4, 0.3, 0.2, 0.1 0.049 0.062
  0.0    0.051 0.050
  0.025    0.053 0.081
  -0.005 0.5, 0.4, 0.3, 0.2, 0.1 0.5, 0.4, 0.3, 0.2, 0.1 0.051 0.039
  0.0    0.043 0.048
  0.045    0.052 0.865
  -0.015 0.5, 0.4, 0.3, 0.4, 0.5 0.3, 0.2, 0.1, 0.2, 0.3 0.048 0.044
  0.0    0.049 0.049
  0.035    0.048 0.169
  -0.015 0.5, 0.4, 0.3, 0.2, 0.1 0.3, 0.2, 0.1, 0.2, 0.3 0.042 0.029
  0.0    0.045 0.053
  0.035    0.045 0.229
  -0.005 0.3, 0.2, 0.1, 0.2, 0.3 0.3, 0.2, 0.1, 0.2, 0.3 0.047 0.035
  0.0    0.040 0.053
  0.045    0.051 0.815
  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.