Skip to main content

Table 3 Empirical type I error rates for X2* and T2 for equal allele probabilities across K = 5 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n D p1+ p+1 X 2* T 2
50, 50, 50, 50, 50 -0.125 0.5, 0.5, 0.5, 0.5, 0.5 0.5, 0.5, 0.5, 0.5, 0.5 0.041 0.146
  0.0    0.053 0.048
  0.125    0.090 0.148
  -0.075 0.5, 0.5, 0.5, 0.5, 0.5 0.3, 0.3, 0.3, 0.3, 0.3 0.049 0.059
  0.0    0.053 0.051
  0.075    0.084 0.063
  -0.045 0.3, 0.3, 0.3, 0.3, 0.3 0.3, 0.3, 0.3, 0.3, 0.3 0.036 0.018
  0.0    0.039 0.048
  0.105    0.172 0.228
  -0.025 0.5, 0.5, 0.5, 0.5, 0.5 0.1, 0.1, 0.1, 0.1, 0.1 0.075 0.029
  0.0    0.071 0.038
  0.025    0.059 0.026
  -0.015 0.3, 0.3, 0.3, 0.3, 0.3 0.1, 0.1, 0.1, 0.1, 0.1 0.015 0.012
  0.0    0.028 0.043
  0.035    0.136 0.147
  -0.005 0.1, 0.1, 0.1, 0.1, 0.1 0.1, 0.1, 0.1, 0.1, 0.1 0.025 0.024
  0.0    0.026 0.079
  0.045    0.500 0.715
100, 100, 100, 100, 100 -0.125 0.5, 0.5, 0.5, 0.5, 0.5 0.5, 0.5, 0.5, 0.5, 0.5 0.046 0.135
  0.0    0.051 0.050
  0.125    0.068 0.141
  -0.075 0.5, 0.5, 0.5, 0.5, 0.5 0.3, 0.3, 0.3, 0.3, 0.3 0.050 0.059
  0.0    0.051 0.051
  0.075    0.054 0.059
  -0.045 0.3, 0.3, 0.3, 0.3, 0.3 0.3, 0.3, 0.3, 0.3, 0.3 0.046 0.020
  0.0    0.044 0.052
  0.105    0.051 0.212
  -0.025 0.5, 0.5, 0.5, 0.5, 0.5 0.1, 0.1, 0.1, 0.1, 0.1 0.063 0.030
  0.0    0.058 0.048
  0.025    0.057 0.029
  -0.015 0.3, 0.3, 0.3, 0.3, 0.3 0.1, 0.1, 0.1, 0.1, 0.1 0.026 0.009
  0.0    0.025 0.047
  0.035    0.088 0.137
  -0.005 0.1, 0.1, 0.1, 0.1, 0.1 0.1, 0.1, 0.1, 0.1, 0.1 0.016 0.007
  0.0    0.008 0.006
  0.045    0.476 0.667
200, 200, 200, 200, 200 -0.125 0.5, 0.5, 0.5, 0.5, 0.5 0.5, 0.5, 0.5, 0.5, 0.5 0.051 0.134
  0.0    0.049 0.049
  0.125    0.061 0.133
  -0.075 0.5, 0.5, 0.5, 0.5, 0.5 0.3, 0.3, 0.3, 0.3, 0.3 0.051 0.055
  0.0    0.049 0.050
  0.075    0.054 0.059
  -0.045 0.3, 0.3, 0.3, 0.3, 0.3 0.3, 0.3, 0.3, 0.3, 0.3 0.053 0.022
  0.0    0.050 0.051
  0.105    0.050 0.203
  -0.025 0.5, 0.5, 0.5, 0.5, 0.5 0.1, 0.1, 0.1, 0.1, 0.1 0.054 0.027
  0.0    0.048 0.049
  0.025    0.053 0.028
  -0.015 0.3, 0.3, 0.3, 0.3, 0.3 0.1, 0.1, 0.1, 0.1, 0.1 0.037 0.008
  0.0    0.037 0.049
  0.035    0.044 0.123
  -0.005 0.1, 0.1, 0.1, 0.1, 0.1 0.1, 0.1, 0.1, 0.1, 0.1 0.017 0.007
  0.0    0.018 0.053
  0.045    0.193 0.651
  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.