Skip to main content

Advertisement

Table 1 Empirical type I error rates for X2* and T2 for equal allele probabilities across K = 3 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n D p1+ p+1 X 2* T 2
50, 50, 50 -0.125 0.5, 0.5, 0.5 0.5, 0.5, 0.5 0.047 0.110
  0.0    0.055 0.052
  0.125    0.076 0.116
  -0.075 0.5, 0.5, 0.5 0.3, 0.3, 0.3 0.051 0.061
  0.0    0.053 0.049
  0.075    0.075 0.063
  -0.045 0.3, 0.3, 0.3 0.3, 0.3, 0.3 0.042 0.021
  0.0    0.044 0.053
  0.105    0.100 0.167
  -0.025 0.5, 0.5, 0.5 0.1, 0.1, 0.1 0.061 0.036
  0.0    0.067 0.041
  0.025    0.089 0.029
  -0.015 0.3, 0.3, 0.3 0.1, 0.1, 0.1 0.024 0.017
  0.0    0.025 0.047
  0.035    0.104 0.117
  -0.005 0.1, 0.1, 0.1 0.1, 0.1, 0.1 0.031 0.024
  0.0    0.024 0.087
  0.045    0.413 0.515
100, 100, 100 -0.125 0.5, 0.5, 0.5 0.5, 0.5, 0.5 0.049 0.106
  0.0    0.052 0.051
  0.125    0.065 0.112
  -0.075 0.5, 0.5, 0.5 0.3, 0.3, 0.3 0.051 0.059
  0.0    0.049 0.051
  0.075    0.055 0.063
  -0.045 0.3, 0.3, 0.3 0.3, 0.3, 0.3 0.046 0.024
  0.0    0.048 0.051
  0.105    0.048 0.156
  -0.025 0.5, 0.5, 0.5 0.1, 0.1, 0.1 0.053 0.029
  0.0    0.048 0.047
  0.025    0.089 0.030
  -0.015 0.3, 0.3, 0.3 0.1, 0.1, 0.1 0.026 0.013
  0.0    0.029 0.048
  0.035    0.075 0.109
  -0.005 0.1, 0.1, 0.1 0.1, 0.1, 0.1 0.012 0.014
  0.0    0.013 0.057
  0.045    0.278 0.474
200, 200, 200 -0.125 0.5, 0.5, 0.5 0.5, 0.5, 0.5 0.050 0.050
  0.0    0.052 0.048
  0.125    0.058 0.112
  -0.075 0.5, 0.5, 0.5 0.3, 0.3, 0.3 0.050 0.057
  0.0    0.050 0.049
  0.075    0.054 0.058
  -0.045 0.3, 0.3, 0.3 0.3, 0.3, 0.3 0.049 0.025
  0.0    0.049 0.049
  0.105    0.052 0.156
  -0.025 0.5, 0.5, 0.5 0.1, 0.1, 0.1 0.053 0.030
  0.0    0.050 0.051
  0.025    0.052 0.032
  -0.015 0.3, 0.3, 0.3 0.1, 0.1, 0.1 0.044 0.014
  0.0    0.044 0.051
  0.035    0.045 0.105
  -0.005 0.1, 0.1, 0.1 0.1, 0.1, 0.1 0.020 0.010
  0.0    0.020 0.049
  0.045    0.098 0.463
  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.