Skip to main content

Table 2 Empirical type I error rates for X2* and T2 for unequal allele probabilities across K = 3 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n D p1+ p+1 X 2* T 2
50, 50, 50 -0.045 0.5, 0.4, 0.3 0.5, 0.4, 0.3 0.048 0.044
  0.0    0.049 0.051
  0.105    0.071 0.149
  -0.015 0.5, 0.4, 0.3 0.5, 0.3, 0.1 0.046 0.037
  0.0    0.046 0.051
  0.035    0.066 0.105
  -0.005 0.5, 0.3, 0.1 0.5, 0.3, 0.1 0.063 0.036
  0.0    0.053 0.052
  0.045    0.100 0.474
  -0.015 0.5, 0.4, 0.3 0.3, 0.2, 0.1 0.040 0.032
  0.0    0.042 0.049
  0.035    0.074 0.101
  -0.005 0.5, 0.3, 0.1 0.3, 0.2, 0.1 0.056 0.033
  0.0    0.048 0.054
  0.045    0.108 0.452
  -0.005 0.3, 0.2, 0.1 0.3, 0.2, 0.1 0.048 0.031
  0.0    0.041 0.053
  0.045    0.123 0.452
100, 100, 100 -0.045 0.5, 0.4, 0.3 0.5, 0.4, 0.3 0.051 0.048
  0.0    0.050 0.050
  0.105    0.055 0.162
  -0.015 0.5, 0.4, 0.3 0.5, 0.3, 0.1 0.047 0.043
  0.0    0.046 0.050
  0.035    0.054 0.150
  -0.005 0.5, 0.3, 0.1 0.5, 0.3, 0.1 0.064 0.037
  0.0    0.052 0.051
  0.045    0.059 0.658
  -0.015 0.5, 0.4, 0.3 0.3, 0.2, 0.1 0.044 0.035
  0.0    0.047 0.051
  0.035    0.051 0.124
  -0.005 0.5, 0.3, 0.1 0.3, 0.2, 0.1 0.055 0.033
  0.0    0.052 0.053
  0.045    0.063 0.623
  -0.005 0.3, 0.2, 0.1 0.3, 0.2, 0.1 0.055 0.033
  0.0    0.043 0.051
  0.045    0.061 0.593
200, 200, 200 -0.045 0.5, 0.4, 0.3 0.5, 0.4, 0.3 0.050 0.052
  0.0    0.050 0.052
  0.105    0.053 0.211
  -0.015 0.5, 0.4, 0.3 0.5, 0.3, 0.1 0.049 0.049
  0.0    0.048 0.049
  0.035    0.049 0.220
  -0.005 0.5, 0.3, 0.1 0.5, 0.3, 0.1 0.058 0.037
  0.0    0.051 0.050
  0.045    0.048 0.860
  -0.015 0.5, 0.4, 0.3 0.3, 0.2, 0.1 0.048 0.043
  0.0    0.049 0.048
  0.035    0.050 0.190
  -0.005 0.5, 0.3, 0.1 0.3, 0.2, 0.1 0.056 0.035
  0.0    0.051 0.051
  0.045    0.053 0.829
  -0.005 0.3, 0.2, 0.1 0.3, 0.2, 0.1 0.051 0.034
  0.0    0.050 0.050
  0.045    0.049 0.791
  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.