Skip to main content

Table 3 Empirical type I error rates for X2* and T2 for equal allele probabilities across K = 5 strata under H0

From: Testing for homogeneity of gametic disequilibrium across strata

n

D

p1+

p+1

X 2*

T 2

50, 50, 50, 50, 50

-0.125

0.5, 0.5, 0.5, 0.5, 0.5

0.5, 0.5, 0.5, 0.5, 0.5

0.041

0.146

 

0.0

  

0.053

0.048

 

0.125

  

0.090

0.148

 

-0.075

0.5, 0.5, 0.5, 0.5, 0.5

0.3, 0.3, 0.3, 0.3, 0.3

0.049

0.059

 

0.0

  

0.053

0.051

 

0.075

  

0.084

0.063

 

-0.045

0.3, 0.3, 0.3, 0.3, 0.3

0.3, 0.3, 0.3, 0.3, 0.3

0.036

0.018

 

0.0

  

0.039

0.048

 

0.105

  

0.172

0.228

 

-0.025

0.5, 0.5, 0.5, 0.5, 0.5

0.1, 0.1, 0.1, 0.1, 0.1

0.075

0.029

 

0.0

  

0.071

0.038

 

0.025

  

0.059

0.026

 

-0.015

0.3, 0.3, 0.3, 0.3, 0.3

0.1, 0.1, 0.1, 0.1, 0.1

0.015

0.012

 

0.0

  

0.028

0.043

 

0.035

  

0.136

0.147

 

-0.005

0.1, 0.1, 0.1, 0.1, 0.1

0.1, 0.1, 0.1, 0.1, 0.1

0.025

0.024

 

0.0

  

0.026

0.079

 

0.045

  

0.500

0.715

100, 100, 100, 100, 100

-0.125

0.5, 0.5, 0.5, 0.5, 0.5

0.5, 0.5, 0.5, 0.5, 0.5

0.046

0.135

 

0.0

  

0.051

0.050

 

0.125

  

0.068

0.141

 

-0.075

0.5, 0.5, 0.5, 0.5, 0.5

0.3, 0.3, 0.3, 0.3, 0.3

0.050

0.059

 

0.0

  

0.051

0.051

 

0.075

  

0.054

0.059

 

-0.045

0.3, 0.3, 0.3, 0.3, 0.3

0.3, 0.3, 0.3, 0.3, 0.3

0.046

0.020

 

0.0

  

0.044

0.052

 

0.105

  

0.051

0.212

 

-0.025

0.5, 0.5, 0.5, 0.5, 0.5

0.1, 0.1, 0.1, 0.1, 0.1

0.063

0.030

 

0.0

  

0.058

0.048

 

0.025

  

0.057

0.029

 

-0.015

0.3, 0.3, 0.3, 0.3, 0.3

0.1, 0.1, 0.1, 0.1, 0.1

0.026

0.009

 

0.0

  

0.025

0.047

 

0.035

  

0.088

0.137

 

-0.005

0.1, 0.1, 0.1, 0.1, 0.1

0.1, 0.1, 0.1, 0.1, 0.1

0.016

0.007

 

0.0

  

0.008

0.006

 

0.045

  

0.476

0.667

200, 200, 200, 200, 200

-0.125

0.5, 0.5, 0.5, 0.5, 0.5

0.5, 0.5, 0.5, 0.5, 0.5

0.051

0.134

 

0.0

  

0.049

0.049

 

0.125

  

0.061

0.133

 

-0.075

0.5, 0.5, 0.5, 0.5, 0.5

0.3, 0.3, 0.3, 0.3, 0.3

0.051

0.055

 

0.0

  

0.049

0.050

 

0.075

  

0.054

0.059

 

-0.045

0.3, 0.3, 0.3, 0.3, 0.3

0.3, 0.3, 0.3, 0.3, 0.3

0.053

0.022

 

0.0

  

0.050

0.051

 

0.105

  

0.050

0.203

 

-0.025

0.5, 0.5, 0.5, 0.5, 0.5

0.1, 0.1, 0.1, 0.1, 0.1

0.054

0.027

 

0.0

  

0.048

0.049

 

0.025

  

0.053

0.028

 

-0.015

0.3, 0.3, 0.3, 0.3, 0.3

0.1, 0.1, 0.1, 0.1, 0.1

0.037

0.008

 

0.0

  

0.037

0.049

 

0.035

  

0.044

0.123

 

-0.005

0.1, 0.1, 0.1, 0.1, 0.1

0.1, 0.1, 0.1, 0.1, 0.1

0.017

0.007

 

0.0

  

0.018

0.053

 

0.045

  

0.193

0.651

  1. The empirical type I error rate which is significant for the two-sided t-test at the nominal level of 0.05 is marked with underline.