00p0073kfileminimizer.pdf
This document was uploaded by user and they confirmed that they have the permission to share it. If you are author or own the copyright of this book, please report to us by using this DMCA report form. Report DMCA
Overview
Download & View 00p0073kfileminimizer.pdf as PDF for free.
More details
- Words: 14,106
- Pages: 15
TA B L E S FO R C O N V E N IE N T C A L C U L A T IO N OF M E D I A N E F F E C T IV E DO SE (L D 50 OR E D 50) A N D IN S T R U C T IO N S I N T H E IR USE C a r r o l S. W
e il
Mellon Institute, Pittsburgh, Pa.
o r e d u c e t h e t i m e of calculation of the median-effective dose and its confidence interval to a minimum without the sacrifice of accuracy,
T
a group of tables have been calculated according to formulae presented in the article by Thompson and Weil (1952). These tables allow the use of 2, 3, 4, 5, 6, or 10 animals per dosage level, with 4 or more dosage levels being tested per material (using K = 3), provided that the loga rithms of successive dosage levels differ by a constant (d); the goemetric factor is denoted by R and d = log R ( e.g. d = 0.30103 for dosage levels of 1.0, 2.0, 4.0, and 8.0 grams of material per kilogram of body weight). A short discussion of the moving average and other methods of estimation of the median-effective dose (E D 50) follow. L D 50 may be used instead of E D 50 if the critical response is death. Estimation of the toxicity of a given chemical by single-oral dose to rats, rabbits, guinea pigs, or mice or of single skin application to rabbits or guinea pigs has been previously expressed in tables and reports issued from this laboratory in the form of the L D 50 calculated by the Bliss (1935, 1935, 1938) method of probits. The term L D 50 refers to the least dosage that should be expected to kill 5 0 % of the animals that received it. Bliss defines the probit as five plus the equivalent normal deviation (with unit standard deviation). His transformation converts the inte grated normal curve to a straight line that passes through the trans formed point (log L D 50, 5 ) . The calculations required in this estimation of the L D 50 are somewhat difficult and time-consuming, involving suc cessive approximations with tentative regression lines fitted by a method of maximum likelihood. Several papers have been published on sim plifications and estimations of the probit L D 50 and others on different methods of curve-fitting such as the logistic function by Wilson and Worcester (1943, 1944) using maximum likelihood, and by Berkson (1944, 1946) using a method of weighted least squares. The purpose of these transformations is to straighten the fundamental dosage vs. mor 249
250
BIOMETRICS, SEPTEMBER 1952
tality curve so that a straight line may be fitted to the transformed points. However, there is danger that tendencies toward biased or erratic estimates may be induced by mistaken assumptions about the form of the fundamental curve or by the technics used for curve fitting. Recently Thompson (1947) has published a method that involves the use of moving averages and interpolation to estimate the medianeffective dose, I^D5o , identical with our L D 50 if death is the critical response. The use of moving averages is not new in mathematics or statistics. It is a well-known graduation long used in time series analyses, and has the following advantages: (1) it is free from the assumption as to the precise type of fundamental curve involved but it is capable of taking into account more of the data than any method that uses only the data on both sides of the 50 per cent level of effectiveness; (2) only simple computations are involved; and (3) it replaces the fitting of complex mathematical curves. The E D 50 by this method is computed by inter polation involving K + 1 or more dosage levels by the use of the respec tive arithmetic means of log dose and of fraction responding critically for K successive points. In most E D 50 determinations, too few animals are dosed to establish with certainty the exact form of the dosage-mortality curve that is involved. No detailed comparison will be made here of the accuracy of the Thompson method vs. those of Bliss, Berkson, etc. A lengthy discussion of this may be found in Thompson’s paper (1947) and in the one by Armitage and Allen (1950). However, 30 L D 50 results obtained in this laboratory were calculated by the Bliss and by the Thompson methods. The LD50s obtained are practically the same in 29 of the 30. Only in one case was the result obtained by the Thompson method outside of the fiducial limit range obtained by the Bliss method and even in this case the LD50s differed by only 11%. Likewise, the respective standard deviations obtained by the two methods are nearly the same. To illus trate, four of these comparisons are listed below.
(1.96) Standard D evia L D 50 by M ethod of
tion in Logarithmic Units by M ethod of
Material
Bliss
Thompson
Bliss
Thom pson
Acetic acid, glacial
3 .5 3
3 .6 5
0 .0 4 1 8 5
0 .0 4 5 2 0
E thyl acrylate
1 .9 5
1 .9 5
0 .0 3 5 8 2
0 .0 3 7 5 2
Isopropanolamine, mono
4 .2 6
4 .2 6
0 .0 3 9 4 4
0 .0 4 1 3 2
Fungicide 341 “ A ”
1 .9 8
1 .9 4
0 .0 6 3 0 1
0 .0 6 3 7 9
251
CALCULATION OF MEDIAN-EFFECTIVE DOSE
The general formulae for the estimation of the logarithm of the L D 50 and of the standard deviation of the estimate by the moving average method are given in the original article by Thompson (1947). Explanation of the use of the tables presented in this paper follow. The requirements that must be followed to use these tables are: (a) dose a constant number of animals on each dosage level (n = the number dosed per level). This restriction is not necessary to use of the moving average interpolation method, but tables otherwise would hardly be worth making. There is nothing to prevent construction of similar tables for different values of i f not used in the present article, although the usual choice appears to be i f = 3. (b) space the dosage levels so that they are in a geometric progres sion. For example, if the geometric factor (R) is 2.0, with dosage levels of 0.5, 1.0, 2.0, and 4.0 grams per kilogram, then d = 0.30103. (c) dose animals on at least i f + 1 levels of dosage, i.e., 4 levels or more for i f = 3. When these requirements are followed we seek to obtain from animals dosed at succeeding dosage levels a set of mortality data (r-values in the table) that match one of those in the table for the given value of n and if. In any of the tables, the two middle numbers in the “ r-value” column may be inverted without changing the other values in that row; the r-values, 0,0,3,4, are identical with 0,3,0,4. For example, the r-values of 0,0,3,4 could indicate a mortality of 0 animals of 4 dosed at 2.0 grams per kilogram, 0 of 4, 3 of 4, and 4 of 4 dead at 4.0, 8.0, and 16.0 grams per kilogram respectively. In this case the table for w = 4 and i f = 3 would be used. The general formula for the calculation of m, the estimate of the E D 50 may be reduced to (1)
log m = log Da + d • ( / +
1) for i f = 3
Thus, referring to the 0,0,3,4 r-value row in the n = 4 section of Table I, / is seen to be 0.75. As d (the logarithm of the constant ratio between dosage levels) is 0.30103 in this example and as the log Da (the log of the lowest of the four dosage levels used) is the logarithm of 2.0, approxi mately 0.30103, thus the log L D 50 is estimated as 0.30103 + 0.30103 (1.75) or 0.82783. The L D 50 is accordingly estimated as 6.73 gm ./kg. Another example of the use of formula (1) follows. Five animals were dosed per level (n = 5) and the following mortalities resulted: 0 of 5 at 1.26 gm ./kg., 1 of 5 at 1.59 g m ./k g v 3 of 5 at 2.00 gm ./kg., and 5 of 5 at 2.52 gm ./kg. Here, the ratio of successive dosage levels is 1.26 and d = 0.1. The log L D 50 from the use of Table I is: log L D 50 ^
0.10037 + 0.1 (0.7 +
1) ^
0.27037
252
BIOMETRICS, SEPTEMBER 1952
L D 50 ^
1.86 gm ./kg.
In an estimation of a confidence interval that will encompass the L D 5o 95 times in 100, we take that bounded by antilog [log m ± 2 • o-log m]; the following formula is used with the 07 value from the tables: (2 )
0-iog m ~ d - a f
Thus, in the first example, the log L D 50 was estimated as log m = 0.82783. The value of 2d • 07 is 2(0.250) (0.30103), equal to 0.150. Therefore, the bounds of the confidence interval of log L D 50 are 0.828 ± , 0.15, i.e., 0.678 to 0.978. The L D 50 and its 95 of 100 confidence interval are estimated as 6.73 (4.76 to 9.51) g m ./k g . For the second example, with r-values of 0,1,3,5 and d = 0.1 (n = 5,
K = 3) then the 2 •
Bliss, C. I . : The comparison of dosage-mortality data.
Ann. Appl. Biol., 22, 3 0 7 -3 3 3 ,
1935. Bliss, C. I .: T h e calculation of the dosage-mortality curve.
Ann. Appl. Biol., 22,
134-167, 1935. Bliss, C. I .: The determination of the dosage-mortality curve from small numbers. Quart. J. Pharm. and Pharmacol., 11, 1 92 -2 1 6, 1938. W ilson, Edwin B . and Worcester, J .: T he determination of L D 50 and its sampling error in bio-assay.
Proc. N at’l. Acad. Sci., 29, 7 9 -8 5 , 1943.
Worcester, Jane and W ilson, E . B .: A table determining L D 50 or the fifty percent endpoint.
Proc. N at’l. Acad. Sci., 29, 2 0 7 -2 1 2 , 1943.
Berkson, Joseph: Application of the logistic function to bio-assay.
A m . Stat. Assoc.,
39, 3 5 7 -3 6 5 , 1944. Berkson, Joseph: Approximation of chi-square by “ probits” and by “ logits” . Stat. Assoc.,
41,
Am .
7 0 -7 4 , 1946.
Thom pson, William R . : Use of m oving averages and interpolation to estimate medianeffective dose.
B ad . Rev., 11, 1 15-145, 1947.
Armitage, P. and Allen, Irene: M ethods of estimating the L D 50 in quantal response data.
J. H yg.,
48, 2 9 8 -3 2 2 ,
1950.
Thom pson, W illiam R . and W eil, Carrol S .: On the construction of tables for moving average interpolation.
Biometrics, 8, 5 1 -5 4 , 1952.
253
CALCULATION OF MEDIAN-EFFECTIVE DOSE TA B L E I. T A B LE FO R C A LC U LA TIO N OF M E D IA N -E F F E C T IV E DOSE B Y M O V IN G IN T E R P O L A T IO N F O R n = 2 ,3 ,4 ,5 O R 6 A N D K = 3
n = 4, K = 3
n = 2, K = 3 r-values 0 ,0 ,1 ,2 0 ,0 ,2 ,2 0 ,1 ,1 ,2 0 ,1 ,2 ,2 1 ,0 ,1 ,2 1 ,0 ,2 ,2 1 ,1 ,1 ,2 0 ,0 ,2 ,1 0 ,1 ,1 ,1 0 ,1 ,2 ,1
r-values
/ 1.00000 0.50000 0.50000 0.00000 1.00000 0.00000 . 0.00000 1.00000 1.00000 0.00000
0.50000 0.00000 0.70711 0.50000 1.00000 1.00000 1.73205 1.00000 1.73205 1.00000
n = 3, K = 3 0 ,0 ,2 ,3 0 ,0 ,3 ,3 0 ,1 ,1 ,3 0 ,1 ,2 ,3 0 ,1 ,3 ,3 0 ,2 ,2 ,3 1 ,0 ,2 ,3 1 ,0 ,3 ,3 1 ,1 ,1 ,3 1 ,1 ,2 ,3 2 ,0 ,2 ,3 0 ,0 ,3 ,2 0 ,1 ,2 ,2 0 ,1 ,3 ,2 0 ,2 ,2 ,2 0 ,1 ,3 ,1
0.83333 0.50000 0.83333 0.50000 0.16667 0.16667 0.75000 0.25000 0.75000 0.25000 0.50000 0.75000 0.75000 0.25000 0.25000 0.50000
0.57735 0.00000 0.81650 0.81650 0.57735 0.81650 0.51539 0.37500 0.71807 0.80039 1.11803 0.37500 0.80039 0.51539 0.71807 1.11803
n = 4, K = 3 0 ,0 ,2 ,4 0 ,0 ,3 ,4 0 ,0 ,4 ,4 0 ,1 ,1 ,4 0 ,1 ,2 ,4 0 ,1 ,3 ,4 0 ,1 ,4 ,4 0 ,2 ,2 ,4 0 ,2 ,3 ,4 0 ,2 ,4 ,4 0 ,3 ,3 ,4 1 ,0 ,2 ,4 1 ,0 ,3 ,4 1 ,0 ,4 ,4 1 ,1 ,1 ,4 1 ,1 ,2 ,4 1 ,1 ,3 ,4 1 ,1 ,4 ,4 1 ,2 ,2 ,4 1 ,2 ,3 ,4 2 ,0 ,2 ,4
1.00000 0.75000 0.50000 1.00000 0.75000 0.50000 0.25000 0.50000 0.25000 0.00000 0.00000 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.00000
0.28868 0.25000 0.00000 0.35355 0.38188 0.35355 0.25000 0.40825 0.38188 0.28868 0.35355 0.38490 0.35136 0.22222 0.47140 0.52116 0.52116 0.47140 0.58794 0.60858 0.57735
2 ,0 ,3 ,4 2 ,0 ,4 ,4 2 ,1 ,1 ,4 2 ,1 ,2 ,4 2 ,1 ,3 ,4 2 ,2 ,2 ,4 3 ,0 ,2 ,4 3 ,0 ,3 ,4 3 ,1 ,1 ,4 3 ,1 ,2 ,4 0 ,0 ,3 ,3 0 ,0 ,4 ,3 0 ,1 ,2 ,3 0 ,1 ,3 ,3 0 ,1 ,4 ,3 0 ,2 ,2 ,3 0 ,2 ,3 ,3 0 ,2 ,4 ,3 0 ,3 ,3 ,3 1 ,0 ,3 ,3 1 ,0 ,4 ,3 1 ,1 ,2 ,3 1 ,1 ,3 ,3 1 ,1 ,4 ,3 1 ,2 ,2 ,3 1 ,2 ,3 ,3 2 ,0 ,3 ,3 2 ,0 ,4 ,3 2 ,1 ,2 ,3 2 ,1 ,3 ,3 2 ,2 ,2 ,3 0 ,0 ,4 ,2 0 ,1 ,3 ,2 0 ,1 ,4 ,2 0 ,2 ,2 ,2 0 ,2 ,3 ,2 0 ,2 ,4 ,2 0 ,3 ,3 ,2 1 ,0 ,4 ,2 1 ,1 ,3 ,2 1 ,1 ,4 ,2 1 ,2 ,2 ,2 1 ,2 ,3 ,2 0 ,2 ,3 ,1 0 ,2 ,4 ,1 0 ,3 ,3 ,1 0 ,1 ,4 ,1
n = 5, K = 3 r-values
/ 0.50000 0.00000 1.00000 0.50000 0.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.66667 1.00000 0.66667 0.33333 0.66667 0.33333 0.00000 0.00000 1.00000 0.50000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000
0.57735 0.57735 0.70711 0.81650 0.91287 1.00000 1.15470 1.41421 1.41421 1.82574 0.47140 0.22222 0.60858 0.52116 0.35136 0.58794 0.52116 0.38490 0.47140 0.70711 0.35355 0.91287 0.79057 0.70711 0.88976 0.91287 1.41421 1.15470 1.82574 1.82574 2.00000 0.57735 0.91287 0.57735 1.00000 0.81650 0.57735 0.70711 1.15470 1.82574 1.41421 2.00000 1.82574 1.82574 1.15470 1.41421 1.41421
n = 5, K = 3 0 ,0 ,3 ,5 0 ,0 ,4 ,5 0 ,0 ,5 ,5
0.90000 0.70000 0.50000
AVERAGE
0.24495 0.20000 0.00000
0 ,1 ,2 ,5 0 ,1 ,3 ,5 0 ,1 ,4 ,5 0 ,1 ,5 ,5 0 ,2 ,2 ,5 0 ,2 ,3 ,5 0 ,2 ,4 ,5 0 ,2 ,5 ,5 0 ,3 ,3 ,5 ’0 ,3 ,4 ,5 1 ,0 ,3 ,5 1 ,0 ,4 ,5 1 ,0 ,5 ,5 1 ,1 ,2 ,5 1 ,1 ,3 ,5 1 ,1 ,4 ,5 1 ,1 ,5 ,5 1 ,2 ,2 ,5 1 ,2 ,3 ,5 1 ,2 ,4 ,5 1 ,3 ,3 ,5 2 ,0 ,3 ,5 2 ,0 ,4 ,5 2 ,0 ,5 ,5 2 ,1 ,2 ,5 2 ,1 ,3 ,5 2 ,1 ,4 ,5 2 ,2 ,2 ,5 2 ,2 ,3 ,5 0 ,0 ,4 ,4 0 ,0 ,5 ,4 0 ,1 ,3 ,4 0 ,1 ,4 ,4 0 ,1 ,5 ,4 0 ,2 ,2 ,4 0 ,2 ,3 ,4 0 ,2 ,4 ,4 0 ,2 ,5 ,4 0 ,3 ,3 ,4 0 ,3 ,4 ,4 1 ,0 ,4 ,4 1 ,0 ,5 ,4 1 ,1 ,3 ,4 1 ,1 ,4 ,4 1 ,1 ,5 ,4 1 ,2 ,2 ,4 1 ,2 ,3 ,4 1 ,2 ,4 ,4 1 ,3 ,3 ,4 2 ,0 ,4 ,4 2 ,0 ,5 ,4 2 ,1 ,3 ,4 2 ,1 ,4 ,4
f 0.90000 0.70000 0.50000 0.30000 0.70000 0.50000 0.30000 0.10000 0.30000 0.10000 0.87500 0.62500 0.37500 0.87500 0.62500 0.37500 0.12500 0.62500 0.37500 0.12500 0.12500 0.83333 0.50000 0.16667 0.83333 0.50000 0.16667 0.50000 0.16667 0.87500 0.62500 0.87500 0.62500 0.37500 0.87500 0.62500 0.37500 0.12500 0.37500 0.12500 0.83333 0.50000 0.83333 0.50000 0.16667 0.83333 0.50000 0.16667 0.16667 0.75000 0.25000 0.75000 0.25000
0.31623 0.31623 0.28284 0.20000 0.34641 0.34641 0.31623 0.24495 0.34641 0.31623 0.30778 0.26700 0.15625 0.39652 0.40625 0.38654 0.33219 0.44304 0.46034 0.45178 0.48513 0.41388 0.39087 0.34021 0.53142 0.56519 0.58134 0.61237 0.67013 0.33219 0.15625 0.45178 0.38654 0.26700 0.48513 0.46034 0.40625 0.30778 0.44304 0.39652 0.43744 0.23570 0.59835 0.52705 0.43744 0.64310 0.62361 0.59835 0.64310 0.64348 0.47598 0.88829 0.85239
BIOMETRICS, SEPTEMBER 1952
254
TABLE I.— Continued
r-values
2 , 2 , 2,4 2 , 2 , 3,4 0 , 0 , 5,3 0 , 1, 4,3 0 , 1 , 5,3 0 , 2 , 3,3 0 , 2 , 4,3 0 , 2 , 5,3 0 , 3 , 4,3 1, 0 , 5,3 1, 1 , 4,3 1, 1, 5,3 1, 2 , 3,3 1, 2 , 4,3 1, 3 , 3,3
f
0.75000 0.25000 0.83333 0.83333 0.50000 0.83333 0.50000 0.16667 0.50000 0.16667 0.75000 0.75000 0.25000 0.75000 0.25000 0.25000
«■/
0.95607 0.98821 0.34021 0.58134 0.39087 0.67013 0.56519 0.41388 0.61237 0.53142 0.47598 0.85239 0.64348 0.98821 0.88829 0.95607
n = 6, K = 3 o .o .s . e o .o U . e
0 , 0 , 5,6 0 , 0 , 6,6 0 , 1 , 2,6 0 , 1 , 3,6 0 , 1 , 4,6 0 , 1 , 5,6 0 , 1 , 6,6 0 , 2 , 2,6 0 , 2 , 3,6 0 , 2 , 4,6 0 , 2 , 5,6 0 , 2 , 6,6 0 , 3 , 3,6 0 , 3 , 4,6 0 , 3 , 5,6 0 , 3 , 6,6 0 , 4 , 4,6 0 , 4 , 5,6 1 , 0 , 3,6 1 , 0 , 4,6 1 , 0 , 5,6 1 , 0 , 6,6 1 , 1 , 2,6 1 , 1 , 3,6 1 , 1 , 4,6 1 , 1 , 5,6 1 , 1 , 6,6 1 , 2 , 2,6 1 , 2 , 3,6 1 , 2 , 4,6 1 , 2 , 5,6 1 , 2 , 6,6 1 , 3 , 3,6 1 , 3 , 4,6 1 , 3 , 5,6
1.00000 0.83333 0.66667 0.50000 1.00000 0.83333 0.66667 0.50000 0.33333 0.83333 0.66667 0.50000 0.33333 0.16667 0.50000 0.33333 0.16667 0.00000 0.16667 0.00000 1.00000 0.80000 0.60000 0.40000 1.00000 0.80000 0.60000 0.40000 0.20000 0.80000 0.60000 0.40000 0.20000 0.00000 0.40000 0.20000 0.00000
n = 6, K = 3
n = 6, K = 3
n = 5, K = 3
0.22361 0.21082 0.16667 0.00000 0.26874 0.27889 0.26874 0.23570 0.16667 0.29814 0.30732 0.29814 0.26874 0.21082 0.31623 0.30732 0.27889 0.22361 0.29814 0.26874 0.26833 0.25612 0.21541 0.12000 0.32249 0.33704 0.33226 0.30724 0.25612 0.36000 0.37736 0.37736 0.36000 0.26833 0.39799 0.40200 0.34641
r-values
1 , 4 , 4,6 2 , 0 , 3,6 2 , 0 , 4,6 2 , 0 , 5,6 2 , 0 , 6,6 2 , 1, 2,6 2 , 1 , 3,6 2 , 1, 4,6 2 , 1, 5,6 2 , 1, 6,6 2 , 2 , 2,6 2 , 2 , 3,6 2 , 2 , 4,6 2 , 2 , 5,6 2 , 3 , 3,6 2 , 3 , 4,6 3. 0 . 3. 0 . 3 ^ , 5,6 3 , 0 *6,6 3 , 1, 2,6 3 , 1, 3,6 3 , 1, 4,6 3 , 1, 5,6 3 , 2 , 2,6 3 , 2 , 3,6 3 , 2 , 4,6 3 , 3 , 3,6 4 , 0 , 3,6 4 , 0 , 4,6 4 , 0 , 5,6 4 , 1 , 2,6 4 , 1, 3,6 4 , 1, 4,6 4 , 2 , 2,6 4 , 2 , 3,6 5 , 0 , 3,6 5 , 0 , 4,6 5 , 1, 2,6 5 , 1 , 3,6 5 , 2 , 2,6 0 , 0 , 4,5 0 , 0 , 5,5 0 , 0 , 6,5 0 , 1 , 3,5 0 , 1, 4,5 0 , 1, 5,5 0 , 1, 6,5 0 , 2 , 2,5 0 , 2 , 3,5 0 , 2 , 4,5 0 , 2 , 5,5 0 , 2 , 6,5 0, 3, 3, 5 0 , 3 , 4,5 0 , 3 , 5,5
/
0.00000 1.00000 0.75000 0.50000 0.25000 1.00000 0.75000 0.50000 0.25000 0.00000 0.75000 0.50000 0.25000 0.00000 0.25000 0.00000 1.00000 3.6 0.66667 4.6 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 0.66667 0.33333 0.00000 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 0.80000 0.60000 1.00000 0.80000 0.60000 0.40000 1.00000 0.80000 0.60000 0.40000 0.20000 0.60000 0.40000 0.20000
<7
0.36878 0.33541 0.32596 0.29580 0.23717 0.40311 0.42573 0.43301 0.42573 0.29580 0.45415 0.48734 0.50621 0.43301 0.53033 0.48734 0.44721 0.43885 0.44721 0.44721 0.53748 0.57090 0.61464 0.64979 0.60858 0.68313 0.74536 0.77460 0.67082 0.70711 0.80622 0.80622 0.89443 1.02470 0.94868 1.11803 1.34164 1.61245 1.61245 1.94936 2.04939 0.26833 0.25612 0.12000 0.34641 0.36000 0.30724 0.21541 0.36878 0.40200 0.37736 0.33226 0.25612 0.39799 0.37736 0.33704
r-values
0 , 3 , 6,5 0 , 4 , 4,5 0 , 4 , 5,5 1, 0 , 4,5 1 , 0 , 5,5 1, 0 , 6,5 1, 1, 3,5 1, 1, 4,5 1, 1, 5,5 1, 1, 6,5 1, 2 , 2,5 1 , 2 , 3,5 1, 2 , 4,5 1, 2 , 5,5 1 , 2 , 6,5 1 . 3 . 3.5 1 . 3 . 4.5 1. 3 . 5.5 1. 4 . 4.5 2 , 0 , 4,5 2 , 0 , 5,5 2 , 0 , 6,5 2 , 1, 3,5 2 , 1, 4,5 2 , 1 , 5,5 2 , 1, 6,5 2 , 2 , 2,5 2 , 2 , 3,5 2 , 2 , 4,5 2 , 2 , 5,5 2 , 3 , 3,5 2 , 3 , 4,5 3 , 0 , 4,5 3 , 0 , 5,5 3 , 0 , 6,5 3 , 1, 3,5 3 , 1, 4,5 3 , 1 , 5,5 3 , 2 , 2,5 3 , 2 , 3,5 3 , 2 , 4,5 3 , 3 , 3,5 4 , 0 , 4,5 4 , 0 , 5,5 4 , 1 , 3,5 4 , 1, 4,5 4 , 2 , 2,5 4 , 2 , 3,5 0 , 0 , 5,4 0 , 0 , 6,4 0 , 1 , 4,4 0 , 1 , 5,4 0 , 1, 6,4 0 , 2 , 3,4 0 , 2 , 4,4 0 , 2 , 5,4
f
0.00000 0.20000 0.00000 1.00000 0.75000 0.50000 1.00000 0.75000 0.50000 0.25000 1.00000 0.75000 0.50000 0.25000 0.00000 0.50000 0.25000 0.00000 0.00000 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.75000 1.00000 0.75000 0.50000 1.00000 0.75000 0.50000
0.26833 0.36000 0.32249 0.40311 0.31869 0.17678 0.48734 0.44896 0.39528 0.31869 0.51235 0.50156 0.48088 0.44896 0.40311 0.50621 0.50156 0.48734 0.51235 0.53748 0.42455 0.30225 0.64979 0.59835 0.55998 0.53748 0.68313 0.66852 0.66852 0.68313 0.70097 0.74536 0.80622 0.65192 0.67082 0.92195 0.90830 0.92195 1.02470 1.01242 1.11803 1.16190 1.61245 1.61245 1.94936 2.04939 2.04939 2.23607 0.29580 0.23717 0.43301 0.42573 0.29580 0.48734 0.50621 0.43301
255
CALCULATION OF MEDIAN-EFFECTIVE DOSE TA B L E I.— Continued
n = 6, K = 3
n = 6, K = 3
n = 6, K = 3 r-values
/
°y
0 ,2 ,6 ,4 0 ,3 ,3 ,4 0 ,3 ,4 ,4 0 ,3 ,5 ,4 0 ,3 ,6 ,4 0 ,4 ,4 ,4 0 ,4 ,5 ,4 1 ,0 ,5 ,4 1 ,0 ,6 ,4 1 ,1 ,4 ,4 1 ,1 ,5 ,4 1 ,1 ,6 ,4 1 ,2 ,3 ,4 1 ,2 ,4 ,4 1 ,2 ,5 ,4 1 ,2 ,6 ,4 1 ,3 ,3 ,4 1 ,3 ,4 ,4 1 ,3 ,5 ,4 1 ,4 ,4 ,4 2 ,0 ,5 ,4 2 ,0 ,6 ,4 2 ,1 ,4 ,4 2 ,1 ,5 ,4 2 ,1 ,6 ,4 2 ,2 ,3 ,4 2 ,2 ,4 ,4 2 * 2 ,5 ,4 2 ,3 ,3 ,4
0.25000 0.75000 0.50000 0.25000 0.00000 0.25000 0.00000 1.00000 0.66667 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 0.66667 0.33333 0.00000 0.00000 1.00000 0.50000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.50000
0.32596 0.53033 0.48734 0.42573 0.33541 0.45415 0.40311 0.53748 0.30225 0.68313 0.55998 0.42455 0.74536 0.66852 0.59835 0.53748 0.70097 0.66852 0.64979 0.68313 0.80622 0.44721 1.02470 0.83666 0.80622 1.11803 1.00000 1.02470 1.04881
r-values 2 ,3 ,4 ,4 3 ,0 ,5 ,4 3 ,0 ,6 ,4 3 ,1 ,4 ,4 3 ,1 ,5 ,4 3 ,2 ,3 ,4 3 ,2 ,4 ,4 3 ,3 ,3 ,4 0 ,0 ,6 ,3 0 ,1 ,5 ,3 0 ,1 ,6 ,3 0 ,2 ,4 ,3 0 ,2 ,5 ,3 0 ,2 ,6 ,3 0 ,3 ,3 ,3 0 ,3 ,4 ,3 0 ,3 ,5 ,3 0 ,3 ,6 ,3 0 ,4 ,4 ,3 0 ,4 ,5 ,3 1 ,0 ,6 ,3 1 ,1 ,5 ,3 1 ,1 ,6 ,3 1 ,2 ,4 ,3 1 ,2 ,5 ,3 1 ,2 ,6 ,3 1 ,3 ,3 ,3 1 ,3 ,4 ,3
r-values
/ 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.66667 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 1.00000 0.50000
1.11803 1.67332 1.34164 2.09762 1.94936 2.28035 2.23607 2.32379 0.44721 0.64979 0.44721 0.74536 0.61464 0.43885 0.77460 0.68313 0.57090 0.44721 0.60858 0.53748 0.67082 0.92195 0.65192 1.11803 0.90830 0.80622 1.16190 1.01242
1 ,3 ,5 ,3 1 ,4 ,4 ,3 2 ,0 ,6 ,3 2 ,1 ,5 ,3 2 ,1 ,6 ,3 2 ,2 ,4 ,3 2 ,2 ,5 ,3 2 ,3 ,3 ,3 2 ,3 ,4 ,3 0 ,1 ,6 ,2 0 ,2 ,5 ,2 0 ,2 ,6 ,2 0 ,3 ,4 ,2 0 ,3 ,5 ,2 0 ,3 ,6 ,2 0 ,4 ,4 ,2 0 ,4 ,5 ,2 1 ,1 ,6 ,2 1 ,2 ,5 ,2 1 ,2 ,6 ,2 1 ,3 ,4 ,2 1 ,3 ,5 ,2 1 ,4 ,4 ,2 0 ,2 ,6 ,1 0 ,3 ,5 ,1 0 ,3 ,6 ,1 0 ,4 ,4 ,1 0 ,4 ,5 ,1
f
0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000
0.92195 1.02470 1.34164 1.94936 1.67332 2.23607 2.09762 2.32379 2.28035 0.80622 1.02470 0.70711 1.11803 0.89443 0.67082 0.94868 0.80622 1.61245 2.04939 1.61245 2.23607 1.94936 2.04939 1.61245 1.94936 1.34164 2.04939 1.61245
BIOMETRICS, SEPTEMBER 1952
256
T A B L E II. TA B L E F O R C A L C U L A T IO N OF M E D IA N -E F F E C T IV E DOSE B Y M O V IN G A V E R A G E IN T E R P O L A T IO N F O R n - 10 A N D K = 3
r-values 0 ,0 ,5 ,1 0 0 ,0 ,6 ,1 0 0 ,0 ,7 ,1 0 0 ,0 ,8 ,1 0 0 ,0 ,9 ,1 0 0 ,0 ,1 0 ,1 0 0 ,1 ,4 ,1 0 0 ,1 ,5 ,1 0 0 ,1 ,6 ,1 0 0 ,1 ,7 ,1 0 0 ,1 ,8 ,1 0 0 ,1 ,9 ,1 0 0 ,1 ,1 0 ,1 0 0 ,2 ,3 ,1 0 0 ,2 ,4 ,1 0 0 ,2 ,5 ,1 0 0 ,2 ,6 ,1 0 0 ,2 ,7 ,1 0 0 ,2 ,8 ,1 0 0 ,2 ,9 ,1 0 0 ,2 ,1 0 ,1 0 0 ,3 ,3 ,1 0 0 ,3 ,4 ,1 0 0 ,3 ,5 ,1 0 0 ,3 ,6 ,1 0 0 ,3 ,7 ,1 0 0 ,3 ,8 ,1 0 0 ,3 ,9 ,1 0 0 ,3 ,1 0 ,1 0 0 ,4 ,4 ,1 0 0 ,4 ,5 ,1 0 0 ,4 ,6 ,1 0 0 ,4 ,7 ,1 0 0 ,4 ,8 ,1 0 0 ,4 ,9 ,1 0 0 ,4 ,1 0 ,1 0 0 ,5 ,5 ,1 0 0 ,5 ,6 ,1 0 0 ,5 ,7 ,1 0 0 ,5 ,8 ,1 0 0 ,5 ,9 ,1 0 0 ,5 ,1 0 ,1 0 0 ,6 ,6 ,1 0 0 ,6 ,7 ,1 0 0 ,6 ,8 ,1 0 0 ,6 ,9 ,1 0 0 ,7 ,7 ,1 0 0 ,7 ,8 ,1 0 1 ,0 ,5 ,1 0 1 ,0 ,6 ,1 0 1 ,0 ,7 ,1 0 1 ,0 ,8 ,1 0 1 ,0 ,9 ,1 0 1 ,0 ,1 0 ,1 0 1 ,1 ,4 ,1 0
/ 1 .0 0 .9 0 .8 0 .7 0 .6 0 .5 1.0 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 1.0 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 0 .3 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 0 .3 0 .2 0 .7 0 .6 0 .5 0 .4 0 .3 0 .2 0 .1 0 .5 0 .4 0 .3 0 .2 0 .1 0 .0 0 .3 0 .2 0 .1 0 .0 0 .1 0 .0 1.0 0.88889 0.77778 0.66667 0.55556 0.44444 1.00000
oy 0.16667 0.16330 0.15275 0.13333 0.10000 0.00000 0.19149 0.19436 0.19149 0.18257 0.16667 0.14142 0.10000 0.20276 0.21082 0.21344 0.21082 0.20276 0.18856 0.16667 0.13333 0.21602 0.22361 0.22608 0.22361 0.21602 0.20276 0.18257 0.15275 0.23094 0.23336 0.23094 0.22361 0.21082 0.19149 0.16330 0.23570 0.23336 0.22608 0.21344 0.19436 0.16667 0.23094 0.22361 0.21082 0.19149 0.21602 0.20276 0.18518 0.18186 0.17151 0.15270 0.12159 0.06172 0.21276
r-values 1 ,1 ,5 ,1 0 1 ,1 ,6 ,1 0 1 ,1 ,7 ,1 0 1 ,1 ,8 ,1 0 1 ,1 ,9 ,1 0 1 ,1 ,1 0 ,1 0 1 ,2 ,3 ,1 0 1 ,2 ,4 ,1 0 1 ,2 ,5 ,1 0 1 ,2 ,6 ,1 0 1 ,2 ,7 ,1 0 1 ,2 ,8 ,1 0 1 ,2 ,9 ,1 0 1 ,2 ,1 0 ,1 0 1 ,3 ,3 ,1 0 1 ,3 ,4 ,1 0 1 ,3 ,5 ,1 0 1 ,3 ,6 ,1 0 1 ,3 ,7 ,1 0 1 ,3 ,8 ,1 0 1 ,3 ,9 ,1 0 1 ,3 ,1 0 ,1 0 1 ,4 ,4 ,1 0 1 ,4 ,5 ,1 0 1 ,4 ,6 ,1 0 1 ,4 ,7 ,1 0 1 ,4 ,8 ,1 0 1 ,4 ,9 ,1 0 1 ,4 ,1 0 ,1 0 1 ,5 ,5 ,1 0 1 ,5 ,6 ,1 0 1 ,5 ,7 ,1 0 1 ,5 ,8 ,1 0 1 ,5 ,9 ,1 0 1 ,6 ,6 ,1 0 1 ,6 ,7 ,1 0 1 ,6 ,8 ,1 0 1 ,7 ,7 ,1 0 2 ,0 ,5 ,1 0 2 ,0 ,6 ,1 0 2 ,0 ,7 ,1 0 2 ,0 ,8 ,1 0 2 ,0 ,9 ,1 0 2 ,0 ,1 0 ,1 0 2 ,1 ,4 ,1 0 2 ,1 ,5 ,1 0 2 ,1 ,6 ,1 0 2 ,1 ,7 ,1 0 2 ,1 ,8 ,1 0 2 ,1 ,9 ,1 0 2 ,1 ,1 0 ,1 0 2 ,2 ,3 ,1 0 2 ,2 ,4 ,1 0 2 ,2 ,5 ,1 0 2 ,2 ,6 ,1 0
/
r-values
/
0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 1.00000 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.11111 0.66667 0.55556 0.44444 0.33333 0.22222 0.11111 0.00000 0.44444 0.33333 0.22222 0.11111 0.00000 0.22222 0.11111 0.00000 0.00000 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 1.00000 0.87500 0.75000 0.62500
2 ,2 ,7 ,1 0 2 ,2 ,8 ,1 0 2 ,2 ,9 ,1 0 2 ,2 ,1 0 ,1 0 2 ,3 ,3 ,1 0 2 ,3 ,4 ,1 0 2 ,3 ,5 ,1 0 2 ,3 ,6 ,1 0 2 ,3 ,7 ,1 0 2 ,3 ,8 ,1 0 2 ,3 ,9 ,1 0 2 ,3 ,1 0 ,1 0 2 ,4 ,4 ,1 0 2 ,4 ,5 ,1 0 2 ,4 ,6 ,1 0 2 ,4 ,7 ,1 0 2 ,4 ,8 ,1 0 2 ,4 ,9 ,1 0 2 ,5 ,5 ,1 0 2 ,5 ,6 ,1 0 2 ,5 ,7 ,1 0 2 ,5 ,8 ,1 0 2 ,6 ,6 ,1 0 2 ,6 ,7 ,1 0 3 ,0 ,5 ,1 0 3 ,0 ,6 ,1 0 3 ,0 ,7 ,1 0 3 ,0 ,8 ,1 0 3 ,0 ,9 ,1 0 3 ,0 ,1 0 ,1 0 3 ,1 ,4 ,1 0 3 ,1 ,5 ,1 0 3 ,1 ,6 ,1 0 3 ,1 ,7 ,1 0 3 ,1 ,8 ,1 0 3 ,1 ,9 ,1 0 3 ,1 ,1 0 ,1 0 3 ,2 ,3 ,1 0 3 ,2 ,4 ,1 0 3 ,2 ,5 ,1 0 3 ,2 ,6 ,1 0 3 ,2 ,7 ,1 0 3 ,2 ,8 ,1 0 • 3 ,2 ,9 ,1 0 3 ,2 ,1 0 ,1 0 3 ,3 ,3 ,1 0 3 ,3 ,4 ,1 0 3 ,3 ,5 ,1 0 3 ,3 ,6 ,1 0 3 ,3 ,7 ,1 0 3 ,3 ,8 ,1 0 3 ,3 ,9 ,1 0 3 ,4 ,4 ,1 0 3 ,4 ,5 ,1 0 3 ,4 ,6 ,1 0
0.50000 0.37500 0.25000 0.12500 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 0.12500 0.00000 0.62500 0.50000 0.37500 0.25000 0.12500 0.00000 0.37500 0.25000 0.12500 0.00000 0.12500 0.00000 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 0.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 0.00000 0.57143 0.42857 0.28571
0.21631 0.21419 0.20621 0.19166 0.16882 0.13354 0.22529 0.23457 0.23843 0.23715 0.23064 0.21842 0.19945 0.17151 0.24034 0.24968 0.25391 0.25331 0.24784 0.23715 0.22050 0.19637 0.25926 0.26392 0.26392 0.25926 0.24968 0.23457 0.21276 0.26907 0.26963 0.26565 0.25690 0.24287 0.27076 0.26736 0.25926 0.26450 0.20833 0.20465 0.19320 0.17237 0.10534 0.07365 0.23936 0.22902 0.24116 0.23246 0.21651 0.19151 0.17678 0.25345 0.26393 0.26842 0.26717
0.26021 0.24694 0.24296 0.22140 0.27043 0.28106 0.28603 0.28565 0.27990 0.28260 0.27081 0.25345 0.29204 0.29756 0.29789 0.30619 0.30117 0.29166 0.30369 0.31732 0.31799 0.31458 0.32340 0.32543 0.23809 0.23536 0.22695 0.21695 0.18962 0.15587 0.27355 0.27941 0.28057 0.28074 0.26877 0.25517 0.23536 0.28965 0.30278 0.31122 0.31857 0.31536 0.31122 0.30278 0.28965 0.31018 0.32546 0.33926 0.34291 0.34574 0.34480 0.34007 0.34588 0.35589 0.36488
257
CALCULATION OF MEDIAN-EFFECTIVE DOSE T A B L E I I .— Continued
r-values
/
oy
r-values
3 ,4 ,7 ,1 0 3 ,4 ,8 ,1 0 3 ,5 ,5 ,1 0 3 ,5 ,6 ,1 0 3 ,5 ,7 ,1 0 3 ,6 ,6 ,1 0 4 ,0 ,5 ,1 0 4 ,0 ,6 ,1 0 4 ,0 ,7 ,1 0 4 ,0 ,8 ,1 0 4 ,0 ,9 ,1 0 4 ,0 ,1 0 ,1 0 4 ,1 ,4 ,1 0 4 ,1 ,5 ,1 0 4 ,1 ,6 ,1 0 4 , 1 , 7 , K) 4 ,1 ,8 ,1 0 4 ,1 ,9 ,1 0 4 ,1 ,1 0 ,1 0 4 ,2 ,3 ,1 0 4 ,2 ,4 ,1 0 4 ,2 ,5 ,1 0 4 ,2 ,6 ,1 0 4 ,2 ,7 ,1 0 4 ,2 ,8 ,1 0 4 ,2 ,9 ,1 0 4 ,3 ,3 ,1 0 4 ,3 ,4 ,1 0 4 ,3 ,5 ,1 0 4 ,3 ,6 ,1 0 4 ,3 ,7 ,1 0 4 ,3 ,8 ,1 0 4 ,4 ,4 ,1 0 4 ,4 ,5 ,1 0 4 ,4 ,6 ,1 0 4 ,4 ,7 ,1 0 4 ,5 ,5 ,1 0 4 ,5 ,6 ,1 0 5 ,0 ,5 ,1 0 5 ,0 ,6 ,1 0 5 ,0 ,7 ,1 0 5 ,0 ,8 ,1 0 5 ,0 ,9 ,1 0 5 ,0 ,1 0 ,1 0 5 ,1 ,4 ,1 0 5 ,1 ,5 ,1 0 5 ,1 ,6 ,1 0 5 ,1 ,7 ,1 0 5 ,1 ,8 ,1 0 5 ,1 ,9 ,1 0 5 ,2 ,3 ,1 0 5 ,2 ,4 ,1 0 5 ,2 ,5 ,1 0 5 ,2 ,6 ,1 0 5 ,2 ,7 ,1 0 5 ,2 ,8 ,1 0 5 ,3 ,3 ,1 0
0.14286 0.00000 0.28571 0.14286 0.00000 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 0.50000 0.33333 0.16667 0.00000 0.16667 0.00000 1.00000 0.80000 0.60000 0.40000 0.20000 0.00000 1.00000 0.80000 0.60000 0.40000 0.20000 0.00000 1.00000 0.80000 0.60000 0.40000 0.20000 0.00000 0.80000
0.37017 0.37192 0.37104 0.38223 0.38978 0.39555 0.27778 0.27592 0.27027 0.26058 0.24637 0.22680 0.31914 0.32710 0.33178 0.33333 0.33178 0.32710 0.31914 0.33793 0.35428 0.36711 0.37679 0.38356 0.38756 0.38889 0.36289 0.38356 0.40062 0.41450 0.42552 0.43390 0.48025 0.42913 0.44675 0.46148 0.45361 0.47466 0.33333 0.33333 0.33333 0.33333 0.33333 0.33333 0.38297 0.39440 0.40552 0.41633 0.42687 0.43716 0.40552 0.42688 0.44721 0.46667 0.48534 0.50332 0.43716
5 ,3 ,4 ,1 0 5 ,3 ,5 ,1 0 5 ,3 ,6 ,1 0 5 ,3 ,7 ,1 0 5 ,4 ,4 ,1 0 5 ,4 ,5 ,1 0 5 ,4 ,6 ,1 0 5 ,5 ,5 ,1 0 6 ,0 ,5 ,1 0 6 ,0 ,6 ,1 0 6 ,0 ,7 ,1 0 6 ,0 ,8 ,1 0 6 ,0 ,9 ,1 0 6 ,1 ,4 ,1 0 6 ,1 ,5 ,1 0 6 ,1 ,6 ,1 0 6 ,1 ,7 ,1 0 6 ,1 ,8 ,1 0 6 ,2 ,3 ,1 0 6 ,2 ,4 ,1 0 6 ,2 ,5 ,1 0 6 ,2 ,6 ,1 0 6 ,2 ,7 ,1 0 6 ,3 ,3 ,1 0 6 ,3 ,4 ,1 0 6 ,3 ,5 ,1 0 6 ,3 ,6 ,1 0 6 ,4 ,4 ,1 0 6 ,4 ,5 ,1 0 7 ,0 ,5 ,1 0 7 ,0 ,6 ,1 0 7 ,0 ,7 ,1 0 7 ,0 ,8 ,1 0 7 ,1 ,4 ,1 0 7 ,1 ,5 ,1 0 7 ,1 ,6 ,1 0 7 ,1 ,7 ,1 0 7 ,2 ,3 ,1 0 7 ,2 ,4 ,1 0 7 ,2 ,5 ,1 0 7 ,2 ,6 ,1 0 7 ,3 ,3 ,1 0 7 ,3 ,4 ,1 0 7 ,3 ,5 ,1 0 7 ,4 ,4 ,1 0 8 ,0 ,5 ,1 0 8 ,0 ,6 ,1 0 8 ,0 ,7 ,1 0 8 ,1 ,4 ,1 0 8 ,1 ,5 ,1 0 8 ,1 ,6 ,1 0 8 ,2 ,3 ,1 0 8 ,2 ,4 ,1 0 8 ,2 ,5 ,1 0 8 ,3 ,3 ,1 0 8 ,3 ,4 ,1 0 9 ,0 ,5 ,1 0
/ 0.46667 0.60000 0.48990 0.40000 0.20000 . 0.52068 0.54569 0.00000 0.49889 0.40000 0.53748 0.20000 0.56960 0.00000 0.57735 0.00000 0.41667 1.00000 0.45644 0.75000 0.43301 0.50000 0.45262 0.25000 0.00000 0.47871 1.00000 0.47871 0.52705 0.75000 0.52042 0.50000 0.54962 0.25000 0.58333 0.00000 0.50690 1.00000 0.56519 0.75000 0.57130 0.50000 0.60953 0.25000 0.65085 0.00000 0.57735 0.75000 0.59512 0.50000 0.64280 0.25000 0.69222 0.00000 0.65352 0.25000 0.71200 0.00000 0.55556 1.00000 0.57013 0.66667 0.61195 0.33333 0.67586 0.00000 0.63828 1.00000 0.66975 0.66667 0.72293 0.33333 0.00000 0.79349 0.67586 1.00000 0.72293 0.66667 0.78829 0.33333 0.86780 0.00000 0.66667 0.73981 0.33333 0.81901 0.90948 0.00000 0.92296 0.00000 0.83333 1.00000 0.88192 0.50000 1.01379 0.00000 0.95743 1.00000 0.50000 1.02740 1.16667 0.00000 1.00000 1.01379 1.10554 0.50000 0.00000 1.25830 1.13039 0.50000 0.00000 1.30171 1.66667 1.00000
r-values
/
<jf
9 ,0 ,6 ,1 0 9 ,1 ,4 ,1 0 9 ,1 ,5 ,1 0 9 ,2 ,3 ,1 0 9 ,2 ,4 ,1 0 9 ,3 ,3 ,1 0 0 ,0 ,6 ,9 0 ,0 ,7 ,9 0 ,0 ,8 ,9 0 ,0 ,9 ,9 0 ,0 ,1 0 ,9 0 ,1 ,5 ,9 0 ,1 ,6 ,9 0 ,1 ,7 ,9 0 ,1 ,8 ,9 0 ,1 ,9 ,9 0 ,1 ,1 0 ,9 0 ,2 ,4 ,9 0 ,2 ,5 ,9 0 ,2 ,6 ,9 0 ,2 ,7 ,9 0 ,2 ,8 ,9 0 ,2 ,9 ,9 0 ,2 ,1 0 ,9 0 ,3 ,3 ,9 0 ,3 ,4 ,9 0 ,3 ,5 ,9 0 ,3 ,6 ,9 0 ,3 ,7 ,9 0 ,3 ,8 ,9 0 ,3 ,9 ,9 0 ,3 ,1 0 ,9 0 ,4 ,4 ,9 0 ,4 ,5 ,9 0 ,4 ,6 ,9 0 ,4 ,7 ,9 0 ,4 ,8 ,9 0 ,4 ,9 ,9 0 ,4 ,1 0 ,9 0 ,5 ,5 ,9 0 ,5 ,6 ,9 0 ,5 ,7 ,9 0 ,5 ,8 ,9 0 ,5 ,9 ,9 0 ,5 ,1 0 ,9 0 ,6 ,6 ,9 0 ,6 ,7 ,9 0 ,6 ,8 ,9 0 ,6 ,9 ,9 0 ,7 ,7 ,9 0 ,7 ,8 ,9 1 ,0 ,6 ,9 1 ,0 ,7 ,9 1 ,0 ,8 ,9 1 ,0 ,9 ,9 1 ,0 ,1 0 ,9 1 ,1 ,5 ,9
0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 0.88889 0.77778 0.66667 0.55556 1.00000 0.88889 0.77778 0.66667 0.55555 0.44444 1.00000 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 1.00000 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.11111 0.55556 0.44444 0.33333 0.22222 0.11111 0.00000 0.33333 0.22222 0.11111 0.00000 0.11111 0.00000 1.00000 0.87500 0.75000 0.62500 0.50000 1.00000
1.77951 1.77951 2.18581 2.02759 2.33333 2.38048 0.21276 0.19637 0.17151 0.13354 0.06172 0.24287 0.23457 0.22050 0.19945 0.16882 0.12159 0.25926 0.25690 0.24968 0.23715 0.21842 0.19166 0.15270 0.26450 0.26736 0.26565 0.25926 0.24784 0.23064 0.20621 0.17151 0.27076 0.26963 0.26392 0.25331 0.23715 0.21419 0.18186 0.26907 0.26392 0.25391 0.23843 0.21631 0.18518 0.25926 0.24968 0.23457 0.21276 0.24034 0.22529 0.23936 0.22060 0.19376 0.15468 0.08838 0.27323
BIOMETRICS, SEPTEMBER 1952
258
TABLE II .— Continued
r-values
/
r-values
/
<jf
r-values
f
1 ,1 ,6 ,9 1 ,1 ,7 ,9 1 ,1 ,8 ,9 1 ,1 ,9 ,9 1 ,1 ,1 0 ,9 1 ,2 ,4 ,9 1 ,2 ,5 ,9 1 ,2 ,6 ,9 1 ,2 ,7 ,9 1 ,2 ,8 ,9 1 ,2 ,9 ,9 1 ,2 ,1 0 ,9 1 ,3 ,3 ,9 1 ,3 ,4 ,9 1 ,3 ,5 ,9 1 ,3 ,6 ,9 1 ,3 ,7 ,9 1 ,3 ,8 ,9 1 ,3 ,9 ,9 1 ,3 ,1 0 ,9 1 ,4 ,4 ,9 1 ,4 ,5 ,9 1 ,4 ,6 ,9 1 ,4 ,7 ,9 1 ,4 ,8 ,9 1 ,4 ,9 ,9 1 ,4 ,1 0 ,9 1 ,5 ,5 ,9 1 ,5 ,6 ,9 1 ,5 ,7 ,9 1 ,5 ,8 ,9 1 ,5 ,9 ,9 1 ,6 ,6 ,9 1 ,6 ,7 ,9 1 ,6 ,8 ,9 1 ,7 ,7 ,9 2 ,0 ,6 ,9 2 ,0 ,7 ,9 2 ,0 ,8 ,9 2 ,0 ,9 ,9 2 ,0 ,1 0 ,9 2 ,1 ,5 ,9 2 ,1 ,6 ,9 2 ,1 ,7 ,9 2 ,1 ,8 ,9 2 ,1 ,9 ,9 2 ,1 ,1 0 ,9 2 ,2 ,4 ,9 2 ,2 ,5 ,9 2 ,2 ,6 ,9 2 ,2 ,7 ,9 2 ,2 ,8 ,9 2 ,2 ,9 ,9 2 ,2 ,1 0 ,9 2 ,3 ,3 ,9 2 ,3 ,4 ,9 2 ,3 ,5 ,9
0.87500 0.75000 0.62500 0.50000 0.37500 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 0.12500 0.75000 0.62500 0.50000 0.37500 0.25000 0.12500 0.00000 0.50000 0.37500 0.25000 0.12500 0.00000 0.25000 0.12500 0.00000 0.00000 1.00000 0.85714 0.71429 0.57143 0.42857 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 1.00000 0.85714 0.71429
0.26363 0.24869 0.22738 0.19766 0.15468 0.29167 0.28877 0.28144 0.26933 0.25173 0.22738 0.19376 0.29756 0.30055 0.29938 0.29398 0.28413 0.26933 0.24869 0.22060 0.30512 0.30557 0.30190 0.29398 0.28144 0.26363 0.23936 0.30760 0.30557 0.29938 0.28877 0.27323 0.30512 0.30055 0.29167 0.29756 0.27355 0.25170 0.22283 0.18786 0.12834 0.31226 0.30094 0.28531 0.26753 0.23934 0.20146 0.33333 0.32970 0.32261 0.31430 0.29838 0.27725 0.25170 0.34007 0.34318 0.34305
2 ,3 ,6 ,9 2 ,3 ,7 ,9 2 ,3 ,8 ,9 2 ,3 ,9 ,9 2 ,3 ,1 0 ,9 2 ,4 ,4 ,9 2 ,4 ,5 ,9 2 ,4 ,6 ,9 2 ,4 ,7 ,9 2 ,4 ,8 ,9 2 ,4 ,9 ,9 2 ,5 ,5 ,9 2 ,5 ,6 ,9 2 ,5 ,7 ,9 2 ,5 ,8 ,9 2 ,6 ,6 ,9 2 ,6 ,7 ,9 3 ,0 ,6 ,9 3 ,0 ,7 ,9 3 ,0 ,8 ,9 3 ,0 ,9 ,9 3 ,0 ,1 0 ,9 3 ,1 ,5 ,9 3 ,1 ,6 ,9 3 ,1 ,7 ,9 3 ,1 ,8 ,9 3 ,1 ,9 ,9 3 ,1 ,1 0 ,9 3 ,2 ,4 ,9 3 ,2 ,5 ,9 3 ,2 ,6 ,9 3 ,2 ,7 ,9 3 ,2 ,8 ,9 3 ,2 ,9 ,9 3 ,2 ,1 0 ,9 3 ,3 ,3 ,9 3 ,3 ,4 ,9 3 ,3 ,5 ,9 3 ,3 ,6 ,9 3 ,3 ,7 ,9 3 ,3 ,8 ,9 3 ,3 ,9 ,9 3 ,4 ,4 ,9 3 ,4 ,5 ,9 3 ,4 ,6 ,9 3 ,4 ,7 ,9 3 ,4 ,8 ,9 3 ,5 ,5 ,9 3 ,5 ,6 ,9 3 ,5 ,7 ,9 3 ,6 ,6 ,9 4 ,0 ,6 ,9 4 ,0 ,7 ,9 4 ,0 ,8 ,9 4 ,0 ,9 ,9 4 ,0 ,1 0 ,9 4 ,1 ,5 ,9
0.57143 0.42857 0.28571 0.14286 0.00000 0.71429 0.57143 0.42857 0.28571 0.14286 0.00000 0.42857 0.28571 0.14286 0.00000 0.14286 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 0.66667 0.50000 0.33333 0.16667 0.00000 0.33333 0.16667 0.00000 0.00000 1.00 0 .8 0 0 .60 0 .4 0 0 .2 0 1.00
0.34194 0.33423 0.32261 0.30838 0.28966 0.34960 0.35496 0.35400 0.34960 0.34318 0.33333 0.36034 0.36234 0.36246 0.35952 0.36867 0.37192 0.31914 0.29310 0.26254 0.22567 0.18703 0.36430 0.35000 0.33487 0.31672 0.30089 0.26692 0.38889 0.38423 0.37816 0.37060 0.36571 0.34731 0.33793 0.39674 0.39997 0.40190 0.40254 0.40572 0.39707 0.35573 0.40965 0.41759 0.42793 0.42703 0.39674 0.43509 0.44125 0.41944 0.42673 0.38297 0.35100 0.32028 0.29120 0.26432 0.43716
4 ,1 ,6 ,9 4 ,1 ,7 ,9 4 ,1 ,8 ,9 4 ,1 ,9 ,9 4 ,1 ,1 0 ,9 4 ,2 ,4 ,9 4 ,2 ,5 ,9 4 ,2 ,6 ,9 4 ,2 ,7 ,9 4 ,2 ,8 ,9 4 ,2 ,9 ,9 4 ,3 ,3 ,9 4 ,3 ,4 ,9 4 ,3 ,5 ,9 4 ,3 ,6 ,9 4 ,3 ,7 ,9 4 ,3 ,8 ,9 4 ,4 ,4 ,9 4 ,4 ,5 ,9 4 ,4 ,6 ,9 4 ,4 ,7 ,9 4 ,5 ,5 ,9 4 ,5 ,6 ,9 5 ,0 ,6 ,9 5 ,0 ,7 ,9 5 ,0 ,8 ,9 5 ,0 ,9 ,9 5 ,0 ,1 0 ,9 5 ,1 ,5 ,9 5 ,1 ,6 ,9 5 ,1 ,7 ,9 5 ,1 ,8 ,9 5 ,1 ,9 ,9 5 ,2 ,4 ,9 5 ,2 ,5 ,9 5 ,2 ,6 ,9 5 ,2 ,7 ,9 5 ,2 ,8 ,9 5 ,3 ,3 ,9 5 ,3 ,4 ,9 5 ,3 ,5 ,9 5 ,3 ,6 ,9 5 ,3 ,7 ,9 5 ,4 ,4 ,9 5 ,4 ,5 ,9 5 ,4 ,6 ,9 5 ,5 ,5 ,9 6 ,0 ,6 ,9 6 ,0 ,7 ,9 6 ,0 ,8 ,9 6 ,0 ,9 ,9 6 ,1 ,5 ,9 6 ,1 ,6 ,9 6 ,1 ,7 ,9 6 ,1 ,8 ,9 6 ,2 ,4 ,9 6 ,2 ,5 ,9
0 .80 0 .6 0 0 .40 0 .2 0 0 .00 1.00 0 .8 0 0 .60 0 .4 0 0 .2 0 0 .00 1.00 0 .80 0 .6 0 0 .4 0 0 .2 0 0 .0 0 0 .6 0 0 .4 0 0 .20 0 .00 0 .20 0 .0 0 1.00 0 .7 5 0 .5 0 0 .2 5 0 .0 0 1.00 0 .7 5 0 .50 0.25000 0.00000 1.00000 0.75000 0.50000 0.25000 0.00000 1.00000 0.75000 0.50000 0.25000 0.00000 0.50000 0.25000 0.00000 0.00000 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667
0.42016 0.40596 0.39486 0.38713 0.38297 0.46667 0.46053 0.45743 0.45743 0.46053 0.46667 0.47610 0.47944 0.48571 0.49477 0.50649 0.52068 0.49477 0.51242 0.53216 0.55377 0.54045 0.56960 0.47871 0.43800 0.41248 0.40505 0.41667 0.54645 0.52457 0.51707 0.52457 0.54645 0.58333 0.57509 0.58035 0.59875 0.62915 0.59512 0.59875 0.61520 0.64348 0.68211 0.62639 0.66471 0.71200 0.72169 0.63828 0.58443 0.58443 0.63828 0.72860 0.69979 0.71722 0.77778 0.77778 0.76712
259
CALCULATION OF MEDIAN-EFFECTIVE DOSE T A B L E I I .— Continued
r-va lu e s
/
r-valu es
/
6 , 2 , 6 ,9 6 , 2 , 7 ,9 6 , 3 , 3 ,9 6 , 3 , 4 ,9 6 , 3 , 5 ,9 6 , 3 , 6 ,9 6 , 4 , 4 ,9 6 , 4 , 5 ,9 7 , 0 , 6 ,9 7 , 0 , 7 ,9 7 , 0 , 8 ,9 7 , 1 , 5 ,9 7 , 1 , 6 ,9 7 , 1 , 7 ,9 7 , 2 , 4 ,9 7 , 2 , 5 ,9 7 , 2 , 6 ,9 7 , 3 , 3 ,9 7 , 3 , 4 ,9 7 , 3 , 5 ,9 7 , 4 , 4 ,9 8 , 0 J 6 ,9 8 , 0 , 7 ,9 8 , 1 , 5 ,9 8 , 1 , 6 ,9 8 , 2 , 4 ,9
0 .3 3 3 3 3 0 .0 0 0 0 0 1 .0 0 00 0 0 .6 6 6 6 7 0 .3 3 3 3 3 0 .0 0 0 0 0 0 .3 3 3 3 3 0 .0 0 0 0 0 1 .0 0 00 0 0 .5 0 0 0 0 0 .0 0 0 0 0 1 .0 0 0 .5 0 0 .0 0 1 .0 0 0 .5 0 0 .0 0 1 .0 0 0 .5 0 0 .0 0 0 .0 0 1 .0 0 0 .0 0 1 .0 0 0 .0 0 1 .0 0
0 .7 9 8 6 6 0 .7 9 3 4 9 0 .7 9 3 4 9 0 .7 9 8 6 6 0 .8 4 3 7 6 0 .8 5 3 4 6 0 .8 5 8 2 7 0 .8 8 1 9 2 0 .95743 0 .8 8 9 7 6 1 .0 1 37 9 1.0 9 29 1 1 .0 6 06 6 1 .1 0 9 2 4 1 .1 6 6 6 7 1 .1 6 07 0 1 .30171 1 .1 9 02 4 1 .20761 1 .3 6 42 2 1 .3 8 44 4 1 .77951 2 .0 2 7 5 9 2 .1 8 58 1 2 .3 3 3 3 3 2 .3 3 3 3 3
0 , 4 , 1 0 ,8 0 , 5 , 5 ,8 0 , 5 , 6 ,8 0 , 5 , 7 ,8 0 , 5 , 8 ,8 0 , 5 , 9 ,8 0 , 5 , 1 0 ,8 0 , 6 , 6 ,8 0 , 6 , 7 ,8 0 , 6 , 8 ,8 0 , 6 , 9 ,8 0 , 7 , 7 ,8 0 , 7 , 8 ,8 1 , 0 , 7 ,8 1 , 0 , 8 ,8 1 , 0 , 9 ,8 1 , 0 , 1 0 ,8
0 .1 2 5 0 .6 2 5 0 .5 0 0 0 .3 7 5 0 .2 5 0 0 .1 2 5 0 .0 0 0 0 .3 7 5 0 .2 5 0 0 .1 2 5 0 .0 0 0 0 .1 2 5 0 .0 0 0 1 .0 0 0 0 0 0 .8 5 7 1 4 0 .7 1 4 2 9 0 .5 7 1 4 3 1 .0 0 0 0 0 0 .5 8 7 1 4 0 .7 1 4 2 9 0 .5 7 1 4 3 0 .4 2 8 5 7 1 .0 0 00 0 0 .5 8 7 1 4 0 .7 1 4 2 9 0 .5 7 1 4 3
0 .2 0 4 6 5 0 .3 0 3 6 9 0 .2 9 7 5 6 0 .2 8 6 0 3 0 .2 6 8 4 2 0 .2 2 9 0 2 0 .2 0 8 3 3 0 .2 9 2 0 4 0 .2 8 1 0 6 0 .2 6 3 9 3 0 .2 3 9 3 6 0 .2 7 0 4 3 0 .2 5 3 4 5 0 .2 8 9 6 6 0 .2 5 1 7 0 0 .2 0 1 4 6 0 .1 2 8 3 4 0 .3 3 3 3 3 0 .3 0 8 3 8 0 .2 7 7 2 5 0 .2 3 9 3 4 0 .1 8 7 8 6 0 .3 5 9 5 2 0 .3 4 3 1 8 0 .3 2 2 6 1 0 .2 9 8 3 9
0 .6 6 6 6 7 2 , 1 , 8 ,8 0 .5 0 0 0 0 2 , 1 , 9 ,8 0 .3 3 3 3 3 2 , 1, 1 0 ,8 1 .0 0 00 0 2 , 2 , 5 ,8 0 .8 3 3 3 3 2 , 2 , 6 ,8 0 .6 6 6 6 7 2', 2 , 7 ,8 0 .5 0 0 0 0 2 , 2 , 8 ,8 0 .3 3 3 3 3 2 , 2 , 9 ,8 2 , 2 , 1 0 ,8 0 .1 6 6 6 7 1.0 0 00 0 2 , 3 , 4 ,8 0 .8 3 3 3 3 2 , 3 , 5 ,8 0 .6 6 6 6 7 2 , 3 , 6 ,8 0 .5 0 0 0 0 2 , 3 , 7 ,8 0 .3 3 3 3 3 2 , 3 , 8 ,8 0 .1 6 6 6 7 2 , 3 , 9 ,8 0 .0 0 0 0 0 2 , 3 , 1 0 ,8 0 .8 3 3 3 3 2 , 4 , 4 ,8 2 , 4 , 5 ,8 ' 0 .6 6 6 6 7 0 .5 0 0 0 0 2 , 4 , 6 ,8 0 .3 3 3 3 3 2 , 4 , 7 ,8 0 .1 6 6 6 7 2 , 4 , 8 ,8 0 .0 0 0 0 0 2 , 4 , 9 ,8 0 .5 0 0 0 0 2 , 5 , 5 ,8 0 .3 3 3 3 3 2 , 5 , 6 ,8 0 .1 6 6 6 7 2 , 5 , 7 ,8 0.00000 2 , 5 , 8 ,8
8 ,2 ,5 ,9 8 ,3 ,3 ,9 8 ,3 ,4 ,9 0 ,0 ,7 ,8 0 ,0 ,8 ,8 0 ,0 ,9 ,8 0 ,0 ,1 0 ,8 0 ,1 ,6 ,8 0 ,1 ,7 ,8 0 ,1 ,8 ,8 0 ,1 ,9 ,8 0 ,1 ,1 0 ,8 0 ,2 ,5 ,8 0 ,2 ,6 ,8 0 ,2 ,7 ,8 0 ,2 ,8 ,8 0 ,2 ,9 ,8 0 ,2 ,1 0 ,8 0 ,3 ,4 ,8 0 ,3 ,5 ,8 0 ,3 ,6 ,8 0 ,3 ,7 ,8 0 ,3 ,8 ,8 0 ,3 ,9 ,8 0 ,3 ,1 0 ,8 0 ,4 ,4 ,8 0 ,4 ,5 ,8 0 ,4 ,6 ,8 0 ,4 ,7 ,8 0 ,4 ,8 ,8 0 ,4 ,9 ,8
0 .00 1.00 0 .00 1.000 0.875 0.750 0.625 1.000 0.875 0.750 0.625 0.500 1.000 0.875 0.750 0.625 0.500 0.375
2.51661 2.38048 2.60342 0.25345 0.22140 0.17678 0.07365 0.29166 0.27081 0.24296 0.19151 0.10534 0.31458 0.30117 0.28260 0.24694 0.21651 0.17237 0.32543 0.31799 0.30619 0.27990 0.26021 0.23246 0.19320 0.32340 0.31732 0.29789 0.28565 0.26717 0.24116
1 ,2 ,9 ,8 1 ,2 ,1 0 ,8 1 ,3 ,4 ,8 1 ,3 ,5 ,8 1 ,3 ,6 ,8 1 ,3 ,7 ,8 1 ,3 ,8 ,8 1 ,3 ,9 ,8 1 ,3 ,1 0 ,8 1 ,4 ,4 ,8 1 ,4 ,5 ,8 1 ,4 ,6 ,8 1 ,4 ,7 ,8 1 ,4 ,8 ,8 1 ,4 ,9 ,8 1 ,4 ,1 0 ,8 1 ,5 ,5 ,8 1 ,5 ,6 ,8 1 ,5 ,7 ,8 1 ,5 ,8 ,8 1 ,5 ,9 ,8 1 ,6 ,6 ,8 1 ,6 ,7 ,8 1 ,6 ,8 ,8 1 ,7 ,7 ,8 2 ,0 ,7 ,8 2 ,0 ,8 ,8 2 ,0 ,9 ,8 2 ,0 ,1 0 ,8 2 ,1 ,6 ,8 2 ,1 ,7 ,8
0.42857 0.28571 1.00000 0.58714 0.71429 0.57143 0.42857 0.28571 0.14286 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286
0.26753 0.22283 0.37192 0.36246 0.34960 0.33423 0.31430 0.28531 0.25170 0.36867 0.36234 0.35400 0.34194 0.32261 0.30094 0.27355 0.26034 0.35496 0.34305 0.32970 0.31226 0.34960 0.34318 0.33333 0.34007 0.33793 0.29163 0.23497 0.15713 0.38888 0.35813
2 ,6 ,6 ,8 2 ,6 ,7 ,8 3 ,0 ,7 ,8 3 ,0 ,8 ,8 3 ,0 ,9 ,8 3 ,0 ,1 0 ,8 3 ,1 ,6 ,8 3 ,1 ,7 ,8 3 ,1 ,8 ,8 3 ,1 ,9 ,8 3 ,1 ,1 0 ,8 3 ,2 ,5 , 8 3 ,2 ,6 ,8 3 ,2 ,7 ,8 3 ,2 ,8 ,8 3 ,2 ,9 ,8 3 ,2 ,1 0 ,8 3 ,3 ,4 ,8 3 ,3 ,5 ,8 3 ,3 ,6 ,8 3 ,3 ,7 ,8 3 ,3 ,8 ,8 3 ,3 ,9 ,8 3 ,4 ,4 ,8 3 ,4 ,5 ,8 3 ,4 ,6 ,8 3 ,4 ,7 ,8 3 ,4 ,8 ,8 3 ,5 ,5 ,8 3 ,5 ,6 ,8 3 ,5 ,7 ,8
r-valu es
1 .0 0 0
0.875 0.750 0.625 0,500 0.375 0.250 0.875 0.750 0.625 0.500 0.375 0.250
1 , 1 , 6 ,8 1 , 1 , 7 ,8 1 , 1 , 8 ,8 1 , 1 , 9 ,8 1 , 1 , 1 0 ,8 1 , 2 , 5 ,8 1 , 2 , 6 ,8 1 , 2 , 7 ,8 1 , 2 , 8 ,8
0 .0 0 0 0 0
0.57143 0.42857 0.28571 0.14286 0 .0 0 0 0 0
0.28571 0.14286 0 .0 0 0 0 0 0 .0 0 0 0 0 1 .0 0 0 0 0
0.83333 0.66667 0.50000 1 .0 0 0 0 0
0.83333
/
0.16667 0.00000 1.00000 0.80000 0.60000 0.40000 1.00000 0.80000 0.60000 0.40000 0.20000 1.00000 0.80000 0.60000 0.40000 0.20000 0 .0 0 0 0 0 1 .0 0 00 0
0.80000 0.60000 0.40000 0.20000 0 .0 0 0 0 0
0.80000 0 60000 0.40000 0.20000 0 .0 0 0 0 0
0.40000 0 .2 0 0 0 0 0 .0 0 0 0 0
0 .3 2 34 1 0 .2 8 3 2 8 0 .2 3 4 9 7 0 .4 1 9 4 4 0 .3 9 8 9 0 0 .3 7 6 3 4 0 .3 5 1 3 6 0 .3 2 3 4 1 0 .2 9 1 6 3 0 .4 3 3 9 0 0 .4 2 1 7 4 0 .4 0 7 8 3 0 .4 0 0 6 2 0 .3 7 6 3 4 0 .3 5 8 1 3 0 .3 3 7 9 3 0 .4 2 7 8 3 0 .4 2 2 6 9 0 .4 3 0 3 3 0 .4 0 7 8 3 0 .3 9 8 9 0 0 .3 8 8 8 8 0 .4 4 4 4 5 0 .4 2 2 6 9 0 .4 2 1 4 7
0.41944 0.42873 0.43390 0.40552 0.34692 0.28378 0.21208 0.46667 0.42729 0.38941 0.35352 0.32028 0.50332 0.47647 0.45274 0.43267 0.41676 0.40552 0.52068 0.50368 0.49044 0.48129 0.47647 0.47610 0.51242 0.50824 0.50824 0.51242 0.52068 0.51691 0.52949 0.54569
260
BIOMETRICS, SEPTEMBER 1952 TABLE II .— Continued
r-values
/
3 ,6 ,6 ,8 4 ,0 ,7 ,8 4 ,0 ,8 ,8 4 ,0 ,9 ,8 4 ,0 ,1 0 ,8 4 ,1 ,6 ,8 4 ,1 ,7 ,8 4 ,1 ,8 ,8 4 ,1 ,9 ,8 4 ,1 ,1 0 ,8 4 ,2 ,5 ,8 4 ,2 ,6 ,8 4 ,2 ,7 ,8 4 ,2 ,8 ,8 4 ,2 ,9 ,8 4 ,3 ,4 ,8 4 ,3 ,5 ,8 4 ,3 ,6 ,8 4 ,3 ,7 ,8 4 ,3 ,8 ,8 4 ,4 ,4 ,8 4 ,4 ,5 ,8 4 ,4 ,6 ,8 4 ,4 ,7 ,8 4 ,5 ,5 ,8 4 ,5 ,6 ,8 5 ,0 ,7 ,8 5 ,0 ,8 ,8 5 ,0 ,9 ,8 5 ,0 ,1 0 ,8 5 ,1 ,6 ,8 5 ,1 ,7 ,8 5 ,1 ,8 ,8 5 ,1 ,9 ,8 5 ,2 ,5 ,8 5 ,2 ,6 ,8 5 ,2 ,7 ,8 5 ,2 ,8 ,8 5 ,3 ,4 ,8 5 ,3 ,5 ,8 5 ,3 ,6 ,8 5 ,3 ,7 ,8 5 ,4 ,4 ,8 5 ,4 ,5 ,8 5 ,4 ,6 ,8 5, 5 , 5 , 8 6 ,0 ,7 ,8 6 ,0 ,8 ,8 6 ,0 ,9 ,8 6 ,1 .6 ,8 6 ,1 ,7 ,8 6 ,1 ,8 ,8 6 ,2 ,5 ,8 6 ,2 ,6 ,8 6 ,2 ,7 ,8 6 ,3 ,4 ,8 6 ,3 ,5 ,8
0.00000 1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.75000 0.50000 0.25000
0.00000 0.25000
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.66667 0 33333
0.00000 0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.55377 0.50690 0.42898 0.36324 0.31732 0.58333 0.53033 0.49301 0.47507 0.47871 0.62915 0.59219 0.57130 0.56826 0.58333 0.65085 0.62639 0.61802 0.62639 0.65085 0.63191 0.64010 0.66926 0.69222 0.68971 0.71200 0.67586 0.56534 0.51984 0.55556 0.77778 0.70175 0.68393 0.72860 0.83887 0.78480 0.78480 0.83887 0.86780 0.83065 0.84539 0.90948 0.84539 0.87410 0.94933 0.96225 1.01379 0.84984 0.95743 1.16667 1.05409 1.16667 1.25830 1.17851 1.30171 1.30171 1.24722
r-values
/
*/
r-values
/
6 ,3 ,6 ,8 6 ,4 ,4 ,8 6 ,4 ,5 ,8 7 ,0 ,7 ,8 7 ,0 ,8 ,8 7 ,1 ,6 ,8 7 ,1 ,7 ,8 7 ,2 ,5 ,8 7 ,2 ,6 ,8 7 ,3 ,4 ,8 7 ,3 ,5 ,8 7 ,4 ,4 ,8 0 ,0 ,8 ,7 0 ,0 ,9 ,7 0 ,0 ,1 0 ,7 0 ,1 ,7 ,7 0 ,1 ,8 ,7 0 ,1 ,9 ,7 0 ,1 ,1 0 ,7 0 ,2 ,6 ,7 0 ,2 ,7 ,7 0 ,2 ,8 ,7 0 ,2 ,9 ,7 0 ,2 ,1 0 ,7 0 ,3 ,5 ,7 0 ,3 ,6 ,7 0 ,3 ,7 ,7 0 ,3 ,8 ,7 0 ,3 ,9 ,7 0 ,3 ,1 0 ,7 0 ,4 ,4 ,7 0 ,4 ,5 ,7 0 ,4 ,6 ,7 0 ,4 ,7 ,7 0 ,4 ,8 ,7 0 ,4 ,9 ,7 0 ,4 ,1 0 ,7 0 ,5 ,5 ,7 0 ,5 ,6 ,7 0 ,5 ,7 ,7 0 ,5 ,8 ,7 0 ,5 ,9 ,7 0 ,5 ,1 0 ,7 0 ,6 ,6 ,7 0 ,6 ,7 ,7 0 ,6 ,8 ,7 0 ,6 ,9 ,7 0 ,7 ,7 ,7 0 ,7 ,8 ,7 1 ,0 ,8 ,7 1 ,0 ,9 ,7 1 ,0 ,1 0 ,7 1 ,1 ,7 ,7 1 ,1 ,8 ,7 1 ,1 ,9 ,7 1 ,1 ,1 0 ,7 1 ,2 ,6 ,7
0.00000
1.38444 1.26930 1.42400 2.02759 2.02759 2.33333 2.38048 2.51661 2.60342 2.60342 2.72845 2.76887 0.28965 0.23536 0.15587 0.34007 0.30278 0.25517 0.18962 0.37192 0.34480 0.31122 0.26877 0.21695 0.38978 0.37017 0.34574 0.31536 0.28074 0.22695 0.39555 0.38223 0.36488 0.34291 0.31857 0.28057 0.23536 0.37104 0.35589 0.33927 0.31122 0.37941 0.23809 0.34588 0.32546 0.30278 0.27355 0.31018 0.28965 0.33793 0.26692 0.18793 0.35573 0.34731 0.30089 0.22567 0.39674
1 ,2 ,7 ,7 1 ,2 ,8 ,7 1 ,2 ,9 ,7 1 ,2 ,1 0 ,7 1 ,3 ,5 ,7 1 ,3 ,6 ,7 1 ,3 ,7 ,7 1 ,3 ,8 ,7 1 ,3 ,9 ,7 1 ,3 ,1 0 ,7 1 ,4 ,4 ,7 1 ,4 ,5 ,7 1 ,4 ,6 ,7 1 ,4 ,7 ,7 1 ,4 ,8 ,7 1 ,4 ,9 ,7 1 ,4 ,1 0 ,7 1 ,5 ,5 ,7 1 ,5 ,6 ,7 1 ,5 ,7 ,7 1 ,5 ,8 ,7 1 ,5 ,9 ,7 1 ,6 ,6 ,7 1 ,6 ,7 ,7 1 ,6 ,8 ,7 1 ,7 ,7 ,7 2 ,0 ,8 ,7 2 ,0 ,9 ,7 2 ,0 ,1 0 ,7 2 ,1 ,7 ,7 2 ,1 ,8 ,7 2 ,1 ,9 ,7 2 ,1 ,1 0 ,7 2 ,2 ,6 ,7 2 ,2 ,7 ,7 2 ,2 ,8 ,7 2 ,2 ,9 ,7 2 ,2 ,1 0 ,7 2 ,3 ,5 ,7 2 ,3 ,6 ,7 2 ,3 ,7 ,7 2 ,3 ,8 ,7 2 ,3 ,9 ,7 2 ,3 ,1 0 ,7 2 ,4 ,4 ,7 2 ,4 ,5 ,7 2 ,4 ,6 ,7 2 ,4 ,7 ,7 2 ,4 ,8 ,7 2 ,4 ,9 ,7 2 ,5 ,5 ,7 2 ,5 ,6 ,7 2 ,5 ,7 ,7 2 ,5 ,8 ,7 2 ,6 ,6 ,7 2 ,6 ,7 ,7 3 ,0 ,8 ,7
0.83333 0.66667 0.50000 0.33333
0.39707 0.36571 0.31672 0.26254 0.41944 0.42703 0.40572 0.37060 0.33487 0.29310 0.42673 0.44125 0.42793 0.40254 0.37816 0.35000 0.31914 0.43509 0.41759 0.40190 0.38423 0.36430 0.40965 0.39997 0.38889 0.39674 0.40552 0.32028 0.21208 0.47610 0.41676 0.35352 0.28378 0.52068 0.47647 0.43267 0.48941 0.34692 0.54569 0.51242 0.48129 0.45274 0.42729 0.40552 0.55377 0.52949 0.50824 0.49044 0.47647 0.46667 0.51691 0.50824 0.50368 0.50332 0.51242 0.52068 0.50690
0.50000
0.00000 1.00000 0.00000 1.00000
0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 0.85714 0.71429
1.00000 0.85714 0.71429 0.57143
1.00000 0.85714 0.71429 0.57143 0.42857
1.00000 0.85714 0.71429 0.57143 0.42857 0.28571
1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 0.71429 0.57143 0.42857 0.28571 0.14286
0.00000 0.42857 0.28571 0.14286
0.00000 0.14286
0.00000 1.00000 0.83333 0.66667
1.00000 0.83333 0.66667 0.50000
1.00000
1.00000 0.83333 0.66667 0.50000 0.33333 0.16667
1.00000 0.83333 0.66667 0.50000 0.33333 0.16667
0.00000 0.66667 0.50000 0.33333 0.16667
0.00000 0.33333 0.16667
0.00000 0.00000 1.00000 0.80000 0.60000
1.00000 0.80000 0.60000 0.40000
1.00000 0.80000 0.60000 0.40000 0.20000
1.00000 0.80000 0.60000 0.40000 0.20000
0.00000 1.00000 0.80000 0.60000 0.40000 0 .2 0 0 0 0
0.00000 0.60000 0.40000 0.20000
0.00000 0.20000
0.00000 1.00000
261
CALCULATION OF MEDIAN-EFFECTIVE DOSE TABLE II .— Continued r-values
/
3 ,0 ,9 ,7 3 ,0 ,1 0 ,7 3 ,1 ,7 ,7 3 ,1 ,8 ,7 3 ,1 ,9 ,7 3 ,1 ,1 0 ,7 3 ,2 ,6 ,7 3 ,2 ,7 ,7 3 ,2 ,8 ,7 3 ,2 ,9 ,7 3 ,2 ,1 0 ,7 3 ,3 ,5 ,7 3 ,3 ,6 ,7 3 ,3 ,7 ,7 3 ,3 ,8 ,7 3 ,3 ,9 ,7 3 ,4 ,4 ,7 3 ,4 ,5 ,7 3 ,4 ,6 ,7 3 ,4 ,7 ,7 3 ,4 ,8 ,7 3 ,5 ,5 ,7 3 ,5 ,6 ,7 3 ,5 ,7 ,7 3 ,6 ,6 ,7 4 ,0 ,8 ,7 4 ,0 ,9 ,7 4 ,0 ,1 0 ,7 4 ,1 ,7 ,7 4 ,1 ,8 ,7 4 ,1 ,9 ,7 4 ,1 ,1 0 ,7 4 ,2 ,6 ,7 4 ,2 ,7 ,7 4 ,2 ,8 ,7 4 ,2 ,9 ,7 4 ,3 ,5 ,7 4 ,3 ,6 ,7 4 ,3 ,7 ,7 4 ,3 ,8 ,7 4 ,4 ,4 ,7 4 ,4 ,5 ,7 4 ,4 ,6 ,7 4 ,4 ,7 ,7 4 ,5 ,5 ,7 4 ,5 ,6 ,7 5 ,0 ,8 ,7 5 ,0 ,9 ,7 5 ,0 ,1 0 ,7 5 ,1 ,7 ,7 5 ,1 ,8 ,7 5 ,1 ,9 ,7 5 ,2 ,6 ,7 5 ,2 ,7 ,7 5 ,2 ,8 ,7 5 ,3 ,5 ,7 5 ,3 ,6 ,7
0.75000 0.50000 1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.50000 0.25000
0.00000 0.00000 1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.33333
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.39198 0.27003 0.59512 0.51454 0.44488 0.39198 0.65085 0.58999 0.54327 0.51454 0.50690 0.68211 0.63533 0.60403 0.58999 0.59512 0.69222 0.65683 0.63191 0.63533 0.65085 0.64818 0.65683 0.68211 0.69222 0.67586 0.50917 0.40062 0.79349 0.67586 0.61864 0.63828 0.86780 0.77778 0.74536 0.77778 0.90948 0.83887 0.82402 0.86780 0.92296 0.86780 0.86780 0.92296 0.88192 0.94933 1.01379 0.75462. 0.83333 1.19024 1.00692 1.09291 1.30171 1.16070 1.25830 1.36422 1.25277
r-values
/
r-values
/
<7
5 ,3 ,7 ,7 5 ,4 ,4 ,7 5 ,4 ,5 ,7 5 ,4 ,6 ,7 5 ,5 ,5 ,7 6 ,0 ,8 ,7 6 ,0 ,9 ,7 6 ,1 ,7 ,7 6 ,1 ,8 ,7 6 ,2 ,6 ,7 6 ,2 ,7 ,7 6 ,3 ,5 ,7 6 ,3 ,6 ,7 6 ,4 ,4 ,7 6 ,4 ,5 ,7 0 ,0 ,9 ,6 0 ,0 ,1 0 ,6 0 ,1 ,8 ,6 0 ,1 ,9 ,6 0 ,1 ,1 0 ,6 0 ,2 ,7 ,6 0 ,2 ,8 ,6 0 ,2 ,9 ,6 0 ,2 ,1 0 ,6 0 ,3 ,6 ,6 0 ,3 ,7 ,6 0 ,3 ,8 ,6 0 ,3 ,9 ,6 0 ,3 ,1 0 ,6 0 ,4 ,5 ,6 0 ,4 ,6 ,6 0 ,4 ,7 ,6 0 ,4 ,8 ,6 0 ,4 ,9 ,6 0 ,4 ,1 0 ,6 0 ,5 ,5 ,6 0 ,5 ,6 ,6 0 ,5 ,7 ,6 0 ,5 ,8 ,6 0 ,5 ,9 ,6 0 ,5 ,1 0 ,6 0 ,6 ,6 ,6 0 ,6 ,7 ,6 0 ,6 ,8 ,6 0 ,6 ,9 ,6 0 ,7 ,7 ,6 0 ,7 ,8 ,6 1 ,0 ,9 ,6 1 ,0 ,1 0 ,6 1 ,1 ,8 ,6 1 ,1 ,9 ,6 1 ,1 ,1 0 ,6 1 ,2 ,7 ,6 1 ,2 ,8 ,6 1 ,2 ,9 ,6 1 ,2 ,1 0 ,6 1 ,3 ,6 ,6
0.00000 1.00000
1.36422 1.38444 1.29636 1.42400 1.44338 2.10818 1.77951 2.44949 2.33333 2.66667 2.60342 2.78887 2.76887 2.82427 2.84800 0.31914 0.22680 0.38889 0.32710 0.24637 0.43390 0.38756 0.33178 0.26058 0.46148 0.42552 0.38356 0.33333 0.27027 0.47466 0.44675 0.41450 0.37679 0.33178 0.27592 0.45361 0.42913 0.40062 0.36711 0.32710 0.27778 0.40825 0.38356 0.35428 0.31914 0.36289 0.33793 0.38297 0.26432 0.46667 0.38713 0.29120 0.52068 0.46053 0.39486 0.32028 0.55377
1 ,3 ,7 ,6 1 ,3 ,8 ,6 1 ,3 ,9 ,6 1 ,3 ,1 0 ,6 1 ,4 ,5 ,6 1 ,4 ,6 ,6 1 ,4 ,7 ,6 1 ,4 ,8 ,6 1 ,4 ,9 ,6 1 ,4 ,1 0 ,6 1 ,5 ,5 ,6 1 ,5 ,6 ,6 1 ,5 ,7 ,6 1 ,5 ,8 ,6 1 ,5 ,9 ,6 1 ,6 ,6 ,6 1 ,6 ,7 ,6 1 ,6 ,8 ,6 1 ,7 ,7 ,6 2 ,0 ,9 ,6 2 ,0 ,1 0 ,6 2 ,1 ,8 ,6 2 ,1 ,9 ,6 2 ,1 ,1 0 ,6 2 ,2 ,7 ,6 2 ,2 ,8 ,6 2 ,2 ,9 ,6 2 ,2 ,1 0 ,6 2 ,3 ,6 ,6 2 ,3 ,7 ,6 2 ,3 ,8 ,6 2 ,3 ,9 ,6 2 ,3 ,1 0 ,6 2 ,4 ,5 ,6 2 ,4 ,6 ,6 2 ,4 ,7 ,6 2 ,4 ,8 ,6 2 ,4 ,9 ,6 2 ,5 ,5 ,6 2 ,5 ,6 ,6 2 ,5 ,7 ,6 2 ,5 ,8 ,6 2 ,6 ,6 ,6 2 ,6 ,7 ,6 3 ,0 ,9 ,6 3 ,0 ,1 0 ,6 3 ,1 ,8 ,6 3 ,1 ,9 ,6 3 ,1 ,1 0 ,6 3 ,2 ,7 ,6 3 ,2 ,8 ,6 3 ,2 ,9 ,6 3 ,2 ,1 0 ,6 3 ,3 ,6 ,6 3 ,3 ,7 ,6 3 ,3 ,8 ,6 3 ,3 ,9 ,6
0.80000 0.60000 0.40000 0.20000
0.50649 0.45743 0.40596 0.35100 0.56960 0.53216 0.49477 0.45743 0.42016 0.38297 0.54045 0.51242 0.48571 0.46053 0.43716 0.49477 0.47944 0.46667 0.47630 0.47871 0.31732 0.58333 0.47507 0.36324 0.65085 0.56826 0.49301 0.42998 0.69222 0.62639 0.57130 0.53033 0.50690 0.71200 0.66926 0.61802 0.59219 0.58333 0.68971 0.64010 0.62639 0.62915 0.63191 0.65085 0.63828 0.40062 0.77778 0.61864 0.50917 0.86780 0.74536 0.67586 0.67586 0.92296 0.82402 0.77778 0.79349
0.50000
0.00000 0.00000 1.00000
0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.83333
1.00000 0.83333 0.66667
1.00000 0.83333 0.66667 0.50000
1.00000 0.83333 0.66667 0.50000 0.33333
1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.83333 0.66667 0.50000 0.33333 0.16667
0.00000 0.50000 0.33333 0.16667
0.00000 0.16667
0.00000 1.00000 0.80000
1.00000 0.80000 0.60000
1.00000 0.80000 0.60000 0.40000
1.00000
1.00000 0.80000 0.60000 0.40000 0.20000
0.00000 0.80000 0.60000 0.40000 0.20000
0.00000 0.40000 0.20000
0.00000 0.00000 1.00000 0.75000
1.00000 0.75000 0.50000
1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.75000 0.50000 0.25000
0.00000 0.25000
0.00000 1.00000 0.66667
1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000
262
BIOMETRICS, SEPTEMBER 1952 TABLE II .— Continued
r-values 3 ,4 ,5 ,6 3 ,4 ,6 ,6 3 ,4 ,7 ,6 3 ,4 ,8 ,6 3 ,5 ,5 ,6 3 ,5 ,6 ,6 3 ,5 ,7 ,6 3 ,6 ,6 ,6 4 ,0 ,9 ,6 4 ,0 ,1 0 ,6 4 ,1 ,8 ,6 4 ,1 ,9 ,6 4 ,1 ,1 0 ,6 4 ,2 ,7 ,6 4 ,2 ,8 ,6 4 ,2 ,9 ,6 4 ,3 ,6 ,6 4 ,3 ,7 ,6 4 ,3 ,8 ,6 4 ,4 ,5 ,6 4 ,4 ,6 ,6 p4 ,4 ,7 ,6 4 ,5 ,5 ,6 4 ,5 ,6 ,6 5 ,0 ,9 ,6 5 ,0 ,1 0 ,6 5 ,1 ,8 ,6 5 ,1 ,9 ,6 5 ,2 ,7 ,6 5 ,2 ,8 ,6 5 ,3 ,6 ,6 5 ,3 ,7 ,6 5 ,4 ,5 ,6 5 ,4 ,6 ,6 5 ,5 ,5 ,6 0 ,0 ,1 0 ,5 0 ,1 ,9 ,5 0 ,1 ,1 0 ,5 0 ,2 ,8 ,5 0 ,2 ,9 ,5 0 ,2 ,1 0 ,5 0 ,3 ,7 ,5 0 ,3 ,8 ,5 0 ,3 ,9 ,5 0 ,3 ,1 0 ,5 0 ,4 ,6 ,5 0 ,4 ,7 ,5 0 ,4 ,8 ,5 0 ,4 ,9 ,5 0 ,4 ,1 0 ,5 0 ,5 ,5 ,5 0 ,5 ,6 ,5 0 ,5 ,7 ,5 0 ,5 ,8 ,5 0 ,5 ,9 ,5 0 ,5 ,1 0 ,5 0 ,6 ,6 ,5
/
1.00000 0.66667 0.33333
0.00000 0.66667 0.33333
0.00000 0.00000 1.00000 0.50000
1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.0 0 .5
0.0 1.0 0 .5
0.0 0 .5
0.0 1.0 0.0 1.0 0.0 1.0 0.0 1.0 0.0 1.0 0.0 0.0 1.0 1.0 0 .8
1.0 0 .8 0 .6
1.0 0 .8 0 .6 0 .4
1.0 0 .8 0 .6 0 .4 0 .2
1.0 0 .8 0 .6 0.40000 0.20000
0.00000 0.60000
(T f
0.94933 0.86780 0.83887 0.86780 0.88192 0.86780 0.90948 0.92296 0.95743 0.57735 0.16667 0.91287 0.95743 1.19024 1.10554 1.16667 1.28019 1.22474 1.19024 1.32288 1.29099 1.28019 1.31233 1.32288 2.23607 1.66667 2.60342 2.18581 2.84800 2.51661 3.00000 2.72845 3.07318 2.84800 2.88675 0.33333 0.43716 0.33333 0.50332 0.42687 0.33333 0.54569 0.48534 0.41633 0.33333 0.56960 0.52068 0.46667 0.40552 0.33333 0.57735 0.53748 0.48990 0.44721 0.39440 0.33333 0.49889
r-values
/
0 ,6 ,7 ,5 0 ,6 ,8 ,5 0 ,6 ,9 ,5 0 ,7 ,7 ,5 0 ,7 ,8 ,5 1 ,0 ,1 0 ,5 1 ,1 ,9 ,5 1 ,1 ,1 0 ,5 1 ,2 ,8 ,5 1 ,2 ,9 ,5 1 ,2 ,1 0 ,5 1 ,3 ,7 ,5 1 ,3 ,8 ,5 1 ,3 ,9 ,5 1 ,3 ,1 0 ,5 1 ,4 ,6 ,5 1 ,4 ,7 ,5 1 ,4 ,8 ,5 1 ,4 ,9 ,5 1 ,4 ,1 0 ,5 1 ,5 ,5 ,5 1 ,5 ,6 ,5 1 ,5 ,7 ,5 1 ,5 ,8 ,5 1 ,5 ,9 ,5 1 ,6 ,6 ,5 1 ,6 ,7 ,5 1 ,6 ,8 ,5 1 ,7 ,7 ,5 2 ,0 ,1 0 ,5 2 ,1 ,9 ,5 2 ,1 ,1 0 ,5 2 ,2 ,8 ,5 2 ,2 ,9 ,5 2 ,2 ,1 0 ,5 2 ,3 ,7 ,5 2 ,3 ,8 ,5 2 ,3 ,9 ,5 2 ,3 ,1 0 ,5 2 ,4 ,6 ,5 2 ,4 ,7 ,5 2 ,4 ,8 ,5 2 ,4 ,9 ,5 2 ,5 ,5 ,5 2 ,5 ,6 ,5 2 ,5 ,7 ,5 2 ,5 ,8 ,5 2 ,6 ,6 ,5 2 ,6 ,7 ,5 3 ,0 ,1 0 ,5 3 ,1 ,9 ,5 3 ,1 ,1 0 ,5 3 ,2 ,8 ,5 3 ,2 ,9 ,5 3 ,2 ,1 0 ,5 3 ,3 ,7 ,5 3 ,3 ,8 ,5
0.40000 0.20000
0.00000 0.20000
0.00000 1.00000 1.00000 0.75000
1.00000 0.75000 0.50000
1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.50000 0.25000
0.00000 0.00000 1.00000
1.00000 0.66667
1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.33333
0.00000 1.00000 1.00000 0.50000
1.00000 0.50000
0.00000 1.00000 0.50000
0.46667 0.42688 0.38297 0.43716 0.40552 0.41667 0.54645 0.40505 0.62915 0.52457 0.41248 0.68211 0.59875 0.51707 0.43800 0.71200 0.64348 0.58035 0.52457 0.47871 0.72169 0.66471 0.61520 0.57509 0.54645 0.62639 0.59875 0.58333 0.59512 0.55556 0.72860 0.51985 0.83887 0.68393 0.56534 0.90948 0.78480 0.70175 0.67586 0.94933 0.84539 0.78480 0.77778 0.96225 0.87410 0.83065 0.83887 0.84539 0.86780 0.83333 1.09291 0.75462 1.25830 1.00692 1.01379 1.36422 1.16070
r-values
/
o’/
3 ,3 ,9 ,5 3 ,4 ,6 ,5 3 ,4 ,7 ,5 3 ,4 ,8 ,5 3 ,5 ,5 ,5 3 ,5 ,6 ,5 3 ,5 ,7 ,5 3 ,6 ,6 ,5 4 ,0 ,1 0 ,5 4 ,1 ,9 ,5 4 ,1 ,1 0 ,5 4 ,2 ,8 ,5 4 ,2 ,9 ,5 4 ,3 ,7 ,5 4 ,3 ,8 ,5 4 ,4 ,6 ,5 4 ,4 ,7 ,5 4 ,5 ,5 ,5 4 ,5 ,6 ,5 0 ,1 ,1 0 ,4 0 ,2 ,9 ,4 0 ,2 ,1 0 ,4 0 ,3 ,8 ,4 0 ,3 ,9 ,4 0 ,3 ,1 0 ,4 0 ,4 ,7 ,4 0 ,4 ,8 ,4 0 ,4 ,9 ,4 0 ,4 ,1 0 ,4 0 ,5 ,6 ,4 0 ,5 ,7 ,4 0 ,5 ,8 ,4 0 ,5 ,9 ,4 0 ,5 ,1 0 ,4 0 ,6 ,6 ,4 0 ,6 ,7 ,4 0 ,6 ,8 ,4 0 ,6 ,9 ,4 0 ,7 ,7 ,4 0 ,7 ,8 ,4 1 ,1 ,1 0 ,4 1 ,2 ,9 ,4 1 ,2 ,1 0 ,4 1 ,3 ,8 ,4 1 ,3 ,9 ,4 1 ,3 ,1 0 ,4 1 ,4 ,7 ,4 1 ,4 ,8 ,4 1 ,4 ,9 ,4 1 ,4 ,1 0 ,4 1 ,5 ,6 ,4 1 ,5 ,7 ,4 1 ,5 ,8 ,4 1 ,5 ,9 ,4 1 ,6 ,6 ,4 1 ,6 ,7 ,4 1 ,6 ,8 ,4
0.00000 1.00000
1.19024 1.42400 1.25277 1.30171 1.44388 1.29636 1.36422 1.38444 1.66667 2.18581 2.23607 2.51661 2.60342 2.72845 2.84800 2.84800 3.00000 2.88675 3.07318 0.47871 0.58333 0.45262 0.65085 0.54962 0.53301 0.69222 0.60953 0.52042 0.45644 0.71200 0.64280 0.57130 0.52705 0.41667 0.65352 0.59512 0.56519 0.47871 0.57735 0.50690 0.63828 0.77778 0.58443 0.79349 0.71722 0.58443 0.85346 0.79866 0.69979 0.63828 0.88192 0.84376 0.76712 0.72860 0.85827 0.79866 0.77778
0.50000
0.00000 1.00000 0.50000
0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000
1.00000 0.75000
1.00000 0.75000 0.50000
1.00000 0.75000 0.50000 0.25000 1.00000 0.75000 0.50000 0.25000
0.00000 0.75000 0.50000 0.25000
0.00000 0.25000
0.00000 1.00000 1.00000 0.66667
1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.66667 0.33333
0.00000
CALCULATION OF MEDIAN-EFFECTIVE DOSE
263
T A B L E I I .— Continued
r-values
/
<>■/
r-values
/
1 ,7 ,7 ,4 2 ,1 ,1 0 ,4 2 ,2 ,9 ,4 2 ,2 ,1 0 ,4 2 ,3 ,8 ,4 2 ,3 ,9 ,4 2 ,3 ,1 0 ,4 2 ,4 ,7 ,4 2 ,4 ,8 ,4 2 ,4 ,9 ,4 2 ,5 ,6 ,4 2 ,5 ,7 ,4 2 ,5 ,8 ,4 2 ,6 ,6 ,4 2 ,6 ,7 ,4 3 ,1 ,1 0 ,4 3 ,2 ,9 ,4 3 ,2 ,1 0 ,4 3 ,3 ,8 ,4 3 ,3 ,9 ,4 3 ,4 ,7 ,4 3,4,<8,4 3 ,5 ,6 ,4 3 ,5 ,7 ,4 3 ,6 ,6 ,4 0 ,2 ,1 0 ,3 0 ,3 ,9 ,3 0 ,3 ,1 0 ,3 0 ,4 ,8 ,3 0 ,4 ,9 ,3
0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.66667 1.00000 0.66667
0.79349 0.95743 1.16667 0.84984 1.30171 1.05409 1.01319 1.38444 1.17851 1.16667 1.42400 1.24722 1.25830 1.26930 1.30171 1.79951 2.33333 2.10818 2.60342 2.44949 2.76887 2.66667 2.84800 2.78887 2.82427 0.67586 0.79349 0.61195 0.86780 0.72293
0 ,4 ,1 0 ,3 0 ,5 ,7 ,3 0 ,5 ,8 ,3 0 ,5 ,9 ,3 0 ,5 ,1 0 ,3 0 ,6 ,6 ,3 0 ,6 ,7 ,3 0 ,6 ,8 ,3 0 ,6 ,9 ,3 0 ,7 ,7 ,3 0 ,7 ,8 ,3 1 ,2 ,1 0 ,3 1 ,3 ,9 ,3 1 ,3 ,1 0 ,3 1 ,4 ,8 ,3 1 ,4 ,9 ,3 1 ,4 ,1 0 ,3 1 ,5 ,7 ,3 1 ,5 ,8 ,3 1 ,5 ,9 ,3 1 ,6 ,6 ,3 1 ,6 ,7 ,3 1 ,6 ,8 ,3 1 ,7 ,7 ,3 2 ,2 ,1 0 ,3 2 ,3 ,9 ,3 2 ,3 ,1 0 ,3 2 ,4 ,8 ,3 2 ,4 ,9 ,3 2 ,5 ,7 ,3
0.33333 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.0 1.0 0 .5 1.0 0 .5 0 .0 1.0 0 .5 0 .0 1.0 0 .5 0 .0 0 .0 1 .0 1.0 0 .0 1.0 0 .0 1.0
• 0.57013 0.90948 0.78829 0.66975 0.55556 0.92296 0.81901 0.72293 0.63828 0.73981 0.67586 1.01379 1.19024 0.88976 1.30171 1.06066 0.95743 1.36422 1.16070 1.09291 1.38444 1.20761 1.16667 1.19024 2.02759 2.38048 2.02759 2.60342 2.33333 2.72845
r-values 2 ,5 ,8 ,3 2 ,6 ,6 ,3 2 ,6 ,7 ,3 0 ,3 ,1 0 ,2 0 ,4 ,9 ,2 0 ,4 ,1 0 ,2 0 ,5 ,8 ,2 0 ,5 ,9 ,2 0 ,5 ,1 0 ,2 0 ,6 ,7 ,2 0 ,6 ,8 ,2 0 ,6 ,9 ,2 0 ,7 ,7 ,2 0 ,7 ,8 ,2 1 ,3 ,1 0 ,2 1 ,4 ,9 ,2 1 ,4 ,1 0 ,2 1 ,5 ,8 ,2 1 ,5 ,9 ,2 1 ,6 ,7 ,2 1 ,6 ,8 ,2 1 ,7 ,7 ,2 0 ,4 ,1 0 ,1 0 ,5 ,9 ,1 0 ,5 ,1 0 ,1 0 ,6 ,8 ,1 0 ,6 ,9 ,1 0 ,7 ,7 ,1 0 ,7 ,8 ,1
/ 0 .0 1.0 0 .0 1.0 1.0 0 .5 1.0 0 .5 0 r0 1.0 0 .5 0 .0 0 .5 0 .0 1.0 1.0 0 .0 1.0 0 .0 1 .0 0 .0 0 .0 1.0 1.0 0 .0 1.0 0 .0 1.0 0 .0
2.51661 2.76887 2.60342 1.01379 1.16667 0.88192 1.25830 1.02740 0.83333 1.30171 1.10554 0.95743 1.13039 1.01379 2.02759 2.33333 1.77951 2.51661 2.18581 2.60342 2.33333 2.38048 1.77951 2.18581 1.66667 2.33333 1.77951 2.38048 2.02759
e il
Mellon Institute, Pittsburgh, Pa.
o r e d u c e t h e t i m e of calculation of the median-effective dose and its confidence interval to a minimum without the sacrifice of accuracy,
T
a group of tables have been calculated according to formulae presented in the article by Thompson and Weil (1952). These tables allow the use of 2, 3, 4, 5, 6, or 10 animals per dosage level, with 4 or more dosage levels being tested per material (using K = 3), provided that the loga rithms of successive dosage levels differ by a constant (d); the goemetric factor is denoted by R and d = log R ( e.g. d = 0.30103 for dosage levels of 1.0, 2.0, 4.0, and 8.0 grams of material per kilogram of body weight). A short discussion of the moving average and other methods of estimation of the median-effective dose (E D 50) follow. L D 50 may be used instead of E D 50 if the critical response is death. Estimation of the toxicity of a given chemical by single-oral dose to rats, rabbits, guinea pigs, or mice or of single skin application to rabbits or guinea pigs has been previously expressed in tables and reports issued from this laboratory in the form of the L D 50 calculated by the Bliss (1935, 1935, 1938) method of probits. The term L D 50 refers to the least dosage that should be expected to kill 5 0 % of the animals that received it. Bliss defines the probit as five plus the equivalent normal deviation (with unit standard deviation). His transformation converts the inte grated normal curve to a straight line that passes through the trans formed point (log L D 50, 5 ) . The calculations required in this estimation of the L D 50 are somewhat difficult and time-consuming, involving suc cessive approximations with tentative regression lines fitted by a method of maximum likelihood. Several papers have been published on sim plifications and estimations of the probit L D 50 and others on different methods of curve-fitting such as the logistic function by Wilson and Worcester (1943, 1944) using maximum likelihood, and by Berkson (1944, 1946) using a method of weighted least squares. The purpose of these transformations is to straighten the fundamental dosage vs. mor 249
250
BIOMETRICS, SEPTEMBER 1952
tality curve so that a straight line may be fitted to the transformed points. However, there is danger that tendencies toward biased or erratic estimates may be induced by mistaken assumptions about the form of the fundamental curve or by the technics used for curve fitting. Recently Thompson (1947) has published a method that involves the use of moving averages and interpolation to estimate the medianeffective dose, I^D5o , identical with our L D 50 if death is the critical response. The use of moving averages is not new in mathematics or statistics. It is a well-known graduation long used in time series analyses, and has the following advantages: (1) it is free from the assumption as to the precise type of fundamental curve involved but it is capable of taking into account more of the data than any method that uses only the data on both sides of the 50 per cent level of effectiveness; (2) only simple computations are involved; and (3) it replaces the fitting of complex mathematical curves. The E D 50 by this method is computed by inter polation involving K + 1 or more dosage levels by the use of the respec tive arithmetic means of log dose and of fraction responding critically for K successive points. In most E D 50 determinations, too few animals are dosed to establish with certainty the exact form of the dosage-mortality curve that is involved. No detailed comparison will be made here of the accuracy of the Thompson method vs. those of Bliss, Berkson, etc. A lengthy discussion of this may be found in Thompson’s paper (1947) and in the one by Armitage and Allen (1950). However, 30 L D 50 results obtained in this laboratory were calculated by the Bliss and by the Thompson methods. The LD50s obtained are practically the same in 29 of the 30. Only in one case was the result obtained by the Thompson method outside of the fiducial limit range obtained by the Bliss method and even in this case the LD50s differed by only 11%. Likewise, the respective standard deviations obtained by the two methods are nearly the same. To illus trate, four of these comparisons are listed below.
(1.96) Standard D evia L D 50 by M ethod of
tion in Logarithmic Units by M ethod of
Material
Bliss
Thompson
Bliss
Thom pson
Acetic acid, glacial
3 .5 3
3 .6 5
0 .0 4 1 8 5
0 .0 4 5 2 0
E thyl acrylate
1 .9 5
1 .9 5
0 .0 3 5 8 2
0 .0 3 7 5 2
Isopropanolamine, mono
4 .2 6
4 .2 6
0 .0 3 9 4 4
0 .0 4 1 3 2
Fungicide 341 “ A ”
1 .9 8
1 .9 4
0 .0 6 3 0 1
0 .0 6 3 7 9
251
CALCULATION OF MEDIAN-EFFECTIVE DOSE
The general formulae for the estimation of the logarithm of the L D 50 and of the standard deviation of the estimate by the moving average method are given in the original article by Thompson (1947). Explanation of the use of the tables presented in this paper follow. The requirements that must be followed to use these tables are: (a) dose a constant number of animals on each dosage level (n = the number dosed per level). This restriction is not necessary to use of the moving average interpolation method, but tables otherwise would hardly be worth making. There is nothing to prevent construction of similar tables for different values of i f not used in the present article, although the usual choice appears to be i f = 3. (b) space the dosage levels so that they are in a geometric progres sion. For example, if the geometric factor (R) is 2.0, with dosage levels of 0.5, 1.0, 2.0, and 4.0 grams per kilogram, then d = 0.30103. (c) dose animals on at least i f + 1 levels of dosage, i.e., 4 levels or more for i f = 3. When these requirements are followed we seek to obtain from animals dosed at succeeding dosage levels a set of mortality data (r-values in the table) that match one of those in the table for the given value of n and if. In any of the tables, the two middle numbers in the “ r-value” column may be inverted without changing the other values in that row; the r-values, 0,0,3,4, are identical with 0,3,0,4. For example, the r-values of 0,0,3,4 could indicate a mortality of 0 animals of 4 dosed at 2.0 grams per kilogram, 0 of 4, 3 of 4, and 4 of 4 dead at 4.0, 8.0, and 16.0 grams per kilogram respectively. In this case the table for w = 4 and i f = 3 would be used. The general formula for the calculation of m, the estimate of the E D 50 may be reduced to (1)
log m = log Da + d • ( / +
1) for i f = 3
Thus, referring to the 0,0,3,4 r-value row in the n = 4 section of Table I, / is seen to be 0.75. As d (the logarithm of the constant ratio between dosage levels) is 0.30103 in this example and as the log Da (the log of the lowest of the four dosage levels used) is the logarithm of 2.0, approxi mately 0.30103, thus the log L D 50 is estimated as 0.30103 + 0.30103 (1.75) or 0.82783. The L D 50 is accordingly estimated as 6.73 gm ./kg. Another example of the use of formula (1) follows. Five animals were dosed per level (n = 5) and the following mortalities resulted: 0 of 5 at 1.26 gm ./kg., 1 of 5 at 1.59 g m ./k g v 3 of 5 at 2.00 gm ./kg., and 5 of 5 at 2.52 gm ./kg. Here, the ratio of successive dosage levels is 1.26 and d = 0.1. The log L D 50 from the use of Table I is: log L D 50 ^
0.10037 + 0.1 (0.7 +
1) ^
0.27037
252
BIOMETRICS, SEPTEMBER 1952
L D 50 ^
1.86 gm ./kg.
In an estimation of a confidence interval that will encompass the L D 5o 95 times in 100, we take that bounded by antilog [log m ± 2 • o-log m]; the following formula is used with the 07 value from the tables: (2 )
0-iog m ~ d - a f
Thus, in the first example, the log L D 50 was estimated as log m = 0.82783. The value of 2d • 07 is 2(0.250) (0.30103), equal to 0.150. Therefore, the bounds of the confidence interval of log L D 50 are 0.828 ± , 0.15, i.e., 0.678 to 0.978. The L D 50 and its 95 of 100 confidence interval are estimated as 6.73 (4.76 to 9.51) g m ./k g . For the second example, with r-values of 0,1,3,5 and d = 0.1 (n = 5,
K = 3) then the 2 •
Bliss, C. I . : The comparison of dosage-mortality data.
Ann. Appl. Biol., 22, 3 0 7 -3 3 3 ,
1935. Bliss, C. I .: T h e calculation of the dosage-mortality curve.
Ann. Appl. Biol., 22,
134-167, 1935. Bliss, C. I .: The determination of the dosage-mortality curve from small numbers. Quart. J. Pharm. and Pharmacol., 11, 1 92 -2 1 6, 1938. W ilson, Edwin B . and Worcester, J .: T he determination of L D 50 and its sampling error in bio-assay.
Proc. N at’l. Acad. Sci., 29, 7 9 -8 5 , 1943.
Worcester, Jane and W ilson, E . B .: A table determining L D 50 or the fifty percent endpoint.
Proc. N at’l. Acad. Sci., 29, 2 0 7 -2 1 2 , 1943.
Berkson, Joseph: Application of the logistic function to bio-assay.
A m . Stat. Assoc.,
39, 3 5 7 -3 6 5 , 1944. Berkson, Joseph: Approximation of chi-square by “ probits” and by “ logits” . Stat. Assoc.,
41,
Am .
7 0 -7 4 , 1946.
Thom pson, William R . : Use of m oving averages and interpolation to estimate medianeffective dose.
B ad . Rev., 11, 1 15-145, 1947.
Armitage, P. and Allen, Irene: M ethods of estimating the L D 50 in quantal response data.
J. H yg.,
48, 2 9 8 -3 2 2 ,
1950.
Thom pson, W illiam R . and W eil, Carrol S .: On the construction of tables for moving average interpolation.
Biometrics, 8, 5 1 -5 4 , 1952.
253
CALCULATION OF MEDIAN-EFFECTIVE DOSE TA B L E I. T A B LE FO R C A LC U LA TIO N OF M E D IA N -E F F E C T IV E DOSE B Y M O V IN G IN T E R P O L A T IO N F O R n = 2 ,3 ,4 ,5 O R 6 A N D K = 3
n = 4, K = 3
n = 2, K = 3 r-values 0 ,0 ,1 ,2 0 ,0 ,2 ,2 0 ,1 ,1 ,2 0 ,1 ,2 ,2 1 ,0 ,1 ,2 1 ,0 ,2 ,2 1 ,1 ,1 ,2 0 ,0 ,2 ,1 0 ,1 ,1 ,1 0 ,1 ,2 ,1
r-values
/ 1.00000 0.50000 0.50000 0.00000 1.00000 0.00000 . 0.00000 1.00000 1.00000 0.00000
0.50000 0.00000 0.70711 0.50000 1.00000 1.00000 1.73205 1.00000 1.73205 1.00000
n = 3, K = 3 0 ,0 ,2 ,3 0 ,0 ,3 ,3 0 ,1 ,1 ,3 0 ,1 ,2 ,3 0 ,1 ,3 ,3 0 ,2 ,2 ,3 1 ,0 ,2 ,3 1 ,0 ,3 ,3 1 ,1 ,1 ,3 1 ,1 ,2 ,3 2 ,0 ,2 ,3 0 ,0 ,3 ,2 0 ,1 ,2 ,2 0 ,1 ,3 ,2 0 ,2 ,2 ,2 0 ,1 ,3 ,1
0.83333 0.50000 0.83333 0.50000 0.16667 0.16667 0.75000 0.25000 0.75000 0.25000 0.50000 0.75000 0.75000 0.25000 0.25000 0.50000
0.57735 0.00000 0.81650 0.81650 0.57735 0.81650 0.51539 0.37500 0.71807 0.80039 1.11803 0.37500 0.80039 0.51539 0.71807 1.11803
n = 4, K = 3 0 ,0 ,2 ,4 0 ,0 ,3 ,4 0 ,0 ,4 ,4 0 ,1 ,1 ,4 0 ,1 ,2 ,4 0 ,1 ,3 ,4 0 ,1 ,4 ,4 0 ,2 ,2 ,4 0 ,2 ,3 ,4 0 ,2 ,4 ,4 0 ,3 ,3 ,4 1 ,0 ,2 ,4 1 ,0 ,3 ,4 1 ,0 ,4 ,4 1 ,1 ,1 ,4 1 ,1 ,2 ,4 1 ,1 ,3 ,4 1 ,1 ,4 ,4 1 ,2 ,2 ,4 1 ,2 ,3 ,4 2 ,0 ,2 ,4
1.00000 0.75000 0.50000 1.00000 0.75000 0.50000 0.25000 0.50000 0.25000 0.00000 0.00000 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.00000
0.28868 0.25000 0.00000 0.35355 0.38188 0.35355 0.25000 0.40825 0.38188 0.28868 0.35355 0.38490 0.35136 0.22222 0.47140 0.52116 0.52116 0.47140 0.58794 0.60858 0.57735
2 ,0 ,3 ,4 2 ,0 ,4 ,4 2 ,1 ,1 ,4 2 ,1 ,2 ,4 2 ,1 ,3 ,4 2 ,2 ,2 ,4 3 ,0 ,2 ,4 3 ,0 ,3 ,4 3 ,1 ,1 ,4 3 ,1 ,2 ,4 0 ,0 ,3 ,3 0 ,0 ,4 ,3 0 ,1 ,2 ,3 0 ,1 ,3 ,3 0 ,1 ,4 ,3 0 ,2 ,2 ,3 0 ,2 ,3 ,3 0 ,2 ,4 ,3 0 ,3 ,3 ,3 1 ,0 ,3 ,3 1 ,0 ,4 ,3 1 ,1 ,2 ,3 1 ,1 ,3 ,3 1 ,1 ,4 ,3 1 ,2 ,2 ,3 1 ,2 ,3 ,3 2 ,0 ,3 ,3 2 ,0 ,4 ,3 2 ,1 ,2 ,3 2 ,1 ,3 ,3 2 ,2 ,2 ,3 0 ,0 ,4 ,2 0 ,1 ,3 ,2 0 ,1 ,4 ,2 0 ,2 ,2 ,2 0 ,2 ,3 ,2 0 ,2 ,4 ,2 0 ,3 ,3 ,2 1 ,0 ,4 ,2 1 ,1 ,3 ,2 1 ,1 ,4 ,2 1 ,2 ,2 ,2 1 ,2 ,3 ,2 0 ,2 ,3 ,1 0 ,2 ,4 ,1 0 ,3 ,3 ,1 0 ,1 ,4 ,1
n = 5, K = 3 r-values
/ 0.50000 0.00000 1.00000 0.50000 0.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.66667 1.00000 0.66667 0.33333 0.66667 0.33333 0.00000 0.00000 1.00000 0.50000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000
0.57735 0.57735 0.70711 0.81650 0.91287 1.00000 1.15470 1.41421 1.41421 1.82574 0.47140 0.22222 0.60858 0.52116 0.35136 0.58794 0.52116 0.38490 0.47140 0.70711 0.35355 0.91287 0.79057 0.70711 0.88976 0.91287 1.41421 1.15470 1.82574 1.82574 2.00000 0.57735 0.91287 0.57735 1.00000 0.81650 0.57735 0.70711 1.15470 1.82574 1.41421 2.00000 1.82574 1.82574 1.15470 1.41421 1.41421
n = 5, K = 3 0 ,0 ,3 ,5 0 ,0 ,4 ,5 0 ,0 ,5 ,5
0.90000 0.70000 0.50000
AVERAGE
0.24495 0.20000 0.00000
0 ,1 ,2 ,5 0 ,1 ,3 ,5 0 ,1 ,4 ,5 0 ,1 ,5 ,5 0 ,2 ,2 ,5 0 ,2 ,3 ,5 0 ,2 ,4 ,5 0 ,2 ,5 ,5 0 ,3 ,3 ,5 ’0 ,3 ,4 ,5 1 ,0 ,3 ,5 1 ,0 ,4 ,5 1 ,0 ,5 ,5 1 ,1 ,2 ,5 1 ,1 ,3 ,5 1 ,1 ,4 ,5 1 ,1 ,5 ,5 1 ,2 ,2 ,5 1 ,2 ,3 ,5 1 ,2 ,4 ,5 1 ,3 ,3 ,5 2 ,0 ,3 ,5 2 ,0 ,4 ,5 2 ,0 ,5 ,5 2 ,1 ,2 ,5 2 ,1 ,3 ,5 2 ,1 ,4 ,5 2 ,2 ,2 ,5 2 ,2 ,3 ,5 0 ,0 ,4 ,4 0 ,0 ,5 ,4 0 ,1 ,3 ,4 0 ,1 ,4 ,4 0 ,1 ,5 ,4 0 ,2 ,2 ,4 0 ,2 ,3 ,4 0 ,2 ,4 ,4 0 ,2 ,5 ,4 0 ,3 ,3 ,4 0 ,3 ,4 ,4 1 ,0 ,4 ,4 1 ,0 ,5 ,4 1 ,1 ,3 ,4 1 ,1 ,4 ,4 1 ,1 ,5 ,4 1 ,2 ,2 ,4 1 ,2 ,3 ,4 1 ,2 ,4 ,4 1 ,3 ,3 ,4 2 ,0 ,4 ,4 2 ,0 ,5 ,4 2 ,1 ,3 ,4 2 ,1 ,4 ,4
f 0.90000 0.70000 0.50000 0.30000 0.70000 0.50000 0.30000 0.10000 0.30000 0.10000 0.87500 0.62500 0.37500 0.87500 0.62500 0.37500 0.12500 0.62500 0.37500 0.12500 0.12500 0.83333 0.50000 0.16667 0.83333 0.50000 0.16667 0.50000 0.16667 0.87500 0.62500 0.87500 0.62500 0.37500 0.87500 0.62500 0.37500 0.12500 0.37500 0.12500 0.83333 0.50000 0.83333 0.50000 0.16667 0.83333 0.50000 0.16667 0.16667 0.75000 0.25000 0.75000 0.25000
0.31623 0.31623 0.28284 0.20000 0.34641 0.34641 0.31623 0.24495 0.34641 0.31623 0.30778 0.26700 0.15625 0.39652 0.40625 0.38654 0.33219 0.44304 0.46034 0.45178 0.48513 0.41388 0.39087 0.34021 0.53142 0.56519 0.58134 0.61237 0.67013 0.33219 0.15625 0.45178 0.38654 0.26700 0.48513 0.46034 0.40625 0.30778 0.44304 0.39652 0.43744 0.23570 0.59835 0.52705 0.43744 0.64310 0.62361 0.59835 0.64310 0.64348 0.47598 0.88829 0.85239
BIOMETRICS, SEPTEMBER 1952
254
TABLE I.— Continued
r-values
2 , 2 , 2,4 2 , 2 , 3,4 0 , 0 , 5,3 0 , 1, 4,3 0 , 1 , 5,3 0 , 2 , 3,3 0 , 2 , 4,3 0 , 2 , 5,3 0 , 3 , 4,3 1, 0 , 5,3 1, 1 , 4,3 1, 1, 5,3 1, 2 , 3,3 1, 2 , 4,3 1, 3 , 3,3
f
0.75000 0.25000 0.83333 0.83333 0.50000 0.83333 0.50000 0.16667 0.50000 0.16667 0.75000 0.75000 0.25000 0.75000 0.25000 0.25000
«■/
0.95607 0.98821 0.34021 0.58134 0.39087 0.67013 0.56519 0.41388 0.61237 0.53142 0.47598 0.85239 0.64348 0.98821 0.88829 0.95607
n = 6, K = 3 o .o .s . e o .o U . e
0 , 0 , 5,6 0 , 0 , 6,6 0 , 1 , 2,6 0 , 1 , 3,6 0 , 1 , 4,6 0 , 1 , 5,6 0 , 1 , 6,6 0 , 2 , 2,6 0 , 2 , 3,6 0 , 2 , 4,6 0 , 2 , 5,6 0 , 2 , 6,6 0 , 3 , 3,6 0 , 3 , 4,6 0 , 3 , 5,6 0 , 3 , 6,6 0 , 4 , 4,6 0 , 4 , 5,6 1 , 0 , 3,6 1 , 0 , 4,6 1 , 0 , 5,6 1 , 0 , 6,6 1 , 1 , 2,6 1 , 1 , 3,6 1 , 1 , 4,6 1 , 1 , 5,6 1 , 1 , 6,6 1 , 2 , 2,6 1 , 2 , 3,6 1 , 2 , 4,6 1 , 2 , 5,6 1 , 2 , 6,6 1 , 3 , 3,6 1 , 3 , 4,6 1 , 3 , 5,6
1.00000 0.83333 0.66667 0.50000 1.00000 0.83333 0.66667 0.50000 0.33333 0.83333 0.66667 0.50000 0.33333 0.16667 0.50000 0.33333 0.16667 0.00000 0.16667 0.00000 1.00000 0.80000 0.60000 0.40000 1.00000 0.80000 0.60000 0.40000 0.20000 0.80000 0.60000 0.40000 0.20000 0.00000 0.40000 0.20000 0.00000
n = 6, K = 3
n = 6, K = 3
n = 5, K = 3
0.22361 0.21082 0.16667 0.00000 0.26874 0.27889 0.26874 0.23570 0.16667 0.29814 0.30732 0.29814 0.26874 0.21082 0.31623 0.30732 0.27889 0.22361 0.29814 0.26874 0.26833 0.25612 0.21541 0.12000 0.32249 0.33704 0.33226 0.30724 0.25612 0.36000 0.37736 0.37736 0.36000 0.26833 0.39799 0.40200 0.34641
r-values
1 , 4 , 4,6 2 , 0 , 3,6 2 , 0 , 4,6 2 , 0 , 5,6 2 , 0 , 6,6 2 , 1, 2,6 2 , 1 , 3,6 2 , 1, 4,6 2 , 1, 5,6 2 , 1, 6,6 2 , 2 , 2,6 2 , 2 , 3,6 2 , 2 , 4,6 2 , 2 , 5,6 2 , 3 , 3,6 2 , 3 , 4,6 3. 0 . 3. 0 . 3 ^ , 5,6 3 , 0 *6,6 3 , 1, 2,6 3 , 1, 3,6 3 , 1, 4,6 3 , 1, 5,6 3 , 2 , 2,6 3 , 2 , 3,6 3 , 2 , 4,6 3 , 3 , 3,6 4 , 0 , 3,6 4 , 0 , 4,6 4 , 0 , 5,6 4 , 1 , 2,6 4 , 1, 3,6 4 , 1, 4,6 4 , 2 , 2,6 4 , 2 , 3,6 5 , 0 , 3,6 5 , 0 , 4,6 5 , 1, 2,6 5 , 1 , 3,6 5 , 2 , 2,6 0 , 0 , 4,5 0 , 0 , 5,5 0 , 0 , 6,5 0 , 1 , 3,5 0 , 1, 4,5 0 , 1, 5,5 0 , 1, 6,5 0 , 2 , 2,5 0 , 2 , 3,5 0 , 2 , 4,5 0 , 2 , 5,5 0 , 2 , 6,5 0, 3, 3, 5 0 , 3 , 4,5 0 , 3 , 5,5
/
0.00000 1.00000 0.75000 0.50000 0.25000 1.00000 0.75000 0.50000 0.25000 0.00000 0.75000 0.50000 0.25000 0.00000 0.25000 0.00000 1.00000 3.6 0.66667 4.6 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 0.66667 0.33333 0.00000 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 0.80000 0.60000 1.00000 0.80000 0.60000 0.40000 1.00000 0.80000 0.60000 0.40000 0.20000 0.60000 0.40000 0.20000
<7
0.36878 0.33541 0.32596 0.29580 0.23717 0.40311 0.42573 0.43301 0.42573 0.29580 0.45415 0.48734 0.50621 0.43301 0.53033 0.48734 0.44721 0.43885 0.44721 0.44721 0.53748 0.57090 0.61464 0.64979 0.60858 0.68313 0.74536 0.77460 0.67082 0.70711 0.80622 0.80622 0.89443 1.02470 0.94868 1.11803 1.34164 1.61245 1.61245 1.94936 2.04939 0.26833 0.25612 0.12000 0.34641 0.36000 0.30724 0.21541 0.36878 0.40200 0.37736 0.33226 0.25612 0.39799 0.37736 0.33704
r-values
0 , 3 , 6,5 0 , 4 , 4,5 0 , 4 , 5,5 1, 0 , 4,5 1 , 0 , 5,5 1, 0 , 6,5 1, 1, 3,5 1, 1, 4,5 1, 1, 5,5 1, 1, 6,5 1, 2 , 2,5 1 , 2 , 3,5 1, 2 , 4,5 1, 2 , 5,5 1 , 2 , 6,5 1 . 3 . 3.5 1 . 3 . 4.5 1. 3 . 5.5 1. 4 . 4.5 2 , 0 , 4,5 2 , 0 , 5,5 2 , 0 , 6,5 2 , 1, 3,5 2 , 1, 4,5 2 , 1 , 5,5 2 , 1, 6,5 2 , 2 , 2,5 2 , 2 , 3,5 2 , 2 , 4,5 2 , 2 , 5,5 2 , 3 , 3,5 2 , 3 , 4,5 3 , 0 , 4,5 3 , 0 , 5,5 3 , 0 , 6,5 3 , 1, 3,5 3 , 1, 4,5 3 , 1 , 5,5 3 , 2 , 2,5 3 , 2 , 3,5 3 , 2 , 4,5 3 , 3 , 3,5 4 , 0 , 4,5 4 , 0 , 5,5 4 , 1 , 3,5 4 , 1, 4,5 4 , 2 , 2,5 4 , 2 , 3,5 0 , 0 , 5,4 0 , 0 , 6,4 0 , 1 , 4,4 0 , 1 , 5,4 0 , 1, 6,4 0 , 2 , 3,4 0 , 2 , 4,4 0 , 2 , 5,4
f
0.00000 0.20000 0.00000 1.00000 0.75000 0.50000 1.00000 0.75000 0.50000 0.25000 1.00000 0.75000 0.50000 0.25000 0.00000 0.50000 0.25000 0.00000 0.00000 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.75000 1.00000 0.75000 0.50000 1.00000 0.75000 0.50000
0.26833 0.36000 0.32249 0.40311 0.31869 0.17678 0.48734 0.44896 0.39528 0.31869 0.51235 0.50156 0.48088 0.44896 0.40311 0.50621 0.50156 0.48734 0.51235 0.53748 0.42455 0.30225 0.64979 0.59835 0.55998 0.53748 0.68313 0.66852 0.66852 0.68313 0.70097 0.74536 0.80622 0.65192 0.67082 0.92195 0.90830 0.92195 1.02470 1.01242 1.11803 1.16190 1.61245 1.61245 1.94936 2.04939 2.04939 2.23607 0.29580 0.23717 0.43301 0.42573 0.29580 0.48734 0.50621 0.43301
255
CALCULATION OF MEDIAN-EFFECTIVE DOSE TA B L E I.— Continued
n = 6, K = 3
n = 6, K = 3
n = 6, K = 3 r-values
/
°y
0 ,2 ,6 ,4 0 ,3 ,3 ,4 0 ,3 ,4 ,4 0 ,3 ,5 ,4 0 ,3 ,6 ,4 0 ,4 ,4 ,4 0 ,4 ,5 ,4 1 ,0 ,5 ,4 1 ,0 ,6 ,4 1 ,1 ,4 ,4 1 ,1 ,5 ,4 1 ,1 ,6 ,4 1 ,2 ,3 ,4 1 ,2 ,4 ,4 1 ,2 ,5 ,4 1 ,2 ,6 ,4 1 ,3 ,3 ,4 1 ,3 ,4 ,4 1 ,3 ,5 ,4 1 ,4 ,4 ,4 2 ,0 ,5 ,4 2 ,0 ,6 ,4 2 ,1 ,4 ,4 2 ,1 ,5 ,4 2 ,1 ,6 ,4 2 ,2 ,3 ,4 2 ,2 ,4 ,4 2 * 2 ,5 ,4 2 ,3 ,3 ,4
0.25000 0.75000 0.50000 0.25000 0.00000 0.25000 0.00000 1.00000 0.66667 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 0.66667 0.33333 0.00000 0.00000 1.00000 0.50000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.50000
0.32596 0.53033 0.48734 0.42573 0.33541 0.45415 0.40311 0.53748 0.30225 0.68313 0.55998 0.42455 0.74536 0.66852 0.59835 0.53748 0.70097 0.66852 0.64979 0.68313 0.80622 0.44721 1.02470 0.83666 0.80622 1.11803 1.00000 1.02470 1.04881
r-values 2 ,3 ,4 ,4 3 ,0 ,5 ,4 3 ,0 ,6 ,4 3 ,1 ,4 ,4 3 ,1 ,5 ,4 3 ,2 ,3 ,4 3 ,2 ,4 ,4 3 ,3 ,3 ,4 0 ,0 ,6 ,3 0 ,1 ,5 ,3 0 ,1 ,6 ,3 0 ,2 ,4 ,3 0 ,2 ,5 ,3 0 ,2 ,6 ,3 0 ,3 ,3 ,3 0 ,3 ,4 ,3 0 ,3 ,5 ,3 0 ,3 ,6 ,3 0 ,4 ,4 ,3 0 ,4 ,5 ,3 1 ,0 ,6 ,3 1 ,1 ,5 ,3 1 ,1 ,6 ,3 1 ,2 ,4 ,3 1 ,2 ,5 ,3 1 ,2 ,6 ,3 1 ,3 ,3 ,3 1 ,3 ,4 ,3
r-values
/ 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.66667 1.00000 0.66667 0.33333 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 1.00000 0.50000
1.11803 1.67332 1.34164 2.09762 1.94936 2.28035 2.23607 2.32379 0.44721 0.64979 0.44721 0.74536 0.61464 0.43885 0.77460 0.68313 0.57090 0.44721 0.60858 0.53748 0.67082 0.92195 0.65192 1.11803 0.90830 0.80622 1.16190 1.01242
1 ,3 ,5 ,3 1 ,4 ,4 ,3 2 ,0 ,6 ,3 2 ,1 ,5 ,3 2 ,1 ,6 ,3 2 ,2 ,4 ,3 2 ,2 ,5 ,3 2 ,3 ,3 ,3 2 ,3 ,4 ,3 0 ,1 ,6 ,2 0 ,2 ,5 ,2 0 ,2 ,6 ,2 0 ,3 ,4 ,2 0 ,3 ,5 ,2 0 ,3 ,6 ,2 0 ,4 ,4 ,2 0 ,4 ,5 ,2 1 ,1 ,6 ,2 1 ,2 ,5 ,2 1 ,2 ,6 ,2 1 ,3 ,4 ,2 1 ,3 ,5 ,2 1 ,4 ,4 ,2 0 ,2 ,6 ,1 0 ,3 ,5 ,1 0 ,3 ,6 ,1 0 ,4 ,4 ,1 0 ,4 ,5 ,1
f
0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000
0.92195 1.02470 1.34164 1.94936 1.67332 2.23607 2.09762 2.32379 2.28035 0.80622 1.02470 0.70711 1.11803 0.89443 0.67082 0.94868 0.80622 1.61245 2.04939 1.61245 2.23607 1.94936 2.04939 1.61245 1.94936 1.34164 2.04939 1.61245
BIOMETRICS, SEPTEMBER 1952
256
T A B L E II. TA B L E F O R C A L C U L A T IO N OF M E D IA N -E F F E C T IV E DOSE B Y M O V IN G A V E R A G E IN T E R P O L A T IO N F O R n - 10 A N D K = 3
r-values 0 ,0 ,5 ,1 0 0 ,0 ,6 ,1 0 0 ,0 ,7 ,1 0 0 ,0 ,8 ,1 0 0 ,0 ,9 ,1 0 0 ,0 ,1 0 ,1 0 0 ,1 ,4 ,1 0 0 ,1 ,5 ,1 0 0 ,1 ,6 ,1 0 0 ,1 ,7 ,1 0 0 ,1 ,8 ,1 0 0 ,1 ,9 ,1 0 0 ,1 ,1 0 ,1 0 0 ,2 ,3 ,1 0 0 ,2 ,4 ,1 0 0 ,2 ,5 ,1 0 0 ,2 ,6 ,1 0 0 ,2 ,7 ,1 0 0 ,2 ,8 ,1 0 0 ,2 ,9 ,1 0 0 ,2 ,1 0 ,1 0 0 ,3 ,3 ,1 0 0 ,3 ,4 ,1 0 0 ,3 ,5 ,1 0 0 ,3 ,6 ,1 0 0 ,3 ,7 ,1 0 0 ,3 ,8 ,1 0 0 ,3 ,9 ,1 0 0 ,3 ,1 0 ,1 0 0 ,4 ,4 ,1 0 0 ,4 ,5 ,1 0 0 ,4 ,6 ,1 0 0 ,4 ,7 ,1 0 0 ,4 ,8 ,1 0 0 ,4 ,9 ,1 0 0 ,4 ,1 0 ,1 0 0 ,5 ,5 ,1 0 0 ,5 ,6 ,1 0 0 ,5 ,7 ,1 0 0 ,5 ,8 ,1 0 0 ,5 ,9 ,1 0 0 ,5 ,1 0 ,1 0 0 ,6 ,6 ,1 0 0 ,6 ,7 ,1 0 0 ,6 ,8 ,1 0 0 ,6 ,9 ,1 0 0 ,7 ,7 ,1 0 0 ,7 ,8 ,1 0 1 ,0 ,5 ,1 0 1 ,0 ,6 ,1 0 1 ,0 ,7 ,1 0 1 ,0 ,8 ,1 0 1 ,0 ,9 ,1 0 1 ,0 ,1 0 ,1 0 1 ,1 ,4 ,1 0
/ 1 .0 0 .9 0 .8 0 .7 0 .6 0 .5 1.0 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 1.0 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 0 .3 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 0 .3 0 .2 0 .7 0 .6 0 .5 0 .4 0 .3 0 .2 0 .1 0 .5 0 .4 0 .3 0 .2 0 .1 0 .0 0 .3 0 .2 0 .1 0 .0 0 .1 0 .0 1.0 0.88889 0.77778 0.66667 0.55556 0.44444 1.00000
oy 0.16667 0.16330 0.15275 0.13333 0.10000 0.00000 0.19149 0.19436 0.19149 0.18257 0.16667 0.14142 0.10000 0.20276 0.21082 0.21344 0.21082 0.20276 0.18856 0.16667 0.13333 0.21602 0.22361 0.22608 0.22361 0.21602 0.20276 0.18257 0.15275 0.23094 0.23336 0.23094 0.22361 0.21082 0.19149 0.16330 0.23570 0.23336 0.22608 0.21344 0.19436 0.16667 0.23094 0.22361 0.21082 0.19149 0.21602 0.20276 0.18518 0.18186 0.17151 0.15270 0.12159 0.06172 0.21276
r-values 1 ,1 ,5 ,1 0 1 ,1 ,6 ,1 0 1 ,1 ,7 ,1 0 1 ,1 ,8 ,1 0 1 ,1 ,9 ,1 0 1 ,1 ,1 0 ,1 0 1 ,2 ,3 ,1 0 1 ,2 ,4 ,1 0 1 ,2 ,5 ,1 0 1 ,2 ,6 ,1 0 1 ,2 ,7 ,1 0 1 ,2 ,8 ,1 0 1 ,2 ,9 ,1 0 1 ,2 ,1 0 ,1 0 1 ,3 ,3 ,1 0 1 ,3 ,4 ,1 0 1 ,3 ,5 ,1 0 1 ,3 ,6 ,1 0 1 ,3 ,7 ,1 0 1 ,3 ,8 ,1 0 1 ,3 ,9 ,1 0 1 ,3 ,1 0 ,1 0 1 ,4 ,4 ,1 0 1 ,4 ,5 ,1 0 1 ,4 ,6 ,1 0 1 ,4 ,7 ,1 0 1 ,4 ,8 ,1 0 1 ,4 ,9 ,1 0 1 ,4 ,1 0 ,1 0 1 ,5 ,5 ,1 0 1 ,5 ,6 ,1 0 1 ,5 ,7 ,1 0 1 ,5 ,8 ,1 0 1 ,5 ,9 ,1 0 1 ,6 ,6 ,1 0 1 ,6 ,7 ,1 0 1 ,6 ,8 ,1 0 1 ,7 ,7 ,1 0 2 ,0 ,5 ,1 0 2 ,0 ,6 ,1 0 2 ,0 ,7 ,1 0 2 ,0 ,8 ,1 0 2 ,0 ,9 ,1 0 2 ,0 ,1 0 ,1 0 2 ,1 ,4 ,1 0 2 ,1 ,5 ,1 0 2 ,1 ,6 ,1 0 2 ,1 ,7 ,1 0 2 ,1 ,8 ,1 0 2 ,1 ,9 ,1 0 2 ,1 ,1 0 ,1 0 2 ,2 ,3 ,1 0 2 ,2 ,4 ,1 0 2 ,2 ,5 ,1 0 2 ,2 ,6 ,1 0
/
r-values
/
0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 1.00000 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.11111 0.66667 0.55556 0.44444 0.33333 0.22222 0.11111 0.00000 0.44444 0.33333 0.22222 0.11111 0.00000 0.22222 0.11111 0.00000 0.00000 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 1.00000 0.87500 0.75000 0.62500
2 ,2 ,7 ,1 0 2 ,2 ,8 ,1 0 2 ,2 ,9 ,1 0 2 ,2 ,1 0 ,1 0 2 ,3 ,3 ,1 0 2 ,3 ,4 ,1 0 2 ,3 ,5 ,1 0 2 ,3 ,6 ,1 0 2 ,3 ,7 ,1 0 2 ,3 ,8 ,1 0 2 ,3 ,9 ,1 0 2 ,3 ,1 0 ,1 0 2 ,4 ,4 ,1 0 2 ,4 ,5 ,1 0 2 ,4 ,6 ,1 0 2 ,4 ,7 ,1 0 2 ,4 ,8 ,1 0 2 ,4 ,9 ,1 0 2 ,5 ,5 ,1 0 2 ,5 ,6 ,1 0 2 ,5 ,7 ,1 0 2 ,5 ,8 ,1 0 2 ,6 ,6 ,1 0 2 ,6 ,7 ,1 0 3 ,0 ,5 ,1 0 3 ,0 ,6 ,1 0 3 ,0 ,7 ,1 0 3 ,0 ,8 ,1 0 3 ,0 ,9 ,1 0 3 ,0 ,1 0 ,1 0 3 ,1 ,4 ,1 0 3 ,1 ,5 ,1 0 3 ,1 ,6 ,1 0 3 ,1 ,7 ,1 0 3 ,1 ,8 ,1 0 3 ,1 ,9 ,1 0 3 ,1 ,1 0 ,1 0 3 ,2 ,3 ,1 0 3 ,2 ,4 ,1 0 3 ,2 ,5 ,1 0 3 ,2 ,6 ,1 0 3 ,2 ,7 ,1 0 3 ,2 ,8 ,1 0 • 3 ,2 ,9 ,1 0 3 ,2 ,1 0 ,1 0 3 ,3 ,3 ,1 0 3 ,3 ,4 ,1 0 3 ,3 ,5 ,1 0 3 ,3 ,6 ,1 0 3 ,3 ,7 ,1 0 3 ,3 ,8 ,1 0 3 ,3 ,9 ,1 0 3 ,4 ,4 ,1 0 3 ,4 ,5 ,1 0 3 ,4 ,6 ,1 0
0.50000 0.37500 0.25000 0.12500 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 0.12500 0.00000 0.62500 0.50000 0.37500 0.25000 0.12500 0.00000 0.37500 0.25000 0.12500 0.00000 0.12500 0.00000 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 0.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 0.00000 0.57143 0.42857 0.28571
0.21631 0.21419 0.20621 0.19166 0.16882 0.13354 0.22529 0.23457 0.23843 0.23715 0.23064 0.21842 0.19945 0.17151 0.24034 0.24968 0.25391 0.25331 0.24784 0.23715 0.22050 0.19637 0.25926 0.26392 0.26392 0.25926 0.24968 0.23457 0.21276 0.26907 0.26963 0.26565 0.25690 0.24287 0.27076 0.26736 0.25926 0.26450 0.20833 0.20465 0.19320 0.17237 0.10534 0.07365 0.23936 0.22902 0.24116 0.23246 0.21651 0.19151 0.17678 0.25345 0.26393 0.26842 0.26717
0.26021 0.24694 0.24296 0.22140 0.27043 0.28106 0.28603 0.28565 0.27990 0.28260 0.27081 0.25345 0.29204 0.29756 0.29789 0.30619 0.30117 0.29166 0.30369 0.31732 0.31799 0.31458 0.32340 0.32543 0.23809 0.23536 0.22695 0.21695 0.18962 0.15587 0.27355 0.27941 0.28057 0.28074 0.26877 0.25517 0.23536 0.28965 0.30278 0.31122 0.31857 0.31536 0.31122 0.30278 0.28965 0.31018 0.32546 0.33926 0.34291 0.34574 0.34480 0.34007 0.34588 0.35589 0.36488
257
CALCULATION OF MEDIAN-EFFECTIVE DOSE T A B L E I I .— Continued
r-values
/
oy
r-values
3 ,4 ,7 ,1 0 3 ,4 ,8 ,1 0 3 ,5 ,5 ,1 0 3 ,5 ,6 ,1 0 3 ,5 ,7 ,1 0 3 ,6 ,6 ,1 0 4 ,0 ,5 ,1 0 4 ,0 ,6 ,1 0 4 ,0 ,7 ,1 0 4 ,0 ,8 ,1 0 4 ,0 ,9 ,1 0 4 ,0 ,1 0 ,1 0 4 ,1 ,4 ,1 0 4 ,1 ,5 ,1 0 4 ,1 ,6 ,1 0 4 , 1 , 7 , K) 4 ,1 ,8 ,1 0 4 ,1 ,9 ,1 0 4 ,1 ,1 0 ,1 0 4 ,2 ,3 ,1 0 4 ,2 ,4 ,1 0 4 ,2 ,5 ,1 0 4 ,2 ,6 ,1 0 4 ,2 ,7 ,1 0 4 ,2 ,8 ,1 0 4 ,2 ,9 ,1 0 4 ,3 ,3 ,1 0 4 ,3 ,4 ,1 0 4 ,3 ,5 ,1 0 4 ,3 ,6 ,1 0 4 ,3 ,7 ,1 0 4 ,3 ,8 ,1 0 4 ,4 ,4 ,1 0 4 ,4 ,5 ,1 0 4 ,4 ,6 ,1 0 4 ,4 ,7 ,1 0 4 ,5 ,5 ,1 0 4 ,5 ,6 ,1 0 5 ,0 ,5 ,1 0 5 ,0 ,6 ,1 0 5 ,0 ,7 ,1 0 5 ,0 ,8 ,1 0 5 ,0 ,9 ,1 0 5 ,0 ,1 0 ,1 0 5 ,1 ,4 ,1 0 5 ,1 ,5 ,1 0 5 ,1 ,6 ,1 0 5 ,1 ,7 ,1 0 5 ,1 ,8 ,1 0 5 ,1 ,9 ,1 0 5 ,2 ,3 ,1 0 5 ,2 ,4 ,1 0 5 ,2 ,5 ,1 0 5 ,2 ,6 ,1 0 5 ,2 ,7 ,1 0 5 ,2 ,8 ,1 0 5 ,3 ,3 ,1 0
0.14286 0.00000 0.28571 0.14286 0.00000 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 0.50000 0.33333 0.16667 0.00000 0.16667 0.00000 1.00000 0.80000 0.60000 0.40000 0.20000 0.00000 1.00000 0.80000 0.60000 0.40000 0.20000 0.00000 1.00000 0.80000 0.60000 0.40000 0.20000 0.00000 0.80000
0.37017 0.37192 0.37104 0.38223 0.38978 0.39555 0.27778 0.27592 0.27027 0.26058 0.24637 0.22680 0.31914 0.32710 0.33178 0.33333 0.33178 0.32710 0.31914 0.33793 0.35428 0.36711 0.37679 0.38356 0.38756 0.38889 0.36289 0.38356 0.40062 0.41450 0.42552 0.43390 0.48025 0.42913 0.44675 0.46148 0.45361 0.47466 0.33333 0.33333 0.33333 0.33333 0.33333 0.33333 0.38297 0.39440 0.40552 0.41633 0.42687 0.43716 0.40552 0.42688 0.44721 0.46667 0.48534 0.50332 0.43716
5 ,3 ,4 ,1 0 5 ,3 ,5 ,1 0 5 ,3 ,6 ,1 0 5 ,3 ,7 ,1 0 5 ,4 ,4 ,1 0 5 ,4 ,5 ,1 0 5 ,4 ,6 ,1 0 5 ,5 ,5 ,1 0 6 ,0 ,5 ,1 0 6 ,0 ,6 ,1 0 6 ,0 ,7 ,1 0 6 ,0 ,8 ,1 0 6 ,0 ,9 ,1 0 6 ,1 ,4 ,1 0 6 ,1 ,5 ,1 0 6 ,1 ,6 ,1 0 6 ,1 ,7 ,1 0 6 ,1 ,8 ,1 0 6 ,2 ,3 ,1 0 6 ,2 ,4 ,1 0 6 ,2 ,5 ,1 0 6 ,2 ,6 ,1 0 6 ,2 ,7 ,1 0 6 ,3 ,3 ,1 0 6 ,3 ,4 ,1 0 6 ,3 ,5 ,1 0 6 ,3 ,6 ,1 0 6 ,4 ,4 ,1 0 6 ,4 ,5 ,1 0 7 ,0 ,5 ,1 0 7 ,0 ,6 ,1 0 7 ,0 ,7 ,1 0 7 ,0 ,8 ,1 0 7 ,1 ,4 ,1 0 7 ,1 ,5 ,1 0 7 ,1 ,6 ,1 0 7 ,1 ,7 ,1 0 7 ,2 ,3 ,1 0 7 ,2 ,4 ,1 0 7 ,2 ,5 ,1 0 7 ,2 ,6 ,1 0 7 ,3 ,3 ,1 0 7 ,3 ,4 ,1 0 7 ,3 ,5 ,1 0 7 ,4 ,4 ,1 0 8 ,0 ,5 ,1 0 8 ,0 ,6 ,1 0 8 ,0 ,7 ,1 0 8 ,1 ,4 ,1 0 8 ,1 ,5 ,1 0 8 ,1 ,6 ,1 0 8 ,2 ,3 ,1 0 8 ,2 ,4 ,1 0 8 ,2 ,5 ,1 0 8 ,3 ,3 ,1 0 8 ,3 ,4 ,1 0 9 ,0 ,5 ,1 0
/ 0.46667 0.60000 0.48990 0.40000 0.20000 . 0.52068 0.54569 0.00000 0.49889 0.40000 0.53748 0.20000 0.56960 0.00000 0.57735 0.00000 0.41667 1.00000 0.45644 0.75000 0.43301 0.50000 0.45262 0.25000 0.00000 0.47871 1.00000 0.47871 0.52705 0.75000 0.52042 0.50000 0.54962 0.25000 0.58333 0.00000 0.50690 1.00000 0.56519 0.75000 0.57130 0.50000 0.60953 0.25000 0.65085 0.00000 0.57735 0.75000 0.59512 0.50000 0.64280 0.25000 0.69222 0.00000 0.65352 0.25000 0.71200 0.00000 0.55556 1.00000 0.57013 0.66667 0.61195 0.33333 0.67586 0.00000 0.63828 1.00000 0.66975 0.66667 0.72293 0.33333 0.00000 0.79349 0.67586 1.00000 0.72293 0.66667 0.78829 0.33333 0.86780 0.00000 0.66667 0.73981 0.33333 0.81901 0.90948 0.00000 0.92296 0.00000 0.83333 1.00000 0.88192 0.50000 1.01379 0.00000 0.95743 1.00000 0.50000 1.02740 1.16667 0.00000 1.00000 1.01379 1.10554 0.50000 0.00000 1.25830 1.13039 0.50000 0.00000 1.30171 1.66667 1.00000
r-values
/
<jf
9 ,0 ,6 ,1 0 9 ,1 ,4 ,1 0 9 ,1 ,5 ,1 0 9 ,2 ,3 ,1 0 9 ,2 ,4 ,1 0 9 ,3 ,3 ,1 0 0 ,0 ,6 ,9 0 ,0 ,7 ,9 0 ,0 ,8 ,9 0 ,0 ,9 ,9 0 ,0 ,1 0 ,9 0 ,1 ,5 ,9 0 ,1 ,6 ,9 0 ,1 ,7 ,9 0 ,1 ,8 ,9 0 ,1 ,9 ,9 0 ,1 ,1 0 ,9 0 ,2 ,4 ,9 0 ,2 ,5 ,9 0 ,2 ,6 ,9 0 ,2 ,7 ,9 0 ,2 ,8 ,9 0 ,2 ,9 ,9 0 ,2 ,1 0 ,9 0 ,3 ,3 ,9 0 ,3 ,4 ,9 0 ,3 ,5 ,9 0 ,3 ,6 ,9 0 ,3 ,7 ,9 0 ,3 ,8 ,9 0 ,3 ,9 ,9 0 ,3 ,1 0 ,9 0 ,4 ,4 ,9 0 ,4 ,5 ,9 0 ,4 ,6 ,9 0 ,4 ,7 ,9 0 ,4 ,8 ,9 0 ,4 ,9 ,9 0 ,4 ,1 0 ,9 0 ,5 ,5 ,9 0 ,5 ,6 ,9 0 ,5 ,7 ,9 0 ,5 ,8 ,9 0 ,5 ,9 ,9 0 ,5 ,1 0 ,9 0 ,6 ,6 ,9 0 ,6 ,7 ,9 0 ,6 ,8 ,9 0 ,6 ,9 ,9 0 ,7 ,7 ,9 0 ,7 ,8 ,9 1 ,0 ,6 ,9 1 ,0 ,7 ,9 1 ,0 ,8 ,9 1 ,0 ,9 ,9 1 ,0 ,1 0 ,9 1 ,1 ,5 ,9
0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 0.88889 0.77778 0.66667 0.55556 1.00000 0.88889 0.77778 0.66667 0.55555 0.44444 1.00000 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 1.00000 0.88889 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.77778 0.66667 0.55556 0.44444 0.33333 0.22222 0.11111 0.55556 0.44444 0.33333 0.22222 0.11111 0.00000 0.33333 0.22222 0.11111 0.00000 0.11111 0.00000 1.00000 0.87500 0.75000 0.62500 0.50000 1.00000
1.77951 1.77951 2.18581 2.02759 2.33333 2.38048 0.21276 0.19637 0.17151 0.13354 0.06172 0.24287 0.23457 0.22050 0.19945 0.16882 0.12159 0.25926 0.25690 0.24968 0.23715 0.21842 0.19166 0.15270 0.26450 0.26736 0.26565 0.25926 0.24784 0.23064 0.20621 0.17151 0.27076 0.26963 0.26392 0.25331 0.23715 0.21419 0.18186 0.26907 0.26392 0.25391 0.23843 0.21631 0.18518 0.25926 0.24968 0.23457 0.21276 0.24034 0.22529 0.23936 0.22060 0.19376 0.15468 0.08838 0.27323
BIOMETRICS, SEPTEMBER 1952
258
TABLE II .— Continued
r-values
/
r-values
/
<jf
r-values
f
1 ,1 ,6 ,9 1 ,1 ,7 ,9 1 ,1 ,8 ,9 1 ,1 ,9 ,9 1 ,1 ,1 0 ,9 1 ,2 ,4 ,9 1 ,2 ,5 ,9 1 ,2 ,6 ,9 1 ,2 ,7 ,9 1 ,2 ,8 ,9 1 ,2 ,9 ,9 1 ,2 ,1 0 ,9 1 ,3 ,3 ,9 1 ,3 ,4 ,9 1 ,3 ,5 ,9 1 ,3 ,6 ,9 1 ,3 ,7 ,9 1 ,3 ,8 ,9 1 ,3 ,9 ,9 1 ,3 ,1 0 ,9 1 ,4 ,4 ,9 1 ,4 ,5 ,9 1 ,4 ,6 ,9 1 ,4 ,7 ,9 1 ,4 ,8 ,9 1 ,4 ,9 ,9 1 ,4 ,1 0 ,9 1 ,5 ,5 ,9 1 ,5 ,6 ,9 1 ,5 ,7 ,9 1 ,5 ,8 ,9 1 ,5 ,9 ,9 1 ,6 ,6 ,9 1 ,6 ,7 ,9 1 ,6 ,8 ,9 1 ,7 ,7 ,9 2 ,0 ,6 ,9 2 ,0 ,7 ,9 2 ,0 ,8 ,9 2 ,0 ,9 ,9 2 ,0 ,1 0 ,9 2 ,1 ,5 ,9 2 ,1 ,6 ,9 2 ,1 ,7 ,9 2 ,1 ,8 ,9 2 ,1 ,9 ,9 2 ,1 ,1 0 ,9 2 ,2 ,4 ,9 2 ,2 ,5 ,9 2 ,2 ,6 ,9 2 ,2 ,7 ,9 2 ,2 ,8 ,9 2 ,2 ,9 ,9 2 ,2 ,1 0 ,9 2 ,3 ,3 ,9 2 ,3 ,4 ,9 2 ,3 ,5 ,9
0.87500 0.75000 0.62500 0.50000 0.37500 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 1.00000 0.87500 0.75000 0.62500 0.50000 0.37500 0.25000 0.12500 0.75000 0.62500 0.50000 0.37500 0.25000 0.12500 0.00000 0.50000 0.37500 0.25000 0.12500 0.00000 0.25000 0.12500 0.00000 0.00000 1.00000 0.85714 0.71429 0.57143 0.42857 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 1.00000 0.85714 0.71429
0.26363 0.24869 0.22738 0.19766 0.15468 0.29167 0.28877 0.28144 0.26933 0.25173 0.22738 0.19376 0.29756 0.30055 0.29938 0.29398 0.28413 0.26933 0.24869 0.22060 0.30512 0.30557 0.30190 0.29398 0.28144 0.26363 0.23936 0.30760 0.30557 0.29938 0.28877 0.27323 0.30512 0.30055 0.29167 0.29756 0.27355 0.25170 0.22283 0.18786 0.12834 0.31226 0.30094 0.28531 0.26753 0.23934 0.20146 0.33333 0.32970 0.32261 0.31430 0.29838 0.27725 0.25170 0.34007 0.34318 0.34305
2 ,3 ,6 ,9 2 ,3 ,7 ,9 2 ,3 ,8 ,9 2 ,3 ,9 ,9 2 ,3 ,1 0 ,9 2 ,4 ,4 ,9 2 ,4 ,5 ,9 2 ,4 ,6 ,9 2 ,4 ,7 ,9 2 ,4 ,8 ,9 2 ,4 ,9 ,9 2 ,5 ,5 ,9 2 ,5 ,6 ,9 2 ,5 ,7 ,9 2 ,5 ,8 ,9 2 ,6 ,6 ,9 2 ,6 ,7 ,9 3 ,0 ,6 ,9 3 ,0 ,7 ,9 3 ,0 ,8 ,9 3 ,0 ,9 ,9 3 ,0 ,1 0 ,9 3 ,1 ,5 ,9 3 ,1 ,6 ,9 3 ,1 ,7 ,9 3 ,1 ,8 ,9 3 ,1 ,9 ,9 3 ,1 ,1 0 ,9 3 ,2 ,4 ,9 3 ,2 ,5 ,9 3 ,2 ,6 ,9 3 ,2 ,7 ,9 3 ,2 ,8 ,9 3 ,2 ,9 ,9 3 ,2 ,1 0 ,9 3 ,3 ,3 ,9 3 ,3 ,4 ,9 3 ,3 ,5 ,9 3 ,3 ,6 ,9 3 ,3 ,7 ,9 3 ,3 ,8 ,9 3 ,3 ,9 ,9 3 ,4 ,4 ,9 3 ,4 ,5 ,9 3 ,4 ,6 ,9 3 ,4 ,7 ,9 3 ,4 ,8 ,9 3 ,5 ,5 ,9 3 ,5 ,6 ,9 3 ,5 ,7 ,9 3 ,6 ,6 ,9 4 ,0 ,6 ,9 4 ,0 ,7 ,9 4 ,0 ,8 ,9 4 ,0 ,9 ,9 4 ,0 ,1 0 ,9 4 ,1 ,5 ,9
0.57143 0.42857 0.28571 0.14286 0.00000 0.71429 0.57143 0.42857 0.28571 0.14286 0.00000 0.42857 0.28571 0.14286 0.00000 0.14286 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.00000 0.66667 0.50000 0.33333 0.16667 0.00000 0.33333 0.16667 0.00000 0.00000 1.00 0 .8 0 0 .60 0 .4 0 0 .2 0 1.00
0.34194 0.33423 0.32261 0.30838 0.28966 0.34960 0.35496 0.35400 0.34960 0.34318 0.33333 0.36034 0.36234 0.36246 0.35952 0.36867 0.37192 0.31914 0.29310 0.26254 0.22567 0.18703 0.36430 0.35000 0.33487 0.31672 0.30089 0.26692 0.38889 0.38423 0.37816 0.37060 0.36571 0.34731 0.33793 0.39674 0.39997 0.40190 0.40254 0.40572 0.39707 0.35573 0.40965 0.41759 0.42793 0.42703 0.39674 0.43509 0.44125 0.41944 0.42673 0.38297 0.35100 0.32028 0.29120 0.26432 0.43716
4 ,1 ,6 ,9 4 ,1 ,7 ,9 4 ,1 ,8 ,9 4 ,1 ,9 ,9 4 ,1 ,1 0 ,9 4 ,2 ,4 ,9 4 ,2 ,5 ,9 4 ,2 ,6 ,9 4 ,2 ,7 ,9 4 ,2 ,8 ,9 4 ,2 ,9 ,9 4 ,3 ,3 ,9 4 ,3 ,4 ,9 4 ,3 ,5 ,9 4 ,3 ,6 ,9 4 ,3 ,7 ,9 4 ,3 ,8 ,9 4 ,4 ,4 ,9 4 ,4 ,5 ,9 4 ,4 ,6 ,9 4 ,4 ,7 ,9 4 ,5 ,5 ,9 4 ,5 ,6 ,9 5 ,0 ,6 ,9 5 ,0 ,7 ,9 5 ,0 ,8 ,9 5 ,0 ,9 ,9 5 ,0 ,1 0 ,9 5 ,1 ,5 ,9 5 ,1 ,6 ,9 5 ,1 ,7 ,9 5 ,1 ,8 ,9 5 ,1 ,9 ,9 5 ,2 ,4 ,9 5 ,2 ,5 ,9 5 ,2 ,6 ,9 5 ,2 ,7 ,9 5 ,2 ,8 ,9 5 ,3 ,3 ,9 5 ,3 ,4 ,9 5 ,3 ,5 ,9 5 ,3 ,6 ,9 5 ,3 ,7 ,9 5 ,4 ,4 ,9 5 ,4 ,5 ,9 5 ,4 ,6 ,9 5 ,5 ,5 ,9 6 ,0 ,6 ,9 6 ,0 ,7 ,9 6 ,0 ,8 ,9 6 ,0 ,9 ,9 6 ,1 ,5 ,9 6 ,1 ,6 ,9 6 ,1 ,7 ,9 6 ,1 ,8 ,9 6 ,2 ,4 ,9 6 ,2 ,5 ,9
0 .80 0 .6 0 0 .40 0 .2 0 0 .00 1.00 0 .8 0 0 .60 0 .4 0 0 .2 0 0 .00 1.00 0 .80 0 .6 0 0 .4 0 0 .2 0 0 .0 0 0 .6 0 0 .4 0 0 .20 0 .00 0 .20 0 .0 0 1.00 0 .7 5 0 .5 0 0 .2 5 0 .0 0 1.00 0 .7 5 0 .50 0.25000 0.00000 1.00000 0.75000 0.50000 0.25000 0.00000 1.00000 0.75000 0.50000 0.25000 0.00000 0.50000 0.25000 0.00000 0.00000 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667
0.42016 0.40596 0.39486 0.38713 0.38297 0.46667 0.46053 0.45743 0.45743 0.46053 0.46667 0.47610 0.47944 0.48571 0.49477 0.50649 0.52068 0.49477 0.51242 0.53216 0.55377 0.54045 0.56960 0.47871 0.43800 0.41248 0.40505 0.41667 0.54645 0.52457 0.51707 0.52457 0.54645 0.58333 0.57509 0.58035 0.59875 0.62915 0.59512 0.59875 0.61520 0.64348 0.68211 0.62639 0.66471 0.71200 0.72169 0.63828 0.58443 0.58443 0.63828 0.72860 0.69979 0.71722 0.77778 0.77778 0.76712
259
CALCULATION OF MEDIAN-EFFECTIVE DOSE T A B L E I I .— Continued
r-va lu e s
/
r-valu es
/
6 , 2 , 6 ,9 6 , 2 , 7 ,9 6 , 3 , 3 ,9 6 , 3 , 4 ,9 6 , 3 , 5 ,9 6 , 3 , 6 ,9 6 , 4 , 4 ,9 6 , 4 , 5 ,9 7 , 0 , 6 ,9 7 , 0 , 7 ,9 7 , 0 , 8 ,9 7 , 1 , 5 ,9 7 , 1 , 6 ,9 7 , 1 , 7 ,9 7 , 2 , 4 ,9 7 , 2 , 5 ,9 7 , 2 , 6 ,9 7 , 3 , 3 ,9 7 , 3 , 4 ,9 7 , 3 , 5 ,9 7 , 4 , 4 ,9 8 , 0 J 6 ,9 8 , 0 , 7 ,9 8 , 1 , 5 ,9 8 , 1 , 6 ,9 8 , 2 , 4 ,9
0 .3 3 3 3 3 0 .0 0 0 0 0 1 .0 0 00 0 0 .6 6 6 6 7 0 .3 3 3 3 3 0 .0 0 0 0 0 0 .3 3 3 3 3 0 .0 0 0 0 0 1 .0 0 00 0 0 .5 0 0 0 0 0 .0 0 0 0 0 1 .0 0 0 .5 0 0 .0 0 1 .0 0 0 .5 0 0 .0 0 1 .0 0 0 .5 0 0 .0 0 0 .0 0 1 .0 0 0 .0 0 1 .0 0 0 .0 0 1 .0 0
0 .7 9 8 6 6 0 .7 9 3 4 9 0 .7 9 3 4 9 0 .7 9 8 6 6 0 .8 4 3 7 6 0 .8 5 3 4 6 0 .8 5 8 2 7 0 .8 8 1 9 2 0 .95743 0 .8 8 9 7 6 1 .0 1 37 9 1.0 9 29 1 1 .0 6 06 6 1 .1 0 9 2 4 1 .1 6 6 6 7 1 .1 6 07 0 1 .30171 1 .1 9 02 4 1 .20761 1 .3 6 42 2 1 .3 8 44 4 1 .77951 2 .0 2 7 5 9 2 .1 8 58 1 2 .3 3 3 3 3 2 .3 3 3 3 3
0 , 4 , 1 0 ,8 0 , 5 , 5 ,8 0 , 5 , 6 ,8 0 , 5 , 7 ,8 0 , 5 , 8 ,8 0 , 5 , 9 ,8 0 , 5 , 1 0 ,8 0 , 6 , 6 ,8 0 , 6 , 7 ,8 0 , 6 , 8 ,8 0 , 6 , 9 ,8 0 , 7 , 7 ,8 0 , 7 , 8 ,8 1 , 0 , 7 ,8 1 , 0 , 8 ,8 1 , 0 , 9 ,8 1 , 0 , 1 0 ,8
0 .1 2 5 0 .6 2 5 0 .5 0 0 0 .3 7 5 0 .2 5 0 0 .1 2 5 0 .0 0 0 0 .3 7 5 0 .2 5 0 0 .1 2 5 0 .0 0 0 0 .1 2 5 0 .0 0 0 1 .0 0 0 0 0 0 .8 5 7 1 4 0 .7 1 4 2 9 0 .5 7 1 4 3 1 .0 0 0 0 0 0 .5 8 7 1 4 0 .7 1 4 2 9 0 .5 7 1 4 3 0 .4 2 8 5 7 1 .0 0 00 0 0 .5 8 7 1 4 0 .7 1 4 2 9 0 .5 7 1 4 3
0 .2 0 4 6 5 0 .3 0 3 6 9 0 .2 9 7 5 6 0 .2 8 6 0 3 0 .2 6 8 4 2 0 .2 2 9 0 2 0 .2 0 8 3 3 0 .2 9 2 0 4 0 .2 8 1 0 6 0 .2 6 3 9 3 0 .2 3 9 3 6 0 .2 7 0 4 3 0 .2 5 3 4 5 0 .2 8 9 6 6 0 .2 5 1 7 0 0 .2 0 1 4 6 0 .1 2 8 3 4 0 .3 3 3 3 3 0 .3 0 8 3 8 0 .2 7 7 2 5 0 .2 3 9 3 4 0 .1 8 7 8 6 0 .3 5 9 5 2 0 .3 4 3 1 8 0 .3 2 2 6 1 0 .2 9 8 3 9
0 .6 6 6 6 7 2 , 1 , 8 ,8 0 .5 0 0 0 0 2 , 1 , 9 ,8 0 .3 3 3 3 3 2 , 1, 1 0 ,8 1 .0 0 00 0 2 , 2 , 5 ,8 0 .8 3 3 3 3 2 , 2 , 6 ,8 0 .6 6 6 6 7 2', 2 , 7 ,8 0 .5 0 0 0 0 2 , 2 , 8 ,8 0 .3 3 3 3 3 2 , 2 , 9 ,8 2 , 2 , 1 0 ,8 0 .1 6 6 6 7 1.0 0 00 0 2 , 3 , 4 ,8 0 .8 3 3 3 3 2 , 3 , 5 ,8 0 .6 6 6 6 7 2 , 3 , 6 ,8 0 .5 0 0 0 0 2 , 3 , 7 ,8 0 .3 3 3 3 3 2 , 3 , 8 ,8 0 .1 6 6 6 7 2 , 3 , 9 ,8 0 .0 0 0 0 0 2 , 3 , 1 0 ,8 0 .8 3 3 3 3 2 , 4 , 4 ,8 2 , 4 , 5 ,8 ' 0 .6 6 6 6 7 0 .5 0 0 0 0 2 , 4 , 6 ,8 0 .3 3 3 3 3 2 , 4 , 7 ,8 0 .1 6 6 6 7 2 , 4 , 8 ,8 0 .0 0 0 0 0 2 , 4 , 9 ,8 0 .5 0 0 0 0 2 , 5 , 5 ,8 0 .3 3 3 3 3 2 , 5 , 6 ,8 0 .1 6 6 6 7 2 , 5 , 7 ,8 0.00000 2 , 5 , 8 ,8
8 ,2 ,5 ,9 8 ,3 ,3 ,9 8 ,3 ,4 ,9 0 ,0 ,7 ,8 0 ,0 ,8 ,8 0 ,0 ,9 ,8 0 ,0 ,1 0 ,8 0 ,1 ,6 ,8 0 ,1 ,7 ,8 0 ,1 ,8 ,8 0 ,1 ,9 ,8 0 ,1 ,1 0 ,8 0 ,2 ,5 ,8 0 ,2 ,6 ,8 0 ,2 ,7 ,8 0 ,2 ,8 ,8 0 ,2 ,9 ,8 0 ,2 ,1 0 ,8 0 ,3 ,4 ,8 0 ,3 ,5 ,8 0 ,3 ,6 ,8 0 ,3 ,7 ,8 0 ,3 ,8 ,8 0 ,3 ,9 ,8 0 ,3 ,1 0 ,8 0 ,4 ,4 ,8 0 ,4 ,5 ,8 0 ,4 ,6 ,8 0 ,4 ,7 ,8 0 ,4 ,8 ,8 0 ,4 ,9 ,8
0 .00 1.00 0 .00 1.000 0.875 0.750 0.625 1.000 0.875 0.750 0.625 0.500 1.000 0.875 0.750 0.625 0.500 0.375
2.51661 2.38048 2.60342 0.25345 0.22140 0.17678 0.07365 0.29166 0.27081 0.24296 0.19151 0.10534 0.31458 0.30117 0.28260 0.24694 0.21651 0.17237 0.32543 0.31799 0.30619 0.27990 0.26021 0.23246 0.19320 0.32340 0.31732 0.29789 0.28565 0.26717 0.24116
1 ,2 ,9 ,8 1 ,2 ,1 0 ,8 1 ,3 ,4 ,8 1 ,3 ,5 ,8 1 ,3 ,6 ,8 1 ,3 ,7 ,8 1 ,3 ,8 ,8 1 ,3 ,9 ,8 1 ,3 ,1 0 ,8 1 ,4 ,4 ,8 1 ,4 ,5 ,8 1 ,4 ,6 ,8 1 ,4 ,7 ,8 1 ,4 ,8 ,8 1 ,4 ,9 ,8 1 ,4 ,1 0 ,8 1 ,5 ,5 ,8 1 ,5 ,6 ,8 1 ,5 ,7 ,8 1 ,5 ,8 ,8 1 ,5 ,9 ,8 1 ,6 ,6 ,8 1 ,6 ,7 ,8 1 ,6 ,8 ,8 1 ,7 ,7 ,8 2 ,0 ,7 ,8 2 ,0 ,8 ,8 2 ,0 ,9 ,8 2 ,0 ,1 0 ,8 2 ,1 ,6 ,8 2 ,1 ,7 ,8
0.42857 0.28571 1.00000 0.58714 0.71429 0.57143 0.42857 0.28571 0.14286 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286
0.26753 0.22283 0.37192 0.36246 0.34960 0.33423 0.31430 0.28531 0.25170 0.36867 0.36234 0.35400 0.34194 0.32261 0.30094 0.27355 0.26034 0.35496 0.34305 0.32970 0.31226 0.34960 0.34318 0.33333 0.34007 0.33793 0.29163 0.23497 0.15713 0.38888 0.35813
2 ,6 ,6 ,8 2 ,6 ,7 ,8 3 ,0 ,7 ,8 3 ,0 ,8 ,8 3 ,0 ,9 ,8 3 ,0 ,1 0 ,8 3 ,1 ,6 ,8 3 ,1 ,7 ,8 3 ,1 ,8 ,8 3 ,1 ,9 ,8 3 ,1 ,1 0 ,8 3 ,2 ,5 , 8 3 ,2 ,6 ,8 3 ,2 ,7 ,8 3 ,2 ,8 ,8 3 ,2 ,9 ,8 3 ,2 ,1 0 ,8 3 ,3 ,4 ,8 3 ,3 ,5 ,8 3 ,3 ,6 ,8 3 ,3 ,7 ,8 3 ,3 ,8 ,8 3 ,3 ,9 ,8 3 ,4 ,4 ,8 3 ,4 ,5 ,8 3 ,4 ,6 ,8 3 ,4 ,7 ,8 3 ,4 ,8 ,8 3 ,5 ,5 ,8 3 ,5 ,6 ,8 3 ,5 ,7 ,8
r-valu es
1 .0 0 0
0.875 0.750 0.625 0,500 0.375 0.250 0.875 0.750 0.625 0.500 0.375 0.250
1 , 1 , 6 ,8 1 , 1 , 7 ,8 1 , 1 , 8 ,8 1 , 1 , 9 ,8 1 , 1 , 1 0 ,8 1 , 2 , 5 ,8 1 , 2 , 6 ,8 1 , 2 , 7 ,8 1 , 2 , 8 ,8
0 .0 0 0 0 0
0.57143 0.42857 0.28571 0.14286 0 .0 0 0 0 0
0.28571 0.14286 0 .0 0 0 0 0 0 .0 0 0 0 0 1 .0 0 0 0 0
0.83333 0.66667 0.50000 1 .0 0 0 0 0
0.83333
/
0.16667 0.00000 1.00000 0.80000 0.60000 0.40000 1.00000 0.80000 0.60000 0.40000 0.20000 1.00000 0.80000 0.60000 0.40000 0.20000 0 .0 0 0 0 0 1 .0 0 00 0
0.80000 0.60000 0.40000 0.20000 0 .0 0 0 0 0
0.80000 0 60000 0.40000 0.20000 0 .0 0 0 0 0
0.40000 0 .2 0 0 0 0 0 .0 0 0 0 0
0 .3 2 34 1 0 .2 8 3 2 8 0 .2 3 4 9 7 0 .4 1 9 4 4 0 .3 9 8 9 0 0 .3 7 6 3 4 0 .3 5 1 3 6 0 .3 2 3 4 1 0 .2 9 1 6 3 0 .4 3 3 9 0 0 .4 2 1 7 4 0 .4 0 7 8 3 0 .4 0 0 6 2 0 .3 7 6 3 4 0 .3 5 8 1 3 0 .3 3 7 9 3 0 .4 2 7 8 3 0 .4 2 2 6 9 0 .4 3 0 3 3 0 .4 0 7 8 3 0 .3 9 8 9 0 0 .3 8 8 8 8 0 .4 4 4 4 5 0 .4 2 2 6 9 0 .4 2 1 4 7
0.41944 0.42873 0.43390 0.40552 0.34692 0.28378 0.21208 0.46667 0.42729 0.38941 0.35352 0.32028 0.50332 0.47647 0.45274 0.43267 0.41676 0.40552 0.52068 0.50368 0.49044 0.48129 0.47647 0.47610 0.51242 0.50824 0.50824 0.51242 0.52068 0.51691 0.52949 0.54569
260
BIOMETRICS, SEPTEMBER 1952 TABLE II .— Continued
r-values
/
3 ,6 ,6 ,8 4 ,0 ,7 ,8 4 ,0 ,8 ,8 4 ,0 ,9 ,8 4 ,0 ,1 0 ,8 4 ,1 ,6 ,8 4 ,1 ,7 ,8 4 ,1 ,8 ,8 4 ,1 ,9 ,8 4 ,1 ,1 0 ,8 4 ,2 ,5 ,8 4 ,2 ,6 ,8 4 ,2 ,7 ,8 4 ,2 ,8 ,8 4 ,2 ,9 ,8 4 ,3 ,4 ,8 4 ,3 ,5 ,8 4 ,3 ,6 ,8 4 ,3 ,7 ,8 4 ,3 ,8 ,8 4 ,4 ,4 ,8 4 ,4 ,5 ,8 4 ,4 ,6 ,8 4 ,4 ,7 ,8 4 ,5 ,5 ,8 4 ,5 ,6 ,8 5 ,0 ,7 ,8 5 ,0 ,8 ,8 5 ,0 ,9 ,8 5 ,0 ,1 0 ,8 5 ,1 ,6 ,8 5 ,1 ,7 ,8 5 ,1 ,8 ,8 5 ,1 ,9 ,8 5 ,2 ,5 ,8 5 ,2 ,6 ,8 5 ,2 ,7 ,8 5 ,2 ,8 ,8 5 ,3 ,4 ,8 5 ,3 ,5 ,8 5 ,3 ,6 ,8 5 ,3 ,7 ,8 5 ,4 ,4 ,8 5 ,4 ,5 ,8 5 ,4 ,6 ,8 5, 5 , 5 , 8 6 ,0 ,7 ,8 6 ,0 ,8 ,8 6 ,0 ,9 ,8 6 ,1 .6 ,8 6 ,1 ,7 ,8 6 ,1 ,8 ,8 6 ,2 ,5 ,8 6 ,2 ,6 ,8 6 ,2 ,7 ,8 6 ,3 ,4 ,8 6 ,3 ,5 ,8
0.00000 1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.75000 0.50000 0.25000
0.00000 0.25000
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.66667 0 33333
0.00000 0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.55377 0.50690 0.42898 0.36324 0.31732 0.58333 0.53033 0.49301 0.47507 0.47871 0.62915 0.59219 0.57130 0.56826 0.58333 0.65085 0.62639 0.61802 0.62639 0.65085 0.63191 0.64010 0.66926 0.69222 0.68971 0.71200 0.67586 0.56534 0.51984 0.55556 0.77778 0.70175 0.68393 0.72860 0.83887 0.78480 0.78480 0.83887 0.86780 0.83065 0.84539 0.90948 0.84539 0.87410 0.94933 0.96225 1.01379 0.84984 0.95743 1.16667 1.05409 1.16667 1.25830 1.17851 1.30171 1.30171 1.24722
r-values
/
*/
r-values
/
6 ,3 ,6 ,8 6 ,4 ,4 ,8 6 ,4 ,5 ,8 7 ,0 ,7 ,8 7 ,0 ,8 ,8 7 ,1 ,6 ,8 7 ,1 ,7 ,8 7 ,2 ,5 ,8 7 ,2 ,6 ,8 7 ,3 ,4 ,8 7 ,3 ,5 ,8 7 ,4 ,4 ,8 0 ,0 ,8 ,7 0 ,0 ,9 ,7 0 ,0 ,1 0 ,7 0 ,1 ,7 ,7 0 ,1 ,8 ,7 0 ,1 ,9 ,7 0 ,1 ,1 0 ,7 0 ,2 ,6 ,7 0 ,2 ,7 ,7 0 ,2 ,8 ,7 0 ,2 ,9 ,7 0 ,2 ,1 0 ,7 0 ,3 ,5 ,7 0 ,3 ,6 ,7 0 ,3 ,7 ,7 0 ,3 ,8 ,7 0 ,3 ,9 ,7 0 ,3 ,1 0 ,7 0 ,4 ,4 ,7 0 ,4 ,5 ,7 0 ,4 ,6 ,7 0 ,4 ,7 ,7 0 ,4 ,8 ,7 0 ,4 ,9 ,7 0 ,4 ,1 0 ,7 0 ,5 ,5 ,7 0 ,5 ,6 ,7 0 ,5 ,7 ,7 0 ,5 ,8 ,7 0 ,5 ,9 ,7 0 ,5 ,1 0 ,7 0 ,6 ,6 ,7 0 ,6 ,7 ,7 0 ,6 ,8 ,7 0 ,6 ,9 ,7 0 ,7 ,7 ,7 0 ,7 ,8 ,7 1 ,0 ,8 ,7 1 ,0 ,9 ,7 1 ,0 ,1 0 ,7 1 ,1 ,7 ,7 1 ,1 ,8 ,7 1 ,1 ,9 ,7 1 ,1 ,1 0 ,7 1 ,2 ,6 ,7
0.00000
1.38444 1.26930 1.42400 2.02759 2.02759 2.33333 2.38048 2.51661 2.60342 2.60342 2.72845 2.76887 0.28965 0.23536 0.15587 0.34007 0.30278 0.25517 0.18962 0.37192 0.34480 0.31122 0.26877 0.21695 0.38978 0.37017 0.34574 0.31536 0.28074 0.22695 0.39555 0.38223 0.36488 0.34291 0.31857 0.28057 0.23536 0.37104 0.35589 0.33927 0.31122 0.37941 0.23809 0.34588 0.32546 0.30278 0.27355 0.31018 0.28965 0.33793 0.26692 0.18793 0.35573 0.34731 0.30089 0.22567 0.39674
1 ,2 ,7 ,7 1 ,2 ,8 ,7 1 ,2 ,9 ,7 1 ,2 ,1 0 ,7 1 ,3 ,5 ,7 1 ,3 ,6 ,7 1 ,3 ,7 ,7 1 ,3 ,8 ,7 1 ,3 ,9 ,7 1 ,3 ,1 0 ,7 1 ,4 ,4 ,7 1 ,4 ,5 ,7 1 ,4 ,6 ,7 1 ,4 ,7 ,7 1 ,4 ,8 ,7 1 ,4 ,9 ,7 1 ,4 ,1 0 ,7 1 ,5 ,5 ,7 1 ,5 ,6 ,7 1 ,5 ,7 ,7 1 ,5 ,8 ,7 1 ,5 ,9 ,7 1 ,6 ,6 ,7 1 ,6 ,7 ,7 1 ,6 ,8 ,7 1 ,7 ,7 ,7 2 ,0 ,8 ,7 2 ,0 ,9 ,7 2 ,0 ,1 0 ,7 2 ,1 ,7 ,7 2 ,1 ,8 ,7 2 ,1 ,9 ,7 2 ,1 ,1 0 ,7 2 ,2 ,6 ,7 2 ,2 ,7 ,7 2 ,2 ,8 ,7 2 ,2 ,9 ,7 2 ,2 ,1 0 ,7 2 ,3 ,5 ,7 2 ,3 ,6 ,7 2 ,3 ,7 ,7 2 ,3 ,8 ,7 2 ,3 ,9 ,7 2 ,3 ,1 0 ,7 2 ,4 ,4 ,7 2 ,4 ,5 ,7 2 ,4 ,6 ,7 2 ,4 ,7 ,7 2 ,4 ,8 ,7 2 ,4 ,9 ,7 2 ,5 ,5 ,7 2 ,5 ,6 ,7 2 ,5 ,7 ,7 2 ,5 ,8 ,7 2 ,6 ,6 ,7 2 ,6 ,7 ,7 3 ,0 ,8 ,7
0.83333 0.66667 0.50000 0.33333
0.39707 0.36571 0.31672 0.26254 0.41944 0.42703 0.40572 0.37060 0.33487 0.29310 0.42673 0.44125 0.42793 0.40254 0.37816 0.35000 0.31914 0.43509 0.41759 0.40190 0.38423 0.36430 0.40965 0.39997 0.38889 0.39674 0.40552 0.32028 0.21208 0.47610 0.41676 0.35352 0.28378 0.52068 0.47647 0.43267 0.48941 0.34692 0.54569 0.51242 0.48129 0.45274 0.42729 0.40552 0.55377 0.52949 0.50824 0.49044 0.47647 0.46667 0.51691 0.50824 0.50368 0.50332 0.51242 0.52068 0.50690
0.50000
0.00000 1.00000 0.00000 1.00000
0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 0.85714 0.71429
1.00000 0.85714 0.71429 0.57143
1.00000 0.85714 0.71429 0.57143 0.42857
1.00000 0.85714 0.71429 0.57143 0.42857 0.28571
1.00000 0.85714 0.71429 0.57143 0.42857 0.28571 0.14286 0.71429 0.57143 0.42857 0.28571 0.14286
0.00000 0.42857 0.28571 0.14286
0.00000 0.14286
0.00000 1.00000 0.83333 0.66667
1.00000 0.83333 0.66667 0.50000
1.00000
1.00000 0.83333 0.66667 0.50000 0.33333 0.16667
1.00000 0.83333 0.66667 0.50000 0.33333 0.16667
0.00000 0.66667 0.50000 0.33333 0.16667
0.00000 0.33333 0.16667
0.00000 0.00000 1.00000 0.80000 0.60000
1.00000 0.80000 0.60000 0.40000
1.00000 0.80000 0.60000 0.40000 0.20000
1.00000 0.80000 0.60000 0.40000 0.20000
0.00000 1.00000 0.80000 0.60000 0.40000 0 .2 0 0 0 0
0.00000 0.60000 0.40000 0.20000
0.00000 0.20000
0.00000 1.00000
261
CALCULATION OF MEDIAN-EFFECTIVE DOSE TABLE II .— Continued r-values
/
3 ,0 ,9 ,7 3 ,0 ,1 0 ,7 3 ,1 ,7 ,7 3 ,1 ,8 ,7 3 ,1 ,9 ,7 3 ,1 ,1 0 ,7 3 ,2 ,6 ,7 3 ,2 ,7 ,7 3 ,2 ,8 ,7 3 ,2 ,9 ,7 3 ,2 ,1 0 ,7 3 ,3 ,5 ,7 3 ,3 ,6 ,7 3 ,3 ,7 ,7 3 ,3 ,8 ,7 3 ,3 ,9 ,7 3 ,4 ,4 ,7 3 ,4 ,5 ,7 3 ,4 ,6 ,7 3 ,4 ,7 ,7 3 ,4 ,8 ,7 3 ,5 ,5 ,7 3 ,5 ,6 ,7 3 ,5 ,7 ,7 3 ,6 ,6 ,7 4 ,0 ,8 ,7 4 ,0 ,9 ,7 4 ,0 ,1 0 ,7 4 ,1 ,7 ,7 4 ,1 ,8 ,7 4 ,1 ,9 ,7 4 ,1 ,1 0 ,7 4 ,2 ,6 ,7 4 ,2 ,7 ,7 4 ,2 ,8 ,7 4 ,2 ,9 ,7 4 ,3 ,5 ,7 4 ,3 ,6 ,7 4 ,3 ,7 ,7 4 ,3 ,8 ,7 4 ,4 ,4 ,7 4 ,4 ,5 ,7 4 ,4 ,6 ,7 4 ,4 ,7 ,7 4 ,5 ,5 ,7 4 ,5 ,6 ,7 5 ,0 ,8 ,7 5 ,0 ,9 ,7 5 ,0 ,1 0 ,7 5 ,1 ,7 ,7 5 ,1 ,8 ,7 5 ,1 ,9 ,7 5 ,2 ,6 ,7 5 ,2 ,7 ,7 5 ,2 ,8 ,7 5 ,3 ,5 ,7 5 ,3 ,6 ,7
0.75000 0.50000 1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.50000 0.25000
0.00000 0.00000 1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.33333
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.00000 0.50000
0.39198 0.27003 0.59512 0.51454 0.44488 0.39198 0.65085 0.58999 0.54327 0.51454 0.50690 0.68211 0.63533 0.60403 0.58999 0.59512 0.69222 0.65683 0.63191 0.63533 0.65085 0.64818 0.65683 0.68211 0.69222 0.67586 0.50917 0.40062 0.79349 0.67586 0.61864 0.63828 0.86780 0.77778 0.74536 0.77778 0.90948 0.83887 0.82402 0.86780 0.92296 0.86780 0.86780 0.92296 0.88192 0.94933 1.01379 0.75462. 0.83333 1.19024 1.00692 1.09291 1.30171 1.16070 1.25830 1.36422 1.25277
r-values
/
r-values
/
<7
5 ,3 ,7 ,7 5 ,4 ,4 ,7 5 ,4 ,5 ,7 5 ,4 ,6 ,7 5 ,5 ,5 ,7 6 ,0 ,8 ,7 6 ,0 ,9 ,7 6 ,1 ,7 ,7 6 ,1 ,8 ,7 6 ,2 ,6 ,7 6 ,2 ,7 ,7 6 ,3 ,5 ,7 6 ,3 ,6 ,7 6 ,4 ,4 ,7 6 ,4 ,5 ,7 0 ,0 ,9 ,6 0 ,0 ,1 0 ,6 0 ,1 ,8 ,6 0 ,1 ,9 ,6 0 ,1 ,1 0 ,6 0 ,2 ,7 ,6 0 ,2 ,8 ,6 0 ,2 ,9 ,6 0 ,2 ,1 0 ,6 0 ,3 ,6 ,6 0 ,3 ,7 ,6 0 ,3 ,8 ,6 0 ,3 ,9 ,6 0 ,3 ,1 0 ,6 0 ,4 ,5 ,6 0 ,4 ,6 ,6 0 ,4 ,7 ,6 0 ,4 ,8 ,6 0 ,4 ,9 ,6 0 ,4 ,1 0 ,6 0 ,5 ,5 ,6 0 ,5 ,6 ,6 0 ,5 ,7 ,6 0 ,5 ,8 ,6 0 ,5 ,9 ,6 0 ,5 ,1 0 ,6 0 ,6 ,6 ,6 0 ,6 ,7 ,6 0 ,6 ,8 ,6 0 ,6 ,9 ,6 0 ,7 ,7 ,6 0 ,7 ,8 ,6 1 ,0 ,9 ,6 1 ,0 ,1 0 ,6 1 ,1 ,8 ,6 1 ,1 ,9 ,6 1 ,1 ,1 0 ,6 1 ,2 ,7 ,6 1 ,2 ,8 ,6 1 ,2 ,9 ,6 1 ,2 ,1 0 ,6 1 ,3 ,6 ,6
0.00000 1.00000
1.36422 1.38444 1.29636 1.42400 1.44338 2.10818 1.77951 2.44949 2.33333 2.66667 2.60342 2.78887 2.76887 2.82427 2.84800 0.31914 0.22680 0.38889 0.32710 0.24637 0.43390 0.38756 0.33178 0.26058 0.46148 0.42552 0.38356 0.33333 0.27027 0.47466 0.44675 0.41450 0.37679 0.33178 0.27592 0.45361 0.42913 0.40062 0.36711 0.32710 0.27778 0.40825 0.38356 0.35428 0.31914 0.36289 0.33793 0.38297 0.26432 0.46667 0.38713 0.29120 0.52068 0.46053 0.39486 0.32028 0.55377
1 ,3 ,7 ,6 1 ,3 ,8 ,6 1 ,3 ,9 ,6 1 ,3 ,1 0 ,6 1 ,4 ,5 ,6 1 ,4 ,6 ,6 1 ,4 ,7 ,6 1 ,4 ,8 ,6 1 ,4 ,9 ,6 1 ,4 ,1 0 ,6 1 ,5 ,5 ,6 1 ,5 ,6 ,6 1 ,5 ,7 ,6 1 ,5 ,8 ,6 1 ,5 ,9 ,6 1 ,6 ,6 ,6 1 ,6 ,7 ,6 1 ,6 ,8 ,6 1 ,7 ,7 ,6 2 ,0 ,9 ,6 2 ,0 ,1 0 ,6 2 ,1 ,8 ,6 2 ,1 ,9 ,6 2 ,1 ,1 0 ,6 2 ,2 ,7 ,6 2 ,2 ,8 ,6 2 ,2 ,9 ,6 2 ,2 ,1 0 ,6 2 ,3 ,6 ,6 2 ,3 ,7 ,6 2 ,3 ,8 ,6 2 ,3 ,9 ,6 2 ,3 ,1 0 ,6 2 ,4 ,5 ,6 2 ,4 ,6 ,6 2 ,4 ,7 ,6 2 ,4 ,8 ,6 2 ,4 ,9 ,6 2 ,5 ,5 ,6 2 ,5 ,6 ,6 2 ,5 ,7 ,6 2 ,5 ,8 ,6 2 ,6 ,6 ,6 2 ,6 ,7 ,6 3 ,0 ,9 ,6 3 ,0 ,1 0 ,6 3 ,1 ,8 ,6 3 ,1 ,9 ,6 3 ,1 ,1 0 ,6 3 ,2 ,7 ,6 3 ,2 ,8 ,6 3 ,2 ,9 ,6 3 ,2 ,1 0 ,6 3 ,3 ,6 ,6 3 ,3 ,7 ,6 3 ,3 ,8 ,6 3 ,3 ,9 ,6
0.80000 0.60000 0.40000 0.20000
0.50649 0.45743 0.40596 0.35100 0.56960 0.53216 0.49477 0.45743 0.42016 0.38297 0.54045 0.51242 0.48571 0.46053 0.43716 0.49477 0.47944 0.46667 0.47630 0.47871 0.31732 0.58333 0.47507 0.36324 0.65085 0.56826 0.49301 0.42998 0.69222 0.62639 0.57130 0.53033 0.50690 0.71200 0.66926 0.61802 0.59219 0.58333 0.68971 0.64010 0.62639 0.62915 0.63191 0.65085 0.63828 0.40062 0.77778 0.61864 0.50917 0.86780 0.74536 0.67586 0.67586 0.92296 0.82402 0.77778 0.79349
0.50000
0.00000 0.00000 1.00000
0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.83333
1.00000 0.83333 0.66667
1.00000 0.83333 0.66667 0.50000
1.00000 0.83333 0.66667 0.50000 0.33333
1.00000 0.83333 0.66667 0.50000 0.33333 0.16667 0.83333 0.66667 0.50000 0.33333 0.16667
0.00000 0.50000 0.33333 0.16667
0.00000 0.16667
0.00000 1.00000 0.80000
1.00000 0.80000 0.60000
1.00000 0.80000 0.60000 0.40000
1.00000
1.00000 0.80000 0.60000 0.40000 0.20000
0.00000 0.80000 0.60000 0.40000 0.20000
0.00000 0.40000 0.20000
0.00000 0.00000 1.00000 0.75000
1.00000 0.75000 0.50000
1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.75000 0.50000 0.25000
0.00000 0.25000
0.00000 1.00000 0.66667
1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000
262
BIOMETRICS, SEPTEMBER 1952 TABLE II .— Continued
r-values 3 ,4 ,5 ,6 3 ,4 ,6 ,6 3 ,4 ,7 ,6 3 ,4 ,8 ,6 3 ,5 ,5 ,6 3 ,5 ,6 ,6 3 ,5 ,7 ,6 3 ,6 ,6 ,6 4 ,0 ,9 ,6 4 ,0 ,1 0 ,6 4 ,1 ,8 ,6 4 ,1 ,9 ,6 4 ,1 ,1 0 ,6 4 ,2 ,7 ,6 4 ,2 ,8 ,6 4 ,2 ,9 ,6 4 ,3 ,6 ,6 4 ,3 ,7 ,6 4 ,3 ,8 ,6 4 ,4 ,5 ,6 4 ,4 ,6 ,6 p4 ,4 ,7 ,6 4 ,5 ,5 ,6 4 ,5 ,6 ,6 5 ,0 ,9 ,6 5 ,0 ,1 0 ,6 5 ,1 ,8 ,6 5 ,1 ,9 ,6 5 ,2 ,7 ,6 5 ,2 ,8 ,6 5 ,3 ,6 ,6 5 ,3 ,7 ,6 5 ,4 ,5 ,6 5 ,4 ,6 ,6 5 ,5 ,5 ,6 0 ,0 ,1 0 ,5 0 ,1 ,9 ,5 0 ,1 ,1 0 ,5 0 ,2 ,8 ,5 0 ,2 ,9 ,5 0 ,2 ,1 0 ,5 0 ,3 ,7 ,5 0 ,3 ,8 ,5 0 ,3 ,9 ,5 0 ,3 ,1 0 ,5 0 ,4 ,6 ,5 0 ,4 ,7 ,5 0 ,4 ,8 ,5 0 ,4 ,9 ,5 0 ,4 ,1 0 ,5 0 ,5 ,5 ,5 0 ,5 ,6 ,5 0 ,5 ,7 ,5 0 ,5 ,8 ,5 0 ,5 ,9 ,5 0 ,5 ,1 0 ,5 0 ,6 ,6 ,5
/
1.00000 0.66667 0.33333
0.00000 0.66667 0.33333
0.00000 0.00000 1.00000 0.50000
1.00000 0.50000
0.00000 1.00000 0.50000
0.00000 1.0 0 .5
0.0 1.0 0 .5
0.0 0 .5
0.0 1.0 0.0 1.0 0.0 1.0 0.0 1.0 0.0 1.0 0.0 0.0 1.0 1.0 0 .8
1.0 0 .8 0 .6
1.0 0 .8 0 .6 0 .4
1.0 0 .8 0 .6 0 .4 0 .2
1.0 0 .8 0 .6 0.40000 0.20000
0.00000 0.60000
(T f
0.94933 0.86780 0.83887 0.86780 0.88192 0.86780 0.90948 0.92296 0.95743 0.57735 0.16667 0.91287 0.95743 1.19024 1.10554 1.16667 1.28019 1.22474 1.19024 1.32288 1.29099 1.28019 1.31233 1.32288 2.23607 1.66667 2.60342 2.18581 2.84800 2.51661 3.00000 2.72845 3.07318 2.84800 2.88675 0.33333 0.43716 0.33333 0.50332 0.42687 0.33333 0.54569 0.48534 0.41633 0.33333 0.56960 0.52068 0.46667 0.40552 0.33333 0.57735 0.53748 0.48990 0.44721 0.39440 0.33333 0.49889
r-values
/
0 ,6 ,7 ,5 0 ,6 ,8 ,5 0 ,6 ,9 ,5 0 ,7 ,7 ,5 0 ,7 ,8 ,5 1 ,0 ,1 0 ,5 1 ,1 ,9 ,5 1 ,1 ,1 0 ,5 1 ,2 ,8 ,5 1 ,2 ,9 ,5 1 ,2 ,1 0 ,5 1 ,3 ,7 ,5 1 ,3 ,8 ,5 1 ,3 ,9 ,5 1 ,3 ,1 0 ,5 1 ,4 ,6 ,5 1 ,4 ,7 ,5 1 ,4 ,8 ,5 1 ,4 ,9 ,5 1 ,4 ,1 0 ,5 1 ,5 ,5 ,5 1 ,5 ,6 ,5 1 ,5 ,7 ,5 1 ,5 ,8 ,5 1 ,5 ,9 ,5 1 ,6 ,6 ,5 1 ,6 ,7 ,5 1 ,6 ,8 ,5 1 ,7 ,7 ,5 2 ,0 ,1 0 ,5 2 ,1 ,9 ,5 2 ,1 ,1 0 ,5 2 ,2 ,8 ,5 2 ,2 ,9 ,5 2 ,2 ,1 0 ,5 2 ,3 ,7 ,5 2 ,3 ,8 ,5 2 ,3 ,9 ,5 2 ,3 ,1 0 ,5 2 ,4 ,6 ,5 2 ,4 ,7 ,5 2 ,4 ,8 ,5 2 ,4 ,9 ,5 2 ,5 ,5 ,5 2 ,5 ,6 ,5 2 ,5 ,7 ,5 2 ,5 ,8 ,5 2 ,6 ,6 ,5 2 ,6 ,7 ,5 3 ,0 ,1 0 ,5 3 ,1 ,9 ,5 3 ,1 ,1 0 ,5 3 ,2 ,8 ,5 3 ,2 ,9 ,5 3 ,2 ,1 0 ,5 3 ,3 ,7 ,5 3 ,3 ,8 ,5
0.40000 0.20000
0.00000 0.20000
0.00000 1.00000 1.00000 0.75000
1.00000 0.75000 0.50000
1.00000 0.75000 0.50000 0.25000
1.00000 0.75000 0.50000 0.25000
0.00000 1.00000 0.75000 0.50000 0.25000
0.00000 0.50000 0.25000
0.00000 0.00000 1.00000
1.00000 0.66667
1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.33333
0.00000 1.00000 1.00000 0.50000
1.00000 0.50000
0.00000 1.00000 0.50000
0.46667 0.42688 0.38297 0.43716 0.40552 0.41667 0.54645 0.40505 0.62915 0.52457 0.41248 0.68211 0.59875 0.51707 0.43800 0.71200 0.64348 0.58035 0.52457 0.47871 0.72169 0.66471 0.61520 0.57509 0.54645 0.62639 0.59875 0.58333 0.59512 0.55556 0.72860 0.51985 0.83887 0.68393 0.56534 0.90948 0.78480 0.70175 0.67586 0.94933 0.84539 0.78480 0.77778 0.96225 0.87410 0.83065 0.83887 0.84539 0.86780 0.83333 1.09291 0.75462 1.25830 1.00692 1.01379 1.36422 1.16070
r-values
/
o’/
3 ,3 ,9 ,5 3 ,4 ,6 ,5 3 ,4 ,7 ,5 3 ,4 ,8 ,5 3 ,5 ,5 ,5 3 ,5 ,6 ,5 3 ,5 ,7 ,5 3 ,6 ,6 ,5 4 ,0 ,1 0 ,5 4 ,1 ,9 ,5 4 ,1 ,1 0 ,5 4 ,2 ,8 ,5 4 ,2 ,9 ,5 4 ,3 ,7 ,5 4 ,3 ,8 ,5 4 ,4 ,6 ,5 4 ,4 ,7 ,5 4 ,5 ,5 ,5 4 ,5 ,6 ,5 0 ,1 ,1 0 ,4 0 ,2 ,9 ,4 0 ,2 ,1 0 ,4 0 ,3 ,8 ,4 0 ,3 ,9 ,4 0 ,3 ,1 0 ,4 0 ,4 ,7 ,4 0 ,4 ,8 ,4 0 ,4 ,9 ,4 0 ,4 ,1 0 ,4 0 ,5 ,6 ,4 0 ,5 ,7 ,4 0 ,5 ,8 ,4 0 ,5 ,9 ,4 0 ,5 ,1 0 ,4 0 ,6 ,6 ,4 0 ,6 ,7 ,4 0 ,6 ,8 ,4 0 ,6 ,9 ,4 0 ,7 ,7 ,4 0 ,7 ,8 ,4 1 ,1 ,1 0 ,4 1 ,2 ,9 ,4 1 ,2 ,1 0 ,4 1 ,3 ,8 ,4 1 ,3 ,9 ,4 1 ,3 ,1 0 ,4 1 ,4 ,7 ,4 1 ,4 ,8 ,4 1 ,4 ,9 ,4 1 ,4 ,1 0 ,4 1 ,5 ,6 ,4 1 ,5 ,7 ,4 1 ,5 ,8 ,4 1 ,5 ,9 ,4 1 ,6 ,6 ,4 1 ,6 ,7 ,4 1 ,6 ,8 ,4
0.00000 1.00000
1.19024 1.42400 1.25277 1.30171 1.44388 1.29636 1.36422 1.38444 1.66667 2.18581 2.23607 2.51661 2.60342 2.72845 2.84800 2.84800 3.00000 2.88675 3.07318 0.47871 0.58333 0.45262 0.65085 0.54962 0.53301 0.69222 0.60953 0.52042 0.45644 0.71200 0.64280 0.57130 0.52705 0.41667 0.65352 0.59512 0.56519 0.47871 0.57735 0.50690 0.63828 0.77778 0.58443 0.79349 0.71722 0.58443 0.85346 0.79866 0.69979 0.63828 0.88192 0.84376 0.76712 0.72860 0.85827 0.79866 0.77778
0.50000
0.00000 1.00000 0.50000
0.00000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000
1.00000 0.75000
1.00000 0.75000 0.50000
1.00000 0.75000 0.50000 0.25000 1.00000 0.75000 0.50000 0.25000
0.00000 0.75000 0.50000 0.25000
0.00000 0.25000
0.00000 1.00000 1.00000 0.66667
1.00000 0.66667 0.33333
1.00000 0.66667 0.33333
0.00000 1.00000 0.66667 0.33333
0.00000 0.66667 0.33333
0.00000
CALCULATION OF MEDIAN-EFFECTIVE DOSE
263
T A B L E I I .— Continued
r-values
/
<>■/
r-values
/
1 ,7 ,7 ,4 2 ,1 ,1 0 ,4 2 ,2 ,9 ,4 2 ,2 ,1 0 ,4 2 ,3 ,8 ,4 2 ,3 ,9 ,4 2 ,3 ,1 0 ,4 2 ,4 ,7 ,4 2 ,4 ,8 ,4 2 ,4 ,9 ,4 2 ,5 ,6 ,4 2 ,5 ,7 ,4 2 ,5 ,8 ,4 2 ,6 ,6 ,4 2 ,6 ,7 ,4 3 ,1 ,1 0 ,4 3 ,2 ,9 ,4 3 ,2 ,1 0 ,4 3 ,3 ,8 ,4 3 ,3 ,9 ,4 3 ,4 ,7 ,4 3,4,<8,4 3 ,5 ,6 ,4 3 ,5 ,7 ,4 3 ,6 ,6 ,4 0 ,2 ,1 0 ,3 0 ,3 ,9 ,3 0 ,3 ,1 0 ,3 0 ,4 ,8 ,3 0 ,4 ,9 ,3
0.00000 1.00000 1.00000 0.50000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 1.00000 0.50000 0.00000 0.50000 0.00000 1.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 1.00000 0.00000 0.00000 1.00000 1.00000 0.66667 1.00000 0.66667
0.79349 0.95743 1.16667 0.84984 1.30171 1.05409 1.01319 1.38444 1.17851 1.16667 1.42400 1.24722 1.25830 1.26930 1.30171 1.79951 2.33333 2.10818 2.60342 2.44949 2.76887 2.66667 2.84800 2.78887 2.82427 0.67586 0.79349 0.61195 0.86780 0.72293
0 ,4 ,1 0 ,3 0 ,5 ,7 ,3 0 ,5 ,8 ,3 0 ,5 ,9 ,3 0 ,5 ,1 0 ,3 0 ,6 ,6 ,3 0 ,6 ,7 ,3 0 ,6 ,8 ,3 0 ,6 ,9 ,3 0 ,7 ,7 ,3 0 ,7 ,8 ,3 1 ,2 ,1 0 ,3 1 ,3 ,9 ,3 1 ,3 ,1 0 ,3 1 ,4 ,8 ,3 1 ,4 ,9 ,3 1 ,4 ,1 0 ,3 1 ,5 ,7 ,3 1 ,5 ,8 ,3 1 ,5 ,9 ,3 1 ,6 ,6 ,3 1 ,6 ,7 ,3 1 ,6 ,8 ,3 1 ,7 ,7 ,3 2 ,2 ,1 0 ,3 2 ,3 ,9 ,3 2 ,3 ,1 0 ,3 2 ,4 ,8 ,3 2 ,4 ,9 ,3 2 ,5 ,7 ,3
0.33333 1.00000 0.66667 0.33333 0.00000 1.00000 0.66667 0.33333 0.00000 0.33333 0.00000 1.0 1.0 0 .5 1.0 0 .5 0 .0 1.0 0 .5 0 .0 1.0 0 .5 0 .0 0 .0 1 .0 1.0 0 .0 1.0 0 .0 1.0
• 0.57013 0.90948 0.78829 0.66975 0.55556 0.92296 0.81901 0.72293 0.63828 0.73981 0.67586 1.01379 1.19024 0.88976 1.30171 1.06066 0.95743 1.36422 1.16070 1.09291 1.38444 1.20761 1.16667 1.19024 2.02759 2.38048 2.02759 2.60342 2.33333 2.72845
r-values 2 ,5 ,8 ,3 2 ,6 ,6 ,3 2 ,6 ,7 ,3 0 ,3 ,1 0 ,2 0 ,4 ,9 ,2 0 ,4 ,1 0 ,2 0 ,5 ,8 ,2 0 ,5 ,9 ,2 0 ,5 ,1 0 ,2 0 ,6 ,7 ,2 0 ,6 ,8 ,2 0 ,6 ,9 ,2 0 ,7 ,7 ,2 0 ,7 ,8 ,2 1 ,3 ,1 0 ,2 1 ,4 ,9 ,2 1 ,4 ,1 0 ,2 1 ,5 ,8 ,2 1 ,5 ,9 ,2 1 ,6 ,7 ,2 1 ,6 ,8 ,2 1 ,7 ,7 ,2 0 ,4 ,1 0 ,1 0 ,5 ,9 ,1 0 ,5 ,1 0 ,1 0 ,6 ,8 ,1 0 ,6 ,9 ,1 0 ,7 ,7 ,1 0 ,7 ,8 ,1
/ 0 .0 1.0 0 .0 1.0 1.0 0 .5 1.0 0 .5 0 r0 1.0 0 .5 0 .0 0 .5 0 .0 1.0 1.0 0 .0 1.0 0 .0 1 .0 0 .0 0 .0 1.0 1.0 0 .0 1.0 0 .0 1.0 0 .0
2.51661 2.76887 2.60342 1.01379 1.16667 0.88192 1.25830 1.02740 0.83333 1.30171 1.10554 0.95743 1.13039 1.01379 2.02759 2.33333 1.77951 2.51661 2.18581 2.60342 2.33333 2.38048 1.77951 2.18581 1.66667 2.33333 1.77951 2.38048 2.02759
More Documents from "Wahyu Ashri Aditya"
00p0073kfileminimizer.pdf
April 2020 3
Ratna Setia Wati 102011203 A8
June 2020 1
102011166 Bodi Eko Febrianto.docx
June 2020 0
Karinna Pratiwi 102011397
June 2020 9