半数效量(或半数致死量)的概率单位法是计算半数效
量的有效方法。最先由C.I.Bliss提出,J. J. Litch-field和F. Wilcoxon根据其原理建立了图解法,顾汉颐又提出了简化概率单位法。概率单位的意义见条目“百分数的概率单位变换”。本法基本原理是将剂量反应曲线直线化,求出直线方程,再从方程求出半数效量。常用方法有:图解法、加权直线回归法和简化概率单位法,本条目将以半数致死量(LD50)为例来说明。
本法要求: ①剂量分组一般取等比级数,但也可为等差级数或不等距的数值。②各剂量组的受试动物数不一定相等,但应相近。③要求一半剂量组数的反应率在10~50%之间,其余一半在50~90%之间,尽量避免出现反应率为0%和100%。如出现反应率为0%和100%可舍去不用,或加以校正,即用“0.25÷(反应率为0%组的动物数)”代替0%,用“ 1-0.25÷(反应率为100 %组的动物数)”代替100%。
图解法 本法简便,但精确度稍差。方法步骤如下:(1)列计算表。如表1。将剂量变换为剂量对数x,死亡率变换为概率单位y。
(2) 图解求半数致死量。在方格坐标纸上,横轴为剂量对数x,纵轴为概率单位y,根据每一组的x、y值在图上描点,然后按点子的分布趋势作一直线,使直线穿过各点中间(各点至直线的纵向距离尽量短些,并重点照顾y=5附近的点子)。从纵轴概率单位为5处作一水平线,过水平线与直线的交点作垂线与横轴相交,此处读数即lgLD50,取反对数得LD50。
(3)求剂量反应直线方程。为更准确地求出LD5,…,LD95等值,以及进行两直线方程的比较。可在直线上任取两点(x1,y1)及(x2,y2),按式(1)求出直线方程
得到直线方程后,还应进行拟合优度检验,可用x2检验。检验假设H0为实际频数符合由此直线推算出来的估计频数,即实际死亡数符合估计死亡数,实际存活数符合估计存活数。经检验,不拒绝H0则认为直线拟合好;拒绝H0则认为拟合的直线不够满意,需另行拟合满意的直线求LD50。方法步骤(如例1表2)是: ①将各剂量对数x(死亡率为0%及100%的剂量对数除外) 代入直线方程求得估计概率单位ŷ;②查“百分数p与概率单位对照表”得相应的估计死亡率;③求相应的估计死亡数ŷ=n
,估计存活数ŝ=n-
;④由下式计算x2值,
自由度ν=k-2。
k为剂量组数(死亡率为0%及100%的剂量组不计在内)。⑤查x2界值表得P值,按所取检验水准作出推断结论。
(4)求半数致死量的可信区间。上面求出的LD50是总体LD50的点估计;由正态近似原理,总体LD50的95%可信区间的对数值按式(3)计算,再取反对数即得LD50。
式中N′为概率单位4~6范围内各组受试动物数之和。s为各致死剂量对数值的标准差,也就是回归系数的倒数,按式(4)计算:
式中x1,y1与x2,y2是由图中拟合满意的直线上任意两点读出的坐标。s/为lgLD50的标准误slgLD50。例1 用某农药对雌性大白鼠作灌胃的急性毒性试验,资料见表1,用图解法求半数致死量及其剂量反应方程。
(1)列计算表。
表1 图解法求LD50计算表
剂 量 | 剂量对数 | 受 试 | 死 亡 | 死亡率(%) | 概率单位 |
1000 | 3.0000 | 10 | 1 | 10 | 3.7184 |
(2)用图解法求LD50。
表1 资料用图解法求LD50
lgLD50 =3.12,
LD50 =lg-1 3.12=1318(mg/kg)。
(3)求剂量反应直线方程。由图3读出线上两点: y1=4,x1=3.03;y2=6,x2=3.20,代入式(1),得
(4)拟合优度检验。
H0: 实际频数符合估计频数,
H1: 实际频数不符合估计频数。
α=0.05。
表2 回归直线的拟合优度检验
剂 量 | 受 试 | 实 际 | 估 计 | n(r- | 概率单位 | 死亡率 | 死亡数 | 存 活 数 | |||
3.0000 | 10 | 1 | 3.65 | 0.09 | 0.9 | 9.1 | 0.01 | ||||
X2=0.91 |
注: 第(1)~(3)栏为原始数据,第(4)栏系将第(1)栏数据代入上述回归方程求得,第(5)栏系按第(4)栏数据由“百分数p与概率单位对照表”查得。
今v=5-2=3,查x2界值表,0.95>P>0.5,按α=0.05水准不拒绝H0,可认为此直线拟合是好的。
(5)求LD50的95%可信区间。将前述两点读数代入式(4),
由表1,N′ =30,按式(3):
取反对数得(1194,1456)。
故此农药的LD50为1318mg/kg,其95%可信区间为1194~1456mg/kg。
加权直线回归法 本法精确度高,但计算较繁。其基本思想是拟合直线时使y=5附近的数据起主导作用(给予较大的权数,详见表3),以消除极值的影响;也考虑各组受试动物多少对死亡率稳定性的影响。方法步骤如下:(1)在图解法的基础上求出加权计算的基本数据,如表4。先用图解法求出直线方程(经拟合优度检验无显著性)。 由此求出各剂量组的估计概率单位ŷ0(取一位小数),由ŷ0查表3得加权系数w、极小值α和全距β,结合实际死亡率p ,代入式(5)求出作业概率单位y′,
y′=α+βp。(5)
求各剂量组的nw、nwx、nwx2、nwy′、nwxy′及相应的合计数∑nw、∑nwx、∑nwx2、∑nwy′、∑nwxy′。
(2)求加权直线回归方程y′=a+bx。类似条目“直线回归”方程的计算。
表3 加权系数
ŷ | ω | α | β | ŷ | ω | α | β |
1.1 | 0.00082 | 0.8578 | 5033.84 | 3.1 | 0.15436 | 2.6624 | 15.2402 |
1.6 | 0.00451 | 1.3265 | 811.54 | 3.6 | 0.30199 | 3.0606 | 6.6788 |
2.1 | 0.01903 | 1.7865 | 167.996 | 4.1 | 0.47144 | 3.4083 | 3.7582 |
2.6 | 0.06168 | 2.2339 | 44.654 | 4.6 | 0.60052 | 3.6643 | 2.7154 |
(续表)
ŷ | ω | α | β | ŷ | ω | α | β |
5.1 | 0.63431 | 3.7401 | 2.5192 | 7.1 | 0.11026 | -15.230 | 22.736 |
5.6 | 0.55788 | 3.4220 | 3.0010 | 7.6 | 0.03977 | -65.678 | 73.622 |
6.1 | 0.40474 | 2.1325 | 4.5903 | 8.1 | 0.01104 | -297.71 | 306.11 |
6.6 | 0.23753 | -1.9214 | 9.0154 | 8.6 | 0.00235 | -1625.39 | 1634.25 |
本表按下式算得:估计概率单位ŷ=u+5,w=z2
/P(1-P),a=ŷ-P/z,β=1/z。其中u为标准正态变量,相应的标准正态曲线的纵坐标为z、左侧面积为P。
(3)按式(13)可求任何死亡率(k%)时的致死剂量对数(lgLDk),按式(14)求其标准误(slgLDk)。按式(15)求LDk的95%可信区间的对数值,取反对数即得真数值。
式中yk为死亡率k%相应的概率单位。
如此,由第一轮加权求得的直线回归方程常有较大误差,特别是在计算LD5和LD95时更是如此。故应采用多轮加权,逐次逼近。每轮均以所得方程的应变量估计值,作为下一轮加权的估计概率单位。仿上法重复进行,直到各剂量组前后估计概率单位之差均不超过0.2时即算满意。
例2 对例1资料用加权直线回归法求LD50。(1) 由例1图解法求得初估的剂量反应回归方程为
ŷ0=-31.6471+11.7647x。 ①
由此借助表4求出加权计算的基本数据:
表4 加权计算的基本数据
剂量对数 | 动物数 | 死亡率 | 估 计 | 加权系数 | 极小值 | 全 距 | 作 业 | 估计概率单位 |
|
| |
3.0000 | 10 | 0.1 | 3.6 | 0.30199 | 3.0606 | 6.6788 | 3.7285 | 3.8 | 3.8 |
注:表4第(1)~(3)栏为原始数据,第(4)栏由上述直线回归方程式①求得,第(5)~(7)栏由表3查得,第(8)栏由式(5)算得,第
(9)栏由第一轮加权直线回归方程式②算得,第(10)栏由式③求得。
(2)按式(6)~(12)求加权直线回归方程。
将表4第(1)栏数据代入上式得第(9)栏,第(4)栏与第(9)栏比较,最高剂量组y0-y1=6.7-6.4=0.3,尚不够满意;为此重复上述步骤作第二轮加权计算(过程从略),得回归方程
=-27.5231+10.4272x。 ③
将表4第(1)数据代入上式得第(10)栏。第(9)栏与(10)栏比较完全一致,说明式③直线拟合已很满意。
(3)求LD50及其95%可信区间。在第二轮计算中已求得:∑nw=23.6035,∑nw(x-)2=0.152906,
=3.131714,
=5.131933。
按式(15),
(3.11906-1.96×0.01998,3.11906+1.96×0.01998)=(3.07990,3.15822),取反对数得(1202,1440)。
故此农药的LD50为1315mg/kg,其95%可信区间为1202~1440mg/kg。
简化概率单位法 本法计算简单且较精确,适于2~5个剂量组,剂量分组取等比级数排列,每组动物数相同,一般用10~20只动物,较大动物每组至少也宜有5只。lgLD50及其标准误的算式随剂量组数不同而异。
二个剂量组:
式中d为相邻两剂量对数值的差值,y50=5。
例3 用某农药对雌性大白鼠作灌胃的急性毒性试验,结果见表5。用简化概率单位法求LD50。
表5 简化概率单位法计算表
剂 量 | 剂量对数 | 受试动物数 | 死亡动物数 | 死亡率 | 概率单位 | 加权系数 | 权 数 |
932 | 2.9694 | 10 | 1 | 0.1 | 3.7184 | 0.3359 | 3.359 |
1716 | 3.2346 | 10 | 9 | 0.9 | 6.2816 | 0.3359 | 3.359 |
24.6828 | 23.920 |
注: 第(1)~(5)栏为原始数据,第(6)栏是按第(5)栏由“百分数p与概率单位对照表”查得,第(7)栏由表(3)查得。
列表5。 本例有五个剂量组,d=0.0663, =∑y/组数=24.6828/5=4.9366。
按式(15)求LD50的95%可信区间的对数值:
(3.1085-1.96×0.0209,3.1085+1.96×0.0209)=(3.0675,3.1495),
取反对数得(1168,1411)。
故此农药的LD50为1284mg/kg,其95%可信区间为1168~1411mg/kg。
![]() |