当前位置：文档库 › Logistic回归的实际应用

Logistic回归的实际应用

Logistic回归的介绍与实际应用

摘要

本文通过对logistic回归的介绍，对logistic回归模型建立的分析，以及其在实际生活中的运用，我们可以得出所建立的模型对实际例子的数据拟合结果不错。

关键词：logistic回归；模型建立；拟合；

一、logistic回归的简要介绍

1、Logistic回归的应用范围：

①适用于流行病学资料的危险因素分析

②实验室中药物的剂量-反应关系

③临床试验评价

④疾病的预后因素分析

2、Logistic回归的分类：

①按因变量的资料类型分：二分类、多分类；其中二分较为常用

②按研究方法分：条件Logistic回归、非条件Logistic回归

两者针对的资料类型不一样，后者针对成组研究，前者针对配对或配伍

研究。

3、Logistic回归的应用条件是：

①独立性。各观测对象间是相互独立的；

②Logit P与自变量是线性关系；

③样本量。经验值是病例对照各50例以上或为自变量的5-10倍（以10

倍为宜），不过随着统计技术和软件的发展，样本量较小或不能进行似

然估计的情况下可采用精确logistic回归分析，此时要求分析变量不能太多，且变量分类不能太多；

④当队列资料进行logistic回归分析时，观察时间应该相同，否则需考虑

观察时间的影响（建议用Poisson回归）。

4、拟和logistic回归方程的步骤：

①对每一个变量进行量化，并进行单因素分析；

②数据的离散化，对于连续性变量在分析过程中常常需要进行离散变成

等级资料。可采用的方法有依据经验进行离散，或是按照四分、五分位

数法来确定等级，也可采用聚类方法将计量资料聚为二类或多类，变为

离散变量。

③对性质相近的一些自变量进行部分多因素分析，并探讨各自变量（等

级变量，数值变量）纳入模型时的适宜尺度，及对自变量进行必要的变

量变换；

④在单变量分析和相关自变量分析的基础上，对P≤α（常取0.2，0.15

或0.3）的变量，以及专业上认为重要的变量进行多因素的逐步筛选；模

型程序每拟合一个模型将给出多个指标值，供用户判断模型优劣和筛选

变量。可以采用双向筛选技术：a进入变量的筛选用score统计量或G统

计量或LRS(似然比统计量)，用户确定P值临界值如：0.05、0.1或0.2，

选择统计量显著且最大的变量进入模型；b剔除变量的选择用Z统计量

(Wald统计量)，用户确定其P值显著性水平，当变量不显者，从模型中

予以剔除。这样，选入和剔除反复循环，直至无变量选入，也无变量删

除为止，选入或剔除的显著界值的确定要依具体的问题和变量的多寡而

定，一般地，当纳入模型的变量偏多，可提高选入界值或降低剔除标准，反之，则降低选入界值、提高删除标准。但筛选标准的不同会影响分析

结果，这在与他人结果比较时应当注意。

⑤在多因素筛选模型的基础上，考虑有无必要纳入变量的交互作用项；

两变量间的交互作用为一级交互作用，可推广到二级或多级交互作用，

但在实际应用中，各变量最好相互独立(也是模型本身的要求)，不必研究

交互作用，最多是研究少量的一级交互作用。

⑥对专业上认为重要但未选入回归方程的要查明原因。

5、回归方程拟合优劣的判断（为线性回归方程判断依据，可用于logistic回

归分析）

①决定系数(R2)和校正决定系数( )，可以用来评价回归方程的优劣。

R2随着自变量个数的增加而增加，所以需要校正；校正决定系数()越

大，方程越优。但亦有研究指出R2是多元线性回归中经常用到的一个指

标，表示的是因变量的变动中由模型中自变量所解释的百分比，并不涉

及预测值与观测值之间差别的问题，因此在logistic回归中不适合。

②C p选择法：选择C p最接近p或p＋1的方程（不同学者解释不同）。C p

无法用SPSS直接计算，可能需要手工。1964年CL Mallows提出：

Cp接近（p+1）的模型为最佳，其中p为方程中自变量的个数，m为自变量总个数。

③AIC准则：1973年由日本学者赤池提出AIC计算准则，AIC越小拟合的

方程越好。

在logistic回归中，评价模型拟合优度的指标主要有Pearson χ2、偏差(deviance)、Hosmer- Lemeshow (HL)指标、Akaike信息准则(AIC)、SC指标等。Pearson χ2、偏差(deviance)主要用于自变量不多且为分类变量的情况，当自变量增多且含有连续型变量时，用HL指标则更为恰当。Pear sonχ2、偏差(deviance)、Hosmer- Lemeshow (HL)指标值均服从χ2分布，χ2检验无统计学意义(P>0.05)表示模型拟合的较好，χ2检验有统计学意义(P≤0.05)则表示模型拟合的较差。AIC和SC指标还可用于比较模型的优劣，当拟合多个模型时，可以将不同模型按其AIC和SC指标值排序，AIC和SC值较小者一般认为拟合得更好。

6、拟合方程的注意事项：

①进行方程拟合对自变量筛选采用逐步选择法[前进法（forward）、后退法

（backward）、逐步回归法（step wise）]时，引入变量的检验水准要小

于或等于剔除变量的检验水准；

②小样本检验水准α定为0.10或0.15，大样本把α定为0.05。值越小说明

自变量选取的标准越严；

③在逐步回归的时可根据需要放宽或限制进入方程的标准，或硬性将最感

兴趣的研究变量选入方程；

④强影响点记录的选择：从理论上讲，每一个样本点对回归模型的影响应

该是同等的，实际并非如此。有些样本点（记录）对回归模型影响很大。

对由过失或错误造成的点应删去，没有错误的强影响点可能和自变量与应变量的相关有关，不可轻易删除。

⑤多重共线性的诊断（SPSS中的指标）：a容许度：越近似于0，共线性

越强；b特征根：越近似于0，共线性越强；c条件指数：越大，共线性越强；

⑥异常点的检查：主要包括特异点(outher)、高杠杆点(high leverage points)

以及强影响点(influential points)。特异点是指残差较其他各点大得多的点；高杠杆点是指距离其他样品较远的点；强影响点是指对模型有较大影响的点，模型中包含该点与不包含该点会使求得的回归系数相差很大。

单独的特异点或高杠杆点不一定会影响回归系数的估计，但如果既是特异点又是高杠杆点则很可能是一个影响回归方程的“有害”点。对特异点、高杠杆点、强影响点诊断的指标有Pearson残差、Deviance残差、杠杆度统计量H（hat matrix diagnosis）、Cook 距离、DFBETA、Score检验统计量等。这五个指标中，Pearson残差、Deviance残差可用来检查特异点，如果某观测值的残差值>2，则可认为是一个特异点。杠杆度统计量H可用来发现高杠杆点， H值大的样品说明距离其他样品较远，可认为是一个高杠杆点。Cook 距离、DFBETA指标可用来度量特异点或高杠杆点对回归模型的影响程度。Cook距离是标准化残差和杠杆度两者的合成指标，其值越大，表明所对应的观测值的影响越大。DFBETA指标值反映了某个样品被删除后logistic回归系数的变化，变化越大(即DFBETA 指标值越大)，表明该观测值的影响越大。如果模型中检查出有特异点、高杠杆点或强影响点，首先应根据专业知识、数据收集的情况，分析其产生原因后酌情处理。如来自测量或记录错误，应剔除或校正，否则处置就必须持慎重态度，考虑是否采用新的模型，而不能只是简单地删除就算完事。因为在许多场合，异常点的出现恰好是我们探测某些事先不清楚的或许更为重要因素的线索。

7、回归系数符号反常与主要变量选不进方程的原因：

①存在多元共线性；

②有重要影响的因素未包括在内；

③某些变量个体间的差异很大；

④样本内突出点上数据误差大；

⑤变量的变化范围较小；

⑥样本数太少。

8、参数意义

①Logistic回归中的常数项（b0）表示，在不接触任何潜在危险／保护因素

条件下，效应指标发生与不发生事件的概率之比的对数值。

②Logistic回归中的回归系数（b i）表示，其它所有自变量固定不变，某一

因素改变一个单位时，效应指标发生与不发生事件的概率之比的对数变

化值，即OR或RR的对数值。需要指出的是，回归系数β的大小并不反

映变量对疾病发生的重要性，那么哪种因素对模型贡献最大即与疾病联

系最强呢? (InL(t-1)-InL(t))三种方法结果基本一致。

③存在因素间交互作用时，Logistic回归系数的解释变得更为复杂，应特别

小心。

④模型估计出OR，当发病率较低时，OR≈RR，因此发病率高的疾病资料

不适合使用该模型。另外，Logistic模型不能利用随访研究中的时间信息，不考虑发病时间上的差异，因而只适于随访期较短的资料，否则随着随

访期的延长，回归系数变得不稳定，标准误增加。

9、统计软件

能够进行logistic回归分析的软件非常多，常用的有SPSS、SAS、Stata、EGRET (Epidemiological Graphics Estimation and Testing Package)等。

二、logistic 回归模型的建立

1、实际的例子：在一次住房展销会上，与房地产商签订初步购房意向书的共有n=313名顾客。在随后的3个月的时间内，只有部分顾客确实购买了房屋。购买房屋的顾客记为1，没有购买房屋的顾客记为0。以顾客的年家庭收入（万元）为自变量x ，对表1中的数据建立Logistic 回归模型。

序号年家庭收入（万元）x 签订意向书人数 i n 实际购房人数 i m 实际购房比例 i i i n m p /= 逻辑变换 )

1ln('i i i p p p -= 权重 )

1(i i i i p p n w -=

1 1.5 25 8 0.320000 -0.75377 5.440

2 2.5 32 1

3 0.406250 -0.37949 7.719 3 3.5 58 26 0.448276 -0.2076

4 14.34

5 4 4.5 52 22 0.423077 -0.31015 12.692 5 5.5 43 20 0.46511

6 -0.13976 10.698 6 6.5 39 22 0.564103 0.257829 9.590

7 7.5 2

8 16 0.57142

9 0.287682 6.857 8 8.5 21 12 0.571429 0.287682 5.143 9 9.5 15 10 0.666667 0.693147 3.333

表1

2、模型的建立： Logistic 回归方程：)

exp(1)

exp(00i i i i i x x p ββββ+++=

，i=1,2,...,c （1）

（1）式中c 为分组数据的组数。

本例中，c=9。将以上回归方程做线性变换，令)1ln('

i i p p p -= （2）

式（2）的变换称为逻辑变换，变换后的线性回归模型为：i i i i x p εββ++=1' （3）式（3）是一个普通的一元线性回归模型。式（3）没有给出误差项的形式，我们认为其误差项的形式就是做线性变换所需要的形式。对表1中的数据，算出经验回归方程为：x p 156.0886.0'

+-=∧，（4）判别系数9243.02=r ，显著性检验P 值≈0，高度显著。将式（4）还原为式（1）的Logistic 回归方程为：)

156.0886.0exp(1)

156.0886.0exp('

x x p +-++-=∧ （5）

三、运用模型进行预测

利用式（5）可以对购房比例做预测，例如80=x ，则有

)156

.0886.0e x p (1)156

.0886.0e x p ('

x x p +-++-=

∧=0.590。

四、结果的实际意义

这表明在住房展销会上与房地产商签订初步购房意向书的年收入8万元家庭中，预计实际购房比例为59%.或者说，一个签订初步购房意向书的年收入8万元的家庭，其购房概率为59%.

五、模型的拟合效果分析

我们用Logistic 回归模型成功地拟合了因变量为定性变量的回归模型，但是仍然存在一个不足之处，即异方差性并没有解决。式（3）的回归模型不是等方差的，应该对式（3），用加权最小二乘估计。当i n 较大，'i p 的近似方差为：

)

1(1

)('i i i i n p D ππ-≈

（6），其中)(i i y E =π，因而选取权数：)1(i i i i

p p n w -=，（7）

对例题重新用加权最小二乘做估计。利用SPSS 软件操作，点选分析→回归→线性回归，因变量：逻辑变换；自变量：年家庭收入；WLS 权重：权重i w 。得到结果如下：

模型汇总

b,c

模型

R 方

调整 R 方

标准估计的误

差

Durbin-Watson

.939a

.881

.864

2.4282

2.059

a. 预测变量: (常量), 逻辑变换。

b. 因变量: 年家庭收入x

c. 加权的最小二乘回归 - 按权重w 进行加权

Anova b,c

模型平方和 df

均方 F Sig. 1

回归 306.486 1 306.486 51.982

.000a

残差 41.272 7 5.896

总计

347.758

a. 预测变量: (常量), 逻辑变换。

b. 因变量: 年家庭收入x

c. 加权的最小二乘回归 - 按权重w 进行加权

系数a

模型

非标准化系数标准系数 t Sig. B

标准误差

试用版

(常量) -.886 .102

-8.653

.000 家庭年收入

.156

.017

.961

9.242

.000

a. 因变量: 逻辑变换

系数

a,b

模型

非标准化系数标准系数 t Sig. B

标准误差

试用版

(常量) -.849 .114

-7.474

.000 家庭年收入

.149

.021

.939

7.210

.000

a. 因变量: 逻辑变换

b. 加权的最小二乘回归 - 按权重进行加权

用加权最小二乘法得到的Logistic 回归方程为：)

149.0849.0exp(1)

149.0849.0exp(x x p i +-++-=

∧

，（8）

利用（8）式可以对80=x 时的购房比例做预测，有：

)

149.0849.0exp(1)

149.0849.0exp(x x p i +-++-=

∧

=0.585，所以，年收入8万元的家庭预计实际购房比

例为58.5%，这个结果与未加权的结果很接近。

结束语

本文对Logistic回归的应用范围和拟和logistic回归方程的步骤进行了简要介绍，以及对回归方程拟合优劣的判断，提及了一些拟合方程的注意事项；明确了参数意义；其实能够进行logistic回归分析的软件非常多，常用的有SPSS、SAS、Stata、EGRET (Epidemiological Graphics Estimation and Testing Package)等，本文中实际的例子利用了SPSS进行了分析，发现拟合效果还不错。

Logistic回归分析简介

Logistic回归分析简介 Logistic回归：实际上属于判别分析，因拥有很差的判别效率而不常用。1．应用范围： ①适用于流行病学资料的危险因素分析 ②实验室中药物的剂量-反应关系 ③临床试验评价 ④疾病的预后因素分析 2．Logistic回归的分类： ①按因变量的资料类型分：二分类多分类其中二分较为常用 ②按研究方法分：条件Logistic回归非条件Logistic回归两者针对的资料类型不一样，后者针对成组研究，前者针对配对或配伍研究。 3．Logistic回归的应用条件是： ①独立性。各观测对象间是相互独立的； ②LogitP与自变量是线性关系； ③样本量。经验值是病例对照各50例以上或为自变量的5-10倍（以10倍为宜），不过随着统计技术和软件的发展，样本量较小或不能进行似然

估计的情况下可采用精确logistic回归分析，此时要求分析变量不能太多，且变量分类不能太多； ④当队列资料进行logistic回归分析时，观察时间应该相同，否则需考虑观察时间的影响（建议用Poisson回归）。 4．拟和logistic回归方程的步骤： ①对每一个变量进行量化，并进行单因素分析； ②数据的离散化，对于连续性变量在分析过程中常常需要进行离散变成等级资料。可采用的方法有依据经验进行离散，或是按照四分、五分位数法来确定等级，也可采用聚类方法将计量资料聚为二类或多类，变为离散变量。 ③对性质相近的一些自变量进行部分多因素分析，并探讨各自变量（等级变量，数值变量）纳入模型时的适宜尺度，及对自变量进行必要的变量变换； ④在单变量分析和相关自变量分析的基础上，对P≤α（常取0.2，0.15或 0.3）的变量，以及专业上认为重要的变量进行多因素的逐步筛选；模型程序每拟合一个模型将给出多个指标值，供用户判断模型优劣和筛选变量。可以采用双向筛选技术：a进入变量的筛选用score统计量或G统计量或LRS(似然比统计量)，用户确定P值临界值如：0.05、0.1或0.2，选择统计量显著且最大的变量进入模型；b剔除变量的选择用Z统计量(Wald 统计量)，用户确定其P值显著性水平，当变量不显者，从模型中予以剔除。这样，选入和剔除反复循环，直至无变量选入，也无变量删除为止，选入或剔除的显著界值的确定要依具体的问题和变量的多寡而定，一般

SPSS—二元Logistic回归结果分析报告

SPSS—二元Logistic回归结果分析 2011-12-02 16:48 身心疲惫，睡意连连，头不断往下掉，拿出耳机，听下歌曲，缓解我这严重的睡意吧！今天来分析二元Logistic回归的结果分析结果如下： 1：在“案例处理汇总”中可以看出：选定的案例489个，未选定的案例361个，这个结果是根据设定的validate = 1得到的，在“因变量编码”中可以看出“违约”的两种结果“是”或者“否” 分别用值“1“和“0”代替，在“分类变量编码”中教育水平分为5类，如果选中“为完成高中，高中，大专，大学等，其中的任何一个，那么就取值为 1，未选中的为0，如果四个都未被选中，那么就是”研究生“ 频率分别代表了处在某个教育水平的个数，总和应该为489个

1：在“分类表”中可以看出：预测有360个是“否”（未违约）有129个是“是”（违约） 2：在“方程中的变量”表中可以看出：最初是对“常数项”记性赋值，B为 -1.026，标准误差为：0.103 那么wald =( B/S.E)2=(-1.026/0.103)2 = 99.2248, 跟表中的“100.029几乎接近，是因为我对数据进行的向下舍入的关系，所以数据会稍微偏小， B和Exp(B) 是对数关系，将B进行对数抓换后，可以得到：Exp(B) = e^-1.026 = 0.358, 其中自由度为1， sig为0.000，非常显著

1：从“不在方程中的变量”可以看出，最初模型，只有“常数项”被纳入了模型，其它变量都不在最初模型表中分别给出了，得分，df , Sig三个值, 而其中得分（Score)计算公式如下：（公式中（Xi- Xˉ) 少了一个平方）下面来举例说明这个计算过程：(“年龄”自变量的得分为例）从“分类表”中可以看出：有129人违约，违约记为“1”则违约总和为 129，选定案例总和为489 那么： yˉ = 129/489 = 0.16 xˉ = 16951 / 489 = 34.2 所以：∑(Xi-xˉ)2 = 30074.9979

二分类Logistic回归的详细SPSS操作

SPSS操作：二分类Logistic回归作者：张耀文 1、问题与数据某呼吸内科医生拟探讨吸烟与肺癌发生之间的关系，开展了一项成组设计的病例对照研究。选择该科室内肺癌患者为病例组，选择医院内其它科室的非肺癌患者为对照组。通过查阅病历、问卷调查的方式收集了病例组和对照组的以下信息：性别、年龄、BMI、COPD病史和是否吸烟。变量的赋值和部分原始数据见表1和表2。该医生应该如何分析？表1. 肺癌危险因素分析研究的变量与赋值表2. 部分原始数据 ID gender age BMI COPD smoke cancer 1 0 34 0 1 1 0 2 1 32 0 1 0 1 3 0 27 0 1 1 1 4 1 28 0 1 1 0 5 1 29 0 1 0 0 6 0 60 0 2 0 0 7 1 29 0 0 1 1 8 1 29 1 1 1 1 9 1 37 0 1 0 0 10 0 17 0 0 0 0 11 0 20 0 0 1 1 12 1 35 0 0 0 0 13 0 17 1 0 1 1

………………… 2、对数据结构的分析该设计中，因变量为二分类，自变量（病例对照研究中称为暴露因素）有二分类变量（性别、BMI和是否吸烟）、连续变量（年龄）和有序多分类变量（COPD 病史）。要探讨二分类因变量与自变量之间的关系，应采用二分类Logistic回归模型进行分析。在进行二分类Logistic回归（包括其它Logistic回归）分析前，如果样本不多而变量较多，建议先通过单变量分析（t检验、卡方检验等）考察所有自变量与因变量之间的关系，筛掉一些可能无意义的变量，再进行多因素分析，这样可以保证结果更加可靠。即使样本足够大，也不建议直接把所有的变量放入方程直接分析，一定要先弄清楚各个变量之间的相互关系，确定自变量进入方程的形式，这样才能有效的进行分析。本例中单变量分析的结果见表3（常作为研究报告或论文中的表1）。表3. 病例组和对照组暴露因素的单因素比较病例组（n=85）对照组(n=259) χ2 /t统计量P 性别，男（%）56 (65.9) 126 (48.6) 7.629 <0.01 年龄（岁），x± s40.3 ±14.0 38.6 ±12.4 1.081 0.28 BMI，n (%) 正常48 (56.5) 137 (52.9) 0.329 0.57 超重或肥胖37 (43.5) 122 (47.1) COPD病史，n (%) 无21 (24.7) 114 (44.0) 14.123 <0.01 轻中度24 (28.2) 75 (29.0) 重度40 (47.1) 70 (27.0) 是否吸烟，n(%) 否18 (21.2) 106 (40.9) 10.829 <0.01 是67 (78.8) 153 (59.1) 单因素分析中，病例组和对照组之间的差异有统计学意义的自变量包括：性别、COPD病史和是否吸烟。此时，应当考虑应该将哪些自变量纳入Logistic回归模型。一般情况下，建议纳入的变量有：1）单因素分析差异有统计学意义的变量（此时，最好将P值放宽一些，比如0.1或0.15等，避免漏掉一些重要因素）；2）单因素分析时，

logistic回归分析案例

1. 数据制备（栅格数据）（1）宝塔区基底图层.tif （2）居民点扩增.tif 、坡度.tif 、坡向.tif 等要素数据。在 environment settings ------ p rocessing extent ------ snap raster （选中基底图层），保证栅格数据像元无偏移，且行列的数量一致。化:Raster to ASCII Inyul r aiLtvl- 匚” k 『号樹 ± 如葡让也\1非*订kilt :f 10. 2 'iiStati EeiT-SlaT 14t L J. KT 2.通过CLUE-S 莫型中的fileconvert 模块，获得logistic 回归分析的数据集。（1）将上一步骤中的因变量 y 和影响因素x 的.txt 文档后缀改为.asc 格式，并将文件放在CLUE-S 模型所在的文件夹中。（2）打开FileCo nvert V2软件，按下图勾选，填写"file list "内容，点击start con version ， 3 田F1 曰 It:. （3）栅格数据转为 ASCII 码，生成txt 文档。匚onversion Tools Ejicel From GPS From KML From Raster 气 Raster to ASCII y Raster to Fist 声.Raster to Point

生成stat .txt文档。祥Fi le 荃 flFfijie? I1id J?1Ji w ■■ 1 ? 9><4 P t414 Tl ?J19 12词 ■M*￡LD|i4I# ■ Q电兀列心￡i k1lf\ 15?1 *■4JE RI7 <1- I 4 話M3 IS r擠uSstalB-^aG 齬￡淨珀bCMir 二i缶 pad... ■ 枝jfcsurrT^cM.a^t 炉 MBlOrtTIdH■: 护 xVcomr-.iic / rll asc 播Tann砂￡]T (2)logistic回归分析按图设置参数因变量、自变量；由于x3属于分类变量，点击分类按钮，按图设置参数。 >M!L4M|昨T祜lt?M? 曲唱-Hl'F1 wB-j' MtF M|T ffl￥ g： ZTStiRiiri SHilfi VTU '_'■ rt 舖C r TI薔色Z4d* ■i aa ■；? 1 iTdlfAflWVK4Wt4「利 E 呻■■} 1■ IdfcWM^U.一尉仇■臂H xlAftL lAMDf Jfit 1Q1?7r -iwns ■B-13磁MT 13 J 工 '-恫fl T l￡j v-IIHH M4Q J0W PW回沐神to 型 rwa： wm 1 H teiiy- 卩厲 4a13 4 ■ira 401?wa 70i-221 ?d'131fefl 加ifUnm 片nu t013*Ozmwkt他 w p1W址?囲血|淞：幽 11013 1 Qm Sft?t 121JJ V s? 014*」； 11 H?iKa； H013 5 *旳 ti a IM■ KK MS V；941 ti Q144T f 7W filwvjcfic OH