SPSS线性回归分析.ppt

1、一、线性回归分析的基本原理、(一)相关与回归的关系、(二)回归分析的意义与类型、(三)误差比例思想与判定系数、(四)回归分析的逻辑、(一)相关与回归的关系、(一)相关与回归的关系、(三)因果关系、相关类型、图1、图2、图3 相关系统修正相关因果系统修正因果关系是回归的基础，(2)回归分析的意义和类型，(1)自变量每改变一个单位，根据变量的平均值而变化的情况。 (2)回归模型设定：统一的“因果”关系决定了自变量和因变量(假设)。 (3)类型：根据自变量的多少，可以分为一元回归分析、多元回归分析，根据关系类型，可以分为线性回归、非线性回归，本课程对一元线性回归、多元线性回归进行说明。 求解一次线性

2、回归方程式，用Y=aX b最小二乘法用a、b、最小二乘法进行图表化，如果知道二次线性回归方程式、Y=a1X1 a2X2 b、参数X1和y的散布图、X1、y、y、X2、参数X2和y的散布图的2.x和y有关3、x和y的关系越强，能够减少的预测误差越多。 4 .减少的误差的多少可以反映与x和y相关的强弱程度。 5 .减小误差的比率：用一种现象(例如变量x )解释另一种现象(例如变量y )时，可以减小的总误差的比率，即减小的误差与原始总误差之间的比率。误差削减比例式：x和y的关系模式，被消除的误差=E1-E2、误差削减比例(PRE可能的值及其意义)、1、PRE的数值可能的值的范围是o、1、2、PRE=

3、，4、pre的数值越接近1，在x中y越减少、线性拟合(fitness )、1、散布图2、线性拟合似然指标：判定系数R2 (01 )、调整后的R2系数：如果增加参数，则不管增加的参数是否与主要变量有关，都将判定系数(R2)设定为(Wonnacott，r.m.t ) (4)多元线性回归分析的逻辑、一次线性回归方程式检验、totalsumofsquaresresidualsumofsquaresregressionsumofsquaresr2SSR/TSS、二元线性回归方程式检验； totalsumofsquaresresidualsumofsquaresregressionsumofsquares

4、r2SSR/TSS， 三元线性回归方程式检验，totalsumofsquaresresidualsumofsquaresregressionsumofsquaresr2SSR/TSS，二，线性回归分析操作程序与说明，三，一元线性回归分析， 研究问题：数据： 1991 U. S. General Survey.sav，散点图，回归分析操作步骤：输出结果解释(修正4个表)，1，说明表：2，判定系数() 最一般的解释是，R2越大，选择的自变量对原因变量的解释能力的影响越大3、回归系数的显着性检查表：回归系数不为0的显着性检查(f检查)在一次回归分析中与回归分析表中的t检查一致(f值的平均发根为t值)

5、。如果有多个参数，请验证所有参数的联合作用不是0，而且至少一个参数对原因变量的影响不是0。 4、回归方程表：线性回归方程： Y=0.668X 1.910 “X”的实际值每增加1个单位，“y”的实际值每增加0.668个单位，可以进行实际预测的具体值。 标准化的线性回归方程：每当Y=0.463X “X”的标准值增加1个单位，“y”的标准值就相应地增加0.463个单位。 (与非正规化方程式等价，正规化后去除单位的影响，或去除常数，实际上不能预测具体的值的只有自变量对主要变量的影响的程度，在多个自变量的情况下，有能够比较影响的程度的优点。 四、多元线性回归分析(二元)、研究问题：个人教育水平分别受父亲

6、教育水平和母亲教育水平的净影响数据： 1991 U. S. General Survey.sav，1，回归说明表：2，判定系数(R2)表：3，回归系数显着性检验回归方程表：数据： 1991 U. S. General Survey.sav，1，回归说明表：2，判定系数(R2)表：3，回归式显性化检验表：4，回归式表： SPSS数据： 2007年村社区公共品供给水平数据库1、回归说明表，2、判定系数(R2)表：3、回归式显着检验表：4、回归式表：5、多元共线性的含义及其结果1、完全共线性及其结果在多元线性回归分析中不能用最小二乘法求出一系列回归系数，或者只能求出截距和一系列回归系数多元共线性不是

7、问题的有无，而是实际上必定存在，只是程度的高低不同，程度的高低决定问题的大小，低则不必考虑，高则结果严重。 当存在重大的多重共线性时，采用最小二乘法求解方程系数仍然是数学上最佳的无偏估计，但回归系数评估值的准则错误地增大，影响显着性检验(显着性检验的t值变小)和回归系数的置信区间。 严重的共线性“症状”: (1)回归方程整体方差分析检验结果显着，而各自变量偏回归系数的统一校正学检验结果均不显着。 (2)专业认为具有统一修订学意义的自变量检验结果没有统一修订学意义。 (3)自变量的偏回归系数取值的大小和适应明显违反实际情况，很难说明。 (4)添加或删除一个参数或一个(极少数)观测情况时，参数的偏

8、回归系数发生很大变化。 六、判断高度共线性的指标方法1、容许度(Tolerence) 2、色散膨胀因子(Variance Inflation Factor，VIF) 3、其他指数7、高度共线性的解决构想1 .强制回归法(Enter )、Enter回归法也称为强制回归法，选择我们上述例子采用的方法都是这个方法。 该方法不管有无自变量，都进入回归式，不进行筛选。2、后向回归法(Backward )、后向回归法首先进行强制回归，制作模型1，然后考察模型1中没有统一学意义的自变量，删除模型1的没有统一学意义的自变量中p值最大的自变量，制作模型2 考察模型2中没有统一修正学意义的自变量，删除模型2的没有

9、统一修正学意义的自变量中p值最大的自变量，生成触摸型3并依次进行，原则上同样地，在生成的模型中进行到自变量全部具有统一修正学意义为止。 Backward，3，前向回归法(Forward )首先对各自的参数和因素变量进行简单的线性回归，在简单的线性回归模型中直接删除没有统计学意义的参数，其中有统计学意义的简单的线性回归模型(k个参数，k个简单其中，k1个参数删除有统计学意义的kk1个没有统计学意义的参数)，在这些有统计学意义的k1个单纯回归模型中，仅输出参数p的值最小的回归模型，作为模型1 (不输出其他p的值相对大的回归模型) 第二步，在剩馀的佗下的k11个参数中，一个一个导入模型1，制作k11

10、个回归模型，在k11个参数中输出其p值最小且具有统一学意义的参数制作的模型，记载为模型2，依次进行佗下的自变量中的一个之前的注意，下一个参数进入前一个模型后，前一个参数是否仍有统计学意义，但根据的标准是后一个参数p值必须相对最小，具有统计学意义。 按原则导入下一个参数后，管道与先导入该模型的参数无关，具有统一修正学意义，有标志表明是前进法和逐次回归法的区别。 前进方法不负责任，不论当前选择的自变量在导入下一个自变量后创建的新回归模型中是否仍然明显，是否有统计学意义。 Forward，4，逐次回归法(Stepwise )，逐次回归法是后退法和前进法相结合的比较“负责任”的方法。 逐步回归法的第一

11、步与前进法相同：首先对每个参数进行单纯线性回归，直接删除单纯线性回归模型的无统一校正学意义的参数，其中有统一校正学意义的单纯线性回归模型(k个参数，k个单纯回归模型，k1个参数有统一校正学意义，kk1个参数有统一校正学意义只考虑，在下一步骤中，将剩馀的k11个参数中的每一个导入模型1，制作k11个回归模型，输出k11个参数中的其p值最小且具有统一学意义的参数制作的模型，记为模型2。 此时，在模型2中调查在模型1中选择的参数是否具有统一修正学的意义，如果没有，则最终输出模型，如果有统一修正学的意义，则在第二步骤中删除没有统一修正学的意义的参数，在第二步骤中将具有统一修正学的意义的参数一个一个地进入模型2 其中p值最