回归分析的基本思想及其初步应用上.ppt

1.1回归分析的基本思想及初步应用,什么是回归分析：,“回归”一词是由英国生物学家F.Galton在研究人体身高的遗传问题时首先提出的。,根据遗传学的观点，子辈的身高受父辈影响，以X记父辈身高，Y记子辈身高。 虽然子辈身高一般受父辈影响，但同样身高的父亲，其子身高并不一致，因此， X和Y之间存在一种相关关系。,一般而言，父辈身高者，其子辈身高也高，依此推论，祖祖辈辈遗传下来，身 高必然向两极分化，而事实上并非如此，显然有一种力量将身高拉向中心，即子辈 的身高有向中心回归的特点。“回归”一词即源于此。,虽然这种向中心回归的现象只是特定领域里的结论，并不具有普遍性，但从它 所描述的关于X为自变量，Y为不确定的因变量这种变量间的关系看，和我们现在的 回归含义是相同的。,不过，现代回归分析虽然沿用了“回归”一词，但内容已有很大变化，它是一种应用 于许多领域的广泛的分析研究方法，在经济理论研究和实证研究中也发挥着重要作用。,比数学3中“回归”增加的内容,数学统计 画散点图 了解最小二乘法的思想 求回归直线方程 ybxa 用回归直线方程解决应用问题,选修1-2统计案例 引入线性回归模型 ybxae 了解模型中随机误差项e产生的原因 了解相关指数 R2 和模型拟合的效果之间的关系 了解残差图的作用 利用线性回归模型解决一类非线性回归问题 正确理解分析方法与结果,1、两个变量的关系,不相关,相关关系,函数关系,线性相关,非线性相关,问题1：现实生活中两个变量间的关系有哪些呢？,相关关系：对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系。,回顾复习,思考：相关关系与函数关系有怎样的不同？,函数关系中的两个变量间是一种确定性关系 相关关系是一种非确定性关系,函数关系是一种理想的关系模型 相关关系在现实生活中大量存在，是更一般的情况,问题2：对于线性相关的两个变量用什么方法来刻划之间的关系呢？,2、最小二乘估计,最小二乘估计下的线性回归方程：,回归直线必过样本点的中心,3、回归分析的基本步骤:,画散点图,求回归方程,预报、决策,这种方法称为回归分析.,回归分析是对具有相关关系的两个变量进行统计 分析的一种常用方法.,自学指导,1：结合例1得出线性回归模型及随机误差。并且区分函数模型和回归模型。,2：在线性回归模型中，e是用bx+a预报真实值y的随机误差，它是一个不可观测的量，那么应如何研究随机误差呢？,3：如何发现数据中的错误？如何衡量随机模型的拟合效果？,4：结合例1思考：用回归方程预报体重时应注意什么？,5：归纳建立回归模型的基本步骤。,阅读课本1页6页思考回答下列问题,（注意：时间12分钟）,问题一：结合例1得出线性回归模型及随机误差。并且区分函数模型和回归模型。,发现：图中各点，大致分布在某条直线附近。,探索2：在这些点附近可画直线不止一条， 哪条直线最能代表x与y之间的关系呢？,根据最小二乘法估计 和 就是未知参数a和b的最好估计，,所以回归方程是,所以，对于身高为172cm的女大学生，由回归方程可以预报 其体重为,探究P4： 身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？,探究P4： 身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？,答：身高为172cm的女大学生的体重不一定是60.316kg，但一般可以认为她的体重在60.316kg左右。,60.136kg不是每个身高为172cm的女大学生的体重的预测值，而是所有身高为172cm的女大学生平均体重的预测值。,函数模型与回归模型之间的差别,函数模型：,回归模型：,线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值由自变量x和随机误差项e共同确定，即自变量x只能解析部分y的变化。,在统计中，我们也把自变量x称为解析变量，因变量y称为预报变量。,1.用相关系数 r 来衡量,2.公式：,求出线性相关方程后， 说明身高x每增加一个单位,体重y就增加0.849个单位,这表明体重与身高具有正的线性相关关系.如何描述它们之间线性相关关系的强弱呢?,、当 时，x与y为完全线性相关，它们之间存在确定的函数关系。 、当 时，表示x与y存在着一定的线性相关，r的绝对值越大，越接近于1，表示x与y直线相关程度越高，反之越低。,3.性质：,相关关系的测度 （相关系数取值及其意义）,r,由于所有的样本点不共线，而只是散布在某一直线的附近，所以身高和体重的关系可以用线性回归模型来表示：,其中a和b为模型的未知参数，e称为随机误差.,思考：函数模型与“回归模型”的关系的区别,函数模型：因变量y完全由自变量x确定 回归模型： 预报变量y完全由解释变量x和随机误差e确定,思考 产生随机误差项e的原因是什么？,随机误差e的来源(可以推广到一般）： 1、其它因素的影响：影响体重y 的其他因素不只是身高 x，可能还包括遗传基因、饮食习惯、生长环境等因素； 2、用线性回归模型近似真实模型所引起的误差； 3、身高 x 的观测误差。,问题二：在线性回归模型中，e是用bx+a预报真实值y的随机误差，它是一个不可观测的量，那么应如何研究随机误差呢？,结合例1除了身高影响体重外的其他因素是不可测量的，不能希望有某种方法获取随机误差的值以提高预报变量的估计精度，但却可以估计预报变量观测值中所包含的随机误差，这对我们查找样本数据中的错误和模型的评价极为有用，因此在此我们引入残差概念。,e=y-(bx+a),问题三：如何发现数据中的错误？如何衡量随机模型的拟合效果？,法一：我们可以通过残差分析发现原始数据中的可疑数据，判断建立模型的拟合效果。,残差图的制作和作用： 制作：坐标纵轴为残差变量， 横轴可以有不同的选择.可以为编号；可以为解释变量,作用：判断模型的适用性若模型选择的正确，残差图中 的点应该分布在以横轴为中心的带形区域.,下面表格列出了女大学生身高和体重的原始数据以及相应的残差数据。,残差图的制作及作用。 坐标纵轴为残差变量，横轴可以有不同的选择； 若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域； 对于远离横轴的点，要特别注意。,身高与体重残差图,几点说明： 第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。,R2越接近1，表示回归的效果越好（因为R2越接近1，表示解析变量 和预报变量的线性相关性越强）。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通 过比较R2的值来做出选择，即选取R2较大的模型作为这组数据的模型。,注：相关指数R2是度量模型拟合效果的一种指标。在线性模 型中，它代表自变量刻画预报变量的能力。,法二：我们可以用相关指数R2来刻画回归的效果，其计算公式是,从上中可以看出，解析变量对总效应约贡献了64%，即 R2 0.64，可以叙述为“身高解析了64%的体重变化”，而随 机误差贡献了剩余的36%。 所以，身高对体重的效应比随机误差的效应大得多。,下面我们用相关指数分析一下例1：,；,问题四：结合例1思考：用回归方程预报体重时应注意什么？,1.回归方程只适用于我们所研究的样本的总体。 2.我们建立的回归方程一般都有时间性。 3.样本取值的范围会影响回归方程的适用范围。 4.不能期望回归方程得到的预报值就是预报变量的精确值。,（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。,（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系 （如是否存在线性关系等）。,（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则 选用线性回归方程y=bx+a）.,（4）按一定规则估