第三章计量经济学-一元线性.ppt

1、第二章 复习,什么是方差？标准差？ 移动平均有什么作用？一般什么情况下使用？移动跨度由什么来决定？ 什么是卡方分布？正态分布？T分布？F分布？它们的形状各有哪些特征？ 参数检验时一般用什么分布？为什么？ 模型总体检验时用什么分布？,第三章 一元线性回归模型 第一节 回归的基本概念 一、相关,函数关系：两个变量之间存在完全确定性关系。 如 价格 销售量 = 销售收入 相关关系：两个变量之间存在非确定性依存关系。 如 需求量 与价格 之间的关系 Y = b0 + b1X + u 因变量 自变量 被解释变量 解释变量,不线性相关并不意味着不相关； 有相关关系并不意味着一定有因果关系； 回归分析/相关

2、分析研究一个变量对另一个（些）变量的统计依赖关系，但它们并不意味着一定有因果关系。 相关分析对称地对待任何（两个）变量，两个变量都被看作是随机的。回归分析对变量的处理方法存在不对称性，即区分应变量（被解释变量）和自变量（解释变量）：前者是随机变量，后者不是。,注意：,二、回归,1889年F.Gallton和他的朋友K.Pearson收集了上千个家庭的身高、臂长和腿长的记录 企图寻找出儿子们身高与父亲们身高之间关系的具体表现形式 下图是根据1078个家庭的调查所作的散点图（略图）,父亲身高,儿子身高,“回归”一词的由来,从图上虽可看出，个子高的父亲确有生出个子高的儿子的倾向，同样地，个子矮的父亲

3、确有生出个子矮的儿子的倾向。得到的具体规律如下： 如此以来，高的越来越高，矮的越来越矮。他百思不得其解，同时又发现某些人种的平均身高是相当稳定的。最后得到结论：儿子们的身高回复于全体男子的平均身高，即“回归”见1889年F.Gallton的论文普用回归定律。 后人将此种方法普遍用于寻找变量之间的规律。,回归现象与规模建立,.,.,X1,X2,E(Y|X) = b0 + b1X,Y,f(Y|X),（1）由于不确定因素的影响，对同一收入水平X，不同家庭的消费支出不完全相同； （2）但由于调查的完备性，给定收入水平X的消费支出Y的分布是确定的，即以X的给定值为条件的Y的条件分布（Conditiona

4、l distribution）是已知的， 如： P(Y=561|X=800）=1/4。,因此，给定收入X的值Xi，可得消费支出Y的条件均值（conditional mean）或条件期望（conditional expectation）： E(Y|X=Xi),该例中：E(Y | X=800)=561,分析：,描出散点图发现：随着收入的增加，消费“平均地说”也在增加，且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线。,三、随机扰动项 u 产生的原因,Y = bo + b1 X + u 1. 客观现象的随机性质 2. 模型中省略的变量 3. 测量与归并误差 4. 数学模型形式设定造成的

5、误差,四、总体回归方程和样本回归方程 Population regression function Sample regression function,样本回归方程 Yi= b0 + b1 Xi,总体回归方程 Yi= b0 + b1 Xi,回归分析的主要目的：根据样本回归函数SRF，估计总体回归函数PRF。,注意：这里PRF可能永远无法知道。,即，根据,估计,第二节 参数的最小二乘估计,一、线性回归模型的基本假定,1.零均值假定：随机扰动项可正可负，有相互抵消的趋势 E(ui)=0 2.同方差假定：各次观察值中ui具有相同的方差 Var(ui)=2 高斯马尔柯夫假定 3.无序列相关假定：随机

6、扰动项相互独立 Cov(ui,uj)=0 高斯马尔柯夫假定 4.解释变量与随机扰动项不相关假定： Cov(ui,Xi)=0 5.解释变量之间不存在线性相关假定 6.随机扰动项服从正态分布,异方差情况,.,X,X1,X2,Y,f(Y|X),X3,.,.,E(Y|X) = b0 + b1X,经典回归其他假设,参数与变量是线性关系； X具有确定性和变异性和方差稳定性，且观察次数大于参数个数； 正确设定回归模型。,参数线性函数,需要注意的是，在计量经济学中，“线性”指的是估计参数可以表达为样本观察值和误差项的线性函数，而并不要求回归方程中变量之间的关系一定为线性的。 很多变量非线性函数可以变换为参数线

7、性函数。 例：CD函数 对该函数两边取对数得到：LnY=0+1LnX1+2LnX2+u 即： Y*=*0+1X1*+2X2*+u 比较：,不同数学函数的性质,使用不同函数形式的经验准则,经常使用对数形式的变量 必须为正值的价值指标（GDP，价格） 数量非常大的统计指标 数量级变化大的统计指标（我国外贸、投资) 按时间呈现接近等比变化的时间序列 经常使用原始形式(level form)的变量 按时间呈现等差变化的时间序列（时间趋势变量） 比例（一、二、三产业占GDP比例，恩格尔系数）,总结,以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归

8、模型（Classical Linear Regression Model, CLRM）。,二、普通最小二乘法（OLS）,一元线性回归模型：只有一个解释变量,i=1,2,n,Y为被解释变量，X为解释变量，0与1为待估参数， 为随机干扰项,普通最小二乘法是一种参数估计方法，确定估计参数的准则是使全部观察值的残差平方和最小，即 ei2 min, 由此得出选择回归参数 b0 , b1 的最小二乘估计式。,Y,X,X1,X2,X3,X4,X5,X6,e1,e2,e3,e4,e5,e6,残差平方和,使偏导数为零,解得,记 X，Y的平均数（请同学们自己推导并记忆，见教材P38）,则得,三、例题示范,三、例题

9、示范,计算结果的解释：,回归参数的数学意义： 导数 回归参数的经济学意义： 边际变化率,第三节 最小二乘估计量的统计性质,一、线性性 线性特性是指估计式 bo 和 b1 是Yi 的线性函数。,二、无偏性 无偏性指估计量 bo 和 b1 的均值等于总体回归参数bo 和 b1,E(b1 ) = b1 E(bo) = bo,三、有效性（最小方差性） 最小方差性是指估计量 bo 和 b1 具有最小方差的性质，又叫有效性。,高斯马尔可夫定理 最小二乘估计量与用其他方法求得的所有线性无偏估计量相比，具有最小的方差。 在小样本情况下，一个估计量如果它是线性的，同时又是有效的（即无偏的，又具有最小方差）那它就

10、是最佳线性无偏估计量 BLUE： Best Linear Unbiased Property of an Estimator,其中，ci=ki+di，di为不全为零的常数则容易证明现有b的方差最小,四、一致性（大样本）,一致性(Consistency)：随着样本的增大，估计参数收敛于真实参数；,的概率密度,的概率密度,的概率密度,的概率密度,(a) 无偏性,(b) 有效性,(c) 一致性,(d) 最小平均偏差方差,无偏估计,有偏估计,有效估计,非有效估计,大样本,小样本,中等样本,有偏但有效的估计,无偏但非有效的估计,第四节 样本决定系数及回归直线 拟合优度的检验,一、总离差平方和分解 回归直

11、线 = + X = 被解释了的部分 Yi = ei 未被解释的部分 Yi = (Yi ) + ( ) 越大，ei 越小说明回归直线与 样本点拟合得好。,Y,Y,i,i,Y,Y,O,X,i,X,i,e,=,来自残差,(,Y,i,Y,)=,总离差,来自回归,(Yi - Y)2 = (Yi - Yi) + (Yi - Y)2 = (Yi - Yi)2 + (Yi - Y)2 + 2 (Yi - Yi) (Yi - Y) yi2 = ei2 + yi2 TSS = RSS + ESS Total sum of squares explained sum of squares residual sum

12、of squares,二、样本决定系数,= 0.977353,R2 = ,回归平方和 总离差平方和,二、样本决定系数（判定系数）,三、随机扰动项方差 2 的估计,由于随机项 u 不可观测，只能用残差 e 估计 ei2 = yi2 - b1 xi yi = 1889538 - 0.511123 3613114.4 = 42792.53,残差平方和,样本方差,b1 的样本标准差,b0 的样本标准差,四、假设检验,某一给定的观测或发现是否与某一声称的假设（stated hypothesis ）相符？此处用“相符”一词表示观测的值与 假设的值“足够相近”，因而我们不拒绝所声称的假设。 原假设 （Nul

13、l hypothesis ）：一种信以为真的、意在 维护的或理论上的假设，并用 H0 表示 备择假设(alternative hypothesis):为与之对立的假设, 记为 H1（是研究者拟验证的假设）,第一类错误：拒绝真实； 第二类错误：接受错误。,模型中样本值可以自由变动的个数，称为自由度 自由度 = 样本个数 样本数据受约束条件（方程）的个数,自由度：,五、参数显著性检验（ t 检验）,H0：b1 = 0； H1: b1 0；,),2,(,/,2,2,-,=,=,n,t,x,S(b1),T,i,s,b1,所以有，,a,s,a,a,-,=,-,1,),/,Pr (,2,2,2,2,t,x

14、,t,i,从而，,2,2,a,a,t,t,+,-,检验,的估计值是否在此区间，,b1,b1,b1,b1,b1,S(b1),S(b1),b1,如果在则接受原假设，否则拒绝原假设。,比较|T | 与 ta的大小,2,|T | ta 接受 H0,2,|T | ta 拒绝 H0,2,对 bo 的显著性 t 检验 Ho: bo = 0; H1: bo 0,对 b1 的显著性 t 检验 Ho: b1 = 0; H1: b1 0,给定显著性水平 a = 0.05, 查自由度 n - 2 = 8 的 t 分布表， 得 ta = 2.306,2,T0; T1 2.306 拒绝原假设， 接受备择假设,六、回归方程

15、的显著性检验（ F 检验）,H0：b0= b1 = 0； H1: bi 不全为 0；,离差名称,平方和,自由度,均方差,回归平方和,剩余平方和,总体平方和,k,n k-1,n - 1,方 差 分 析 表,对方程的显著性 F 检验 H0：b0= b1 = 0； H1: bi 不全为 0；,F 5.32 拒绝原假设， 接受备择假设,七、预测,2、区间预测 总体均值的预测区间 总体个别值的预测区间,2、区间预测 总体均值的预测区间 总体个别值的预测区间,七、预测,Estimation Command: = LS XFZCP C GDPP Estimation Equation: = XFZCP =

16、C(1) + C(2)*GDPP Substituted Coefficients: = XFZCP = 201.1201474 + 0.3861820026*GDPP,P64案例,预测：假定x9=11 1、点预测,2、区间预测,均值预测,（57.56-1.89，57.56+1.89） 即（55.67，59.45）,个别值预测,（57.56-4.33，57.56+4.33） 即（53.23，61.89）,第五节 参数估计的最大似然法(ML),最大似然法(Maximum Likelihood,简称ML)，也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 基本原理： 对于最大似然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。,在满足基本假设条件下，对一元线性回归模型：,随机抽取n组样本观测值（Xi, Yi）（i=1,2,n）。,那么Yi服从如下的正态分布：,于是，Y的概率函数为,（i=1,2,n）,假如模型的参数估计量已经求得，