概率与数理统计基础

1、概率与数理统计基础第1页，共54页，2022年，5月20日，6点3分，星期四 概率论与数理统计是研究和揭示随机现象统计规律性的数学分支。主要包括：随机事件和概率、随机变量的分布和数字特征、中心极限定理和大数定理、抽样分布、统计估计、假设检验、回归分析等。第2页，共54页，2022年，5月20日，6点3分，星期四主要内容1.基本概念2.对总体的描述随机变量的数字特征3.对样本的描述样本分布的数字特征4.随机变量的分布5.通过样本，估计总体估计量的特征6.通过样本，估计总体估计方法7.通过样本，估计总体假设检验第3页，共54页，2022年，5月20日，6点3分，星期四第一节 基本概念总体和个体样本

2、和样本容量随机变量统计量第4页，共54页，2022年，5月20日，6点3分，星期四1.1总体、个体、样本和样本容量研究对象的全体称为总体或母体，通常指研究对象的某项数量指标；组成总体的每个基本单位称为个体。从总体X中抽出若干个个体称为样本，一般记为(X1,X2,Xn)。n称为样本容量。而对这n个个体的一次具体的观察结果(x1,x2,xn)是完全确定的一组数值，但它又随着每次抽样观察而改变。(x1,x2,xn)称为样本观察值。 注意：抽样是按随机原则选取的，即总体中每个 个体有同样的机会被选入样本。第5页，共54页，2022年，5月20日，6点3分，星期四 当人们在一定条件下对某一现象加以观察时

3、，观察到的结果是多个可能结果中的某一个，且在每次观察前都无法预知观测结果到底是哪一个，即结果的出现呈现出偶然性，但是所有可能出现的结果是知道的。 随机现象具有偶然性一面，也有必然性一面。偶然性一面表现在“对随机现象做一次观测时，观测结果具有偶然性(不可预知性)” ；必然性一面表现在“对随机现象进行大量重复观测，观测结果有一定的规律性，亦即统计规律性”。 具有不确定性(或随机性、偶然性)的现象称为随机现象。特点：随机现象定义：第6页，共54页，2022年，5月20日，6点3分，星期四随机试验举例： E1: 掷一颗骰子，观察所掷的点数是几； E2: 观察某城市某个月内交通事故发生的次数； E3:

4、对某只灯泡做试验,观察其使用寿命； E4: 对某只灯泡做试验,观察其使用寿命是否小 于200小时。在实际问题中，随机试验的结果可以用数量来表示，由此就产生了随机变量的概念第7页，共54页，2022年，5月20日，6点3分，星期四 有些试验结果本身与数值有关（本身就是一个数）. 例如，掷一颗骰子面上出现的点数； 七月份济南的最高温度；每天从济南下火车的人数；昆虫的产卵数；它随试验结果的不同而取不同的值，因而在试验之前只知道它可能取值的范围，而不能预先肯定它将取哪个值。由于试验结果的出现具有一定的概率，于是这种实值函数取每个值和每个确定范围内的值也有一定的概率。第8页，共54页，2022年，5月2

5、0日，6点3分，星期四1.2 随机变量根据概率不同而取不同数值的变量称为随机变量。一个随机变量具有这样的特性：可以取许多不同的数值，取每一个数值都有相应的概率p,0 p1。第9页，共54页，2022年，5月20日，6点3分，星期四总体、随机变量、样本间的联系样本就是一个随机变量，所谓“样本容量为n的样本”就是n个相互独立且与总体有相同分布的随机变量X1,X2,Xn每一次具体抽样所得的数据，就是n元随机变量的一个观察值，记为X1,X2,Xn样本是总体的一部分。总体一般是未知的。一般要通过样本才能部分地推知总体的情况。第10页，共54页，2022年，5月20日，6点3分，星期四1.3 统计量由样本

6、值去推断总体情况，需要对样本值进行“加工”，这就要构造一些样本的函数，它把样本中所含的（某一方面）的信息集中起来。设(x1,x2,xn)为一组样本观察值，函数y=f (x1,x2,xn)若不含有未知参数，这种不含任何未知参数的样本的函数称为统计量。它是完全由样本决定的量。统计量既然是依赖于样本的，而后者又是随机变量，故统计量也是随机变量。几个常见统计量样本均值：样本方差：第11页，共54页，2022年，5月20日，6点3分，星期四第二节 对总体的描述随机变量的数字特征2.1 数学期望2.2 方差2.3协方差第12页，共54页，2022年，5月20日，6点3分，星期四2.1.1 数学期望：实际上

7、就是一个加权平均值，描述随机变量的集中程度。数学期望描述随机变量（总体）的一般水平。定义1离散型随机变量数学期望的定义 假定有一个离散型随机变量X有n个不同的可能取值x1,x2,xn，而p1,p2,pn是X取这些值相应的概率，则这个随机变量X的数学期望定义如下：第13页，共54页，2022年，5月20日，6点3分，星期四定义2连续型随机变量数学期望的定义第14页，共54页，2022年，5月20日，6点3分，星期四2.1.2数学期望的性质：（1）如果a、b为常数，则 E(aX+b)=aE(X)+b（2）如果X、Y为两个随机变量，则 E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分别

8、为X的两个函数，则 Eg(X)+f(X)=Eg(X)+Ef(X)（4）如果X、Y是两个独立的随机变量，则 E(X.Y)=E(X).E(Y) 第15页，共54页，2022年，5月20日，6点3分，星期四2.2.1方差的定义离均差的定义若随机变量X的数学期望E(X)存在，称X- E(X)为随机变量X的离均差。方差的定义 离均差的平方的数学期望。设X是随机变量，若EX-EX2存在，则称EX-EX2为随机变量X的方差，记为D(X)或Var(X)，即 D(X)=EX-EX2 方差的算术平方根称为随机变量X的均方差或标准差。第16页，共54页，2022年，5月20日，6点3分，星期四2.2.2方差的意义离

9、均差和方差都是用来描述随机变量离散程度的，即描述x对于它的数学期望的偏离程度，这种偏差越大，表明变量的取值越分散。一般情况下，常用方差来描述离散程度。因为离均差的和为零，无法体现随机变量的总离散程度。事实上正偏差大或负偏差大，同样是离散程度大。方差中由于有了平方，从而消除了正负号的影响，并易于加总，也易于强调大的偏离程度的突出作用。第17页，共54页，2022年，5月20日，6点3分，星期四2.2.3方差的性质：（1）Var(c )=0（2）Var(c+x)=Var(x )（3）Var(cx)=c2Var(x)（4） Var(x-y)= Var(x )+Var(y )-2cov(x,y)Var

10、(x+y)= Var(x )+Var(y )+2cov(x,y)（5）Var(a+bx)=b2Var(x)（6）a,b为常数，x,y为两个相互独立的随机变量，则Var(ax+by)=a2Var(x)+b2Var(y)（7）Var(x)=E(x2)-(E(x)2第18页，共54页，2022年，5月20日，6点3分，星期四 2.3协方差Cov(X,Y)=E(X-EX)(Y-EY)Cov(X,Y)=E(XY)- E(X) E(Y)（积的期望减期望的积）第19页，共54页，2022年，5月20日，6点3分，星期四第三节 对样本的描述样本分布的数字特征样本均值 反映样本集中程度 样本方差样本标准差描述样

11、本离散程度第20页，共54页，2022年，5月20日，6点3分，星期四第四节 随机变量的分布4.1 正态分布4.2 t分布4.3 卡方分布4.4 F分布第21页，共54页，2022年，5月20日，6点3分，星期四4.1 正态分布第22页，共54页，2022年，5月20日，6点3分，星期四正态分布图形第23页，共54页，2022年，5月20日，6点3分，星期四标准正态分布 根据以上定理，可以将任何一个正态分布化为标准正态分布，即将其标准化。第24页，共54页，2022年，5月20日，6点3分，星期四标准正态分布图形第25页，共54页，2022年，5月20日，6点3分，星期四标准正态分布的分位数(

12、临界值) 在实际问题中， 常取0.1、0.05、0.01.z0.05 =1.645 z0.01 =2.326 z0.01/2=2.575 z0.05/2=1.96第26页，共54页，2022年，5月20日，6点3分，星期四4.2t分布定理1：若XN(0, 1)，Y2(n)，X与Y独立，则定理2：设(X1,X2,Xn)是正态总体N(,2)的简单随机样本，则第27页，共54页，2022年，5月20日，6点3分，星期四性质: (1) f(x)关于x=0(纵轴)对称。 (2) f(x)的极限为N(0，1)的密度函数，即 当n较大时， t分布近似于标准正态分布.第28页，共54页，2022年，5月20日

13、，6点3分，星期四第29页，共54页，2022年，5月20日，6点3分，星期四来定义.其中伽玛函数 通过积分若随机变量X的概率密度为那么称X服从自由度为n的 分布记作：4.3 分布第30页，共54页，2022年，5月20日，6点3分，星期四 2分布的密度函数的图形如右图.应用中心极限定理可得， ，则当n充分大时若的分布近似正态分布N(0,1).则可以求得， E(X)=n, Var(X)=2n若若X1,X2,Xn相互独立，且XiN(0,1) ，则性质1：性质2：第31页，共54页，2022年，5月20日，6点3分，星期四第32页，共54页，2022年，5月20日，6点3分，星期四则称X服从自由度

14、为n1和n2的F分布。n1称第一自由度， n2称第二自由度。定义：若随机变量 X的密度函数为4.4 F分布第33页，共54页，2022年，5月20日，6点3分，星期四定理1 若X2(n1)，Y2(n2) ，X,Y独立，则第34页，共54页，2022年，5月20日，6点3分，星期四*定理2：设(X1,X2,Xn1)是N(1,12)的样本，(Y1,Y2,Yn2)是N(2,22)的样本，且相互独立，S12，S22是样本方差，则第35页，共54页，2022年，5月20日，6点3分，星期四分位数问题：第36页，共54页，2022年，5月20日，6点3分，星期四第37页，共54页，2022年，5月20日，

15、6点3分，星期四第五节 通过样本，估计总体（一）估计量的特征5.1 无偏性5.2 有效性5.3 一致性所谓估计量的特性指的是衡量一个统计量用以估计总体参数的好坏标准。第38页，共54页，2022年，5月20日，6点3分，星期四5.1 无偏性估计量的观察或试验的结果，估计值可能较真实的参数值偏大或偏小，而一个好的估计量不应总是偏大或偏小，在多次试验中所得的估计量的平均值应与真实参数吻合，这就是无偏性所要求的。 是一个随机变量，对一次具体定义是的一个估计量，如果 则称是的一个无偏估计。如果不是无偏的， ，就称该估计是有偏的。 称为的偏差。第39页，共54页，2022年，5月20日，6点3分，星期四

16、5.2 有效性（最小方差性、最优性）总体某个参数 的无偏估计量往往不只 一个，而且无偏性仅仅表明 的所有可能的取值按概率平均（均值）等于，它的可能取值可能大部分与相差很大。为保证的取值能集中于附近，必须要求的方差越小越好。所以，提出有效性标准。第40页，共54页，2022年，5月20日，6点3分，星期四有效性（最小方差性、最优性）定义对于参数的无偏估计量，其取值应在真值附近波动，我们希望它与真值之间的偏差越小越好。 定义 设均为未知参数的无偏估计量，若则称比有效。在的所有无偏估计量中，若估计量，则称是具有最小方差的无偏显然也是最有效的无偏估计量，简称有效估计量。为最小方差无偏估计量。第41页，

17、共54页，2022年，5月20日，6点3分，星期四无偏有效估计量的意义一个无偏有效估计量的取值在可能范围内最密集于真值附近。换言之，它以最大的概率保证估计量的取值在真值附近摆动。第42页，共54页，2022年，5月20日，6点3分，星期四第六节 通过样本，估计总体（二）估计方法点估计普通最小二乘法 所谓点估计就是给出被估计参数的一个特定的估计值。区间估计第43页，共54页，2022年，5月20日，6点3分，星期四区间估计的概念所谓区间估计就是以一定的可靠性给出被估计参数的一个可能的取值范围。具体做法是找出两个统计量 与 ，使 称为置信区间， 称为置信系数（置信度）， 称为冒险率（测不准的概率）

18、，一般取5% 或1%。第44页，共54页，2022年，5月20日，6点3分，星期四对区间估计的形象比喻我们经常说某甲的成绩“大概80分左右”，可以看成一个区间估计问题。（某甲的成绩 为被估计的参数）下限上限大概80分左右置信系数（大概准确的程度）冒险率（显著性水平）（）第45页，共54页，2022年，5月20日，6点3分，星期四区间估计的步骤找一个含有该参数的统计量；构造一个概率为的事件；通过该事件的概率解出该参数的区间估计第46页，共54页，2022年，5月20日，6点3分，星期四关于区间估计的说明在进行区间估计时，应针对不同的情况，采用不同的方法。例如分清分布的形式是已知还是未知；是大样本

19、还是小样本；小样本又得分清是已知方差还是未知方差。充分利用分布信息可以得到较精确的估计。一般地，越大置信度越低，反之则反。第47页，共54页，2022年，5月20日，6点3分，星期四第六节 通过样本，估计总体（三）假设检验第48页，共54页，2022年，5月20日，6点3分，星期四1.假设检验的定义设总体X的分布函数F(x, )的形式已知，但是其中的参数 未知。现在对参数提出假设： ，然后利用样本值对这个假设作出检验，判断其真伪，这就是参数的假设检验。设总体X的分布函数形式未知，现在假设它的分布函数为某个指定函数 ，然后利用样本信息进行检验，判断其真伪，这就是非参数的假设检验。一般研究参数的假

20、设检验问题。第49页，共54页，2022年，5月20日，6点3分，星期四2.原假设与备择假设原假设：是我们进行统计假设检验欲确定其是否成立的假设体现进行假设检验的目的，而且往往是希望否定这个假设，一般用H0表示。备择假设：是原假设的对立面，统计假设检验是二择一的判断，当原假设不成立时，不得不接受它，一般用H1 表示。第50页，共54页，2022年，5月20日，6点3分，星期四3.显著性水平：显著性水平可以理解为事件显著不可能发生的水平；可以理解为原假设的数值与真实值显著差异大小的水平；是小概率事件；是指犯“第一类错误”（原假设）的可能性；一般取值很小，0.1，0.05，0.01，0.005.第51页，共54页，2022年，5月20日，6点3分，