《统计案例分析.ppt》由会员分享,可在线阅读,更多相关《统计案例分析.ppt(28页珍藏版)》请在优知文库上搜索。
1、回归分析的基本思想及回归分析的基本思想及其初步应用其初步应用 两个变量的关系两个变量的关系不相关不相关相关关系相关关系函数关系函数关系线性相关线性相关非线性相关非线性相关现实生活中两个变量间的关系现实生活中两个变量间的关系: :相关关系相关关系:对于两个变量,当自变量取值一定时,因:对于两个变量,当自变量取值一定时,因变量的取值带有一定随机性的两个变量之间的关系变量的取值带有一定随机性的两个变量之间的关系. .函数关系中的两个变量间是一种确定性关系函数关系中的两个变量间是一种确定性关系相关关系是一种非确定性关系相关关系是一种非确定性关系函数关系是一种理想的关系模型函数关系是一种理想的关系模型相
2、关关系在现实生活中大量存在,是更一般的情况相关关系在现实生活中大量存在,是更一般的情况, a b表示有一组具体的数据估计得到的截距和斜率表示有一组具体的数据估计得到的截距和斜率;121()()()niiiniixXyYbXX aYbXa,b,y表示真实值表示真实值;ybxa 表示有真实值表示有真实值a,b所确定的值所确定的值.ybxa表示有估计值表示有估计值 所确定的值所确定的值., a b这种方法称为回归分析这种方法称为回归分析.两个具有线性相关关系的变量的统计分析:两个具有线性相关关系的变量的统计分析:(1)画散点图;)画散点图;(2)求回归直线方程)求回归直线方程(最小二乘法最小二乘法)
3、:(3)利用回归直线方程进行预报;)利用回归直线方程进行预报;回归分析回归分析是对具有相关关系的两个变量进行统计分析是对具有相关关系的两个变量进行统计分析的一种常用方法的一种常用方法.ybxa121()()()niiiniixXyYbXX aYbX(,)X Y为样本点的中心为样本点的中心样本点:样本点:1122(,),(,),. ,(,)nnxyxyxy某大学中随机选取某大学中随机选取8名女大学生,其身高和体重数据名女大学生,其身高和体重数据如下表所示如下表所示.编号编号1 12 23 34 45 56 67 78 8身高身高/cm/cm1651651651651571571701701751
4、75165165155155170170体重体重/kg/kg48485757505054546464616143435959求根据女大学生的身高预报体重的回归方程,并预报求根据女大学生的身高预报体重的回归方程,并预报一名身高为一名身高为172cm的女大学生的体重的女大学生的体重.解:取身高为解释变量解:取身高为解释变量x,体重为预报变量,体重为预报变量y,作散点图:,作散点图:样本点呈条状分布,身高和体重有较好的线性相关关样本点呈条状分布,身高和体重有较好的线性相关关系,因此可以用回归方程来近似的刻画它们之间的关系,因此可以用回归方程来近似的刻画它们之间的关系系.121()()()niiini
5、ixXyYbXX aYbX由由得:得:0.849,85.712ba 故所求回归方程为:故所求回归方程为:0.84985.712yx因此,对于身高因此,对于身高172cm的女大学生,由回归方程可以的女大学生,由回归方程可以预报其体重为:预报其体重为:0.849 17285.71260.316()ykg0.849b 是斜率的估计值,说明身高是斜率的估计值,说明身高x每增加每增加1个单个单位时,体重位时,体重y就增加就增加0.849个单位,这表明个单位,这表明体重与身高具有正的线性相关关系体重与身高具有正的线性相关关系.如何描述它们之间线性相关关系的强弱?如何描述它们之间线性相关关系的强弱?相关系数
6、相关系数相关系数的性质相关系数的性质(1)|r|1(1)|r|1(2)|r|(2)|r|越接近于越接近于1 1,相关程度越强;,相关程度越强;|r|r|越接近于越接近于0 0,相关程度越弱相关程度越弱 注注:b :b 与与 r r 同号同号 问题:达到怎样程度,问题:达到怎样程度,x x、y y线性相关呢?它们的相线性相关呢?它们的相关程度怎样呢?关程度怎样呢?n ni ii ii i= =1 1n nn n2 22 2i ii ii i= =1 1i i= =1 1( (x x - - x x) )( (y y - - y y) )r r = =( (x x - - x x) )( (y y
7、 - - y y) )2 2_ _n n1 1i i2 2i i2 2_ _n n1 1i i2 2i in n1 1i i_ _ _i ii iy yn ny yx xn nx xy yx xn ny yx xn niiiii=1i=1nnnn2222iiiii=1i=1i=1i=1(x -x)(y -y)(x -x)(y -y)(x -x) (x -x) (y -y)(y -y)r 相关系数相关系数正相关;负相关正相关;负相关通常:通常:r r-1,-1,-0.75-0.75-负相关很强负相关很强; ; r r0.75,10.75,1正相关很强正相关很强; ; r r-0.75,-0.3-
8、0.75,-0.3-负相关一般负相关一般; ; r r0.3, 0.750.3, 0.75正相关一般正相关一般; ; r r-0.25, -0.25, 0.25-0.25-相关性较弱相关性较弱; ; 对对r r进行显进行显著性检验著性检验 某大学中随机选取某大学中随机选取8名女大学生,其身高和体重数据名女大学生,其身高和体重数据如下表所示如下表所示.编号编号1 12 23 34 45 56 67 78 8身高身高/cm/cm165165165165157157170170175175165165155155170170体重体重/kg/kg4848575750505454646461614343
9、5959求根据女大学生的身高预报体重的回归方程,并预报求根据女大学生的身高预报体重的回归方程,并预报一名身高为一名身高为172cm的女大学生的体重的女大学生的体重.故所求回归方程为:故所求回归方程为:0.84985.712yxr=0.798表明体重与身高有很强的线性相关性,从表明体重与身高有很强的线性相关性,从而说明我们建立的回归模型是有意义的而说明我们建立的回归模型是有意义的.0.849 17285.71260.316()ykg认为她的平均体重的估计值是认为她的平均体重的估计值是60.316kg.因为所有的样本点不共线,所以线性函数模型只能近因为所有的样本点不共线,所以线性函数模型只能近似地
10、刻画身高和体重之间的关系,即:体重不仅受身似地刻画身高和体重之间的关系,即:体重不仅受身高的影响,还受其他因素的影响,把这种影响的结果高的影响,还受其他因素的影响,把这种影响的结果用用e来表示,从而把线性函数模型修改为线性回归模来表示,从而把线性函数模型修改为线性回归模型:型:y=bx+a+e.其中,其中,e包含体重不能由身高的线性包含体重不能由身高的线性函数解释的所有部分函数解释的所有部分.线性回归模型线性回归模型yabxe其中其中a a和和b b为模型的未知参数,为模型的未知参数,e e是是y y与与之间的误差,通常之间的误差,通常e e为随机变量为随机变量,称为,称为随机误差随机误差.
11、.ybxa 均值均值E(e)=0,方差,方差D(e)=20线性回归模型的完整表达式为:线性回归模型的完整表达式为:2( )0,( )ybxaeE eD e 线性回归模型适用范围比一次函数的适用范围大得多线性回归模型适用范围比一次函数的适用范围大得多.当随机误差当随机误差e恒等于恒等于0时,线性回归模型就变成一次函时,线性回归模型就变成一次函数模型数模型.即:一次函数模型是线性回归模型的特殊形式,即:一次函数模型是线性回归模型的特殊形式,线性回归模型是一次函数模型的一般形式线性回归模型是一次函数模型的一般形式.随机误差是引起预报值随机误差是引起预报值 与真实值与真实值y之间的误差的原因之间的误差
12、的原因之一,其大小取决于随机误差的方差之一,其大小取决于随机误差的方差. y 和和 为截距和斜率的估计值,它们与真实值为截距和斜率的估计值,它们与真实值a和和b之间之间存在误差是引起预报值存在误差是引起预报值 与真实值与真实值y之间的误差的另一之间的误差的另一个原因个原因. ab y随机误差随机误差e的主要来源:的主要来源:(1)用线性回归模型近似真实模型用线性回归模型近似真实模型(真实模型是客观(真实模型是客观存在的,但我们并不知道到底是什么)存在的,但我们并不知道到底是什么)所引起的误差所引起的误差.可可能存在非线性的函数能更好的描述能存在非线性的函数能更好的描述y与与x之间的关系,但之间
13、的关系,但我们现在却用线性函数来表述这种关系,结果就产生误我们现在却用线性函数来表述这种关系,结果就产生误差,这种由于模型近似所引起的误差包含在差,这种由于模型近似所引起的误差包含在e中中.(2)忽略了某些因素的影响忽略了某些因素的影响.影响变量影响变量y的因素不止的因素不止变量变量x一个,可能还有其他因素,但通常它们每一个一个,可能还有其他因素,但通常它们每一个因素的影响可能都比较小,它们的影响都体现在因素的影响可能都比较小,它们的影响都体现在e中中.(3)观测误差观测误差.由于测量工具等原因,得到的由于测量工具等原因,得到的y的观的观测值一般是有误差的,这样的误差也包含在测值一般是有误差的
14、,这样的误差也包含在e中中.以上三项误差越小,则回归模型的拟合效果越好以上三项误差越小,则回归模型的拟合效果越好.在线性回归模型中,在线性回归模型中,e是用是用 预报真实值预报真实值y的误差,它的误差,它是一个不可观测的量,那么该怎样研究随机误差,如是一个不可观测的量,那么该怎样研究随机误差,如何衡量预报的精度?何衡量预报的精度?y 由于随机误差由于随机误差e的均值为的均值为0,故采用方差,故采用方差 来衡量随机来衡量随机误差的大小误差的大小.2 eyy 随机误差随机误差eyye的估计量的估计量样本点:样本点:1122(,),(,),. ,(,)nnxyxyxy相应的随机误差为:相应的随机误差
15、为:,1,2,.,iiiiieyyybxa in 随机误差的估计值为:随机误差的估计值为:,1,2,.,iiiiieyyybxa inie称为相应于点称为相应于点 的的残差残差.(,)iixy22111( , )(2)22niieQ a b nnn 的估计量的估计量2 为为( , )Q a b称为称为残差平方和残差平方和.残差分析残差分析在研究两个变量间的关系时,首先要根据散点图来粗在研究两个变量间的关系时,首先要根据散点图来粗略判断它们是否是线性相关,是否可以用线性回归模略判断它们是否是线性相关,是否可以用线性回归模型来拟合数据型来拟合数据.然后,可以通过残差然后,可以通过残差 来来判断模型
16、拟合的效果,判断原始数据中是否存在可疑判断模型拟合的效果,判断原始数据中是否存在可疑数据数据.这方面的分析工作称为残差分析这方面的分析工作称为残差分析.12,ne ee0.3820.382-2.883-2.8836.6276.6271.1371.137-4.618-4.6182.4192.4192.6272.627-6.373-6.373残差残差59594343616164645454505057574848体重体重/kg/kg170170155155165165175175170170157157165165165165身高身高/cm/cm8 87 76 65 54 43 32 21 1编号编号下表为女大学生身高和体重的原始数据以及相应的下表为女大学生身高和体重的原始数据以及相应的残差数据:残差数据: e以纵坐标为残差,横坐标为编号,作出图形(以纵坐标为残差,横坐标为编号,作出图形(残差图残差图)来分析残差特性来分析残差特性.由图可知,第由图可知,第1个样本点和第个样本点和第6个样本点的残差比较大,个样本点的残差比较大,需要确认在采集这两个样本点的过程中是否有人为的需要确认在采集这两