计量经济学学习笔记:多重共线性、异方差、自相关

多重共线性、异方差、自相关

多重共线性

1 多重共线性是指各个解释变量之间有准确或近似准确的线性关系。

2 多重共线性的原因:
(1)经济变量之间具有共同变化趋势。
(2).利用截面数据建立模型也可能出现多重共线性。
(3) 模型中包含滞后变量。
(4)变量的选择不当。
(5)样本数据自身的原因。

3 多重共线性的后果:
如果各个解释变量之间有完全的共线性,则它们的回归系数是不确定的,并且它们的方差会无穷大。
如果共线性是高度的但不完全的,回归系数可估计,但有较大的标准误差。回归系数不能准确地估计。(对参数区间估计时,置信区间趋于变大;假设检验容易作出错误的判断;可能造成可决系数较高,但对各个参数单独的 t 检验却可能不显著,甚至可能使估计的回归系数符号相反,得出完全错误的结论)

4 诊断共线性的经验方法:
简单相关系数检验法:一般而言,如果每两个解释变量的简单相关系数(零阶相关系数)比较高,例如大于0.8,则可认为存在着较严重的多重共线性。

方差扩大(膨胀)因子法:方差膨胀因子越大,表明解释变量之间的多重共性越严重。反过来,方差膨胀因子越接近于1,多重共线性越弱。
经验表明,方差膨胀因子≥10时,说明解释变量与其余解释变量之间有严重的多重共线性,且这种多重共线性可能会过度地影响最小二乘估计。
计量经济学学习笔记:多重共线性、异方差、自相关

直观判断法:(1)当增加或剔除一个解释变量,或者改变一个观测值时,回归参数的估计值发生较大变化,回归方程可能存在严重的多重共线性。(2)从定性分析认为,一些重要的解释变量的回归系数的标准误差较大,在回归方程中没有通过显著性检验时,可初步判断可能存在严重的多重共线性。(3)有些解释变量的回归系数所带正负号与定性分析结果违背时,很可能存在多重共线性。(4)可决系数较高,F检验显著,但t检验不显著,可能存在多重共线性

逐步回归法: 将变量逐个的引入模型,每引入一个解释变量后,都要进行F检验,并对已经选入的解释变量逐个进行t 检验,当原来引入的解释变量由于后面解释变量的引入而变得不再显著时,则将其剔除。以确保每次引入新的变量之前回归方程中只包含显著的变量。

5 降低多重共线性的经验方法:
(1)剔除变量法:把方差扩大因子最大者所对应的自变量首先剔除再重新建立回归方程,直至回归方程中不再存在严重的多重共线性。
(2)增大样本容量:如果样本容量增加,会减小回归参数的方差,标准误差也同样会减小。因此尽可能地收集足够多的样本数据可以改进模型参数的估计。
(3)变换模型形式:对数模型、差分模型等。差分后变量之间的相关性要比差分前弱得多,所以差分后的模型可能降低出现共线性的可能性,此时可直接估计差分方程。生产函数(柯布道格拉斯函数)采用对数模型。
(4)利用非样本先验信息:通过经济理论分析能够得到某些参数之间的关系,可以将这种关系作为约束条件,将此约束条件和样本信息结合起来进行约束最小二乘估计。
(5)横截面数据与时序数据并用:首先利用横截面数据估计出部分参数,再利用时序数据估计出另外的部分参数,最后得到整个方程参数的估计。
(6)逐步回归:用被解释变量对每一个所考虑的解释变量做简单回归。以对被解释变量贡献最大的解释变量所对应的回归方程为基础,按对被解释变量贡献大小的顺序逐个引入其余的解释变量。若新变量的引入改进了R^2和F检验,且回归参数的t 检验在统计上也是显著的,则在模型中保留该变量。

异方差

1 异方差性是指模型中随机误差项的方差不是常量,而且它的变化与解释变量的变动有关。
计量经济学学习笔记:多重共线性、异方差、自相关
计量经济学学习笔记:多重共线性、异方差、自相关
2 产生异方差性的主要原因有:模型中略去的变量随解释变量的变化而呈规律性的变化、变量的设定问题、截面数据的使用,利用平均数作为样本数据等。

3 存在异方差性时对模型的OLS估计仍然具有无偏性,但最小方差性不成立,从而导致参数的显著性检验失效和预测的精度降低。注意 多重共线性不影响预测,但异方差已经影响到预测问题了。

4 检验异方差性的方法有多种,常用的有图形法、Goldfeld-Qunandt检验、White检验、ARCH检验以及Glejser检验,运用这些检验方法时要注意它们的假设条件。

5 异方差性的主要方法是加权最小二乘法,也可以用变量变换法和对数变换法。变量变换法与加权最小二乘法实际是等价的。

自相关

1 当总体回归模型的随机误差项在不同观测点上彼此相关时就产生了自相关问题。
计量经济学学习笔记:多重共线性、异方差、自相关
2 自相关的出现有多种原因。经济系统的惯性、经济活动的滞后效应 、数据处理造成的相关、蛛网现象、模型设定错误等等。

3 在出现自相关时,普通最小二乘估计量依然是无偏、一致的,但不再是有效的。通常的t 检验和F 检验都不能有效地使用

4.为了研究问题的方便和考虑实际问题的代表意义,我们通常将自相关设定为一阶自相关即AR(1)模式。用一阶自相关系数 表示自相关的程度与方向。当然,实际问题也存在AR(m)模式或其它模式。
计量经济学学习笔记:多重共线性、异方差、自相关

5 由于随机扰动项ui 是不可观测的,通常我们使用 ui的估计量e判断u的特性。可通过e的图形判断自相关的存在,也可使用DW 统计量或者用BG检验判断自相关的存在。
计量经济学学习笔记:多重共线性、异方差、自相关
DW统计量:
原假设为 p= 0,DW取值范围 0≤DW≤4

计量经济学学习笔记:多重共线性、异方差、自相关
计量经济学学习笔记:多重共线性、异方差、自相关
计量经济学学习笔记:多重共线性、异方差、自相关
6 如果自相关系数p 是已知的,我们可以使用广义差分法消除序列相关。

7 如果自相关系数是p未知的,我们可采用科克伦-奥克特迭代法求得p的估计值,然后用广义差分法消除序列相关。