第九章对数极大似然估计9.1对数极大似然估计的基本原理9.2对数极大似然估计方法用对数极大似然估计来估计一个模型,主要的工作是建立极大似然函数形式,利用EViews可以方便地估计出未知参数。9.1.1一元线性回归模型的极大似然函数举个简单的例子,普通的线性回归模型:yt=γ0+γ1xt+utt=1,2,⋯,Tut~N(0,σu2)(9.2.1)这里,x,y是观测序列,而γ0,γ1是模型的参数。有T个观测值的样本的对数似然函数(观测值密度的对数)可以写成:l(γ,σu)=−T2(log(2π)+logσu2)−∑t=1T(yt−γ0−γ1xt)22σu2(9.2.2)注意到,我们能将对数似然函数写成每个观测值t的对数似然贡献的和的形式:l(γ,σ)=∑t=1Tlt(γ,σ)(9.2.3)这里每个观测值的贡献由下面的式子给出:lt(γ,σu)=logφ(yt−γ0−γ1xtσu)−12log(σu2)(9.2.4)9.2.2AR(1)模型的极大似然函数一阶自回归过程有如下形式,记作AR(1):Yt=c+ρYt−1+εt(9.2.5)其中εt是一个白噪声过程,即εt~i.i.d.N(0,σ2)。在此情形下,总体参数向量为θ=(c,ρ,σ2)'。首先考察样本中第一个观察值yt的概率分布。由于在|ρ|<1时,存在一个满足(9.2.5)的协方差平稳过程,此时,E(Y1)=c/(1−ρ)var(Y1)=σ2/(1−ρ2),所以,第一个观察值的密度函数形如例9.1普通最小二乘方程的极大似然估计我们选择凯恩斯消费函数作为例子,分析普通回归方程的极大似然估计方法。消费函数的因变量选为城镇消费(cc),而城镇人民收入(ci)作为自变量,样本为从1978年到2000年的年度数据。首先利用最小二乘法,估计了一个普通的回归方程,结果如下:c^ct=0.8833×cit+93.31(63.04)(0.58)R2=0.995对数似然值=-177.02AIC=15.57SC=15.67D.W.=1.48利用前面的公式(9.1.2),我们可以写出这个方程的极大似然函数,进行极大似然求解之后,我们得到了城镇消费和城镇收入之间的回归方程,得到的结果是:c^ct=0.8833×cit+93.34(44.33)(0.18)对数似然值=-177.02AIC=15.57SC=15.67观察两个方程的系数值发现最小二乘方法和极大似然函数估计的结果几乎没有什么区别,但是由于初值选择的不同,所以产生了统计量的差异。fY1(y1;θ)=fY1(y1;c,ρ,σ2)=1√2π√σ2/(1−ρ2)exp[−{y1−[c/1−ρ]}22σ2/1−ρ2](9.2.6)接下来考虑第二个观察值Y2在观察到Y1=y1的条件下的分布。由(9.2.5)Y2=c+ρY1+ε2(9.2.7)可以将随机变量Y1视做确定性常数y1。在此情形下,(9.2.7)给出Y2作为常数(c+ρy1)和随机变量ε2的和。因此(Y2|Y1=y1)~N((c+ρy1),σ2),fY2/Y1(y2|y1;θ)=1√2πσ2exp[−(y2−c−ρy1)22σ2]。(9.2.8)一般地,Y1,Y2,⋯,Yt−1只通过Yt−1对Yt起作用,第t个观察值以前t-1个观察值为条件的分布为:fY2|Yt−1,Yt−2,⋯Y(yt|yt−1,yt−1,⋯,y1;θ)=fYt|Yt−1(yt|yt−1;θ)=1√2πσ2exp[−(yt−c−ρyt−1)22σ2](9.2.9)完全样本的似然函数为fYT−1,YT−1,⋯,Y1(yT,yT−1,⋯y1;θ)=fY1(y1,θ)¿∏t=2TfYt|Yt−1(yt|yt−1;θ)(9.2.10)其对数似然函数(记作logL(θ))可由(9.2.10)取对数求得:logL(θ)=logfY1(y1;θ)+∑t=2TlogfYt|Yt−1(yt|yt−1;θ)(9.2.11)将(9.2.8)和(9.2.9)代入(9.2.10),得到样本量为T的AR(1)过程的对数似然函数:logL(θ)=¿{−12log(2π)−12log[σ2/(1−ρ2)]−{y1−[c/(1−ρ)]}22σ2/(1−ρ2)t=1¿{¿{−[(T−1)/2]log(2π)−[(T−1)/2]log(σ2)−∑t=2T[−(yt−c−ρyt−1)22σ2]t>1¿¿¿¿(9.1.12)例9.2AR(1)模型的极大似然估计设Y的数据生成过程为:Yt=−0.5+0.85×Yt−1+εt其中εt是一个白噪声过程,即εt~i.i.d.N(0,σ2)。AR(1)过程Yt=c+ρYt−1+εt的样本量为T的对数似然函数为(9.1.21)式,总体参数向量为θ=(c,ρ,σ2)'。利用极大似然估计方法估计的AR(1)模型,可以得到如下的结果:θ=(−0.53,0.84,0.886{)'¿Yt=−0.53+0.84×Yt−1+εt(-0.305)(17.22)对数似然值=-163.65AIC=2.78SC=2.859.2.2GARCH(p,q)的极大似然函数标准的GARCH(p,q)模型的形式为:yt=xt'γ+utσt2=ω+∑i=1qαiut−i2+∑j=1pβjσt−j2(9.2.13)要想写出GARCH(p,q)模型的极大似然函数,首先要分析扰动项ut的密度函数。为了方便起见,我们对方程(9.2.13...