CH 12 序列相關(serial correlation)

12.1 Properties of OLS with Serially Correlated Errors

Gauss-Markov 的假設
就簡單迴歸方程式： yt   0  1 xt  u t

假設殘差項在不同時間點為完全無關，亦即 Corr  u t , u s   0 (t  s ) ，換言之，殘差項間不存在序列相關或自我相關

(autocorrelation)。

假設殘差項在第 t 期與第 t-1 期間存在相關，係數為  ，以式子表示如下:

ut  ut 1  et t  2,......n
 1
以簡單迴歸方程式表示：

yt   0  1 xt  ut n
其中，
1  n
 SSTx   xt2
ˆ1  1    xt ut  t 1
SSTx  t 1 

估計參數標準差為：

1
  
Var ˆ1 
1
SSTx
2
Var  n xu 
 t t 
 t 1 
1  n 2 
x t xt  j E  u t u t  j  
n 1 n  t
   x Var  u   2 
 SSTx   t 1
2 t t
t 1 j 1 
2  2 n1 n t j

SSTx
2   xt xt  j
SSTx2 t 1 j 1

E  u t u t  j   Cov u t , u t  j    j  2
註：

u t  u t 1  et
  ( u t  2  et 1 )
  2 u t  2  et 1 u t  j   j u t   j 1 et 1  ...  et  j 1  et  j
  2 ( u t 3  et  2 )
 .......

E (u t , u t  j )   j E (u t2 )   j 1 E (u t et 1 )  ...  E (u t et  j )
  j E (u t2 )   j 2

2
當   0 ，則利用 OLS 估計而得的變異數 ，將低估真實的變異數；同理，當   0 ，則因為第二項中為  j 關係，因此，取
SSTx
決於 j 為基數或偶數次方，是否一定高估或低估變異數部分較難確定。

殘差項為序列相關或自我相關下的結果:

2
 1. 以 OLS 估計出來的係數值 (  ) 仍具不偏性。
2. 利用變異數計算出來的係數標準差具偏誤性。
3. 利用標準差計算出來的 t 值將不具檢定能力。
4. F 統計與 LM 統計檢定亦將無效。

12.2 Testing for Serial Correlation

序列相關檢定

假設迴歸模型為： yt   0  1 xt1  ...   k xtk  u t

一階自我相關(first-order autocorrelation, AR(1))： u t  u t 1  et t  2,...., n

H 0 :   0 ，亦即一階自我相關不存在

一階自我相關檢定步驟：

(`一) t Test：

1. 利用 yt 對 xt1 ,..., xtk 進行 OLS 迴歸估計，並得出殘差項 û t 。

2. 利用 û t 對 uˆ t 1 進行 OLS 迴歸估計(觀察點由 t=2,…,n)，得出估計係數 ̂ 值與 t 檢定值。(可以加入或不加入常數項)

3. 當 t 值檢定大於臨界值，表示  拒絕 H 0 ，亦即   0 。

3
(二) Durbin-Watson Test：

1. 利用 OLS 估計迴歸模型，並得出殘差項 û t 。
n

  uˆ  uˆ t 1 
2
t
2. 計算 DW 值， DW  t 2
n
。
 uˆ
t 1
t
2

3. 利用 DW 統計表，判斷是否棄卻虛無假設 H 0 :   0 。

附註：
n

 uˆ uˆ t t 1
1. 一階自我相關係數： ̂  t 2
n
DW  21  ̂ 
 uˆ
t 1
t
2


ˆ  0 則 DW  2
2. 當 
ˆ  1 則 DW  4

ˆ  1 則 DW  0

3. DW 統計表中列出 d L 與 d u 兩個臨界值，

當 0  DW  d L ，拒絕 H 0 :   0 ，接受 H1 :   0 。

4
當 d L  DW  d u 時，則無法確定。

當 d u  DW  4  d u ，接受 H 0 :   0 。

當 4  d u  DW  4  d L 時，則無法確定。

當 4  d L  DW  4 ，拒絕 H 0 :   0 ，接受 H 1 :   0 。

5
6
 (三) Durbin Test (without strictly exogenous regressors)

當假設解釋變數並非完全外生時，例如： xtj 與 u t 1 具相關性，導致 t 檢定或 DW 檢定均為無效檢定式。

Durbin 的 AR(1)檢定採下列方式：

1. 利用 OLS 迴歸估計，並得出殘差項 û t 。

2. 利用 û t 對原迴歸式中的解釋變數與 uˆ t 1 ，再進行迴歸估計。

3. 利用 t 統計檢定 H 0 :   0 與 H 1 :   0 。

(四) 高階自我相關檢定 (Breusch-Godfrey test)

當假設二階自我相關 AR(2) u t  1u t 1   2 u t  2  et ，虛無假設 H 0 : 1  0,  2  0 ， 檢定步驟如下:

1. 利用 OLS 迴歸模型估計，得出殘差項 û t 。

2. 利用 û t 對原解釋變數 xt1 ,..., xtk 與 uˆ t 1 、 uˆ t  2 ，進行迴歸。

3. 利用 F 聯合檢定 1   2  0 或者利用 LM 檢定， LM   n  q   Rû2 ，LM 值服從  2g ，在 AR(2)的例子，自由度 q=2。

12.3 Correcting for Serial Correlation with Strictly Exogenous Regressors

7
修正序列相關

(一) quasi-differenced 模式

在 AR(1)模式下， ，則  e2
u t  u t 1  et Var  u t  
1   2 

當迴歸式為： y t   0  1 xt  u t
若落後一期則為： y t 1   0  1 xt 1  u t 1

將上式乘以  值得： y t 1   0   1 xt 1  u t 1

將兩式相減得：
y t  y t 1  (1   )  0  1 ( xtt  xt 1 )  et

令~
y t  y t  y t 1 ~
xt  xt  xt 1

則上式為 ~yt  (1   ) 0  1 ~xt  et t2

在此迴歸式下， et 不再存在自我相關，服從 Gauss-Markov 的假設，此迴歸式稱為 quasi-differenced 模式。

由於前面估計式係從 t  2 的樣本點估算，忽略了 t=1 的樣本值，嚴格而言，OLS 估計稱不上 BLUE，解決方式如下：

當 t  1 , y1   0   1 x1  u1

8
由於  e2 將上式乘上
Var  u1  
1   2  1  2

得到
1   2 y1  1   2  0  1   2  1 x1  1   2 u1

此一迴歸式
Var  
1   2 u1  1   2 Var (u1 )   e2
符合 Gauss-Markov 的假設。

GLS 估計式
當 ，~ ，~
t 1 y1  1   2 y1 x1  1   2 x1

當t  2 ， ~
y tj  y tj  y t 1, j ， ~
xtj  xtj  xt 1, j

(二) 修正殘差項一階自我相關步驟 (feasible GLS)

1. 利用 OLS 迴歸模式估計，得出殘差項 û t 。
2. 利用 û t 對 uˆ t 1 迴歸得出 ̂ 值。
3. 利用 quasi-differenced 模式估計出新的 ̂ 值。
註：當忽略掉第 t=1 樣本值，此估計式稱為 Cochrane-Orcutt 估計式。
當考量 t=1 樣本值時，此估計式稱為 Prais-Winsten 估計式。

9
 4. 當求出新的估計係數後可以得出新的 û t 值，再重複第(1)至(3)步驟，直到 ̂ 值趨近於 0。

(三) 修正高階自我相關

假設 AR(2)模式， u t  1u t 1   2 u t 1  et 採用 quasi-differenced 模式，

y t  1 y t 1   2 y t  2   0 (1  1   2 )   1 ( xt  1 xt 1   2 xt  2 )  et

或 ~y t   0 (1  1   2 )  1 ~
xt  et ， t  3,4,...., n. 。

由於 1 ,  2 通常未知，可以透過 û t 對 uˆ t 1 與 uˆ t  2 迴歸而得。

12.5 Serial Correlation-Robust Inference after OLS

殘差項自我相關下的標準差(robust standard error)

直接利用 OLS 估計後，計算出 robust standard error 做為修正方式，採用的理由：

1. 解釋變數並非完全具外生性。
2. AR(1)模式具限制性，可以尋求更一般化模式。

Serial correlation – robust standard error of ˆ  se ˆ1 

1   
  2

ˆ
(Newey and West, 1987; Wooldridge, 1989)
 ˆ 

10
 其中， n
g
h  n ，
ˆ   aˆ  2 1 
2
   aˆ t aˆ t  h  aˆ t  ˆ t uˆ t
t 1
t
h 1   g  1  t h1 
û t 係來自原迴歸式， y t   0   1 xt1  ......   k xtk  u t ˆt 係來自新迴歸式 xt1   0   2 xt 2  ......   k xtk   t

n n
當 g=1 時，ˆ   aˆ t2   aˆ t aˆ t 1
t 1 t 2

n
 1  n  2  n
ˆ   aˆ t2  2  1    t t 1
aˆ ˆ
a  2    2  1   aˆ t aˆt  2
1 
當 g=2 時， t 1   2  1  t 11   t  2 1
n
4 n
 2 n

  aˆ t2    aˆt aˆt 1     aˆ t aˆ t  2 
t 1 3  t 2  3  t 3 

g 的決定方式：年資料則 g=1 或 g=2，季資料則 g=4 或 g=8，月資料則 g=12 或 g=24。

2 2

另外，Newey and West(1987)建議：’採 g= 4 n 9

 再取正值，例如：當 n=50 則 g= 4 n 9
  3.42 ，亦即 g=3；
 100   100 

另外，亦有學者建議採 1 決定 g，例如： 1 ，亦即 g=2。

n 4
50  2.65
4

Serial Correlation-Robust Standard Error for ̂1 :

1. OLS y t   0   1 xt1  ......   k xtk  u t ，得出 se( ˆ ) 、 ̂ 、殘差項 û t 。
1
2. OLS xt1   0   2 xt 2  ......   k xtk   t ，得出 ̂ t ，計算出 aˆ t  ˆ t uˆ t 。
3. 選取 g，計算出 v̂ 。
ˆ )。
4. 計算出 se( 1

11
12.6 Heteroskedasticity in Time Series Regressions

附條件異質性自我相關(Autoregressive Conditional Heteroskedasticity，ARCH)

假設基本迴歸模型 y t   0  1 z t  u t
同質性假設 Var (u t | z t )   2
Engle (1982) ： E (u t2 | u t 1 , u t 2 ,...)  E (u t2 | u t 1 )   0  1u t21 稱為一階 ARCH 模式
換言之，可表示為 u t2   0  1u t21  vt 並假設 E (vt )  0 。
ARCH 模式受到關注的主要原因：
1. 此模式滿足 OLS 的基本假設，但利用加權迴歸可獲得較 OLS 為有效性的估計式。

2. 不同時期間波動的變化為研究主題。
市場效率性假設(Efficient Market Hypothesis)

令 y t 表第 t 期股票市場報酬率，則市場效率性假設為： E ( y t | y t 1 , y t  2 ,....)  E ( y t ) 。

若欲檢定落後一期影響，則迴歸模型可設為： y t   0  1 y t 1  u t 並檢定 H 0 : 1  0 ，
亦即在具效率性市場下，所有資訊為具立即性，過去的資訊並無法用來對當期市場進行預測。

但在具效率性市場下，並不排除不同時期間的波動資訊具影響效果，亦即： uˆ t2   0  1uˆ t21  vt ，並檢定 H 0 : 1  0 。

異質性與序列相關同時存在下的迴歸模式

12
當假設模型為：
y t   0  1 xt1  ...   k xtk  u t
ut  ht vt
vt  vt 1  et , |  | 1
利用 Feasible GLS 方式，先修正異質性，再修正序列相關。
1. 利用 OLS 迴歸模式估計，得出殘差項 û t 。
2. 利用 2 對 迴歸得出預測值， 。
log(uˆ t ) x t1 ,..., x tk ĝ t

1
3. 先取指數值， hˆt  exp( gˆ t ) ，再設定權數 。
ĥt
4. 利用 quasi-differenced 模式估計出新的 ̂ 值。

13