PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI

1. NGUYÊN NHÂN CỦA PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI

2. ƯỚC LƯỢNG BÌNH PHƯƠNG NHỎ NHẤT KHI PHƯƠNG
CỦA SAI SỐ THAY ĐỔI
3. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG QUÁT

4. HẬU QUẢ CỦA PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI

5. PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI

6. BIỆN PHÁP KHẮC PHỤC
NGUYÊN NHÂN CỦA PHƯƠNG SAI SAI SỐ THAY
ĐỔI
1. Phương sai sai số thay đổi là gì
Khi nghiên cứu mô hình hồi quy tuyến tính cổ điển,
chúng ta giả thiết rằng: phương sai của mỗi một nhiễu
ngẫu nhiên Ui trong điều kiện giá trị đã cho của biến
giải thích Xi là không đổi, nghĩa là

Var(Ui|Xi) = E(Xi) = σ2
NGUYÊN NHÂN CỦA PHƯƠNG SAI SAI SỐ THAY
ĐỔI
NGUYÊN NHÂN CỦA PHƯƠNG SAI SAI SỐ THAY
ĐỔI
NGUYÊN NHÂN CỦA PHƯƠNG SAI SAI SỐ THAY
ĐỔI
2. Nguyên nhân của phương sai của sai số thay đổi
Phương sai thay đổi có thể do một trong các nguyên nhân
 Do bản chất các mối quan hệ kinh tế: có nhiều mối
quan hệ kinh tế đã chứa đựng hiện tượng này
 Do kỹ thuật thu thập số liệu được cải tiến, σ2 dường
như giảm. Kỹ thuật thu thập số liệu càng được cải tiến
sai lầm phạm phải càng ít hơn
 Do con người học được hành vi trong quá khứ. Chẳng
hạn, lỗi đánh máy của người đánh máy càng ít nếu thời
gian thực hành càng tăng
NGUYÊN NHÂN CỦA PHƯƠNG SAI SAI SỐ THAY
ĐỔI
 Phương sai của sai số thay đổi cũng xuất hiện khi có các
quan sát ngoại lai (bất thường)

 Một nguyên nhân khác là mô hình định dạng sai. Có thể

bỏ sót biến thích hợp hoặc dạng giải tích của hàm sai
 ƯỚC LƯỢNG BÌNH PHƯƠNG NHỎ NHẤT
KHI PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI
Điều gì sẽ xảy ra đối với các ước lượng bình phương bé
nhất và phương sai sai số của chúng khi phương sai sai số
thayđổi còn các giả thiết còn lại của mô hình hồi quy tuyến
tính cổ điển đều thoả mãn. Để trả lời câu hỏi này ta xét mô
hình hồi quy hai biến

Yi = β1 + β2Xi + Ui
 ƯỚC LƯỢNG BÌNH PHƯƠNG NHỎ NHẤT
KHI PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI
Theo kết quả ước lượng bình phương bé nhất của chương
hồi quy đơn ta có n

  X  X  Y  Y 
ˆ 2  i=1
n

 X  X
2
i
i=1

và  
2

n   
 xi
Var (2 )    n
ˆ   i2  (1)
i=1  2  
  x i  
 i=1  
 ƯỚC LƯỢNG BÌNH PHƯƠNG NHỎ NHẤT
KHI PHƯƠNG CỦA SAI SỐ THAY ĐỔI
Nhưng phương sai của trong trường hợp E(Ui)2 = σ2 là
2 2
 
Var ˆ 2  n

nS2  X 
 X  X
2
i
i=1

Ta thấy vẫn là ước lượng tuyến tính không chệch của β2.
Nhưng có còn là ước lượng hiệu quả nữa không? Liệu
phương sai tính được từ công thức (1) có phải là phương
sai cực tiểu?
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
QUÁT
1. Phương pháp bình phương nhỏ nhất có trọng số
Xét mô hình hai biến
Yi = β1 + β2Xi + Ui
Ta đã biết phương pháp bình phương nhỏ nhất không có
trọng số: cực tiểu tổng bình phương các phần dư

 
n n 2
RSS   e   Yi  βˆ 1  βˆ 2 Xi  min
2
i
i=1 i 1

ta tìm được các ước lượng

PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
QUÁTnhỏ nhất có trọng số: cực
Còn phương pháp bình phương
tiểu tổng bình phương các phần dư có trọng số
n n

 W e   W Y  β  β Xi   min *
2 * * 2
i i i i 1 2
i=1 i 1

Trong đó , là các ước lượng bình phương nhỏ nhất có trọng

số, các trọng số wi được xác định như sau
Wi = > 0
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
QUÁT
Cho các đạo hàm riêng bằng 0, ta được hệ phương trình
 * n n n

 1 i  2  Wi X i   Wi Yi
*
β W β
 i 1 i=1 i=1
 n n n
β* W X  β* W X 2  W Y X
1 2 

 i 1
i i
i=1
i i
i=1
i i i

Giải hệ ta được
β1* =Y*  β*2 X*

  n
 n
  n
 n

   Wi   Wi Yi X i     Wi X i   Wi Yi 
 *  i=1  i=1    
β
 2  i=1 i=1
2
 n
 n
2 
n


   Wi   Wi X i     Wi X i 
 i=1  i=1   i=1 
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
Trong đó QUÁT
n n

WY i i WX i i
Y 
* i=1
n
, X 
* i=1
n

W
i=1
i W
i=1
i

Rõ ràng khi Wi = w () thì trung bình có trọng số bằng

trung bình thông thường
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
QUÁT
2. Phương pháp bình phương nhỏ nhất tổng quát
Xét mô hình hai biến
Yi = β1 + β2Xi + Ui
Trong đó tất cả các giả thiết của mô hình hồi quy tuyến
tính cổ điển được thoả mãn, trừ giả thiết phương sai của
sai số không đổi. Phương trình có thể viết lại dưới dạng
Yi  1X 0i 2 X i  U i

Trong đó X0i = 1 , khi đó với mỗi i chia 2 vế phương trình trên

cho σi (σi >0) ta được
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
Yi X 0i QUÁT
Xi U i
 1  2  
i i i i
Yi X 0i Xi Ui
Đặt Y  , X 0i  Xi  , U i 
i
* * * *

i i i i
Mô hình viết lại dưới dạng
Y   X  X  U
i
* *
1
*
0i
*
2
*
i
*
i
1 
2
Var  U   E U  * 2
 2 E Ui  
2
Ta có *
i i
i
1
i 
2
i
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
Thủ tục biến đổi các biếnQUÁT
gốc theo cách đã trình bày ở
trên trong đó các biến thoả mãn giả thiết của mô hình cổ
điển và sau đó áp dụng phương pháp bình phương nhỏ
nhất vào chúng, được gọi là phương pháp bình phương
nhỏ nhất tổng quát
Thủ tục ước lượng , như sau
n n

 e*    Y
i=1
2
i
i 1
i
*
β X β X
*
1
*
0i
*
2 i
* 2
 min
2
n 2
e n
 Yi X X  n
1
     β1  β 2    2  Yi  β1  β 2 X i   min
* * * * 2
i 0i i
2
i=1 σ
i i 1  σ i σi σ i  i 1 σ i
PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ NHẤT TỔNG
Đặt Wi = , ta quay trở về dạng
QUÁT (*), ta có thể viết ngay được
các ước lượng β1* =Y*  β*2 X*

  n
 n
  n
 n

   Wi   Wi Yi X i     Wi X i   Wi Yi 
 *  i=1  i=1   i=1  i=1 
β
 2  2
 n
 n
2 
n


   Wi   Wi X i     Wi X i 
 i=1  i=1   i=1 
n

W i
Var β*2   i=1
2
 n
 n
2 
n

  Wi   Wi X i     Wi X i 
 i=1  i=1   i=1 
HẬU QUẢ CỦA PHƯƠNG SAI CỦA SAI SỐ THAY
ĐỔI
 Các ước lượng OLS vẫn là các ước lượng tuyến tính,
không chệch nhưng không còn hiệu quả (ước lượng có
phương sai nhỏ nhất).

 Ước lượng của phương sai bị chệch nên các kiểm định
mức ý nghĩa và khoảng tin cậy theo phân phối Student
và Fisher không còn đáng tin cậy nữa.

 Kết quả bài toán dự báo không hiệu quả khi sử dụng
các ước lượng OLS.
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Do sai số ngẫu nhiên, Ui, là không
ĐỔI biết được, do đó chúng ta
không xác định được phương sai của Ui. Chúng ta sẽ sử
dụng phần dư OLS là ei để phát hiện vấn đề này
1. Phương pháp đồ thị
Xét mô hình : Yi = 1+ 2Xi +Ui (1)
- Hồi qui (1) → thu được các phần dư ei.
- Vẽ đồ thị phân tán của e theo X.
Nếu độ rộng của biểu đồ rải tăng hoặc giảm khi X tăng
thì mô hình (1) có thể có hiện tượng phương sai thay
đổi.
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Chú ý: Với mô hình hồi quiĐỔI
bội, cần vẽ đồ thị phần dư theo
từng biến độc lập hoặc theo Y X Y X
19.9 22.3 8 8.1
Ví dụ. Cho số liệu quan sát về 31.2 32.3 33.1 34.5
chi tiêu cho tiêu dùng (Y) và 31.8 33.6 33.5 38
12.1 12.1 13.1 14.1
thu nhập (X) hàng tháng của 40.7 42.3 14.8 16.4
20 hộ gia đình ở một vùng 6.1 6.2 21.6 24.1
38.6 44.7 29.3 30.1
nông thôn (đơn vị: 10.000đ) 25.5 26.1 25 28.3
10.3 10.3 17.9 18.2
38.8 40.2 19.8 20.1
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Đồ thị của phần dư ei đối vớiĐỔI
X được biểu diễn ở hình sau
2

0
RESID

-1

-2

-3
0 10 20 30 40 50

X
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
2. Kiểm định Park ĐỔI
Ý tưởng: Park cho rằng là một hàm của Xi. Dạng hàm ông
đề nghị có dạng: =
Lấy ln hai vế ta được ln ln β2lnXi + Vi
Vì chưa biết nên để ước lượng hàm trên Park đề nghị sử
dụng thay cho và ước lượng hồi quy sau
ln lnσ2β2lnXi + Vi = β1 β2lnXi + Vi
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Các bước kiểm định Park: ĐỔI
- Ước lượng mô hình hồi qui gốc (1), ta được phần dư e i→
- Ước lượng mô hình ln β1 β2lnXi + Vi
* Chú ý: Nếu mô hình gốc có nhiều biến độc lập thì hồi
qui ln theo từng biến độc lập hoặc theo
- Kiểm định giả thiết H0: β2 = 0
- Nếu chấp nhận H0 → mô hình gốc (1) có phương sai
không đổi.
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Dependent Variable: LOG(RESID^2) ĐỔI
Method: Least Squares
Sample: 1 20
Included observations: 20
Variable Coefficient Std. Error t-Statistic Prob.
C -8.529469 1.038973 -8.20952 0.0000
LOG(X) 2.581552 0.330972 7.799916 0.0000
R-squared 0.771686 Mean dependent var -0.553733
Adjusted R-squared 0.759002 S.D. dependent var 1.676648
S.E. of regression 0.823093 Akaike info criterion 2.543145
Sum squared resid 12.19468 Schwarz criterion 2.642718
Log likelihood -23.43145 Hannan-Quinn criter. 2.562582
F-statistic 60.8387 Durbin-Watson stat 1.516201
Prob(F-statistic) 0.00000
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
3. Kiểm định Glejser ĐỔI
Tương tự kiểm định Park, tuy nhiên sau khi thu các phần dư
từ mô hình hồi qui gốc, Glejser sử dụng các dạng hàm sau
1
e i  1  2 X i + Vi e i  1  2  Vi
Xi
e i  1  2 X i  Vi 1
e i  1  2  Vi
Xi
Nếu chấp nhận H0 : 2 = 0 →mô hình gốc (1) có phương sai
không đổi.
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
4. Phương pháp kiểm định WHITE
ĐỔI
Xét mô hình hồi quy ba biến sau Y = β1 + β2X2 + β3X3 + Ui
Kiểm định White được thực hiện theo các bước sau
Bước 1. Ước lượng mô hình và xác định phần dư
Bước 2. Uớc lượng mô hình
e i  1   2 X2   3 X3   4 X 2   5 X3   6 X 2 X3
2 2 2

Bước 3. H0: “MH có phương sai không đổi”

Bước 4. Nếu giá trị n*R2 lớn hơn giá trị tới hạn ta bác bỏ H0
n  R (Obs  R  Squared) ~ χ (k  1)
2 2

Giá trị tới hạn tra bảng Khi – bình phương

PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Ví dụ. Stt x2 x3 y stt x2 x3 y
1
2
3
ĐỔI 0
1
2
6
3
0
4.71
3.6
4.37
26
27
28
25
25
27
2
0
4
12.8
5.2
8.12
4 2 4 4.64 29 28 7 17.5
5 3 1 3.27 30 28 4 22.5
6 5 0 4.26 31 30 3 5.47
7 6 7 6.14 32 31 1 13.7
8 7 5 6.74 33 32 0 4.84
9 8 0 6.11 34 34 5 38.5
10 8 2 5.53 35 34 2 9.98
11 8 6 5.55 36 37 6 27.7
12 10 1 5.36 37 37 0 5.06
13 11 7 8.73 38 37 1 4.36
14 13 0 5.85 39 38 7 24
15 15 0 8.88 40 38 4 30.8
16 15 2 7.17 41 39 0 20.7
17 15 7 10.8 42 40 2 50.9
18 18 0 5.06 43 42 3 3.96
19 19 6 13.7 44 42 0 7.58
20 21 0 8.01 45 43 4 6.18
21 21 2 17.1 46 44 3 43.3
22 23 1 7.75 47 44 1 32
23 24 0 6.2 48 45 0 3.35
24 24 5 17.7 49 45 2 18.4
25 24 3 8.8 50 46 0 4.95

X2 : kinh nghiệm công tác (số năm có việc làm đầy đủ)
X3: số năm được đào tạo
Y: thu nhập trung bình/giờ
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
Dependent Variable: Y
ĐỔI
Method: Least Squares
Sample: 1 50
Included observations: 50
Variable Coefficient Std. Error t-Statistic Prob.
C -1.452198 3.109681 -0.46699 0.6427
X2 0.407354 0.092996 4.380332 0.0001
X3 1.441334 0.546143 2.639112 0.0112
R-squared 0.332178 Mean dependent var 12.157
Adjusted R-squared 0.30376 S.D. dependent var 11.04026
S.E. of regression 9.212104 Akaike info criterion 7.337038
Sum squared resid 3988.555 Schwarz criterion 7.45176
Log likelihood -180.426 Hannan-Quinn criter. 7.380725
F-statistic 11.68904 Durbin-Watson stat 2.212181
Prob(F-statistic) 0.000076
PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY
ĐỔI
Heteroskedasticity Test: White
F-statistic 3.654565 Prob. F(5,44) 0.00750
Obs*R-squared 14.67159 Prob. Chi-Square(5) 0.01190
Scaled explained SS 31.78279 Prob. Chi-Square(5) 0.00000

P-value = 0,0119, so sánh với mức ý nghĩa cho trước, ta

bác bỏ H0
 BIỆN PHÁP KHẮC PHỤC
Phương sai của sai số thay đổi làm cho các ước lượng
không còn hiệu quả nữa. Vì thế biện pháp khắc phục là
cần thiết. Việc khắc phục phụ thuộc chủ yếu vào biết hay
chưa biết
1. đã biết
Ta sử dụng phương pháp bình phương nhỏ nhất có trọng
số đã trình bày ở trên
 BIỆN PHÁP KHẮC PHỤC
2. chưa biết
Trong nghiên cứu kinh tế, việc biết trước nói chung là
hiếm. Vì vậy nếu chúng ta muốn sử dụng phương pháp
bình phương nhỏ nhất có trọng số thì ta cần có những giả
thiết nhất định về và biến đổi mô hình gốc sao cho mô
hình đã được biến đổi thoả mãn giả thiết phương sai của
sai số không đổi
Ta sẽ minh hoạ phép biến đổi này bằng mô hình hồi quy
hai biến mà ta gọi là mô hình hồi quy gốc
Yi = β1 + β2Xi + Ui
 BIỆN PHÁP KHẮC PHỤC
Giả sử mô hình này thoả mãn giả thiết của mô hình hồi
quy tuyến tính cổ điển trừ giả thiết phương sai của sai
số không đổi. Chúng ta xét một số giả thiết sau về
phương sai của sai số
Giả thiết 1. Phương sai của sai số tỷ lệ với bình phương biến
giải thích
E( = σ2
Bằng phương pháp đồ thị hay cách tiếp cận Park hoặc
Glejser … cho chúng ta biết phương sai của Ui tỷ lệ với
bình phương biến giải thích Xi, ta biến đổi mô hình gốc
như sau
 BIỆN PHÁP KHẮC PHỤC
Yi 1 Ui 1
  2   1  2  Vi ( X i  0) **
Xi Xi Xi Xi

Trong đó là số hạng nhiễu đã được biến đổi

2
 Ui  1  Xi
2 2

Ta có E  Vi   E    2 E Ui  
2 2
2
  2

X
 i X i X i

Phương trình (**) thoả mãn tất cả các giả thiết của mô
hình hồi quy tuyến tính cổ điển, nên có thể áp dụng
phương pháp bình phương nhỏ nhất cho mô hình (**)
 BIỆN PHÁP KHẮC PHỤC
Giả thiết 2. Phương sai của sai số tỷ lệ với biến giải thích
E( = σ2
Nếu sau khi ước lượng hồi quy bằng phương pháp bình
phương bé nhất thông thường, chúng ta vẽ đồ thị của
phần dư này đối với biến giải thích X và quan sát thấy
hiện tượng chỉ ra phương sai của sai số liên hệ tuyến tính
với biến giải thích hoặc bằng cách nào đó có thể tin
tưởng như vậy thì mô hình gốc sẽ được biến đổi như sau
Yi 1 Ui 1
   2 Xi   1  2 X i  Vi ( X i  0) ***
Xi Xi Xi Xi
 BIỆN PHÁP KHẮC PHỤC
Giả thiết 3. Phương sai của sai số tỷ lệ với bình phương
của giá trị kỳ vọng của Y, nghĩa là E( σ2(E(Yi))2
Khi đó thực hiện phép biến đổi biến số như sau
Yi 1 2 X i Ui 1 Xi
    1  2  Vi ** **
E  Yi  E  Yi  E  Yi  E  Yi  E  Yi  E  Yi 

Ui
Trong đó Vi  ; Va r  Vi    2
E  Yi 
Phép biến đổi (****) vẫn chưa thực hiện được vì bản thân
E(Yi) lại phụ thuộc vào β1, β2 trong khi β1, β2 lại chưa biết
 BIỆN PHÁP KHẮC PHỤC
Nhưng Xi là ước lượng của E(Yi) nên ta có thể thực hiện
như sau
Yi 1 2 X i U i 1 Xi
    1  2  Vi
ˆ
Y ˆ
Y ˆ
Y ˆ
Y ˆ
Y ˆ
Y
i i i i i i

Mô hình trên thoả mãn các giả thiết của mô hình hồi quy
tuyến tính cổ điển
 BIỆN PHÁP KHẮC PHỤC
Giả thiết 4. Thực hiện biến đổi logarit như
lnYi β1 + β2lnXi + Ui

Thường làm giảm phương sai thay đổi hơn so với mô hình
ban đầu
Yi β1 + β2Xi + Ui
 BIỆN PHÁP KHẮC PHỤC
Ví dụ. Cho số liệu quan sát về chi tiêu cho tiêu dùng (Y) và
thu nhập (X) hàng tháng của 20 hộ gia đình ở một vùng
nông thôn (đơn vị:Y 10.000đ)
X Y X
19.9 22.3 8 8.1
31.2 32.3 33.1 34.5
31.8 33.6 33.5 38
12.1 12.1 13.1 14.1
40.7 42.3 14.8 16.4
6.1 6.2 21.6 24.1
38.6 44.7 29.3 30.1
25.5 26.1 25 28.3
10.3 10.3 17.9 18.2
38.8 40.2 19.8 20.1