PHƯƠNG SAI SAI SỐ THAY ĐỔI

TS. Đinh Thị Thanh Bình

Khoa KTQT, FTU

1
TÌNH HUỐNG KHỞI ĐỘNG BÀI
Khi nghiên cứu về ảnh hưởng của số năm đi học và số năm kinh nghiệm làm
việc đến mức lương của người lao động, một nhà nghiên cứu thu được kết quả
ước lượng như sau:
wagei = 560.71 + 142.74educi + 41.98experi + ei
(se) (281.26) (34.48) (13.09)
(t-stats) (1.99) (4.14) (3.21)
R2 = 32.14%
Vậy ta có thể dùng ngay kết quả ước lượng này để kiểm định giả thuyết thống
kê về các hệ số hồi quy của mô hình hồi quy tổng thể không? Nên nhớ rằng
các ước lượng OLS chỉ là tốt nhất cho việc suy diễn thống kê và dự báo khi mà
mô hình không vi phạm các giả định của mô hình hồi quy tuyến tính cổ điển. Vì
vậy, điều cần thiết phải làm là kiểm tra xem mô hình đã thỏa mãn các giả định
này hay chưa.

2
TÌNH HUỐNG KHỞI ĐỘNG BÀI (tiếp theo)
Một trong những giả định là phương sai của sai số ngẫu nhiên phải
không đổi. Xét trong ví dụ trên, trong thực tế ta có thể quan sát thấy
những người ít được đào tạo (số năm đi học ít) thường làm các công
việc liên quan nhiều đến sức lực. Mức lương nhận được từ những công
việc này không khác nhau nhiều. Ngược lại, những người được đào tạo
nhiều thường có khả năng làm nhiều những công việc khác nhau, với
những mức lương tương đối khác nhau. Như vậy ta có thể nghi ngờ rằng
phương sai của sai số ngẫu nhiên không phải là một số không đổi trong
trường hợp này.
Vậy nó có ảnh hưởng gì đến kết quả ước lượng mô hình?

3
MỤC TIÊU BÀI HỌC
 Hiểu được bản chất hiện tượng phương sai sai số (PSSS) thay đổi xảy
ra với mô hình hồi quy.
 Chỉ ra được các nguyên nhân và hậu quả của hiện tượng PSSS thay
đổi.
 Nắm được các cách phát hiện ra hiện tượng PSSS thay đổi trong kết
quả hồi quy.
 Nắm được cách khắc phục nếu hiện tượng PSSS thay đổi xảy ra.

4
CẤU TRÚC NỘI DUNG

5.1 Bản chất của hiện tượng phương sai sai số thay đổi

5.2 Nguyên nhân của hiện tượng phương sai sai số thay đổi

5.3 Hậu quả của phương sai sai số thay đổi

5.4 Ước lượng các tham số khi có phương sai sai số thay đổi

5.5 Phát hiện phương sai sai số thay đổi

5.6 Khắc phục phương sai sai số thay đổi

5
5.1. BẢN CHẤT CỦA PHƯƠNG SAI SAI SỐ THAY ĐỔI
Một trong những giả thiết cơ bản của mô hình hồi quy tuyến tính cổ điển:
 “ui có phương sai là hằng số, nghĩa là var(ui|Xi) = ² với i. Giả thiết
này còn được gọi là giả thiết về hiện tượng phương sai của sai số
không đổi.”
 Khi giả thiết này bị vi phạm. Điều đó có nghĩa là: var  u i X i   i
2

(Với i = 1, 2,..., n).

→ Hiện tượng phương sai sai số (PSSS) thay đổi.

6
 5.1. BẢN CHẤT CỦA PHƯƠNG SAI SAI SỐ THAY ĐỔI (tiếp
theo)

Xét ví dụ sau đây:

Hồi quy tiêu dùng Y theo mức thu nhập X của các hộ gia đình ta có mô hình hồi
quy sau: Yi  0  1X i  u i

 Trường hợp 1: PSSS không đổi var  u i   2

→ Độ biến thiên trong chi tiêu của các gia đình có thu nhập khác nhau là như nhau.
 Trường hợp 2: PSSS thay đổi
var  u i   i2

 Các gia định có mức thu nhập cao hơn có độ biến thiên trong chi tiêu cao hơn. Đây là
điều thường thấy trong thực tế.
 Vi phạm giả định của mô hình hồi quy tuyến tính cổ điển.

7
 5.1. BẢN CHẤT CỦA PHƯƠNG SAI SAI SỐ THAY ĐỔI (tiếp
theo)

Hồi quy tiêu dùng Y theo mức thu nhập X của các hộ gia đình ta có mô hình
hồi quy sau: Y   X  u i 0 1 i i

Hình 1: PSSS đồng nhất Hình 2: PSSS thay đổi

var  u i X i    2
var  u i X i   i2

8
CÂU HỎI TRẮC NGHIỆM
Câu 1: Khi phương sai của các nhiễu ngẫu nhiên không bằng nhau hiện
tượng này gọi là
A. phương sai sai số thay đổi.
B. đa cộng tuyến.
C. phương sai sai số không đổi.
D. tự tương quan.

Đáp án đúng là: A. phương sai sai số thay đổi.

Vì: Khi phương sai của các nhiễu ngẫu nhiên không bằng nhau mô hình
gặp hiện tượng PSSS thay đổi.

9
 5.2. NGUYÊN NHÂN CỦA HIỆN TƯỢNG PHƯƠNG SAI SAI
SỐ THAY ĐỔI

 Mô hình học tập – sai lầm: Khi con người học hỏi, các sai lầm về hành vi của họ ngày càng nhỏ
đi theo thời gian, phương sai sẽ nhỏ dần (ví dụ: đánh máy).

 Do kỹ thuật thu thập dữ liệu được cải thiện, phương sai sẽ nhỏ dần.

10
 5.2. NGUYÊN NHÂN CỦA HIỆN TƯỢNG PHƯƠNG SAI SAI
SỐ THAY ĐỔI (tiếp theo)

 Do bản chất các mối quan hệ kinh tế.

Ví dụ: tiết kiệm – thu nhập, chi tiêu – thu nhập.
 Do sự xuất hiện của các quan sát ngoại lai (một quan sát rất khác, có thể
là rất nhỏ hoặc rất lớn, so với các quan sát khác trong mẫu).
 Do dạng hàm sai, một số biến bị loại ra khỏi mô hình.
 PSSS thay đổi thường gặp trong số liệu chéo.
Các đối tượng thuộc nghiên cứu thường có tính chất khác nhau (công ty: quy mô
lớn/vừa/nhỏ, hộ gia đình/ cá nhân: thu nhập thấp/trung bình/cao,…)

11
5.3. HẬU QUẢ CỦA PHƯƠNG SAI SAI SỐ THAY ĐỔI
 Xét mô hình hồi quy
Yi  0  1X i  u i
 Ước lượng OLS
1   x i yi
 xi 2

 Phương sai của ước lượng

 PSSS thuần nhất: var  u i   2 var 1  
2
 i
x 2

 i i
 
2 2
x
 PSSS thay đổi: var  u i   i2 var 1 
2 2
  x 
i

12
5.3. HẬU QUẢ CỦA PHƯƠNG SAI SAI SỐ THAY ĐỔI (tiếp
theo)
Khi có hiện tượng PSSS thay đổi, nếu vẫn dùng OLS để ước lượng mô
hình, các ước lượng OLS thu được vẫn là ước lượng tuyến tính, không
chệch nhưng có phương sai bị chệch.
 Phương sai của ước lượng không còn chính xác.
 Các khoảng tin cậy, các kết luận kiểm định các giả thuyết thống kê về
hệ số hồi quy không còn giá trị.
 Kết quả dự báo không còn đáng tin cậy.

13
CÂU HỎI TRẮC NGHIỆM
Câu 2: Đâu KHÔNG phải là hậu quả của hiện tượng PSSS thay đổi?
A. Ước lượng OLS bị chệch.
B. Phương sai của các hệ số hồi quy ước lượng bị chệch.
C. Các kiểm định về hệ số hồi quy không còn giá trị.
D. Kết quả dự báo không còn đáng tin cậy.

Đáp án đúng là: A. Ước lượng OLS bị chệch.

Vì: Khi mô hình có PSSS thay đổi, ước lượng OLS vẫn là tuyến tính,
không chệch.

14
5.4. ƯỚC LƯỢNG CÁC THAM SỐ KHI CÓ PHƯƠNG SAI SAI
SỐ THAY ĐỔI
 Phương pháp bình phương tối thiểu thông thường coi các quan sát có vai trò
như nhau.
 Chúng ta cần một phương pháp khác quan tâm đến sự thay đổi trong
phương sai của sai số ngẫu nhiên:
 Quan sát nào phương sai của sai số ngẫu nhiên lớn → Vai trò nhỏ hơn trong việc ước
lượng mô hình;
 Quan sát nào có phương sai của sai số ngẫu nhiên nhỏ → Vai trò lớn hơn trong việc
ước lượng mô hình.
 Phương pháp bình phương tối thiểu tổng quát GLS.
Phương pháp bình phương tối thiểu tổng quát (GLS) là thực hiện OLS với mô hình (các
biến) đã biến đổi để thỏa mãn các giả thiết của mô hình hồi quy tuyến tính cổ điển:
2 bước của GLS:
 Biến đổi mô hình ban đầu để thỏa mãn các giả định của mô hình hồi quy tuyến tính cổ
điển.
 Áp dụng phương pháp OLS cho mô hình đã biến đổi.

15
5.4. ƯỚC LƯỢNG CÁC THAM SỐ KHI CÓ PHƯƠNG SAI SAI
SỐ THAY ĐỔI

5.4.1. Phương pháp bình phương

tối thiểu tổng quát GLS

5.4.2. Phương pháp bình phương

tối thiểu có trọng số WLS

16
 5.4.1. PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU TỔNG
QUÁT GLS
Xét mô hình hồi quy 2 biến sau: Yi  0  1X1  u i

Giả sử có hiện tượng PSSS thay đổi var  u i X i   i

2

 Bước 1: Biến đổi mô hình

Yi 0 X  u
 Chia cả 2 vế cho i   1  i   i
i i  i  i

Yi * 1 * Xi * ui
Đặt  Yi ,  X0 ,  Xi ,  u*i
i i i i

 Khi đó mô hình hồi quy mới có dạng: Yi*  *0 X*0  1*X*i  u*i

u  1
 Khi đó, sai số ngẫu nhiên của mô hình có phương sai không đổi: var  u*i   var  i   2 var  u i   1
 i  i

17
5.4.1. PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU TỔNG
QUÁT GLS (tiếp theo)
 Bước 2: Dùng OLS ước lượng mô hình đã biến đổi:

   min  Y     X    , : BLUE
* 2 2
OLS :min  u i i
* *
0
*
1
*
i
*
0
*
1

18
 5.4.2. PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU CÓ
TRỌNG SỐ WLS

Phương pháp bình phương tối thiểu có trọng số gắn trực tiếp cho mỗi quan
sát 1 trọng số tương ứng khác nhau.
Xét mô hình: Yi  0  1X i  u i
 Tiêu chí lựa chọn đường hồi quy mẫu:


OLS :min  u  min  Yi  0  1X 
2 2
i

 
1
với w i 
2
WLS :min  w i u  min  w i Yi     X i
2
* *
i 0 1 i2

 WLS là một trường hợp đặc biệt của GLS. Trong trường hợp phương sai
sai số thay đổi, 2 phương pháp WLS và GLS là tương đương nhau.

19
5.4.2. PHƯƠNG PHÁP BÌNH PHƯƠNG TỐI THIỂU CÓ
TRỌNG SỐ WLS (tiếp theo)
Kết quả ước lượng mô hình bằng GLS/WLS

*

  Wi   Wi X i Yi     Wi X i   Wi Yi 
 i   i i   i i 
1

2 2
W W X W X

*0  Y*  1* X*
  Wi 
 
var  *
1
  Wi    Wi X i2     Wi X i 
2

20
5.5. PHÁT HIỆN PHƯƠNG SAI SAI SỐ THAY ĐỔI

5.5.1. Phương pháp đồ thị 5.5.2. Kiểm định White

5.5.3. Kiểm định Breusch - Pagan

21
5.5.1. PHƯƠNG PHÁP ĐỒ THỊ
Dùng đồ thị của phần dư ei hoặc phần dư bình phương để đánh giá:
Chúng có biểu thị một mẫu hình hệ
thống không?

Không có
PSSS thay đổi

22
5.5.2. KIỂM ĐỊNH WHITE
Xét mô hình hồi quy gốc: Yi  0  1X1i   2 X 2i  u i (1)

Các bước kiểm định White về phương sai của sai số thay đổi được thực
hiện như sau:
2
 Bước 1: Hồi quy (1) thu được phần dư ei
 Bước 2: Thực hiện hồi quy phụ mô hình

2
u  0  1X1i  2 X 2i  3X1i2  4 X 2i2  5X1i X 2i  v i
i

23
5.5.2. KIỂM ĐỊNH WHITE (tiếp theo)
 Bước 3: Thực hiện kiểm định
 H0: 1 = 2 = 3 = 4 = 5 = 0 → PSSS đồng nhất.
 H1: Ít nhất 1 giá trị  ≠ 0 → PSSS thay đổi.
 Bước 4: Tính thống kê nR *2  qs2 (R²* - hệ số xác định của mô hình hồi
quy phụ)
 Bước 5: Nếu  2
qs   2
 ,df : bác bỏ H0 (bậc tự do df – số biến độc lập
ở mô hình hồi quy phụ)
Hoặc p-value    
2
qs  bác bỏ H0
Trong STATA: Thực hiện kiểm định White sau khi ước lượng mô hình
bằng OLS.
Dùng lệnh: imtest, white
24
CÂU HỎI TRẮC NGHIỆM
Câu 3: Nếu mô hình hồi quy gốc có 4 biến độc lập, khi dùng kiểm định
White sử dụng các phần dư từ mô hình hồi quy ước lượng, mô hình hồi
quy phụ có bao nhiêu biến độc lập?
A. 4
B. 8
C. 9
D. 14

Đáp án đúng là: D. 14.

Vì: Mô hình hồi quy phụ có 14 biến độc lập, bao gồm 4 biến độc lập trong
mô hình ban đầu, 4 bình phương của các biến độc lập và 6 tích chéo
giữa các biến độc lập.
25
 5.5.3. KIỂM ĐỊNH BREUSCH - PAGAN

 Kiểm định Breusch – Pagan giả định rằng sai số ngẫu nhiên thay đổi theo
một số biến X nhất định nào đó.
u i2  0  1X1i  2 X 2i  ...   k X ki  v i

 Thông thường, biến Z thường là:

 Các biến độc lập trong mô hình;
 Giá trị ước lượng của biến phụ thuộc Y (trong STATA).

i2  0  1 Yi  u i

26
 5.5.3. KIỂM ĐỊNH BREUSCH – PAGAN (tiếp theo)

Các bước thực hiện kiểm định:

 Bước 1: Ước lượng mô hình ban đầu bằng OLS, thu phần dư ei
 Bước 2: Hồi quy mô hình hồi quy phụ:
2
u  0  1 Yi  u i
i

 Bước 3: Kiểm định giả thuyết:

 H0: 1 = 0 → PSSS không đổi
 H1: 1 ≠ 0 → Có PSSS thay đổi
 Bước 4: Giá trị kiểm định: LM = nR2* ~ 2 (1) (R2* là hệ số xác định của mô hình hồi quy phụ)
 Bước 5: Bác bỏ H0 nếu LM  2 hoặc p-value(LM) < 

Trong STATA: Thực hiện kiểm định Breusch – Pagan sau khi ước lượng mô hình bằng OLS.
Dùng lệnh: hettest

27
 CÂU HỎI TRẮC NGHIỆM

Câu 4: Kiểm định nào sau đây có thể được dùng để kiểm định phương sai sai số
thay đổi?
A. Kiểm định Durbin –Watson
B. Kiểm định Breusch - Pagan
C. Kiểm định RESET
D. Kiểm định Breusch - Godfrey

Đáp án đúng là: B. Kiểm định Breusch - Pagan

Vì: Kiểm định Breusch – Pagan được dùng để kiểm tra hiện tượng PSSS thay đổi
trong mô hình hồi quy, dùng mô hình hồi quy phụ với biến phụ thuộc là bình
phương của phần dư.

28
5.6. KHẮC PHỤC PHƯƠNG SAI SAI SỐ THAY ĐỔI

5.6.1. Trường hợp đã biết i2

5.6.2. Trường hợp chưa biết i2

29
5.6.1. TRƯỜNG HỢP ĐÃ BIẾT i2
Khi đã biết i2, chúng ta có thể dễ dàng khắc phục hiện tượng phương
sai của sai số thay đổi bằng cách sử dụng phương pháp bình phương tối
thiểu có trọng số/bình phương tối thiểu tổng quát.

30
5.6.2. TRƯỜNG HỢP CHƯA BIẾT i2
 Không biết i2 nhưng ta cần phải có thông tin về sự thay đổi của i2 liên
quan đến một số yếu tố đã biết.
 Khi đó, ta sẽ biến đổi mô hình dựa trên các mối quan hệ này.
 Xét mô hình hồi quy gốc:
Yi  0  1X i  u i

 Giả sử mô hình mắc phải PSSS thay đổi.

31
5.6.2. TRƯỜNG HỢP CHƯA BIẾT i2 (tiếp theo)
Biến đổi 1: Nếu biết phương sai của sai số tỷ lệ với bình phương của
biến giải thích:
var  u i   E  u i2    2 X i2

 Chia cả hai vế của mô hình hồi quy gốc cho Xi (Xi  0) ta được:
Yi 0 u
  1  i
Xi Xi Xi
 Khi đó ta có: u  1
var  i   2 var  u i   2
 Xi  Xi

→ Dùng OLS ước lượng mô hình mới.

32
5.6.2. TRƯỜNG HỢP CHƯA BIẾT i2 (tiếp theo)
Biến đổi 2: Nếu biết phương sai của sai số tỷ lệ với biến giải thích X.
var  u i   E  u i2    2 X i

 Chia cả hai vế của mô hình hồi quy gốc cho căn bặc hai của biến Xi, ta
được:
Yi  u
 0  1 X i  i
Xi Xi Xi (với Xi > 0)

 Khi đó ta có:  ui  1
var   var  u i   2
 X  Xi
 i 

→ Dùng OLS ước lượng mô hình mới.

33
5.6.2. TRƯỜNG HỢP CHƯA BIẾT i2 (tiếp theo)
Trường hợp chưa biết i2 và không biết quan hệ của nó với các yếu
tố khác
Biến đổi logarit mô hình
 Đôi khi thay cho việc ước lượng hồi quy gốc, ta sẽ ước lượng hồi quy
sau:
lnYi = 0 + 1lnXi + Ui (3)
 Việc ước lượng (3) có thể làm giảm phương sai thay đổi do sự tác
động của phép biến đổi logarit.

34
5.6.2. TRƯỜNG HỢP CHƯA BIẾT i2 (tiếp theo)
Phương pháp ước lượng sai số chuẩn mạnh (Robust Standard Errors) hạn chế ảnh
hưởng của PSSS thay đổi.
Để giảm bớt ảnh hưởng của PSSS thay đổi, khi hồi quy dùng Sai số chuẩn mạnh (Robust
Standard Error) khi kích thước mẫu lớn.
 Giữ nguyên giá trị ước lượng OLS
 Phương sai ước lượng
x u
2

 
2
i
var 1  i

 x 
2 2
i

Khi kích thước mẫu đủ lớn, giá trị này sẽ tiệm cận giá trị đúng của phương sai của ước lượng
OLS.

Trong STATA, dùng lệnh: reg [biến phụ thuộc] [các biến độc lập], robust

35
5.6.2. TRƯỜNG HỢP CHƯA BIẾT i2 (tiếp theo)
Một số lưu ý khi biến đổi mô hình ban đầu:
 Đối với mô hình hồi quy bội thì việc chọn biến nào để biến đổi cần phải
có sự xem xét cẩn thận.
 Phép biến đổi logarit không dùng được nếu một số giá trị của X và Y là
âm.
 Khi i2 chưa biết và được ước lượng từ một hay nhiều phép biến đổi
trên thì tất cả các kiểm định t, F chỉ có hiệu lực đối với cỡ mẫu lớn.
 Dùng sai số chuẩn mạnh (Robust Standard Error) khi kích thước mẫu
lớn.

36
CÂU HỎI TRẮC NGHIỆM
Câu 5: Phương pháp ước lượng GLS
A. là trường hợp đặc biệt của OLS.
B. là phương pháp bình phương tối thiểu có trọng số.
C. có thể được dùng để giải quyết vấn đề PSSS thay đổi của mô hình hồi
quy.
D. luôn giải quyết được vấn đề PSSS thay đổi của mô hình hồi quy.

Đáp án đúng là: C. có thể được dùng để giải quyết vấn đề PSSS thay đổi
của mô hình hồi quy.
Vì: Phương pháp bình phương tối thiểu tổng quát có thể được sử dụng
để giải quyết vấn đề PSSS thay đổi của mô hình hồi quy khi xác định
được sự biến đổi của phương sai sai số theo các yếu tố đã biết.
37
 GIẢI QUYẾT TÌNH HUỐNG KHỞI ĐỘNG BÀI

 Kiểm tra kết quả ước lượng mô hình bằng kiểm định Breusch – Pagan ta
có:
 Dùng lệnh hettest

38
 GIẢI QUYẾT TÌNH HUỐNG KHỞI ĐỘNG BÀI (tiếp theo)

 P-value(LM) = 0.0003 < 0.05 → Có hiện tượng PSSS thay đổi.

 Khắc phục bằng cách lấy ln của wage, mô hình sẽ không còn hiện tượng
PSSS thay đổi nữa

gen lnwage = ln(wage)

reg ln(wage) educ exper
hettest

Hoặc dùng phương pháp sai số chuẩn mạnh để hạn chế ảnh hưởng của PSSS thay
đổi đến ước lượng phương sai của ước lượng OLS.
reg wage educ exper, robust

39
TỔNG KẾT BÀI HỌC
 Bản chất hiện tượng PSSS thay đổi và các nguyên nhân thường gặp.
 Hậu quả của hiện tượng PSSS thay đổi đối với ước lượng OLS của mô
hình hồi quy.
 Các phương pháp ước lượng GLS, WLS.
 Các cách phát hiện ra hiện tượng PSSS thay đổi: dùng đồ thị phần dư,
kiểm định White, kiểm định
Breusch – Pagan.
 Các cách khắc phục hậu quả của hiện tượng PSSS thay đổi trong các
trường hợp: khi biết giá trị của var(ui), chưa biết giá trị của var(ui)
nhưng biết mối quan hệ của nó với các yếu tố đã biết, chưa biết var(ui)
và không có thông tin về quan hệ của nó với các yếu tố khác.

40