Professional Documents
Culture Documents
Phương Sai Sai Số Thay ĐổI
Phương Sai Sai Số Thay ĐổI
Giả sử các giả thiết OLS vẫn giữ nguyên trừ giả
thiết về phƣơng sai thuần nhất nghĩa là E(Ui)2=i2: .
Xét mô hình Yi 1 2 X i ui
Áp dụng phƣơng pháp OLS để ƣớc lƣợng tham số
ta đƣợc :
Xi X Yi x i yi
2
Xi X x i2
Còn 2
i
var
2
xi
III. PHƯƠNG PHÁP BÌNH PHƯƠNG BÉ NHẤT
TỔNG QUÁT
Phƣơng pháp ƣớc lƣợng tham số trong mô hình
hồi quy tuyến tính khi có sự hiện diện của hiện
tƣợng phƣơng sai của sai số thay đổi là gán
trọng số khác nhau hoặc tầm quan trọng khác
nhau đối với mỗi quan sát.
Nội dung của phƣơng pháp này là nhƣ sau:
Xét mô hình hồi quy
(4.1)
Yi 1 2X i ui
Giả sử tất cả các giả thiết của mô hình hồi quy
tuyến tính cổ điển thỏa mãn trừ giả thiết về
phƣơng sai của các nhiễu ui là không thuần
nhất, nghĩa là có sự hiện diện của phƣơng sai
sai số thay đổi, hay: E(ui)2 =i2 đã biết.
Chia cả 2 vế của (4.1) cho I ta đƣợc
Yi X 0i Xi ui
1 2 1
i i i i
Wi (4.6)
* i 1
Var 2 n n n
( Wi )( WiXi2 ) ( WiXi )2
i 1 i 1 i 1
IV. HẬU QUẢ CỦA VIỆC SỬ DỤNG PHƯƠNG
PHÁP BÌNH PHƯƠNG BÉ NHẤT KHI CÓ HIỆN
TƯỢNG PHƯƠNG SAI SAI SỐ THAY ĐỔI
Mục này ta sẽ xét xem hậu quả giả thiết phƣơng sai
của sai số không đổi không đƣợc thỏa mãn có ảnh
hƣởng nhƣ thế nào đến các ƣớc thu đƣợc.
Chúng ta sẽ chỉ ra rằng:
- Các ƣớc lƣợng bình phƣơng nhỏ nhất vẫn là
không chệch nhƣng không hiệu quả.
- Ƣớc lƣợng của các phƣơng sai sẽ bị chệch, nhƣ
vậy làm mất hiệu lực kiểm định.
V. PHÁT HIỆN RA PHƯƠNG SAI CỦA SAI SỐ THAY ĐỔI
Nhƣ chúng ta đã thấy về mặt lý thuyết là có thể
dễ dàng chỉ ra hậu quả của hiện tƣợng phƣơng
sai của sai số thay đổi, nhƣng việc phát hiện ra
hiện tƣợng này trong thực tế không phải là vấn
đề đơn giản.
Vì sao vậy? Bởi vì chúng ta biết đƣợc chỉ khi
chúng ta có toàn bộ tổng thể tƣơng ứng với
những giá trị X đƣợc chọn, nhƣng điều này hầu
nhƣ hiếm xảy ra, nghĩa là chúng ta ít khi có
đƣợc toàn bộ tổng thể để nghiên cứu.
Thông thƣờng ta chỉ có đƣợc mẫu rút ra đƣợc
từ tổng thể muốn nghiên cứu. Nhƣ vậy chúng ta
chỉ có những giá trị đơn của Y ứng với những
giá trị đã cho biết của biến X và lại không có
cách nào để xác định phƣơng sai từ giá trị đơn
của Y. Vậy làm thế nào để phát hiện ra phƣơng
sai của sai số thay đổi?
Cũng nhƣ trong trƣờng hợp "đa cộng tính", ta
không có một phƣơng pháp chắc chắn phát hiện
ra hiện tƣợng phƣơng sai của sai số thay đổi.
Chúng ta chỉ có vài công cụ chuẩn đoán để có
thể phát hiện ra hiện tƣợng này.
1. Bản chất của vấn đề nghiên cứu
Thông thƣờng bản chất của vấn đề nghiên cứu gợi
ý cho chúng ta rằng có thể xảy ra hiện tƣợng:
Phƣơng sai của sai số thay đổi hay không? Trên
thực tế đối với số liệu chéo liên quan đến các đơn
vị không thuần nhất hay xảy ra hiện tượng phương
sai của sai số thay đổi.
Chẳng hạn trong nghiên cứu số liệu chéo của chi
phí trung bình của sản xuất tùy theo sản lƣợng sản
phẩm đƣợc sản xuất ra, trong mẫu gồm những
doanh nghiệp có quy mô khác nhau, ngƣời ta
thƣờng thấy có hiện tƣợng phƣơng sai của sai số
thay đổi.
2. Xem xét đồ thị của phần dư
Đồ thị của phần dƣ đối với giá trị của biến độc
lập X hoặc giá trị dự đoán sẽ cho ta biết liệu
phƣơng sai của sai số có thay đổi hay không.
Phƣơng sai của phần dƣ đƣợc chỉ ra bằng độ
rộng của biểu đồ rải của phần dƣ khi X tăng.
Nếu độ rộng của biểu đồ rải phần dƣ tăng hoặc
giảm khi X tăng thì giả thiết về phƣơng sai
không đổi có thể không đƣợc thỏa mãn.
3. Kiểm định Park
2
i
2
X i 2e vi
2 2
ln i ln 2 ln Xi vi
ln ei2 ln 2
2 ln Xi vi 1 2 ln Xi vi
Nhƣ vậy để thực hiện kiểm định Park ta sẽ tiến
hành các bƣớc sau:
Bước 1: Ƣớc lƣợng hồi quy gốc, cho dù có hoặc
không tồn tại hiện tƣợng phƣơng sai của sai số
thay đổi.
Bước 2: Từ hồi quy gốc thu đƣợc các phần dƣ ei
sau đó bình phƣơng chúng đƣợc ei2 rồi lấy loga
Bước 3: Ƣớc lƣợng hồi quy (4.9) trong đó biến
giải thích (Xi) là biến giải thích trong hồi quy
gốc, nếu có nhiều biến giải thích có thể ƣớc
lƣợng hồi quy đối với mỗi biến giải thích, hoặc
có thể ƣớc lƣợng hồi quy đối với Yi làm biến
giải thích.
Bước 4: Kiểm định giả thiết H0 : 2 0
nghĩa là không có hiện tƣợng phƣơng sai của sai
số thay đổi. Nếu có tồn tại mối liên hệ có ý nghĩa
về mặt thống kê giữa lne2 và lnX thì giả thiết H0
có thể bị bác bỏ, trong trƣờng hợp này ta phải
tìm cách khắc phục.
Bước 5: Nếu giả thiết H0 đƣợc chấp nhận thì 1
trong hồi quy (4.9) có thể đƣợc giải thích nhƣ là
giá trị của phƣơng sai không đổi (1 =Ln2)
Ví dụ: Từ phần dƣ đối với hàm tiêu dùng đƣợc
ƣớc lƣợng từ tập số liệu, ngƣời ta ƣớc lƣợng hồi
quy kết quả là nhƣ sau:
ln e2 =-8,407406 + 2,617445 lnX
se (0,219) (0,619)
Nhìn vào kết quả ta thấy có mối liên hệ có ý
nghĩa giữa lne2 và lnX nên giả thiết bị bác bỏ ở
mức ý nghĩa 5%, nghĩa là phƣơng sai của sai số
thay đổi.
4. Kiểm địnhGlejser
Kiểm định Glejser cũng tƣơng tự nhƣ kiểm
định Park. Sau khi thu đƣợc phần dƣ ei từ hồi
quy theo phƣơng pháp bình phƣơng nhỏ nhất,
Glejser đề nghị hồi quy giá trị tuyệt dối của ei
là |ei|đối với biến X nào mà có thể kết hợp chặt
chẽ với i2 . Trong thực nghiệm Glejser sử
dụng các dạng hàm sau
1
ei 1 2X i vi ei 1 2 Xi vi ei 1 2 vi
Xi
1
ei vi ei 2
1 2 ei vi 1 2X i vi
Xi 1 2
trong đó vi là số hạng sai số.
Giả thiết H0 trong mỗi trƣờng hợp đã nêu trên
là phƣơng sai của sai số đồng đều, nghĩa là .
Nếu giả thiết này bị bác bỏ thì có thể có hiện
tƣợng phƣơng sai của sai số thay đổi.
Golđfel và Quandt đã chỉ ra rằng sai số vi trong
hồi quy của Glejser có một số vấn đề, nhƣ giá
trị kỳ vọng của nó khác không, nó có tƣơng
quan chuỗi.
Tuy nhiên Glejser đã cho rằng trong mẫu lớn
thì 4 mô hình đầu cho ta kết quả tốt trong việc
vạch ra hiện tƣợng phƣơng sai của sai số thay
đổi (2 mô hình cuối cùng còn có vấn đề vì là
phi tuyến theo tham số, do đó, không thể ƣớc
lƣợng bằng thủ tục bình phƣơng nhỏ nhất thông
thƣờng).
Do vậy mà kiểm định Glejser đƣợc sử dụng
nhƣ là một công cụ để chẩn đoán trong mẫu
lớn.
6. Kiểm định Goldfeld- Quandt
Nếu giả thiết rằng phƣơng sai của sai số thay đổi,
có thể liên hệ dƣơng với một trong các biến giải
thích trong mô hình hồi quy thì ta có thể sử dụng
kiểm định này. Để đơn giản hãy xét mô hình 2
biến:
Yi 1 2X i ui
Giả sử 2 có liên hệ dƣơng với biến X theo cách
sau:
2 2 2
i Xi
(4.20)
Trong đó 2 là hằng số.
Giả thiết này có nghĩa là i2 tỉ lệ với bình
phƣơng của biến X. Nếu giả thiết (4.20) là thích
hợp thì điều này có ý nghĩa là khi X tăng i2
cũng tăng.
Thủ tục kiểm định Goldfeld-Quandt gồm các
bƣớc sau:
Bước 1: Sắp xếp các quan sát theo thứ tự tăng
dần về giá trị của biến X.
Bước 2: Bỏ quan sát ở giữa theo cách sau:
Đối với mô hình 2 biến:
c = 4 nếu cỡ mẫu khoảng n = 30
c = 10 nếu cỡ mẫu khoảng n = 60.
và chia số quan sát còn lại thành hai nhóm,
trong đó mỗi nhóm có (n-c)/2 quan sát.
Bước 3: Sử dụng phƣơng pháp bình phƣơng bé
nhất ƣớc lƣợng tham số của các hàm hồi quy
đối với (n-c)/2 quan sát đầu và cuối; thu đƣợc
tổng bình phƣơng các phần dƣ RSS1, RSS2
tƣơng ứng. Trong đó RSS1 đại diện cho RSS từ
hồi quy ứng với các giá trị của Xi nhỏ hơn RSS2
- ứng với các giá trị Xi lớn hơn
. Bậc tự do tƣơng ứng là ((n-c)/2)-k . Trong đó
k là tham số đƣợc ƣớc lƣợng kể cả hệ số chặn
(trƣờng hợp 2 biến k = 2).
Bước 4: Tính tỉ số RSS / df
2
RSS1 / df
(4.26b)
Mô hình phải có hệ số chặn bất kể mô hình gốc
có hay không có hệ số chặn.
H0 : 2 3 ... m 0
Bước 3: Với H0: phƣơng sai của sai số không đổi. có
2
thể chỉ ra rằng: nR có phân bố xấp xỉ
2 df , df bằng số
hệ số của mô hình (4.26a và 4.26b) không kể hệ số
chặn.
Bước 4: Nếu nR2 không vƣợt quá giá trị tới hạn, thì giả
thiết H0 không có cơ sở bị bác bỏ. Trong trƣờng hợp
ngƣợc lại giả thiết H0 bị bác bỏ.
Ta có thể nhận thấy rằng bậc tự do của nR2 tăng nhanh
khi có thêm biến độc lập. Trong trƣờng hợp có sai lầm
chỉ định, kiểm định White có thể đƣa ra nhận định sai
là phƣơng sai của sai số thay đổi trong khi phƣơng sai
của sai số là đồng đều.
V. BIỆN PHÁP KHẮC PHỤC
2 2
biến đổi và rõ ràng rằng E vi , thực
vậy:
2 2 2
2 ui 1 Xi
E vi E E u 2 i
2
Xi Xi2 Xi2
Nhƣ vậy tất cả các giả thiết của mô hình hồi
quy tuyến tính cổ điển đƣợc thỏa mãn nên ta có
thể áp dụng phƣơng pháp bình phƣơng nhỏ nhất
cho phƣơng trình đã đƣợc biến đổi.
Hồi quy Yi theo 1 . Chú ý rằng trong hồi
Xi Xi
ui 2
trong đó vi E Yi
,Var v i
.
Nghĩa là nhiều vi có phƣơng sai không đổi. Điều
này chỉ ra rằng hồi quy (4.32) thỏa mãn giả thiết
phƣơng sai không đổi mô hình hồi quy tuyến tính
cổ điển.
Tuy nhiên phép biến đổi (4.32) vẫn chƣa thực
hiện đƣợc vì bản thân E(Yi) phụ thuộc vào 1,
2 trong khi đó lại chƣa biết:
Nhƣng chúng ta biết Yi 1 2X i