Professional Documents
Culture Documents
Kinh-Te-Luong - Tran-Thi-Tuan-Anh - Chuong02 - Hoiquyhaibien - (Cuuduongthancong - Com) PDF
Kinh-Te-Luong - Tran-Thi-Tuan-Anh - Chuong02 - Hoiquyhaibien - (Cuuduongthancong - Com) PDF
Kinh-Te-Luong - Tran-Thi-Tuan-Anh - Chuong02 - Hoiquyhaibien - (Cuuduongthancong - Com) PDF
Nếu mối quan hệ giữa hai biến này là tuyến tính => Mô
hình hồi quy tuyến tính hai biến
Hàm hồi quy tổng thể (PRF) của mô hình hồi quy hai biến
Hàm hồi quy tổng thể (PRF) của mô hình hồi quy hai biến
PRF : Yi 1 2 X i U i
PRF : Yi 1 2 X i U i
E (Y | X i ) 1 2 X i
Hay:
Trong đó
Trong đó β1,β2 là các tham số của mô hình với ý nghĩa :
Y : Biến phụ thuộc β1 : Tung độ gốc của hàm hồi quy tổng thể, là giá trị
Yi : Giá trị cụ thể của biến phụ thuộc trung bình của biến phụ thuộc Y khi biến độc lập
X : Biến độc lập X nhận giá trị bằng 0
Xi : Giá trị cụ thể của biến độc lập β2 : Độ dốc của hàm hồi quy tổng thể , là lượng thay
Ui : Sai số ngẫu nhiên ứng với quan sát thứ i đổi trung bình của Y khi X thay đổi 1 đơn vị
Ui
2. Hàm hồi quy mẫu của hồi quy 2 biến
5 E (Y | X i ) 1 2 X i
4
Trong thực tế rất khó nghiên cứu trên tổng thể nên
3 thông thường người ta nghiên cứu xây dựng hàm hồi
Yi quy trên một mẫu => Gọi là hàm hồi quy mẫu
2
0
0 1 2 3 4 5 6 7 8
Thu nhập X (triệu đồng/tháng)
Thu nh?p X (tri?u đ?ng /tháng)
CuuDuongThanCong.com https://fb.com/tailieudientucntt 1
1/2/2013
6
SRF 2. Hàm hồi quy mẫu của hồi quy 2 biến
3 Trong đó
Yi
2 ˆ1 Tung độ gốc của hàm hồi quy mẫu, là ước lượng
điểm của β1
̂2
1
ˆ1 ˆ2 Độ dốc của hàm hồi quy mẫu, là ước lượng điểm
0
của β2
0 1 2 3 4 5 6 7 8
Thu nhập X (triệu đồng/tháng)
ei Sai số ngẫu nhiên , là ước lượng điểm của Ui
Thu nh?p X (tri?u đ?ng /tháng)
7
Tiêu dùng Y (tri eu đong /tháng )
0
0 1 2 3 4 5 6 7 8
II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ
NHẤT (OLS) NHẤT (OLS)
Giải bài toán cực trị hàm hai biến , ta được
n n
1. Ước lượng các tham số của mô hình
(X i X )(Yi Y ) Y X i i n. X .Y
x y
Giá trị thực tế Yi ˆ1 ˆ2 X i ei ˆ2 i 1
i 1
i i
i X) 2
X
n
i
2
n.( X ) 2 x 2
i
i 1 i 1
Sai số ei Yi Yˆi Yi ˆ1 ˆ2 X i
ˆ1 Y ˆ2 X
Tìm ˆ , ˆ
1 2 sao cho tổng bình phương sai số là Với
nhỏ nhất
X
X là giá trị trung bình của X và xi X i X
min
i
Tức là n n 2
e Yi ˆ1 ˆ2 X i
2 n
Yi
i
i 1 i 1
Tại sao chúng ta không tìm Σei nhỏ nhất ? Y
n là giá trị trung bình của Y và yi Yi Y
CuuDuongThanCong.com https://fb.com/tailieudientucntt 2
1/2/2013
II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ
NHẤT (OLS) NHẤT (OLS)
2. Các giả thiết của OLS 2. Các giả thiết của OLS
Giả thiết 3 : Các sai số Ui là đại lượng ngẫu nhiên có
Giả thiết 1 : Quan hệ giữa Y và X là tuyến tính phương sai không thay đổi
Các giá trị Xi cho trước và không ngẫu nhiên
Var (U i | X i ) 2 const
Giả thiết 4 : Không có sự tương quan giữa các Ui
Giả thiết 2 : Các sai số Ui là đại lượng ngẫu nhiên có giá
trị trung bình bằng 0 Cov(U i , U j | X i , X j ) 0, i j
II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ
NHẤT (OLS) NHẤT (OLS)
2. Các giả thiết của OLS 2. Các giả thiết của OLS
Định lý Guass – Markov : Giả thiết 6 : các sai số Ui có phân phối chuẩn
Khi các giả thiết này được đảm bảo thì các
ước lượng tính được bằng phương pháp Ui N (0, 2 )
OLS là các ước lượng tuyến tính không
chệch, hiệu quả nhất của hàm hồi quy
tổng thể
ước lượng OLS là BLUE
(Best Linear Unbias Estimator)
CuuDuongThanCong.com https://fb.com/tailieudientucntt 3
1/2/2013
II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ II. PHƯƠNG PHÁP BÌNH PHƯƠNG NHỎ
NHẤT (OLS) NHẤT (OLS)
Y
Tổng bình phương phần dư RSS (Residual Sum of Squares)
RSS (Yi Yˆi ) 2 ei2
O Xi
3. Hệ số xác định của mô hình Từ số liệu đã cho của ví dụ trước , yêu cầu tính hệ số xác
TSS ESS RSS (Tại sao? -> Bài tập) định của mô hình
RSS ESS
Hệ số xác định R2 1
TSS TSS
•0 ≤ R2 ≤ 1
•R2 = 1 : mô hình phù hợp hoàn toàn với mẫu nghiên cứu
•R2 = 0 : mô hình hoàn toàn không phù hợp với mẫu nghiên
cứu
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
1. Các đại lượng ngẫu nhiên 1. Các đại lượng ngẫu nhiên
a. Đại lượng ngẫu nhiên Ui
a. Đại lượng ngẫu nhiên Ui
Theo giả thiết của phương pháp OLS, Ui là đại lượng ngẫu
nhiên có giá trị trung bình bằng 0 và phương sai không thay Ta có Yi 1 2 X i U i
đổi
Ui ~ N(0,σ2)
Khi đó σ2 được gọi là phương sai của tổng thể , Vì Ui ~ N(0 , σ2)
được ước lượng bằng phương sai mẫu
N(β1+β2Xi , σ2)
e (Y Yˆ )
2 2 Nên Yi ~
RSS
ˆ 2
i
i i
n2 n2 n2
Vì sao chia n-2 ? => Bài tập
CuuDuongThanCong.com https://fb.com/tailieudientucntt 4
1/2/2013
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
1. Các đại lượng ngẫu nhiên 1. Các đại lượng ngẫu nhiên
b. Đại lượng ngẫu nhiên ˆ , ˆ 1 2 Với
2ˆ X i
2
2 X i
2
ˆ 2
Vì sao ˆ1 , ˆ2 là các đại lượng ngẫu nhiên ? 1
n( X nX 2 2
) n( X nX2 2
)
ˆ1 ~ N ( 1 , 2ˆ )
i i
2 ˆ 2
2ˆ
1
ˆ2 ~ N ( 2 , ) 2
ˆ 2
2
X i
2
nX 2 X i
2
nX 2
Vì sao ˆ1 , ˆ2 có phân phối chuẩn ? => Bài tập
2ˆ se( ˆ1 ) 2ˆ ˆ1
Trong đó
1
là phương sai của ˆ1 1
sai số chuẩn của
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
1. Các đại lượng ngẫu nhiên 2. Các khoảng tin cậy
ˆ2 N ( 2 , 2ˆ ) Ta có t T (n 2)
ˆ2 2
se( ˆ2 )
2
N (0,1)
se( ˆ2 )
Nhưng do ước lượng bằng ˆ 2 dẫn đến
2
ˆ
2 t a se( ˆ2 ); ˆ2 t a se( ˆ2 )
a/2 a/2
2 2
-t
a/2 t a/2 Với ta có được khi tra bảng t-Student với bậc tự do
-4 -3 -2 -1 0 1 2 3 4
2
t (n-2), mức ý nghĩa α/2
CuuDuongThanCong.com https://fb.com/tailieudientucntt 5
1/2/2013
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
2. Các khoảng tin cậy 2. Các khoảng tin cậy
b. Khoảng tin cậy của β1 c. Khoảng tin cậy của σ2
ˆ1 1 Vì ˆ là ước lượng của
2 2
và người ta chứng minh được rằng
Vì t T (n 2)
se( ˆ1 ) ˆ (n 2)
2
2 (n 2)
Lập luận tương tự, khoảng tin cậy của β1 với độ tin cậy 1-α là 2
Nên khoảng tin cậy của σ2 với độ tin cậy 1-α là
ˆ
1 t a se( ˆ1 ); ˆ1 t a se( ˆ1 ) (n 2).ˆ (n 2).ˆ
2 2
;
2 2 a2
1a
2
2 2
Giải thích ý nghĩa của độ tin cậy (1- α), ví dụ (1- α) =95%? Với a2 có được khi tra bảng χ2 với bậc tự do (n-2), mức ý nghĩa
2
α/2
Từ số liệu đã cho của ví dụ trước , yêu cầu tính khoảng tin cậy Nhắc lại về giả thiết H0
của β1, β2 và σ2 với độ tin cậy 95% Trong thống kê, giả thiết phát biểu cần được kiểm định được
gọi là giả thiết không ( ký hiệu : H0). Giả thiết đối được ký hiệu
là giả thiết H1
Người ta thường đặt giả thiết H0 sao cho sai lầm loại I là
nghiêm trọng ( nguy hiểm) hơn sai lầm loại II
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
CuuDuongThanCong.com https://fb.com/tailieudientucntt 6
1/2/2013
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
3. Kiểm định giả thiết về hệ số hồi quy 3. Kiểm định giả thiết về hệ số hồi quy
a. Kiểm định giả thiết về β2 a. Kiểm định giả thiết về β2
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
3. Kiểm định giả thiết về hệ số hồi quy 2. Kiểm định giả thiết về hệ số hồi quy
a. Kiểm định giả thiết về β2
Miền bác bỏ Miền chấp nhận Miền bác bỏ
Phương pháp giá trị tới hạn (kiểm định t)
ˆ2 ta se( ˆ2 ) Kiểm định hai phía ˆ2 ta se( ˆ2 )
2 ˆ2 0
t
2
Bước 1 : tính giá trị tới hạn
Miền chấp nhận se( ˆ2 )
Miền bác bỏ Bước 2 : tra bảng t-Student với bậc tự do (n-2) tìm tα/2
Bước 3 :
Kiểm định phía phải
ˆ2 ta se(ˆ2 ) Nếu -tα/2 ≤ t ≤ tα/2 : chấp nhận giả thiết H0
Nếu t < -tα/2 hoặc t > tα/2 : bác bỏ giả thiết H0
III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY III. KiỂM ĐỊNH MÔ HÌNH HỒI QUY
2. Kiểm định giả thiết về hệ số hồi quy 2. Kiểm định giả thiết về hệ số hồi quy
a. Kiểm định giả thiết về β2 b. Kiểm định giả thiết về β1
Phương pháp p-value Ho:β1 = βo
H1:β1 ≠ βo Với độ tin cậy là 1-α
ˆ 0
Bước 1 : tính giá trị tới hạn t 2
se( ˆ2 ) Tương tự kiểm định giả thiết về β2 nhưng giá trị tới
Bước 2 : Tính p_value = P(|t| > |tα/2|) hạn lúc này là
(tức là khả năng giả thiết H0 bị bác bỏ)
Bước 3 :
Nếu p_value ≥ α : chấp nhận giả thiết H0
Nếu p_value < α : bác bỏ giả thiết H0 ˆ1 0
t
se( ˆ1 )
CuuDuongThanCong.com https://fb.com/tailieudientucntt 7
1/2/2013
c. Kiểm định giả thiết về σ2 Từ số liệu đã cho của ví dụ trước , yêu cầu kiểm định các giả
thiết sau
Ho:σ2 =σ02
H1:σ2 ≠ σ02 Với độ tin cậy là 1-α
a) Ho:β2 = 0
H1:β2 ≠ 0 Với độ tin cậy là 95%
Bước 1 : Lập khoảng tin cậy của σ2
Bước 2 :
Ho:β1 = 0
• Nếu σ02 thuộc khoảng tin cậy thì chấp nhận H 0. b) Với độ tin cậy là 95%
H1:β1 ≠ 0
• Nếu σ02 không thuộc khoảng tin cậy thì bác bỏ H 0
c) Ho:σ2 =16
H1:σ2 ≠ 16 Với độ tin cậy là 95%
R (n 2)
2
Bước 1 : tính F
1 R2 Ho:R2 = 0
Việc kiểm định giả thiết H1:R2 ≠ 0 độ tin cậy là (1-α)
Bước 2 : Tra bảng tìm F(1,n-2), mức ý nghĩa là α
có ý nghĩa như thế nào?
Bước 3 : Nếu F>F(1,n-2) , bác bỏ H0
Nếu F≤F(1,n-2) , chấp nhận H0
CuuDuongThanCong.com https://fb.com/tailieudientucntt 8
1/2/2013
IV. SỬ DỤNG MÔ HÌNH HỒI QUY IV. SỬ DỤNG MÔ HÌNH HỒI QUY
1. Trình bày kết quả hồi quy 1. Trình bày kết quả hồi quy
Kết quả hồi quy được trình bày như sau : Kết quả hồi quy trong ví dụ trước :
IV. SỬ DỤNG MÔ HÌNH HỒI QUY IV. SỬ DỤNG MÔ HÌNH HỒI QUY
2. Vấn đề đổi đơn vị tính trong hàm hồi quy 2. Vấn đề đổi đơn vị tính trong hàm hồi quy
Trong hàm hồi quy hai biến , nếu đơn vị tính của X và
Ngoài ra :
Y thay đổi thì ta không cần hồi quy lại mà chỉ cần áp ˆ *2 k12ˆ 2
dụng công thức đổi đơn vị tính
2ˆ k12 2ˆ se( ˆ1* ) k1se( ˆ1 )
Hàm hồi quy theo đơn vị tính cũ Yˆi ˆ1 ˆ2 X i *
1 1
Hàm hồi quy theo đơn vị tính mới Yˆi* ˆ1* ˆ2* X i* 2ˆ *
k2 k
12 2ˆ se( ˆ2* ) 1 se( ˆ2 )
2
k2 2
k2
Trong đó Yi k1Yi
*
Khi đó ˆ k1ˆ1
*
1
:
X i* k 2 X i k1 ˆ
ˆ2* 2 Tuy nhiên, việc thay đổi đơn vị tính của các biến không làm
thay đổi tính BLUE của mô hình
k2
Ví dụ áp dụng Ví dụ áp dụng
Cho hàm hồi quy giữa lượng tiêu thụ cà phê (Y – ly/ngày) với giá Từ số liệu đã cho của ví dụ trước về chi tiêu và thu nhập , yêu
bán cà phê ( X – ngàn đồng/kg) như sau cầu viết lại hàm hồi quy với đơn vị tính như sau
Yˆi 9 0,2 X i
a) Y – triệu đồng/tháng ; X – triệu đồng/năm
CuuDuongThanCong.com https://fb.com/tailieudientucntt 9
1/2/2013
IV. SỬ DỤNG MÔ HÌNH HỒI QUY IV. SỬ DỤNG MÔ HÌNH HỒI QUY
3. Vấn đề dự báo 3. Vấn đề dự báo
Giả sử SRF : Yˆi ˆ1 ˆ2 X i Với 1 ( X 0 X )2
Y2ˆ 2
Khi X=X0 thì ước lượng trung bình của Y0 sẽ là 0
n X i2 n( X )2
Yˆ0 ˆ1 ˆ2 X 0
se(Yˆ0 ) Y2ˆ
Yˆ0
0
là đại lượng ngẫu nhiên có phân phối chuẩn
Khoảng tin cậy giá trị trung bình của Y0 với độ tin cậy (1-α) là
Từ số liệu đã cho của ví dụ trước , yêu cầu dự Khi tung độ gốc bằng 0 thì mô hình trở thành mô hình hồi quy
qua gốc tọa độ , khi đó hàm hồi quy như sau
báo khoảng giá trị của Y khi X0 = 60 (triệu
đồng/năm) với độ tin cậy 95% PRF : Yi 2 X i U i
SRF : Y ˆ X e
i 2 i i
Với
ˆ2 i 2 i
XY 2
2ˆ
X
Và
Xi
2 2
i
RSS
σ2 được ước lượng bằng ˆ 2
n 1
V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN
1. Hồi quy qua gốc tọa độ 2. Mô hình tuyến tính logarit
*Lưu ý : Hay còn gọi là mô hình log-log hay mô hình log kép
• R2 có thể âm đối với mô hình này, nên không dùng R 2 PRF : ln Yi 1 2 ln X i U i
mà thay bởi R2thô :
Mô hình không tuyến tính theo các biến nhưng có thể chuyển về
Rth2 oˆ
X Y i i
2 dạng tuyến tính bằng cách đặt :
Yi * ln Yi
X Y
i
2
i
2
Trên thực tế ít khi dùng đến mô hình hồi quy qua gốc tọa độ
Khi đó PRF : Yi* 1 2 X i* U i
Đây là dạng hồi quy tuyến tính đã biết
CuuDuongThanCong.com https://fb.com/tailieudientucntt 10
1/2/2013
V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN
2. Mô hình tuyến tính logarit 3. Mô hình log-lin
Lấy đạo hàm 2 vế của hàm hồi quy log-log, ta được PRF : ln Yi 1 2 X i U i
Y 1 X dY X Mô hình không tuyến tính theo các biến nhưng có thể chuyển về
2 2 Y . . dạng tuyến tính bằng cách đặt :
Y X Y dX Y
Yi* ln Yi
khi X thay đổi 1% thì Y
Ý nghĩa của hệ số β2 :
Khi đó PRF : Yi* 1 2 X i U i
thay đổi β2 % (Đây chính là hệ số co Biến phụ thuộc xuất hiện dưới dạng log và biến độc lập xuất
giãn của Y đối với X) hiện dưới dạng tuyến tính (linear) nên mô hình có tên gọi là log-
lin
V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN
3. Mô hình log-lin 4. Mô hình lin-log
PRF : Yi 1 2 ln X i U i
khi X thay đổi 1đơn vị
Ý nghĩa của hệ số β2 : Mô hình không tuyến tính theo các biến nhưng có thể chuyển về
dạng tuyến tính bằng cách đặt :
thì Y thay đổi (100.β2) %
X i* ln X i
Khi đó PRF : Yi 1 2 X i* U i
V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN V. MỞ RỘNG MÔ HÌNH HỒI QUY HAI BiẾN
4. Mô hình lin-log 5. Mô hình nghịch đảo
1
PRF : Yi 1 2 Ui
khi X thay đổi 1 % thì Y
Ý nghĩa của hệ số β2 : Xi
Mô hình không tuyến tính theo các biến nhưng có thể chuyển về
thay đổi (β2/100) đơn vị dạng tuyến tính bằng cách đặt :
1
X i*
Xi
Khi đó PRF : Yi 1 2 X i* U i
CuuDuongThanCong.com https://fb.com/tailieudientucntt 11
1/2/2013
PRF : ln Yi 1 2 ln X i U i 39
50
29
41
3.6636
3.9120
3.3673
3.7136
12.3363
14.5276
13.4217
15.3039
35 23 3.5553 3.1355 11.1478 12.6405
40 36 3.6889 3.5835 13.2192 13.6078
45 42 3.8067 3.7377 14.2280 14.4907
50 48 3.9120 3.8712 15.1442 15.3039
tổng cộng 37.5413 35.5525 133.7406 141.1791
trung bình 3.7541 3.5553
Cho kết quả hồi quy giữa Y – doanh số bán (trđ/tấn) và X - giá bán
Ví dụ áp dụng ( ngàn đồng/kg) như sau :
CuuDuongThanCong.com https://fb.com/tailieudientucntt 12