XÁC SUẤT VÀ THỐNG KÊ

Bài 10: HỒI QUY TUYẾN TÍNH VÀ TƯƠNG

QUAN TUYẾN TÍNH MẪU
ØGiới thiệu về hồi quy tuyến tính đơn
ØƯớc lượng các hệ số hồi quy
ØKiểm định giả thuyết về hệ số hồi quy
 GIỚI THIỆU VỀ HỒI QUY TT ĐƠN

1 Giới thiệu về hồi quy tuyến tính đơn

Định nghĩa: Cho Y là biến ngẫu nhiên phụ thuộc vào biến X.
Khi biến X nhận giá trị là x mà biến ngẫu nhiên Y có trung bình
là β0 + β1x , trong đó β0, β1 là các hằng số, thì gọi
μY|x = β0 + β1x
là đường hồi quy tuyến tính đơn lý thuyết của Y đối với X,
gọi tắt là đường hồi quy lý thuyết của Y đối với X.
+ X được gọi là biến độc lập hoặc biến hồi quy.
+ Y là biến phụ thuộc.
+ β0, β1 được gọi là các hệ số hồi quy.
Ý nghĩa: Đường hồi quy cho ta thấy sự phụ thuộc của giá
trị trung bình của biến ngẫu nhiên Y vào giá trị của biến X.
 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY

2 Suy luận thống kê về các hệ số hồi quy

Vấn đề đặt ra là: Chưa biết hệ số hồi quy.

Ta sẽ đưa ra suy luận thống kê về các hệ số hồi quy dựa vào các
số liệu thực nghiệm(hay còn gọi là mẫu):
(x1, y1) , (x2, y2) , (x3, y3) ,…, (xn, yn).

+ Khi có mẫu người ta thường vẽ các điểm (x1, y1) , (x2, y2) ,
(x3, y3) ,…, (xn, yn) trên mặt phẳng tọa độ Oxy để có một hình
ảnh trực quan về mối liên hệ giữa X và Y, tập các điểm đó được
gọi là đám mây số liệu.
 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY

Ví dụ1 Một thương gia bán lẻ đã tiến hành nghiên cứu để xác
định mối quan hệ giữa các chi phí quảng cáo hàng tuần và
doanh thu. Số liệu được ghi lại như sau:
Chi phí quảng cáo ($) Doanh thu ($)
40 385
20 400
25 395
20 365
30 475
50 440
40 490
20 420
50 560
40 525
25 480
(a)Vẽ đám mây số liệu. 50 510
(b) Tìm phương trình đường hồi quy của doanh thu theo
chi phí quảng cáo.
 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY

Ước lượng điểm cho β0, β1 theo phương pháp bình

phương nhỏ nhất
Cho mẫu {(xi , yi ) = 1,2, ...,n}, các ước lượng bình phương nhỏ
nhất a và b của hệ số hồi quy β0, β1 được tính từ công thức sau:
n

 (x i  x )( yi  y )
b i 1
n

 i
( x
i 1
 x ) 2

n n

y i  b xi
a i 1 i 1
 y  bx
n

Đường ŷ = a + bx được gọi là đường hồi quy thực nghiệm.

 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY

Ví dụ1 Một thương gia bán lẻ đã tiến hành nghiên cứu để xác
định mối quan hệ giữa các chi phí quảng cáo hàng tuần và
doanh thu. Số liệu được ghi lại như sau:
Chi phí quảng cáo ($) Doanh thu ($)
40 385
20 400
25 395
20 365
30 475
50 440
40 490
20 420
50 560
40 525
25 480
(a)Vẽ đám mây số liệu. 50 510
(b) Tìm phương trình đường hồi quy của doanh thu theo
chi phí quảng cáo.
 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY

Ước lượng không chệch cho độ phân tán của Y xung quanh giá
trị μY|x là (với máy tính bỏ túi, dễ dàng tính được Sxy và Syy)
 n 2 
S xx     xi   nx 2
 i 1 
 n 2 
S yy     yi    ny 2 ,
 i 1 
 n 
S xy     xi yi    nx. y
 i 1 
2
S yy  bS xy
s 
n2
Ví dụ 8.2:

 n 2 
S xx     xi   nx 2
 i 1 
 n 2 
S yy     yi    ny 2 ,
 i 1 
 n 
S xy     xi yi    nx. y
 i 1 
2
S yy  bS xy
s 
n2
 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY

Khoảng tin cậy cho hệ số hồi quy

Ví dụ Tiếp theo Ví dụ 8.2.
+ Tìm khoảng tin cậy 95% cho các hệ số hồi quy lý thuyết 1
 ƯỚC LƯỢNG CHO CÁC HỆ SỐ HỒI QUY (TỰ HỌC)

Ví dụ Tiếp theo Ví dụ 8.2.

+ Tìm khoảng tin cậy 95% cho các hệ số hồi quy lý thuyết.
 KIỂM ĐỊNH GIẢ THUYẾT VỀ CÁC HỆ SỐ HỒI QUY

Kiểm định giả thuyết về hệ số hồi quy

Kiểm định giả thuyết H0: β1= β*
với đối thuyết H1: β1 ≠ β*.

Chỉ tiêu kiểm định

b*
T
s / S xx

Miền bác bỏ (-∞, - tα/2, n-2)∪ (tα/2, n-2 ; +∞).

Ví dụ. Tiếp theo Ví dụ 8.2, hãy kiểm định giả thuyết

H0: β1= 0, với đối thuyết H1: β1 ≠ 0. Mức ý nghĩa 0,03.
 KIỂM ĐỊNH GIẢ THUYẾT VỀ CÁC HỆ SỐ HỒI QUY

Kiểm định giả thuyết H0: β0= β*

với đối thuyết H1: β0 ≠ β*.

Chỉ tiêu kiểm định

a  *
T
n
s  i / nSxx
x 2

i 1

Miền bác bỏ (-∞, - tα/2, n-2)∪ (tα/2, n-2 ; +∞).

Ví dụ. Tiếp theo Ví dụ 8.2, hãy kiểm định giả thuyết
H0: β1= 0, với đối thuyết H1: β1 ≠ 0. Mức ý nghĩa 0,05.
 Bài tập

a) Tìm đường hồi quy tuyến tính thực nghiệm của y theo x.
b) Tìm khoảng tin cậy 90% cho hệ số 1