2023. 4. Mô hình hồi quy đa biến

13/10/2023
Môn học
KINH TẾ LƯỢNG
Giảng viên
HOÀNG SƠN TÙNG
TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Thành nhân trước thành danh www.vhu.edu.vn
CHƯƠNG 4
MÔ HÌNH
HỒI QUY ĐA BIẾN
1
13/10/2023

Đặt vấn đề
• Xét phương trình tiền lương:
𝑤𝑎𝑔𝑒 = 𝛽0 + 𝛽1 𝑒𝑑𝑢𝑐 + 𝜀
• Tham số ε bao gồm tất cả các yếu tố khác ngoài trình độ kiến thức được
đào tạo như sự thông minh, tuổi
• Mô hình trên chỉ thể hiện được sự phụ thuộc của lương vào thời gian
đào tạo mà không thể hiện được các yếu tố ảnh hưởng khác nên sẽ gây
ra các biến động khó giải thích được trong tham số ε
=> Cần bổ sung thêm các biến độc lập và mô hình hồi quy để giải thích
thêm các yếu tố tác động lên biến phụ thuộc
• Mô hình với một biến phụ thuốc vào nhiều biến độc lập được gọi là mô
hình hồi quy bội hay mô hình hồi quy đa biến

Nội dung chương
Giới thiệu mô hình
Ước lượng các tham số của mô hình
Đo lường độ tin cậy & Kiểm định giả thiết
2
13/10/2023

Mô hình hồi quy đa biến

Sự cần thiết nghiên cứu hồi quy đa biến

• Khi xem xét các mối quan hệ kinh tế phức tạp, chúng ta sẽ phải mở
rộng mô hình hồi quy đơn biến, bổ sung thêm các biến giải thích vào
mô hình hồi quy
• Mô hình với một biến phụ thuộc với hai hoặc nhiều biến độc lập được
gọi là mô hình hồi quy đa biến (hồi quy bội)
• Phương pháp và cơ sở lí luận của hồi quy đa biến về cơ bản giống như
của hồi quy đơn biến
• Chỉ xem xét hồi quy tuyến tính đa biến với mô hình tuyến tính trong
tham số, không nhất thiết phải tuyến tính trong biến số
3
13/10/2023

Mô hình hồi quy đa biến tổng thể

• Mô hình hồi quy bội tổng thể PRF có dạng như sau:
𝑌𝑖 = 𝛽0 + 𝛽1 𝑋1𝑖 + 𝛽2 𝑋2𝑖 + 𝛽3 𝑋3𝑖 + ⋯ + 𝛽𝑘 𝑋𝑘𝑖 + 𝜀𝑖
• Trong đó:
• 𝛽0: hệ số tự do
• 𝛽1 , 𝛽2 , 𝛽3 , … , 𝛽𝑘 : các hệ số hồi quy riêng
• 𝜀𝑖 (𝑖 = 1, 2, 3, … , 𝑘)
𝛽1
• Đặt: 𝑋𝑖 = (1, 𝑋1𝑖 , 𝑋2𝑖 , … , 𝑋𝑘𝑖 ); 𝛽 = …
′
𝛽𝑘
 𝒀𝒊 = 𝑿′𝒊 𝜷 + 𝜺𝒊 4.1

Nếu ta có n quan sát, mỗi quan sát gồm k giá trị

(𝑌𝑖 , 𝑋1𝑖 , 𝑋2𝑖 … 𝑋𝑘𝑖 ) với i = (1, ... ,n)
Thì ta có hệ phương trình:
𝑌1 = 𝛽0 + 𝛽1 𝑋11 + 𝛽2 𝑋21 + ⋯ + 𝛽𝑘 𝑋𝑘1 + 𝜀1
𝑌2 = 𝛽0 + 𝛽1 𝑋12 + 𝛽2 𝑋22 + ⋯ + 𝛽𝑘 𝑋𝑘2 + 𝜀2 4.2
…
𝑌𝑛 = 𝛽0 + 𝛽1 𝑋1𝑛 + 𝛽2 𝑋2𝑛 + ⋯ + 𝛽𝑘 𝑋𝑘𝑛 + 𝜀𝑛
4
13/10/2023

Đặt
𝑌1 𝛽0
𝑌= 𝑌2 𝛽= 𝛽1
… …
𝑌𝑛 𝛽𝑘
1 𝑋11 𝑋21 … 𝑋𝑘1
1 𝑋12 𝑋22 … 𝑋𝑘2 𝜀0
𝑋= … … … … … 𝜀= 𝜀1
…
𝜀𝑛
1 𝑋1𝑛 𝑋2𝑛 … 𝑋𝑘𝑛
Thì dạng ma trận của phương trình 4.2 là
𝒀 = 𝑿𝜷 + 𝜺

Mô hình hồi quy đa biến mẫu

Mô hình hồi quy bội mẫu SRF có dạng như sau:
𝑌෠𝑖 = 𝛽መ0 + 𝛽መ1 𝑋1𝑖 + 𝛽መ2 𝑋2𝑖 + 𝛽መ3 𝑋3𝑖 + ⋯ + 𝛽መ𝑘 𝑋𝑘𝑖
𝑌𝑖 = 𝛽መ0 + 𝛽መ1 𝑋1𝑖 + 𝛽መ2 𝑋2𝑖 + 𝛽መ3 𝑋3𝑖 + ⋯ + 𝛽መ𝑘 𝑋𝑘𝑖 + 𝑒𝑖
Trong đó: 𝜀𝑖 = 𝑌𝑖 − 𝑌෠𝑖 gọi là phần dư
Nếu có n quan sát, mỗi quan sát gồm k giá trị (𝑌𝑖 , 𝑋1𝑖 , 𝑋2𝑖 … 𝑋𝑘𝑖 ) với i = (1, ...
,n)
Ta đặt
1 𝑋11 𝑋21 … 𝑋𝑘1
𝑌෠1 ෡0
𝛽 𝑒0
𝑌෠ = 𝛽መ =
𝑌෠2 𝑋= …1 𝑋12
෡1 𝑋22 … 𝑋𝑘2 𝑒= 𝑒1
…
𝛽
… … … … … …
𝑒𝑛
𝑌෠𝑛 1 𝑋1𝑛
෡𝑘
𝛽 𝑋2𝑛 … 𝑋𝑘𝑛
 Dạng ma trận của phương trình là ෡
෡ = 𝑿𝜷
𝒀
 Dạng ma trận của mô hình là 𝒀 = 𝑿𝜷
෡+𝒆
5
13/10/2023

Các giả thiết của mô hình

1. Mô hình hồi quy tuyến tính với các tham số
2. Tất cả các giá trị quan sát của mỗi biến 𝑋𝑘𝑖 không được giống nhau;
phải có ít nhất một giá trị khác biệt, nghĩa là
𝑉𝑎𝑟(𝑋𝑘𝑖 ) ≠ 0
3. Sai số 𝜀𝑖 là biến ngẫu nhiên với trung bình bằng 0, nghĩa là
𝐸 𝜀𝑖 𝑋𝑘𝑖 = 0
4. Không có sự tương quan giữa sai số và biến ngẫu nhiên
𝐶𝑜𝑣 𝜀𝑖 , 𝑋𝑘𝑖 = 0
5. Các sai số 𝜀𝑖 là đại lượng ngẫu nhiên có phương sai không thay đổi ∀i
𝑉𝑎𝑟 𝜀𝑖 𝑋𝑘𝑖 = 𝜎 2 = 𝑐𝑜𝑛𝑠𝑡

Các giả thiết của mô hình

6. Không có sự tương quan giữa các sai số 𝜀𝑖 : 𝐶𝑜𝑣 𝜀𝑖 , 𝜀𝑗 𝑋𝑖 , 𝑋𝑗 = 0, ∀𝑖 ≠ 𝑗
7. Số quan sát (cỡ mẫu) phải lớn hơn số hệ số hồi quy ước lượng (n > k)
8. Sai số 𝜀𝑖 tuân theo luật phân phối chuẩn 𝜀𝑖 ~ 𝑁(0, 𝜎 2 )
Ngoài ra, mô hình hồi quy tuyến tính đa biến còn có 2 giả thiết bổ sung
9. Không nhận dạng sai mô hình (không sai dạng hàm, không thiếu biến
quan trọng và thừa biến không quan trọng)
10.Không có hiện tượng đa cộng tuyến hoàn hảo trong mô hình
6
13/10/2023

Ước lượng các tham số

của mô hình hồi quy đa biến

Phương pháp bình phương nhỏ nhất (OLS)

Xét mô hình hồi quy tuyến tính có k biến
෡+𝒆
𝒀 = 𝑿𝜷
Theo phương pháp OLS, ta cần tìm các giá trị 𝛽መ𝑗 , (𝑗 = 0, 1, 2, … , 𝑘) sao cho
tổng bình phương phần dư là nhỏ nhất: σ 𝑒𝑖2 → 𝑚𝑖𝑛
𝑛 𝑛
⇔ ෍(𝑌𝑖 − 𝑌෠𝑖 ) = ෍(𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − ⋯ − 𝛽መ𝑘 𝑋𝑘𝑖 )2 = 𝜑(𝛽መ𝑗 ) ⟶ 𝑚𝑖𝑛
2
𝑖=1 𝑖=1
Khi đó, các hệ số hồi qui 𝛽መ0 , 𝛽መ1 , … , 𝛽መ𝑘 là nghiệm của hệ phương trình
𝜑𝛽෡′ = 0
ቐ 𝑗
𝑗 = 0, 1, 2 … 𝑘
7
13/10/2023


Tức là:
𝜕 σ 𝑒𝑖2 ෍ 2 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − ⋯ − 𝛽መ𝑘 𝑋𝑘𝑖 −1 = 0
=0
መ
𝜕 𝛽0
. .
. ⟺ .
. .
𝜕 σ 𝑒𝑖2
=0 ෍ 2 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − ⋯ − 𝛽መ𝑘 𝑋𝑘𝑖 −𝑋𝑘𝑖 = 0
መ
𝜕 𝛽𝑘
Viết hệ phương trình trên dưới dạng ma trận, ta có
𝑋 𝑇 𝑋 𝛽መ = 𝑋 𝑇 𝑌
෡ = (𝑿𝑻 𝑿)−𝟏 (𝑿𝑻 𝒀)

⇒𝜷


Với
𝛽መ0 σ 𝑌𝑖
መ σ 𝑋1𝑖 𝑌𝑖
𝛽መ = 𝛽1 𝑋𝑇 𝑌 =
… …
𝛽መ𝑘 σ 𝑋𝑘𝑖 𝑌𝑖
𝑛 ෍ 𝑋1𝑖 ෍ 𝑋2𝑖 ⋯ ෍ 𝑋𝑘𝑖
2
𝑇 ෍ 𝑋1𝑖 ෍ 𝑋1𝑖 ෍ 𝑋1𝑖 𝑋2𝑖 ⋯ ෍ 𝑋1𝑖 𝑋𝑘𝑖
𝑋 𝑌=
⋮ ⋮ ⋮ ⋮ ⋮
2
෍ 𝑋𝑘𝑖 ෍ 𝑋𝑘𝑖 𝑋1𝑖 ෍ 𝑋𝑘𝑖 𝑋2𝑖 ⋯ ෍ 𝑋𝑘𝑖
8
13/10/2023


Xét hàm hồi quy 3 biến, ta có hàm hồi quy mẫu như sau:
𝑌𝑖 = 𝛽መ0 + 𝛽መ1 𝑋1𝑖 + 𝛽መ2 𝑋2𝑖 + 𝑒𝑖
Giả sử có một mẫu gồm n quan sát các giá trị 𝑌𝑖 , 𝑋1𝑖 , 𝑋2𝑖 ,
Ta cần xác định các hệ số hồi qui sao cho giá trị 𝑌෠𝑖 gần với giá trị 𝑌𝑖 thực
nhất, => phần dư 𝑒𝑖 = 𝑌𝑖 − 𝑌෠𝑖 càng nhỏ càng tốt => σ𝑛𝑖=1 𝑒𝑖2 → 𝑚𝑖𝑛. Tức là:
𝜕 σ 𝑒𝑖2 ෍ 2 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − 𝛽መ2 𝑋2𝑖 −1 = 0

=0
𝜕𝛽መ0
𝜕 σ 𝑒𝑖2
= 0 ⟺ ෍ 2 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − 𝛽መ2 𝑋2𝑖 −𝑋1𝑖 = 0
4.3 መ
𝜕𝛽1
𝜕 σ 𝑒𝑖2
=0 ෍ 2 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − 𝛽መ2 𝑋2𝑖 −𝑋2𝑖 = 0
𝜕𝛽መ2


Do 𝑒𝑖 = 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − 𝛽መ2 𝑋2𝑖
Giải hệ phương trình ta được:
2
σ 𝑋2𝑖 𝑌𝑖 σ 𝑋1𝑖 − σ 𝑋1𝑖 𝑋2𝑖 σ 𝑋1𝑖 𝑌𝑖
𝛽መ2 = 2 2
σ 𝑋1𝑖 σ 𝑋2𝑖 − (σ 𝑋1𝑖 𝑋2𝑖 )2
2
σ 𝑋1𝑖 𝑌𝑖 σ 𝑋2𝑖 − σ 𝑋1𝑖 𝑋2𝑖 σ 𝑋2𝑖 𝑌𝑖 4.4
𝛽መ1 = 2 2
σ 𝑋1𝑖 σ 𝑋2𝑖 − (σ 𝑋1𝑖 𝑋2𝑖 )2
𝛽መ0 = 𝑌ത𝑖 − 𝛽መ1 𝑋ത1 − 𝛽መ2 𝑋ത2
9
13/10/2023


Phương sai của các hệ số ước lượng
1 σ(𝑋ത1 𝑋2𝑖 − 𝑋ത2 𝑋1𝑖 )2

𝑣𝑎𝑟 𝛽መ0 = + 2 σ 2 ∗ 𝜎2
𝑛 σ 𝑋1𝑖 𝑋2𝑖 − (σ 𝑋1𝑖 𝑋2𝑖 )2
2
σ 𝑋2𝑖
𝑣𝑎𝑟 𝛽መ1 = 2 σ 2 ∗ 𝜎2
σ 𝑋1𝑖 𝑋2𝑖 − (σ 𝑋1𝑖 𝑋2𝑖 )2 4.5
2
σ 𝑋1𝑖
𝑣𝑎𝑟 𝛽መ2 = 2 σ 2 ∗ 𝜎2
σ 𝑋1𝑖 𝑋2𝑖 − (σ 𝑋1𝑖 𝑋2𝑖 )2


Trong CT 4.5, ta có
𝜎 2 = 𝑣𝑎𝑟(𝑒𝑖 )
Do 𝜎 2 chưa biết nên ta sử dụng ước lượng của nó là
2
σ 𝑒𝑖2
𝜎 =
𝑛−3
Với
෍ 𝑒𝑖2 = 𝑇𝑆𝑆 − 𝐸𝑆𝑆 = ෍ 𝑌𝑖2 − 𝛽መ1 ෍ 𝑋1𝑖 𝑌𝑖 − 𝛽መ2 ෍ 𝑋2𝑖 𝑌𝑖
10
13/10/2023

Ý nghĩa các hệ số hồi quy

• 𝛽0: hệ số gốc (hệ số cắt, hệ số chặn) của đường hồi quy tổng thể và là
giá trị trung bình của Y khi các giá trị của X bằng 0.
• 𝛽𝑘 : hệ số dốc riêng của đường hồi quy tổng thể đối với biến 𝑋𝑘 , nghĩa là
khi giữ các biến độc lập khác cố định, khi 𝑋𝑘 thay đổi 1 đơn vị thì ở mức
trung bình Y thay đổi 𝛽𝑘 đơn vị.
Ví dụ: Ta có 1 phương trình tiền lương như sau:
𝑤𝑎𝑔𝑒 = 7,645 + 1,568𝑒𝑑𝑢𝑐 + 0,812𝑒𝑥𝑝𝑟 (𝑡𝑟𝑖ệ𝑢 𝑉𝑁𝐷)
Có nghĩa là:
• Khi số năm kinh nghiệm như nhau thì mỗi năm đi học tăng thêm sẽ làm
lương trung bình của người lao động tăng thêm 1,568 triệu đồng
• Khi số năm đi học như nhau thì cứ mỗi năm kinh nghiệm đi làm tăng
thêm sẽ làm lương trung bình của người lao động tăng thêm 0,812 triệu
đồng

Hệ số xác định
Ta có:
𝑌𝑖 = 𝑌෠𝑖 + 𝑒𝑖
𝑛
⇔ 𝑌𝑖 − 𝑌ത =𝑛 𝑌෠𝑖 − 𝑌ത + 𝑒𝑖 𝑛
2
ത = ෍ 𝑌෠𝑖 − 𝑌ത
⇒ ෍(𝑌𝑖 − 𝑌) 2
+ ෍ 𝑒𝑖2
𝑖=1 𝑖=1 𝑖=1
TSS: Tổng ESS: Dao RSS: Dao

dao động động được động
của Y so giải thích chưa
với giá trị bởi mô được giải
trung hình hồi thích bởi
bình quy mô hình
11
13/10/2023

Hệ số xác định
TSS = ESS + RSS
Đặt
𝐸𝑆𝑆 𝑅𝑆𝑆
𝑅2 = =1− (0 ≤ 𝑅 2 ≤ 1)
𝑇𝑆𝑆 𝑇𝑆𝑆
Nhận xét:
• Khi thêm biến vào mô hình thì k tăng
• TSS không phụ thuộc k nên không đổi
• ESS phụ thuộc k nên tăng => RSS giảm => 𝑅 2 tăng
=> Do đó, không thể dùng 𝑅 2 để xem xét việc có nên đưa thêm biến vào
mô hình hay không

Hệ số xác định hiệu chỉnh

Đặt
𝑹𝑺𝑺ൗ
𝒏 − (𝒌 + 𝟏) 𝒏−𝟏
ഥ𝟐 = 𝟏 −
𝑹 =𝟏− (𝟏 − 𝑹𝟐 )
𝑻𝑺𝑺ൗ 𝒏 − (𝒌 + 𝟏)
𝒏−𝟏
Nhận xét: Khi thêm biến giải thích vào mô hình thì k tăng => (n-k-1) giảm
• TSS và (n-1) không bị ảnh hưởng bởi k
• Khi thêm biến có ý nghĩa vào mô hình thì RSS sẽ giảm
• Khi thêm biến không có ý nghĩa vào mô hình thì RSS không giảm hoặc giảm ít
=> Khi thêm biến vào mô hình, nếu biến này có ý nghĩa thì 𝑅ത 2 tăng, ngược lại,
𝑅ത 2 không tăng => Chỉ thêm biến vào mô hình khi nào 𝑅ത 2 còn tăng
• 𝑅ത 2 < 𝑅 2 , 𝑅ത 2 tăng chậm hơn 𝑅 2 ; nếu 𝑅 2 đủ nhỏ, 𝑅ത 2 có thể mang giá trị âm
(trong trường hợp âm, có thể coi 𝑅ത 2 = 0)
12
13/10/2023

Ý nghĩa thực hành của hệ số xác định hiệu chỉnh

• Khi đưa thêm càng nhiều biến vào mô hình thì 𝑅 2 tăng  đưa quá nhiều
biến vào mô hình; kể cả các biến không cần thiết.
• Để tránh hiện tượng này, ta dùng hệ số xác định hiệu chỉnh, vì khi thêm
biến vào mô hình, 𝑅ത 2 có thể tăng hoặc không tăng
• Vậy 𝑅ത 2 được dùng để xác định xem có nên đưa thêm 1 biến mới vào mô
hình hay không
• (Với cùng 1 bộ số liệu, khi thêm 1 biến mới vào mô hình thì mô hình
nào có hệ số 𝑅ത 2 lớn hơn được xem là tốt hơn)

Sử dụng 𝑹
ഥ 𝟐 để quyết định đưa thêm biến vào mô hình
Mô hình hai biến (1) Mô hình ba biến (2)
𝑌෠𝑖 = 𝛽መ0 + 𝛽መ1 𝑋1𝑖 𝑌෠𝑖 = 𝛽መ0 + 𝛽መ1 𝑋1𝑖 + 𝛽መ2 𝑋2𝑖
𝑅12 𝑅22
𝑅ത12 𝑅ത22
• Nếu 𝑅ത12 > 𝑅ത22 thì chọn mô hình Nguyên tắc so sánh:
(1), tức là không cần đưa thêm • Cùng cỡ mẫu
biến 𝑋2 vào mô hình • Cùng các biến độc lập
• Ngược lại, ta chọn mô hình (2) • Biến phụ thuộc phải ở dạng
giống nhau
• Biến độc lập có thể ở bất cứ
dạng nào
13
13/10/2023

Đo lường độ tin cậy

&
Kiểm định giả thiết

Khoảng tin cậy

Ta có: 𝛽መ𝑖 ~𝑁 𝛽𝑖 , 𝑣𝑎𝑟 𝛽መ𝑖 ∀𝑖 = 0, 1, 2 … , 𝑘
𝛽መ𝑖 − 𝛽𝑖
⇒ ~𝑇(𝑛 − 𝑘)
𝑠𝑒 𝛽መ𝑖
(𝑛−𝑘−1) 𝛽መ𝑖 − 𝛽𝑖 (𝑛−𝑘−1)

𝑃 −𝑡𝛼ൗ ≤ ≤ 𝑡𝛼ൗ =1−𝛼
2 𝑠𝑒 𝛽𝑖መ 2
𝑛−𝑘−1 𝑛−𝑘−1
𝑃 𝛽መ𝑖 − 𝑡𝛼ൗ 𝑠𝑒 𝛽መ𝑖 ≤ 𝛽𝑖 ≤ 𝛽መ𝑖 + 𝑡𝛼ൗ 𝑠𝑒 𝛽መ𝑖 = 1−𝛼
2 2
Vậy với độ tin cậy 1-α,

෡ 𝒊 ± 𝒕(𝒏−𝒌−𝟏)
𝜷𝒊 ∈ 𝜷 𝜶ൗ ෡𝒊
𝒔𝒆 𝜷
𝟐
14
13/10/2023

Kiểm định các tham số hồi quy

Tương tự kiểm định tham số hồi quy của hàm hồi quy đơn biến, ta có giả
thiết kiểm định:
𝐻0 : 𝛽𝑘 = 0: 𝑋𝑘 không ảnh hưởng đến biến phụ thuộc Y
𝐻1 : 𝛽𝑘 ≠ 0: 𝑋𝑘 ảnh hưởng đến biến phụ thuộc Y
𝛽መ𝑖 − 0
𝑡= ~ 𝑡(𝑛 − 𝑘)
Giá trị thống kê kiểm định
𝛽መ𝑖
𝑡0 =
(𝑛−𝑘−1)
Nếu 𝑡0 > 𝑡𝛼Τ => bác bỏ 𝐻0
2

Kiểm định tổ hợp các tham số - kiểm định Wald

Kiểm định này giúp xác định nên thêm vào hay bớt đi các biến giải thích
trong mô hình, giúp chọn một trong hai mô hình sau:
• Mô hình nhiều biến (mô hình không giới hạn U – Unrestricted mode)
• Mô hình ít biến (mô hình giới hạn R – Restricted mode)
Phương trình tổng thể của 2 mô hình này như sau:
(U): 𝑌𝑖 = 𝛽0 + 𝛽1 𝑋1𝑖 + 𝛽2 𝑋2𝑖 + ⋯ + 𝛽𝑚 𝑋𝑚𝑖 + 𝛽 𝑚+1 𝑋 𝑚+1 𝑖 + ⋯ + 𝛽𝑘 𝑋𝑘𝑖 + 𝑒𝑖
(R): 𝑌𝑖 = 𝛽0 + 𝛽1 𝑋1𝑖 + 𝛽2 𝑋2𝑖 + ⋯ + 𝛽𝑚 𝑋𝑚𝑖 + 𝑒𝑖
Nếu bỏ đi (k-m+1) biến thì mô hình (U) trở thành mô hình (R)
Việc lựa chọn mô hình (R) chính là mô hình (U) với điều kiện
𝛽𝑘 = 𝛽𝑘−1 = ⋯ = 𝛽𝑘−𝑚+1 = 0
15
13/10/2023

Kiểm định tổ hợp các tham số - kiểm định Wald

Việc lựa chọn mô hình (U) hay (R) chính là thực hiện giả thiết kiểm định:
𝐻0 : 𝛽𝑘 = 𝛽𝑘−1 = ⋯ = 𝛽𝑘−𝑚+1 = 0 → Chọn mô hình (R)
𝐻1 : ∃𝛽𝑖 ≠ 0: → Chọn mô hình (U)
Nếu 𝐻0 sai, nghĩa là m biến giải thích này thật sự có ảnh hưởng đến Y thì
𝑅𝑆𝑆𝑈 < 𝑅𝑆𝑆𝑅
Phương pháp kiểm định:
(𝑹𝑺𝑺𝑹 − 𝑹𝑺𝑺𝑼 )
൘(𝒎 + 𝟏) (𝑹𝟐 − 𝑹𝟐 )(𝒏 − 𝒌 − 𝟏)
𝑼 𝑹
𝑭𝒘 = =
𝑹𝑺𝑺𝑼 (𝒎 + 𝟏)(𝟏 − 𝑹𝟐𝑼 )
ൗ(𝒏 − 𝒌 − 𝟏)
Nếu 𝐹𝑤 > 𝐹𝛼 𝑚 + 1, 𝑛 − 𝑘 − 1 thì bác bỏ 𝐻0

Kiểm định sự thích hợp của hàm hồi quy

Kiểm định này giúp xác định các biến độc lập trong mô hình có ảnh
hưởng lên biến phụ thuộc Y hay không
𝐻0 : 𝑅 2 = 0 → Tất cả các biến không tác động lên Y
𝐻1 : 𝑅 2 ≠ 0: → Có sự tác động của biến độc lập lên Y
Phương pháp kiểm định:
𝑹𝟐ൗ 𝑹𝟐 (𝒏 − 𝒌 − 𝟏)
𝑭𝒄 = 𝒌 =
(𝟏 − 𝑹𝟐 )ൗ (𝟏 − 𝑹𝟐 )𝒌
𝒏−𝒌−𝟏
Nếu 𝐹𝑐 > 𝐹𝛼 𝑘, 𝑛 − 𝑘 − 1 thì bác bỏ 𝐻0
16
13/10/2023

Mô hình thiếu biến quan trọng

• Nếu một biến độc lập có tham số hồi qui bằng không (nghĩa là, biến
này là thừa) được đưa vào mô hình, các giá trị ước lượng của các tham
số hồi qui khác vẫn sẽ không thiên lệch và nhất quán.
• Phương sai của tham số hồi qui sẽ cao hơn các giá trị khi không có biến
không liên quan, và vì vậy các hệ số sẽ không hiệu quả.
• Vì các phương sai ước lượng của các hệ số hồi qui là không thiên lệch,
các kiểm định giả thiết vẫn có hiệu lực

Mô hình thừa biến không quan trọng

• Nếu một biến độc lập quan trọng của mô hình bị bỏ sót (tham số hồi
qui khác không có ý nghĩa thống kê) thì các giá trị ước lượng của tất cả
các tham số hồi qui còn lại sẽ bị thiên lệch.
• Các giá trị dự báo cũng bị thiên lệch.
• Ước lượng phương sai của các tham số hồi qui cũng sẽ bị thiên lệch, và
vì vậy các kiểm định giả thiết sẽ không có ý nghĩa.
17
13/10/2023

Chiến lược xây dựng mô hình

Từ hai sai lầm này, để xác định mô hình đúng người ta thường xây dựng
mô hình theo một trong hai chiến lược:
• Chiến lược từ tổng quát đến đơn giản: Từ mô hình nhiều biến sau đó
loại dần các biến không quan trọng để được mô hình đúng có ít biến
hơn.
• Chiến lược từ đơn giản đến tổng quát: Từ mô hình ít biến sau đó thêm
dần các biến quan trọng để được mô hình đúng có nhiều biến hơn.

PHỤ LỤC
BẢNG KẾT XUẤT DỮ LIỆU
18
13/10/2023


Dependent Variable: PRICE

Method: Least Squares
Date: 05/29/05 Time: 17:50
Sample: 1 14
Included observations: 14
Variable Coefficient Std. Error t-Statistic Prob.
C 129.0616 88.30326 1.461573 0.1746
SQFT 0.154800 0.031940 4.846516 0.0007
BATHS -12.19276 43.25000 -0.281913 0.7838
BEDRMS -21.58752 27.02933 -0.798670 0.4430
R-squared 0.835976 Mean dependent var 317.4929
Adjusted R-squared 0.786769 S.D. dependent var 88.49816
S.E. of regression 40.86572 Akaike info criterion 10.49342
Sum squared resid 16700.07 Schwarz criterion 10.67600
Log likelihood -69.45391 F-statistic 16.98894
Durbin-Watson stat 1.970415 Prob(F-statistic) 0.000299
19
13/10/2023

ANOVA
df SS
Regression 2 41.86719168
Residual 9 14.79947499
Total 11 56.66666667
Standard
t Stat P-value Lower 95% Upper 95%
Coefficients Error
Intercept 129.0616 88.3033 1.4616 0.1746 -67.6903 325.8136
SQFT 0.1548 0.0319 4.8465 0.0007 0.0836 0.2260
BATHS -12.1928 43.2500 -0.2819 0.7838 -108.5598 84.1743
BEDRMS -21.5875 27.0293 -0.7987 0.4430 -81.8126 38.6376

Hết chương 4
20

2023. 4. Mô hình hồi quy đa biến

Uploaded by

Copyright:

Available Formats

You might also like

2023. 4. Mô hình hồi quy đa biến

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

2023. 4. Mô hình hồi quy đa biến

Uploaded by

Copyright:

Available Formats

13/10/2023

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Nội dung chương

Giới thiệu mô hình

Ước lượng các tham số của mô hình

Đo lường độ tin cậy & Kiểm định giả thiết

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Mô hình hồi quy đa biến

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Sự cần thiết nghiên cứu hồi quy đa biến

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Mô hình hồi quy đa biến tổng thể

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Mô hình hồi quy đa biến tổng thể

Nếu ta có n quan sát, mỗi quan sát gồm k giá trị

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Mô hình hồi quy đa biến tổng thể

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Mô hình hồi quy đa biến mẫu

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Các giả thiết của mô hình

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Các giả thiết của mô hình

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Ước lượng các tham số

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

෡ = (𝑿𝑻 𝑿)−𝟏 (𝑿𝑻 𝒀)

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

𝑛 ෍ 𝑋1𝑖 ෍ 𝑋2𝑖 ⋯ ෍ 𝑋𝑘𝑖

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

𝜕 σ 𝑒𝑖2 ෍ 2 𝑌𝑖 − 𝛽መ0 − 𝛽መ1 𝑋1𝑖 − 𝛽መ2 𝑋2𝑖 −1 = 0

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

𝛽መ0 = 𝑌ത𝑖 − 𝛽መ1 𝑋ത1 − 𝛽መ2 𝑋ത2

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

1 σ(𝑋ത1 𝑋2𝑖 − 𝑋ത2 𝑋1𝑖 )2

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Phương pháp bình phương nhỏ nhất (OLS)

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Ý nghĩa các hệ số hồi quy

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

TSS: Tổng ESS: Dao RSS: Dao

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Hệ số xác định hiệu chỉnh

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Ý nghĩa thực hành của hệ số xác định hiệu chỉnh

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Mô hình hai biến (1) Mô hình ba biến (2)

TRƯỜNG ĐẠI HỌC VĂN HIẾN HOTLINE: 18001568

Đo lường độ tin cậy