Translated from English to Vietnamese - www.onlinedoctranslator.

com
Xem siêu dữ liệu, trích dẫn và các bài báo tương tự tạicore.ac.uk mang đến cho bạn CỐT LÕI

cung cấp bởiRIT Scholar Works

Học viện Công nghệ Rochester

RIT Scholar Works

Luận văn Tuyển tập luận văn / luận văn

2012

Ước tính tỷ lệ tín hiệu trên nhiễu bằng cách

sử dụng Thuật toán tối đa hóa kỳ vọng
Ahmed Almradi

Theo dõi điều này và các tác phẩm bổ sung tại:http://scholarworks.rit.edu/theses

Trích dẫn được đề xuất

Almradi, Ahmed, "Ước tính tỷ lệ tín hiệu trên nhiễu sử dụng Thuật toán tối đa hóa kỳ vọng" (2012). Luận văn. Viện Công nghệ Rochester.
Được truy cập từ

Luận án này được cung cấp cho bạn truy cập miễn phí và mở bởi Bộ sưu tập Luận văn / Luận văn tại RIT Scholar Works. Nó đã được chấp nhận để đưa vào
Luận văn bởi quản trị viên được ủy quyền của RIT Scholar Works. Vui lòng liên lạc để biết thêm thông tinritscholarworks@rit.edu.
Ước tính tỷ lệ tín hiệu trên tiếng ồn bằng cách sử dụng Thuật toán tối đa hóa kỳ vọng

Qua

AHMED M ALMRADI

Luận văn được đệ trình đáp ứng một phần các yêu cầu về mức độ

THẠC SĨ KHOA HỌC Kỹ thuật Điện

ĐƯỢC CHẤP NHẬN BỞI:

…………………………………………………………

Tiến sĩ Sohail Dianat, cố vấn luận văn

…………………………………………………………

Tiến sĩ Ernest Fokoué, thành viên Ủy ban luận văn

………………………………………………………….

Tiến sĩ Chance M. Glenn, thành viên Ủy ban Luận án

………………………………………………………….

Tiến sĩ Vincent Amuso, thành viên Ủy ban Luận văn

………………………………………………………….

Tiến sĩ Sohail Dianat, Trưởng khoa

KHOA KỸ THUẬT ĐIỆN TỬ ĐIỆN TỬ

KATE GLEASON COLLEGE OF ENGINEERING

ROCHESTER VIỆN CÔNG NGHỆ

ROCHESTER, NEW YORK

THÁNG 3/2012
 Ước tính tỷ lệ tín hiệu trên tiếng ồn bằng cách sử dụng thuật toán Tối đa hóa kỳ vọng

Qua:

AHMED ALMRADI

Cố vấn luận án:

Tiến sĩ SOHAIL DIANAT

trừu tượng

Ước tính tỷ lệ tín hiệu trên nhiễu (SNR) khi các ký hiệu được truyền không xác định là một vấn đề
phổ biến trong nhiều hệ thống truyền thông, đặc biệt là những hệ thống yêu cầu ước tính SNR chính xác.
Ví dụ, các hệ thống truyền thông không dây hiện đại thường yêu cầu ước tính chính xác SNR mà không
cần biết về các ký hiệu được truyền. Ngoài ra, ước tính SNR là cần thiết để thực hiện phát hiện tín hiệu
hiệu quả, điều khiển công suất và điều chế thích ứng Trong nghiên cứu này, ước tính SNR không có hỗ
trợ dữ liệu (NDA) cho Khóa dịch chuyển pha nhị phân (PBSK) và Khóa dịch pha cầu phương (QPSK) bằng
cách sử dụng thuật toán Tối đa hóa Kỳ vọng (EM) được phát triển. Giả định ở đây là các mẫu dữ liệu nhận
được được lấy từ hỗn hợp phân bố Gaussian và chúng là iid độc lập và phân phối giống nhau. Chất lượng
của công cụ ước tính được đề xuất được kiểm tra thông qua Cramer ‐ Rao Lower Bound (CRLB) của công
cụ ước tính SNR NDA. Người ta cũng giả định rằng độ lợi kênh là không đổi trong mỗi khoảng thời gian
ký hiệu và nhiễu là Gaussian trắng cộng (AWGN). Công cụ ước tính Khả năng tối đa đang được sử dụng
nếu chúng tôi có quyền truy cập vào dữ liệu đầy đủ, trong trường hợp này, vấn đề sẽ dễ dàng hơn nhiều
vì chúng tôi nhận được giải pháp dạng đóng chính xác, nhưng khi dữ liệu quan sát không đầy đủ hoặc có
sẵn một phần, thuật toán EM sẽ được sử dụng . Cách tiếp cận này là một phương pháp lặp lại để nhận
được kết quả gần đúng là giá trị tối đa toàn cục hoặc cực đại cục bộ gần đúng. Tuy nhiên, trong ước tính
SNR của NDA, chúng tôi chỉ có giá trị tối đa toàn cục vì giả định của chúng tôi là phân phối là hỗn hợp của
Gaussian. Điều này đang được điều tra đối với các trường hợp Đầu ra Một Đầu vào Một lần (SISO) và
Nhiều Đầu vào Một Đầu vào (SIMO). Mối quan tâm chính về phân tập nhận là chi phí, kích thước và công
suất, đó là lý do tại sao chúng tôi sử dụng phân tập truyền như Đầu ra đơn nhiều đầu vào (MISO) với mã
khối thời gian không gian (STBC). Trạm gốc thường phục vụ hàng trăm đến hàng nghìn đơn vị ở xa, đó là
lý do duy nhất của việc sử dụng phân tập phát tại trạm gốc thay vì ở mọi đơn vị ở xa được bao phủ bởi
trạm gốc. Trong trường hợp này, sẽ tiết kiệm hơn nếu thêm thiết bị vào trạm gốc thay vì các đơn vị ở xa.
Alamouti đã sử dụng một kỹ thuật phân tập truyền đơn giản và giả định trong bài báo của mình rằng
người nhận có kiến thức hoàn hảo về ma trận chuyển kênh. Tuy nhiên, giả định này có vẻ không thực tế
lắm. Một trong những đóng góp của chúng tôi là ước tính thông tin kênh, cũng như phương sai nhiễu sẽ
được sử dụng để ước tính SNR và tính CRLB cho cả trường hợp DA và NDA. Hiệu suất của công cụ ước
tính của chúng tôi sẽ được đánh giá theo kinh nghiệm bằng cách sử dụng mô phỏng Monte ‐ Carlo, với
CRLB làm thước đo hiệu suất.
 NỘI DUNG BẢNG OD

Danh sách các số liệu. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iv

Danh sách các ký hiệu và chữ viết tắt. . . . . . . . . . . . . . . . . . . . . . . . . . . . v

Sự nhìn nhận. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . viii

Trừu tượng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ix

1. Giới thiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.1 Ước tính. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2 Phân phối Gaussian đa biến. . . . . . . . . . . . . . . . . . . . . . . . . 5
1.3 Công cụ ước tính không chệch phương sai tối thiểu (MVUE). . . . . . . . . . . . . . . . . . 7
1.4 Cramer Rao Hạ biên (CRLB). . . . . . . ... . . . . . . . . . . . . . . . . . số 8
2. Hỗn hợp của Gaussians (MoG). . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.1 Định nghĩa cơ bản của MoG. . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.2 Hàm khả năng xảy ra. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

3. Thuật toán EM. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

3.1 Giới thiệu. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

3.2 Bình đẳng của Jensen. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

3.3 Phân kỳ Kullback ‐ Leibler (KL). . . . . . . . . . . . . . . . . . . . . . . . . . 17

3.4 Nguồn gốc EM. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

3.5 Hỗn hợp Gaussian và thuật toán EM. . . . . . . . . . . . . . . . . . . . . 22

4. Ước tính SNR của SISO NDA bằng cách sử dụng thuật toán EM trong Tài liệu. . . . . . . .. . . . . . . 27

4.1 Trường hợp BPSK. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

4.1.1 Mô hình hệ thống. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

4.1.2 CRLB cho BPSK. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28

4.1.3 Ước tính SNR của SISO NDA bằng thuật toán EM cho trường hợp BPSK. . . . . 31

ii
 4.2 Trường hợp QPSK. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

4.2.1 CRLB cho QPSK. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41

4.2.2 Ước tính SNR SISO NDA sử dụng thuật toán EM cho trường hợp QPSK. . . . 43

5. MISO với ước tính SNR STBC NDA bằng cách sử dụng thuật toán Tối đa hóa kỳ vọng. . . . . 51
5.1 Mô hình phân tập nhận thông thường (SIMO). . . . . . . . . . . . . . . . . . . . . . 51

5.2 Mô hình phân tập phát (MISO). . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

5.3 Mô hình MIMO. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53

5.4 Phân tập truyền cho trường hợp BPSK. . . . . . . . . . . . . . . . . . . . . . . . . . . 54

5.5 CRLB cho phân tập truyền trong trường hợp BPSK. . . . . . . . . . . . . . . . . . 58

5.6 Ước tính SNR STBC NDA bằng thuật toán EM. . . . . . . . . . . . . . . . . . . . 65

6. Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70

7. Công việc trong tương lai. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70

8. Tài liệu tham khảo. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71

iii
 HÌNH ẢNH LISTOF

Hình 1.1 Phân phối chuẩn với 0 và 1. . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

Hình 2.1 Hỗn hợp của hai người Gaussia. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

Hình 2.2 Các mẫu và đường viền của chúng trong lần phân phối trước đó . . . . . . . . . . . . . . . . . . . 11

Hình 3.1 hỗn hợp của bốn dữ liệu Gaussia và sự phù hợp của chúng khi C 0,35I. . . . . . . . . . . . . . . . 26

Hình 3.2 hỗn hợp của bốn dữ liệu Gaussia và sự phù hợp của chúng khi C 0,05I. . . . . . . . . . . . . . . . 26

Hình 4.1 MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với BPSK khi N = 128 . . . . . . . . . . . . . . 35

Hình 4.2 MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với BPSK khi N = 512. . . . . . . . . . . . . . 36

Hình 4.3 MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với BPSK khi N = 1024. . . . . . . . . . . . . 37

Hình 4.4 Lỗi tính bằng dB2so với SNR tính bằng dB đối với BPSK ở các N khác nhau. . . . . . . . . . . . . . . . . . . . 37

Hình 4.5 MSE tính bằng dB2so với N. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

Hình 4.6 MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với QPSK khi N = 128. . . . . . . . . . . . . 47

Hình 4.7 MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với QPSK khi N = 512. . . . . . . . . . . . . . 48

Hình 4.8 MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với QPSK khi N = 1024. . . . . . . . . . . . . 49

Hình 4.9 Lỗi tính bằng dB2so với SNR tính bằng dB đối với QPSK ở các N khác nhau. . . . . . . . . . . . . . . . . . . . 49

Hình 5.1 Mô hình hệ thống phân tập SIMO / Nhận. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51

Hình 5.1 Mô hình hệ thống phân tập MISO / Truyền. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

Hình 5.3 Mô hình hệ thống MIMO. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53

Hình 5.4. MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với STBC khi N = 128. . . . . . . . . . . . . . . . 67

Hình 5.5. MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với STBC khi N = 512. . . . . . . . . . . . . . . . 67

Hình 5.6. MSE & CRLB tính bằng dB2so với SNR tính bằng dB đối với STBC khi N = 1024. . . . . . . . . . . . . . . 68

Hình 5.7. MISO với trường hợp STBC BPSK. . . . . . . . . . . . . . . . . . . . . . . . . . . 69

iv
 DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT

Ký hiệu

Tỷ lệ tín hiệu trên tiếng ồn tính bằng dB

Tỷ lệ tín hiệu trên tiếng ồn ước tính tính bằng dB

Không hỗ trợ dữ liệu

Hỗ trợ dữ liệu

Phím dịch chuyển pha nhị phân

Phím dịch chuyển pha vuông góc

Sự tối đa hóa kỳ vọng

... Phân phối độc lập và giống hệt nhau

Cramer Rao Lower Bound

Tiếng ồn Gaussian trắng phụ gia

Khả năng tối đa

Đầu vào đơn Đầu ra đơn

Đầu vào đơn Nhiều đầu ra

Nhiều đầu vào đơn đầu ra

Nhiều đầu vào Nhiều đầu ra

Không gian‐ Mã khối thời gian

Công cụ ước tính không thiên vị phương sai tối thiểu

Hỗn hợp của người Gaussia

Mô hình hỗn hợp Gaussian

Ước tính khả năng tối đa

v
 Monte Carlo

Hàm mật độ xác suất

Ө Các thông số cần được ước tính

Ө Giá trị thông số ước tính

μ, ∑ Phân phối Gaussian thực với trung bình μ và Phương sai ∑

μ, ∑ Phân phối Gaussian phức với trung bình μ và Phương sai ∑

Ө Hàm khả năng

Ө Ghi nhật ký chức năng Khả năng

Gradient đối với các tham số

Thực của

Tưởng tượng của

μ Bần tiện

Phương sai

μ Ước tính trung bình

Phương sai ước tính

Giá trị mong đợi

Ө Ma trận thông tin Fisher

Ө Yếu tố ij của Ma trận thông tin Fisher

Lỗi bình phương trung bình

Ө Thiên kiến

Tỷ lệ trộn

Ө, Ө Chức năng phụ trợ

vi
 Kullback ‐ Leibler

Tỷ lệ tín hiệu trên nhiễu

⊗ Sản phẩm Kroncker

vii
 Sự nhìn nhận

Tôi xin giới thiệu lòng biết ơn sâu sắc đến cố vấn của tôi, Tiến sĩ Sohail Dianat, vì sự hướng dẫn và hỗ trợ không ngừng của

ông ấy cho đến khi chúng tôi làm cho công việc này trở nên hữu hình và có giá trị. Tầm nhìn và ý tưởng của anh ấy khiến tôi

phát triển dần dần trong quá trình hoàn thành dự án này. Tôi rất biết ơn vì đã có cơ hội dưới sự hướng dẫn và hỗ trợ của anh

ấy.

Tôi cũng xin gửi lời cảm ơn đến Tiến sĩ Ernest Fokoue, từ trung tâm thống kê chất lượng và ứng dụng, về

cuộc thảo luận đánh giá cao và có giá trị của ông đã giúp tôi định hình dự án của mình theo cách tốt hơn. Kiến

thức của anh ấy đã lấp đầy khoảng trống mà tôi có trong một số khái niệm thống kê liên quan đến ước tính

mật độ khi có dữ liệu không đầy đủ.

Cuối cùng, xin gửi lời cảm ơn đặc biệt đến gia đình tôi; mẹ tôi (Mabrooka) và bố tôi (Mohammed),

những người luôn ủng hộ và giúp đỡ. Tôi cũng cảm ơn vợ tôi (Afaf) và con gái tôi (Shahad) vì sự kiên nhẫn

của họ trong khi tôi đang bận rộn với dự án này. Sự ủng hộ và nụ cười của họ đã giúp tôi hoàn thành tốt

công việc này.

viii
 trừu tượng

Ước tính tỷ lệ tín hiệu trên nhiễu (SNR) khi các ký hiệu được truyền không xác định là một vấn đề
phổ biến trong nhiều hệ thống truyền thông, đặc biệt là những hệ thống yêu cầu ước tính SNR
chính xác. Trong nghiên cứu này, ước tính SNR không được hỗ trợ dữ liệu (NDA) cho khóa dịch
chuyển pha nhị phân (PBSK) và khóa dịch pha cầu phương (QPSK) bằng cách sử dụng thuật toán Tối
đa hóa kỳ vọng (EM) được phát triển. Giả định ở đây là các mẫu dữ liệu nhận được được lấy từ hỗn
hợp phân bố Gaussian và chúng độc lập và phân bố giống nhau. . . . Chất lượng của công cụ ước
tính được đề xuất được kiểm tra thông qua Cramer ‐ Rao Lower Bound (CRLB) của công cụ ước tính
SNR NDA. Người ta cũng giả định rằng độ lợi kênh là không đổi trong mỗi khoảng thời gian ký hiệu
và nhiễu là Gaussian trắng cộng (AWGN). Công cụ ước tính Khả năng tối đa đang được sử dụng nếu
chúng tôi có quyền truy cập vào dữ liệu đầy đủ, trong trường hợp này, vấn đề sẽ dễ dàng hơn nhiều
vì chúng tôi nhận được giải pháp dạng đóng chính xác, nhưng khi dữ liệu quan sát không đầy đủ
hoặc có sẵn một phần, thuật toán EM sẽ được sử dụng . Cách tiếp cận này là một phương pháp lặp
lại để nhận được kết quả gần đúng là giá trị tối đa toàn cục hoặc cực đại cục bộ gần đúng. Tuy
nhiên, trong ước tính SNR của NDA, chúng tôi chỉ có giá trị tối đa toàn cục vì giả định của chúng tôi
là phân phối là hỗn hợp của Gaussian. Điều này đang được điều tra đối với các trường hợp Đầu ra
đơn đầu vào duy nhất (SISO); [3], [4], [10], và Một đầu vào Nhiều đầu ra (SIMO); [5], [9]. Mối quan
tâm chính về sự đa dạng nhận là chi phí, kích thước và công suất, đó là lý do tại sao chúng tôi sử
dụng phân tập truyền như Nhiều đầu vào đơn Đầu ra (MISO) với mã khối thời gian không gian
(STBC). Trạm gốc thường phục vụ hàng trăm đến hàng nghìn đơn vị ở xa, đó là lý do duy nhất của
việc sử dụng phân tập phát tại trạm gốc thay vì ở mọi đơn vị ở xa được bao phủ bởi trạm gốc. Trong
trường hợp này, sẽ tiết kiệm hơn nếu thêm thiết bị vào trạm gốc thay vì các đơn vị ở xa. Alamouti
[12] đã sử dụng một kỹ thuật phân tập truyền đơn giản và giả định trong bài báo của mình rằng
người nhận có kiến thức hoàn hảo về ma trận chuyển kênh. Tuy nhiên, giả định này có vẻ không
thực tế lắm. Một trong những đóng góp của chúng tôi là ước tính thông tin kênh, cũng như phương
sai nhiễu sẽ được sử dụng để ước tính SNR và tính CRLB cho cả trường hợp DA và NDA.

ix
 1. Giới thiệu

Nhiều hệ thống truyền thông không dây hiện đại yêu cầu ước tính tỷ lệ tín hiệu trên nhiễu (SNR) mà

không cần biết về các ký hiệu dữ liệu được truyền theo cách thức Không hỗ trợ dữ liệu (NDA). Các công cụ

ước tính SNR có thể được chia thành hai loại, Hỗ trợ dữ liệu (DA) và Không hỗ trợ dữ liệu (NDA). Trong bộ

ước lượng DA, các ký hiệu được truyền đi được sử dụng hoặc được biết đến ở bộ thu và được sử dụng

trong quá trình ước tính, trong bộ ước tính NDA; quá trình ước lượng đang được thực hiện mà không cần

kiến thức về các ký hiệu được truyền, chỉ dựa trên các mẫu nhận được. Giới hạn Cramer ‐ Rao Lower

Bound (CRLB) cho ước tính SNR NDA, cung cấp phương sai tối thiểu của các công cụ ước tính không

chệch, sẽ được sử dụng để đánh giá công cụ ước tính của chúng tôi [5]. CRLB cho ước tính SNR NDA cho

BPSK và QPSK sẽ được lấy và vẽ biểu đồ dựa trên công cụ ước tính SNR EM ‐ ML NDA. Nơi đây, các ký hiệu

được truyền đi được coi là tham số không xác định, nhưng tham số phiền toái; không xác định và không

mong muốn. Thủ tục ước tính này sẽ gần với CRLB đối với SNR quan tâm; ở SNR đủ cao. Mục đích chính

của nghiên cứu này là tìm ra một xấp xỉ dạng đóng cho NDA CRLB trong trường hợp BPSK và QPSK. Bên

cạnh đó, các dẫn xuất của thuật toán EM cho ước tính SNR NDA sẽ tối đa hóa lặp đi lặp lại hàm khả năng

cho đến khi đạt gần mức tối đa toàn cầu.

Cấu trúc của phần còn lại của nghiên cứu này như sau, trong chương đầu tiên này, chúng tôi giới thiệu

vấn đề ước lượng đặc biệt đối với dữ liệu phân tán Gaussian, tiếp theo là Công cụ ước tính phương sai tối

thiểu (MVUE), sau đó sẽ dẫn chúng ta đến Cramer ‐ Rao Giới hạn dưới (CRLB). Trong chương hai, Hỗn hợp

Gaussian (MoG) sẽ được giới thiệu sau đó là Ước tính khả năng xảy ra tối đa (MLE) của mô hình MoG.

Trong chương ba, chúng tôi giới thiệu thuật toán Tối đa hóa kỳ vọng (EM), và sau đó chúng tôi giải quyết

một trong những ứng dụng của nó là các hỗn hợp của ước lượng tham số Gaussians. Trong chương bốn,

chúng tôi giới thiệu ước lượng SNR SISO NDA bằng cách sử dụng thuật toán EM trong tài liệu, bên cạnh

việc giải quyết mô hình này cho trường hợp BPSK và QPSK. Ngoài ra CRLB cho cả BPSK và / hoặc QPSK sẽ

được dẫn xuất và vẽ biểu đồ. Trong chương năm, MISO với mã khối không gian và thời gian (STBC) Ước

tính SNR NDA sử dụng thuật toán EM sẽ được giải quyết. Công cụ ước tính SNR NDA sẽ được rút ra và vẽ

biểu đồ trong cả hai trường hợp và cho các cỡ mẫu N khác nhau bằng cách sử dụng mô phỏng Monte

Carlo. Những cải tiến về độ chính xác của ước lượng SNR sẽ được chứng minh khi khai thác phương pháp

phân tập do sử dụng thông tin lẫn nhau. Chương cuối sẽ nói về kết luận và tóm tắt của nghiên cứu.

1
1.1 Ước tính
Vấn đề ước lượng tham số là một vấn đề phổ biến đang phải đối mặt trong nhiều lĩnh vực như Radar, lời

nói, phân tích hình ảnh, y sinh học, truyền thông, điều khiển, và nhiều lĩnh vực khác. Vấn đề mà chúng tôi

đang phải đối mặt là ước tính một số tham số dựa trên một số mẫu đã thấy hoặc quan sát được do sử

dụng hệ thống truyền thông kỹ thuật số hoặc máy tính kỹ thuật số [2]. Về mặt toán học, chúng tôi quan

sát N điểm dữ liệu ở phía máy thu 1, 2 ,. . . . . , N được lấy mẫu từ một hàm mật độ xác suất chưa biết

; Ө được tham số hóa bởi một tham số không xác định Ө, là

tham số quan tâm. Thật không may, chúng tôi không thực sự thấy được phân phối của mẫu nhận được Y. Chúng tôi chỉ nhận

được mẫu đó, Y, sau đó chúng tôi sử dụng để ước tính tham số Ө của chúng tôi. Do đó, công cụ ước tính của chúng tôi sẽ

không cung cấp cho chúng tôi Ө chính xác, mà là một phiên bản ước tính của nó. Công cụ ước tính của chúng tôi sẽ phụ

thuộc nhiều thông qua một số hàm của mẫu Y nhận được như,

Ө 1, 2,. . . . . , N 1.1
Công cụ ước tính này có thể được sử dụng để ước tính tần số sóng mang, pha kênh, công suất tín
hiệu, công suất nhiễu,… .v.v. Vì dữ liệu nhận được là ngẫu nhiên, chúng tôi có thể mô tả hành vi của
nó theo hàm PDF, 1, 2,. . . . . , N ; Ө. Dấu chấm phẩy được sử dụng để chỉ ra rằng phân phối của PDF
được tham số hóa bởi tham số Ө. Và nó không đổi. Loại ước lượng này được gọi là ước lượng tham
số cổ điển vì các tham số quan tâm được giả định là xác định và cần được ước lượng. Vì chúng tôi
đang giả định tiếng ồn làm hỏng tín hiệu nhận được của chúng tôi là tiếng ồn Gaussian trắng cộng
thêm, AWGN, nên phân phối PDF của các mẫu nhận được sẽ là phân phối Gaussian. Ví dụ: nếu
chúng tôi nhận được một mẫu và tham số cần được ước tính là giá trị trung bình và phương sai.
Hình 1. 1 cho thấy phân phối chuẩn của giá trị trung bình bằng 0 và phương sai hợp nhất. Đây chỉ là
một ví dụ minh họa cho chúng ta thấy các tham số mà chúng ta sẽ ước tính. Giả sử rằng chúng ta có
một tín hiệu liên tục bị lỗi bởi AWGN, w (n), mô hình của chúng ta sẽ như sau,

Các tham số cần được ước tính ở đây là hai, thành phần DC hoặc trung bình, và phương sai của tiếng ồn

Gaussian của chúng tôi.

Nếu một mẫu đã được quan sát,

1 μ 1

2
 Phân phối bình thường

data 1
0,8

0,7

0,6

0,5 mmột
dấu hiệu
P (Y)

0,4

0,3

0,2

0,1

0
mu

- 1,5 -1 - 0,5 0 0,5 1 1,5

Y

Hình 1.1 Phân phối chuẩn với mu = 0, sigma = 1

Ө μ
sau đó,

1 1 μ
1; Ө 1,2
√2 2

Giả định là tiếng ồn 1~ 0, . Hay nói chung, mỗi mẫu của Có cùng
PDF dưới dạng 1. Vì các mẫu này không tương quan với nhau, không tương quan có nghĩa là độc lập nếu

phân phối là Gaussian, bây giờ chúng ta có thể tổng quát hóa PDF của các mẫu nhận được Y có kích

thước N như sau,

1, 2,. . . . . , N ; Ө ;Ө ;Ө Ө/

3
 1 N μ
√2 2

1 1
N μ 1.3.1
2
2

Phương trình (1.3) được gọi là hàm khả năng của dữ liệu đã nhận, sẽ được sử dụng để tìm ước tính
Khả năng tối đa (MLE) của giá trị trung bình và phương sai trong trường hợp dữ liệu nhận được của
chúng tôi được tạo bởi Gaussian đơn lẻ. Tôi chỉ muốn làm rõ điều này bởi vì trong chương tiếp theo
chúng ta sẽ nói về mẫu đã nhận được tạo ra bởi nhiều hơn một Gaussian; Hỗn hợp của người
Gaussia. Để tìm MLE của phương trình (1.3), chúng ta cần tìm các giá trị của μ và

tối đa hóa hàm khả năng Ө.Thay vào đó, chúng ta có thể tối đa hóa hàm khả năng log vì logarit
là một hàm đơn điệu. MLE có đặc tính tiệm cận là không thiên vị. Nó cũng được chứng minh
rằng MLE đạt được CRLB cho SNR cao.

1
Ө 2 N μ 1.3.2
2 2

Ө Ө
Ө

có thể được tìm thấy bằng cách đặt độ dốc của Ө đối với Ө bằng 0;

Ө Ө 0.

Giải pháp ML được đưa ra là,

1
μ 1,4

1
μ 1,5

Để kiểm tra độ không chệch, chúng tôi tìm giá trị kỳ vọng của các tham số ước lượng và so sánh chúng với các

tham số thực. Nó có thể dễ dàng được hiển thị như,

4
 1
μ

μ μ 1,6

1
μ

1 2 1

1
1,7

Vì vậy, chúng ta thấy rằng MLE của phương sai là chệch, trong khi MLE của giá trị trung bình là không chệch.

Phân phối MLE có thể gần đúng là,

Ө~ Ө, Ө 1,8

Ở đâu,~ phân phối tiệm cận theo, Ө là thông tin cá

được cho bởi,

;Ө
Ө 1,9
Ө

Một mô phỏng máy tính có thể được thực hiện để xác định độ dài dữ liệu N phải lớn như thế nào để có được kết quả

tiệm cận này. Phương pháp Monte Carlo có thể được sử dụng cho các nhận thức khác nhau (ví dụ M) của

ước tính của chúng tôi Ө, giá trị trung bình và phương sai của công cụ ước tính sau đó có thể được tính như,

1
Ө Ө 1.10

1
Ө Ө Ө 1.11

Việc lựa chọn một công cụ ước tính tốt hơn có thể được thực hiện như; trong số tất cả các công cụ ước tính mà chúng tôi có,

chúng tôi chọn công cụ đưa ra ước tính gần hơn (trung bình) với giá trị thực toàn cầu và có độ chính xác cao hơn (phương sai

thấp hơn) [2].

5
1.2 Phân phối Gaussian đa biến
Vì trọng tâm của nghiên cứu này sẽ là phân phối Gaussian, nên cần giới thiệu về phân phối
Gaussian đa biến tổng quát, hành vi và tính chất của nó.

Giả sử chúng ta có một biến ngẫu nhiên tuân theo phân phối Gaussian đa biến. Biến ngẫu
nhiên này có thể bị nhiễu tín hiệu.

;μ …

Ma trận hiệp phương sai của nó là; ∑ Yμ Yμ

Sau đó, phân phối của biến ngẫu nhiên này sẽ được đưa ra bởi,

1 1
μ ∑ μ 1.12
2
|2∑|

Nếu ma trận hiệp phương sai ∑ , các biến ngẫu nhiên độc lập có phương sai bằng nhau, mỗi biến

thứ nguyên mẫu nhận được trong phương trình (1.12) sẽ trở lại phương trình (1.2). Hãy để chúng tôi đề cập đến một

tính chất quan trọng là ảnh hưởng của phép biến đổi tuyến tính đối với phân phối Gaussian, hãy,

trong đó, A và b lần lượt là ma trận hằng số và vectơ, và X là vectơ của biến ngẫu nhiên.

,μ μ

,∑ ∑

MLE trong trường hợp đa biến sẽ như sau, các tham số mô hình cần được ước tính là,

Ө μ ∑ , giả sử là các mẫu iid,

1 1
;Ө μ ∑ μ
2
| 2∑ |

1
| 2∑ | μ ∑ μ
2

6
 1
Ө ;Ө | 2∑ | μ ∑ μ
2 2

Để tìm MLE của tham số này, chúng ta cần trải qua cùng một quá trình phân biệt khả năng xảy ra của

phương trình (1.12) và cân bằng nó với 0, chúng ta nhận được như sau:

Ө Ө
, trước tiên chúng tôi phân biệt đối với μ như , chúng tôi nhận được,
Ө μ

1
μ 1.13

Ө
và khác biệt so với ma trận hiệp phương sai , chúng tôi nhận được,
∑

1
∑ μ μ 1,14

Ước lượng tham số trong trường hợp này được tính thẳng về phía trước ở dạng đóng vì giả định
rằng các mẫu của Y chỉ được rút ra từ một phân phối Gaussian. Tuy nhiên, điều này sẽ không xảy ra
khi chúng ta có một hỗn hợp của người Gaussia. Thuật toán được đề xuất sẽ là một hỗn hợp của
phân phối Gaussian đa biến vì chúng ta đang xử lý các hệ thống chòm sao PBSK và QPSK và các ký
hiệu dữ liệu được truyền đi là không xác định.

1.3 Công cụ ước tính phương sai không thiên vị tối thiểu (MVUE)

Việc tìm kiếm các công cụ ước lượng tốt cho các tham số xác định chưa biết không phải lúc nào cũng là một nhiệm vụ dễ

dàng. Trọng tâm của chúng tôi sẽ là các công cụ ước tính trung bình mang lại giá trị thông số thực và sau đó trong số tất cả

các công cụ ước tính đó, chúng tôi tìm kiếm công cụ có phương sai nhỏ nhất. Để người ước tính không thiên vị,

Ө Ө 1,15

Độ chệch của một công cụ ước tính có thể được định nghĩa là,

Ө Ө Ө

Để tìm một công cụ ước tính tối ưu, chúng ta cần tìm một tiêu chí như sai số bình phương trung bình (MSE),

7
 Ө ӨӨ 1.16

Ө Ө Ө 1.17

Các nhà ước lượng tốt có MSE nhỏ hoặc phương sai nhỏ nếu độ chệch bằng 0. Các phương trình (1.16) và (1.17) là các công

cụ ước lượng không thể thực hiện được vì chúng là hàm của giá trị tham số thực, vì vậy chúng tôi không thể đánh giá hiệu

suất của công cụ ước lượng trong trường hợp này.

MSE được tạo ra để xảy ra lỗi do sai lệch và sai lệch. MVUE không phải lúc nào cũng tồn tại, và nếu
có, đôi khi không dễ tìm thấy nó [2]. Một cách để tìm nó là sử dụng Cramer Rao Lower Bound
(CRLB). Khi CRLB thỏa mãn với bằng nhau với mọi Ө, .

1.4 Cramer Rao Giới hạn dưới (CRLB)

Tìm một giới hạn dưới về phương sai của một công cụ ước lượng không chệch sẽ cực kỳ quan trọng trong thực tế.

Đây sẽ là tiêu chuẩn để so sánh mức độ tốt của một công cụ ước tính. CRLB cho phép chúng tôi đảm bảo rằng công

cụ ước tính là công cụ ước tính không chệch phương sai tối thiểu (MVUE), trường hợp này sẽ xảy ra khi công cụ ước

tính đạt được CRLB cho tất cả các giá trị của tham số không xác định.

Nếu ; Ө thỏa mãn các điều kiện đều đặn, phương sai của công cụ ước lượng không chệch được định nghĩa là,

1
Ө 1.18
;Ө
Ө

Một công cụ ước lượng có thể đạt được giới hạn cho tất cả Ө nếu và chỉ khi hàm điểm có thể được viết dưới

dạng,

;Ө
Ө Ө
Ө

Đối với một số hàm g và I, công cụ ước tính là MVUE được đưa ra bởi,

Và phương sai tối thiểu là

1
Ө
Ө

số 8
Sau đó, công cụ ước tính này được cho là hiệu quả.

Hãy để chúng tôi mở rộng CRLB thành tham số vectơ,

Ө Ө Ө Ө… Ө

Ө Ө 1,19

ở đâu Ө là Ma trận thông tin Fisher.

;Ө
Ө 1,20
Ө Ө

Ví dụ nếu

Өμ

Sau đó,

;Ө ;Ө
μ μ
Ө
;Ө ;Ө
μ

Ma trận này là đối xứng và xác định dương.

Nếu chúng ta đang ước tính một hàm của tham số như trong nghiên cứu, nếu

Sau đó,

Ө Ө
Ө
Ө Ө

9
 2 Hỗn hợp Gaussians (MoG)
Khi không thể cho một phân phối Gaussian đại diện cho mô hình của chúng ta, chúng ta sử dụng phương pháp

hỗn hợp Gaussian. Nó là sự kết hợp (hỗn hợp) của một số phân phối đã biết được kết hợp để tạo thành mô

hình của chúng tôi. Trong bài toán ước lượng của chúng tôi, giả định của chúng tôi là chúng tôi nhận được một

mẫu Y có độ dài N, được lấy từ hỗn hợp của phân bố Gaussian. Số lượng Gaussian được xác định bởi thứ tự

chòm sao mà chúng ta sử dụng. Ví dụ: trong PBSK, chúng ta có hai hỗn hợp Gaussian trên mỗi ăng ten với

phương tiện {‐1, +1} và trong QPSK, chúng ta có bốn hỗn hợp Gaussian trên mỗi ăng ten

ăng-ten với phương tiện {, }. Mô hình hỗn hợp Gaussian (GMM) có thể được sử dụng trong mô hình hóa
√ √

các hàm mật độ xác suất phức tạp (PDF) có hình dạng phức tạp không thể được lập mô hình
bằng một Gaussian duy nhất.

2.1 Định nghĩa cơ bản của MoG

Dạng tổng quát của mô hình hỗn hợp Gaussian là

/Ө ,/Ө

/ ,Ө

;μ ,∑ 2.1

ở đâu là thành phần trước của mỗi thành phần Gaussian. Có một điều kiện cần thiết để
là một hàm mật độ xác suất hợp lệ, ∑ 1 và 0. Các thông số
cần được ước tính là,. . . . ,, Ө, Ө ,. . . . , Ө. Việc tăng số lượng thành phần sẽ dẫn đến nhiều tham
số cần được ước lượng hơn, dẫn đến hàm phân phối xác suất có điều kiện của lớp chính xác
hơn. Chúng ta cần phải cẩn thận trong việc tìm số lượng chính xác các thành phần hỗn hợp để
tránh các điểm kỳ dị, khi sử dụng ước lượng ML để ước lượng các tham số [1]. Hình 2.1 dưới
đây cho thấy hàm phân phối xác suất của hỗn hợp hai Gaussian và hình 2.2 cho thấy các đường
bao của hai Gaussian đó với các mẫu được lấy từ cùng một phân phối. Trên thực tế, phân phối
chính xác này sẽ không được đưa ra trong trường hợp nghiên cứu của chúng tôi. Những gì đã
cho chỉ là một mẫu nhận được có kích thước N được vẽ trong hình 2.2.

10
 Hỗn hợp của hai người Gaussia

0,05

0,04

0,03
p (x, y)

0,02

0,01

0
10
5 10
0 5
0
-5 -5
y - 10 - 10
x

Hình 2.1. Hỗn hợp của hai người Gaussia.

0
y

-5

- 10
- 10 -5 0 5
x

Hình 2.2. Mẫu và Đường viền của bản phân phối trước.

11
2.2 Hàm khả năng
Hàm khả năng là một hàm của các tham số của mô hình thống kê được cung cấp từ dữ liệu
quan sát. Giải pháp khả năng xảy ra tối đa chọn các giá trị cho các tham số mô hình cung cấp
một phân phối mang lại xác suất cao nhất cho dữ liệu được quan sát. Hãy để chúng tôi giới
thiệu ước tính Khả năng xảy ra tối đa (MLE) của Mô hình hỗn hợp Gaussian (GMM). Việc tối đa
hóa hàm khả năng cũng giống như tối đa hóa hàm khả năng Log vì hàm khả năng là một hàm
đơn điệu. Điều này, trong trường hợp của một Gaussian hoặc khi không có biến ẩn sẽ đơn giản
hóa phép toán rất nhiều vì hàm khả năng là hàm mũ, vì vậy hàm log sẽ hủy hàm mũ và chúng
ta sẽ được để lại với số mũ. Hàm khả năng ghi nhật ký cho dữ liệu được cung cấp bởi,

Ө /Ө

/ ,Ө

;μ ,∑ 2,2

Ở đây, rõ ràng là hàm khả năng phụ thuộc vào tệp PDF tại một thành phần hỗn hợp nhất định.
Trong bài toán ước lượng, chúng tôi đã giả định rằng nhiễu là AWGN, vì vậy ∑ , nhưng
∑ nói chung có thể có dạng ma trận hiệp phương sai bất kỳ. Do đó, hàm Khả năng ghi nhật ký trở
thành,
‖ μ‖
Ө 2.3
2
2

Ө Ө 2,4
Ө

Điều này có thể được giải quyết bằng cách phân biệt chức năng Khả năng xảy ra của nhật ký và cân bằng nó với 0 như sau,

Ө Ө ,

Giải pháp khả năng xảy ra tối đa cho hàm khả năng này được đưa ra bằng cách đặt đạo hàm
riêng của hàm khả năng log, Ө đối với tham số quan tâm bằng 0 và giải cho tham số quan tâm.
Xem xét một tham số cụ thể, Ө, liên quan đến mthứ tựthành phần hỗn hợp.

12
 Ө / ,Ө
0
Ө /Ө Ө

Ở đâu, Ө μ ,∑ trong trường hợp phân phối Gaussian, phân phối lãi suất,

Đầu tiên chúng ta hãy để cho Ө μ sau đó,

Ө /μ ,∑
∑ μ 0
μ ∑ /μ ,∑

/μ ,∑
, /, Ө
∑ /μ ,∑

∑ / ,Ө
,μ 2,5
∑ / ,Ө

Tương tự, hãy Ө ∑ sau đó,

Ө /μ ,∑
0
∑ ∑ /μ ,∑ ∑

Ө 1
/μ ,∑∑ μ ∑ μ ∑
∑ ∑ /μ ,∑2

∑ / ,Ө μ μ
, ∑ 2,6
∑ / ,Ө

Chúng tôi kết luận rằng Các ước lượng μ, ∑ sẽ chỉ đúng khi sử dụng phân phối sau đúng, Ө, nhưng
phân bổ / phân phối sau /, Ө phụ thuộc vào cả hai. Vì thế,
không có giải pháp dạng nhỏ gọn cho các tham số này. Sau đó, chúng tôi chuyển sang giải pháp lặp lại

để tìm ước tính khả năng xảy ra tối đa sẽ là mục tiêu của chúng tôi trong nghiên cứu này, nơi chúng tôi

sẽ sử dụng Tối đa hóa kỳ vọng như một cách tiếp cận lặp lại để tìm ra giải pháp Khả năng tối đa.

Bây giờ chúng ta hãy tối đa hóa hàm khả năng log liên quan đến hệ số trộn, bài toán tối ưu hóa. Đây là một

ràng buộc, do đó, hệ số nhân Lagrange sẽ được sử dụng để giải quyết vấn đề này.

13
 Ө, /Ө 1

Sau đó, bây giờ hãy phân biệt chức năng này, Ө,,đối với cả hai, hệ số trộn, , và
nhân Lagrange, chúng tôi nhận được thành phần hỗn hợp ước tính như bên dưới,

1
/ ,Ө 2,7
N

Cuối cùng, chúng tôi nhận ra rằng nếu không có kiến thức về lớp hoặc thành phần của mỗi mẫu được rút ra

/ Ө, chúng tôi không thể tìm ước tính khả năng xảy ra tối đa của các tham số quan tâm. Các

ước tính μ và ∑ sẽ là một lần lặp theo hướng ước tính khả năng xảy ra tối đa của
thuật toán EM sẽ rõ ràng trong chương tiếp theo.

14
 3 Thuật toán tối đa hóa kỳ vọng (EM)

3.1 Giới thiệu

Thuật toán EM đã được một số nhà nghiên cứu phát minh và thực hiện cho đến khi Dempster [6] thu thập các ý tưởng của họ lại với nhau, đảm bảo sự hội tụ và đưa ra thuật ngữ “Thuật toán EM. “Đã được sử dụng

kể từ đó. Một trong những lĩnh vực ứng dụng chính của thuật toán EM là ước lượng các tham số của sự phân bố hỗn hợp là mục tiêu trong nghiên cứu này. Thuật toán EM có các lĩnh vực ứng dụng rộng rãi, một số

trong số đó là trong nghiên cứu di truyền học, kinh tế lượng, lâm sàng và xã hội học. Trong các lĩnh vực xử lý tín hiệu như tái tạo hình ảnh chụp cắt lớp Khả năng tối đa, đào tạo các mô hình Markov ẩn trong nhận

dạng giọng nói [7]. Sự ra đời của thuật toán EM đã giúp giải quyết vấn đề của các biến tiềm ẩn (ẩn) (không được quan sát) mà MLE không thể đáp ứng được. Nếu chúng tôi đưa ra một phân phối chung trên cả biến

quan sát và biến ẩn, thì phân phối tương ứng (phân phối riêng của các biến quan sát) được đưa ra bởi định biên. Điều này sẽ giúp đưa các phân bố phức tạp lên các biến quan sát ở dạng phân phối dễ hiểu hơn

được hình thành bởi cả biến quan sát và tiềm ẩn. Trọng tâm chính trong nghiên cứu này sẽ là thuật toán EM trong Mixtures of Gaussians (MoG). Biến tiềm ẩn trong trường hợp của chúng ta sẽ là nhãn lớp. Chúng

tôi sẽ được cung cấp một loạt dữ liệu không được gắn nhãn và cần ước tính một số tham số từ nó. Ở đây chúng ta có hai vấn đề, đầu tiên là ước tính dữ liệu tiềm ẩn hoặc bị thiếu, và sau đó chúng ta đi đến mục tiêu

ước tính các tham số mong muốn sẽ không được ước tính nếu không ước tính các lớp bị thiếu (tiềm ẩn). Biến tiềm ẩn sẽ rời rạc và không đổi. Ví dụ, trong trường hợp Hỗn hợp của hai người Gaussia, chúng ta có hai

biến tiềm ẩn. Cuối cùng nó sẽ hướng đến một vấn đề phân loại. Sau đó, lớp sẽ thuộc về lớp một hoặc lớp hai tùy thuộc vào dữ liệu quan sát. Điều này sẽ cung cấp thành phần hỗn hợp Gaussian nào được liên kết với

mỗi vectơ (mẫu) trong dữ liệu quan sát. Thuật toán EM sẽ là phương pháp được lựa chọn khi không thể ước lượng tham số khả năng tối đa (ML) trực tiếp mà không có kiến thức về các biến tiềm ẩn. Mục tiêu của

thuật toán EM là tìm giải pháp Khả năng xảy ra tối đa (ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp dữ liệu quan sát bằng Y và biểu thị các biến tiềm ẩn bằng Z. Tập hợp tất cả các tham số

mô hình được ký hiệu là Ө, và sau đó hàm khả năng sẽ được cho bởi, Sau đó, lớp sẽ thuộc về lớp một hoặc lớp hai tùy thuộc vào dữ liệu quan sát. Điều này sẽ cung cấp thành phần hỗn hợp Gaussian nào được liên

kết với mỗi vectơ (mẫu) trong dữ liệu quan sát. Thuật toán EM sẽ là phương pháp được lựa chọn khi không thể ước lượng tham số khả năng tối đa (ML) trực tiếp mà không có kiến thức về các biến tiềm ẩn. Mục

tiêu của thuật toán EM là tìm giải pháp Khả năng xảy ra tối đa (ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp dữ liệu quan sát bằng Y và biểu thị các biến tiềm ẩn bằng Z. Tập hợp tất cả các

tham số mô hình được ký hiệu là Ө, và sau đó hàm khả năng sẽ được cho bởi, Sau đó, lớp sẽ thuộc về lớp một hoặc lớp hai tùy thuộc vào dữ liệu quan sát. Điều này sẽ cung cấp thành phần hỗn hợp Gaussian nào

được liên kết với mỗi vectơ (mẫu) trong dữ liệu quan sát. Thuật toán EM sẽ là phương pháp được lựa chọn khi không thể ước lượng tham số khả năng tối đa (ML) trực tiếp mà không có kiến thức về các biến tiềm

ẩn. Mục tiêu của thuật toán EM là tìm giải pháp Khả năng xảy ra tối đa (ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp dữ liệu quan sát bằng Y và biểu thị các biến tiềm ẩn bằng Z. Tập hợp

tất cả các tham số mô hình được ký hiệu là Ө, và sau đó hàm khả năng sẽ được cho bởi, Điều này sẽ cung cấp thành phần hỗn hợp Gaussian nào được liên kết với mỗi vectơ (mẫu) trong dữ liệu quan sát. Thuật toán

EM sẽ là phương pháp được lựa chọn khi không thể ước lượng tham số khả năng tối đa (ML) trực tiếp mà không có kiến thức về các biến tiềm ẩn. Mục tiêu của thuật toán EM là tìm giải pháp Khả năng xảy ra tối đa

(ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp dữ liệu quan sát bằng Y và biểu thị các biến tiềm ẩn bằng Z. Tập hợp tất cả các tham số mô hình được ký hiệu là Ө, và sau đó hàm khả năng

sẽ được cho bởi, Điều này sẽ cung cấp thành phần hỗn hợp Gaussian nào được liên kết với mỗi vectơ (mẫu) trong dữ liệu quan sát. Thuật toán EM sẽ là phương pháp được lựa chọn khi không thể ước lượng tham số

khả năng tối đa (ML) trực tiếp mà không có kiến thức về các biến tiềm ẩn. Mục tiêu của thuật toán EM là tìm giải pháp Khả năng xảy ra tối đa (ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp

dữ liệu quan sát bằng Y và biểu thị các biến tiềm ẩn bằng Z. Tập hợp tất cả các tham số mô hình được ký hiệu là Ө, và sau đó hàm khả năng sẽ được cho bởi, Mục tiêu của thuật toán EM là tìm giải pháp Khả năng

xảy ra tối đa (ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp dữ liệu quan sát bằng Y và biểu thị các biến tiềm ẩn bằng Z. Tập hợp tất cả các tham số mô hình được ký hiệu là Ө, và sau đó

hàm khả năng sẽ được cho bởi, Mục tiêu của thuật toán EM là tìm giải pháp Khả năng xảy ra tối đa (ML) cho các mô hình có các biến tiềm ẩn. Chúng ta hãy biểu thị tập hợp dữ liệu quan sát bằng Y và biểu thị các

biến tiềm ẩn bằng Z. Tập hợp tất cả các tham số mô hình được ký hiệu là Ө, và sau đó hàm khả năng sẽ được cho bởi,

/Ө ,/Ө 3.1

15
 Điều này đối với các biến ngẫu nhiên rời rạc, điều này cũng đúng khi làm việc với các biến
ngẫu nhiên liên tục ngoại trừ việc chuyển tổng trong phương trình (3.1) thành tích phân
trên biến tiềm ẩn Z. Tin xấu ở đây trong phương trình (3.1) là tổng trên biến tiềm ẩn Z nằm
bên trong lôgarit, điều này cho thấy rõ ràng rằng nghiệm của phương trình này sẽ không
phải là một nhiệm vụ dễ dàng. Chúng ta có thể thấy rằng vì lôgarit và hàm mũ sẽ không bị
hủy với nhau như chúng ta đã thấy trong chương trước. Trong chương trước, phép tính
tổng nằm ngoài lôgarit, điều này làm cho nó dễ dàng bị hủy bỏ với hàm mũ của phân phối
Gauss. Giả sử rằng với mọi mẫu quan sát trong Y, chúng ta biết biến tiềm ẩn tương ứng Z.
Sau đó, chúng ta có thể gọi, như là tập dữ liệu hoàn chỉnh. Chúng tôi sẽ gọi Y là dữ liệu
không đầy đủ. , là hoàn thành ngay lập tức
bởi MLE. Tuy nhiên, chúng ta không thực sự thấy được các biến tiềm ẩn Z, mà chỉ có dữ liệu
không đầy đủ Y. chúng ta biết Z theo phân phối sau /, Ө. Vì chúng tôi không thể sử dụng khả
năng hoàn chỉnh của nhật ký dữ liệu, thay vào đó chúng tôi lấy giá trị kỳ vọng của nó dưới phân
phối sau của biến tiềm ẩn. Bước này tương ứng với bước E của thuật toán EM. Bước M sau đó sẽ
tối đa hóa kỳ vọng này đối với các tham số quan tâm. Nếu chúng ta biểu thị hiện tại
ước lượng như Ө, sau đó các bước E và M sẽ dẫn đến ước lượng tốt hơn Ө. Hai bước này sau đó sẽ được lặp lại

cho đến khi chúng ta đạt được độ chính xác nhất định [1]. Chúng tôi bắt đầu thuật toán EM của mình bằng cách

chọn một điểm ban đầu Ө cho các tham số bắt đầu. Trong bước E, chúng tôi sử dụng dòng điện

giá trị tham số Ө để tìm phân phối sau của các biến tiềm ẩn /, Ө. Sau đó, chúng tôi sử dụng
phân phối sau này để tìm ra kỳ vọng về khả năng hoàn chỉnh của nhật ký dữ liệu
được tính tại Ө , chúng tôi biểu thị kỳ vọng này là Ө, Ө, được gọi là hàm phụ,
được đưa ra bởi,

Ө, Ө /, Ө ,/Ө 3.2

Ө sau đó được tính ở bước M là,

Ө Ө, Ө 3,3
Ө

Hãy để chúng tôi chứng minh các phương trình đó cùng với sự hội tụ của thuật toán EM bất kể điểm xuất phát

ban đầu nào. Để làm được điều đó, chúng tôi cần giới thiệu một số định nghĩa.

3.2 Bất bình đẳng của Jensen

Bất đẳng thức này sẽ hữu ích trong việc suy ra các công thức cập nhật trong các mô hình hỗn hợp. Nó nói rằng,

16
 3,4

Trong đó f là hàm lõm bất kỳ và ∑ 1 và 0 1.

Cũng thế,

hoặc,

1 1

3.3 Phân kỳ Kullback ‐ Leibler (KL)

Điều này giúp chúng ta tìm ra sự khác biệt giữa hai hàm phân phối xác suất. Chúng ta hãy lấy hai
phân phối, p (y) và q (y). Khi đó sự phân kỳ KL giữa chúng được cho bởi,

Sử dụng thực tế rằng 1, sau đó chúng tôi nhận được,

Sau đó, chúng tôi thấy rằng , 0.

Điều này mang lại những điều sau đây,

Hoặc trong phiên bản rời rạc,

3.5

17
Chúng ta hãy thử viết sự phân kỳ KL trong trường hợp của hai người Gaussian,

Để cho, ; μ, ∑ và, ; μ, ∑ sau đó,

1 |∑|
, ∑ ∑ μ μ ∑ μ μ 3.6
2 |∑|

3.4 Nguồn gốc EM

Nếu chúng ta xem xét một hỗn hợp của phân phối Gaussian, các giá trị tham số cần được ước
tính là giá trị trung bình,,,. . , hiệp phương sai, ∑, ∑,…, ∑ và mồi thành phần,
,,…,. Các giá trị đó sẽ thay đổi từ lần lặp sang lần lặp lại, Ө đến Ө cho đến khi họ đến được

giá trị tối ưu hoặc ổn định ở một số giá trị. Khi Ө chuyển đến Ө, tệp PDF cũng sẽ lặp lại từ
/ Ө thành / Ө. Khả năng ghi nhật ký sẽ tăng lên,

Ө Ө /Ө /Ө

/Ө
3.7
/Ө

Trong trường hợp mô hình hỗn hợp, chúng ta cần giới thiệu các biến tiềm ẩn là một trong M hỗn
hợp.

1
Ө Ө ,/Ө
/Ө

1 /, Ө ,/Ө
/Ө / ,Ө

Vì hàm log là hoàn toàn lõm, chúng ta có thể áp dụng Bất đẳng thức Jensen như sau,

,/Ө
Ө Ө /, Ө 3.8
/Ө /, Ө

Chúng tôi đã sử dụng / ,Ө trong bất đẳng thức Jensen.

18
Ngoài ra, từ (3.2) chúng ta đã thấy rằng hàm phụ có thể được viết là,

Ө, Ө /, Ө ,/Ө

Sau đó, chúng ta có thể viết lại phương trình (3.7) dưới dạng,

Ө Ө Ө, Ө Ө, Ө

Sự khác biệt trong chức năng phụ trợ cung cấp một giới hạn thấp hơn về sự gia tăng khả năng ghi nhật ký.

Chúng tôi có thể thấy điều đó Ө, Ө phụ thuộc vào các thông số hiện tại, vì vậy nếu chúng ta chỉ cần tối đa hóa phần bổ trợ

hàm Ө, Ө , hàm khả năng cũng sẽ được tối đa hóa do đó. Bây giờ của chúng tôi

mục đích là tối đa hóa chức năng Ө, Ө để đến các tham số quan tâm. Chúng ta có thể làm điều đó bằng cách

phân biệt chức năng phụ trợ Ө, Ө đối với các tham số mới Ө và
cân bằng kết quả với số không. Chúng ta cần đảm bảo rằng khi tối đa hóa hàm đối với tỷ lệ
trộn, chúng ta cần sử dụng hệ số nhân Lagrange.

Ө Ө, Ө 0.

Điều chúng tôi cần đảm bảo là khi chúng tôi lặp lại từ Ө sang Ө , chúng tôi cần đảm bảo rằng chúng tôi đang

thực tế là tăng khả năng ghi nhật ký chức năng hoặc nếu không, chúng tôi không cải thiện hoặc hướng tới giải

pháp tối ưu. Chúng tôi cần,

Ө Ө hoặc,

Ө Ө 0.

Hãy để chúng tôi giới thiệu phân phối sau của biến tiềm ẩn /, Ө ,

/Ө /Ө /, Ө /Ө /Ө

Từ,

/, Ө 1

Từ định nghĩa của xác suất có điều kiện,

19
 ,/Ө
/Ө
/, Ө

Sau đó chúng ta có thể viết như sau,

,/Ө
/, Ө /Ө /, Ө
/, Ө

Tương tự đối với thuật ngữ thứ hai,

,/Ө
/, Ө /Ө /, Ө
/, Ө

Kết hợp hai phương trình cuối cùng, chúng tôi nhận được,

Ө Ө /, Ө ,/Ө /, Ө /, Ө

/, Ө ,/Ө /, Ө /, Ө

Từ định nghĩa của sự phân kỳ KL,

/, Ө
/, Ө, /, Ө /, Ө 0
/, Ө

Sử dụng phương trình phân kỳ KL này trong phương trình cuối cùng, chúng ta nhận được,

Ө Ө /, Ө ,/Ө /, Ө ,/Ө

Trong đó, sự khác biệt giữa bên trái và bên phải là sự phân kỳ KL. Nếu chúng ta có thể chắc
chắn rằng bên tay phải là dương, thì bên trái cũng sẽ dương.

Đủ để cho thấy rằng,

/, Ө ,/Ө /, Ө ,/Ө

Điều đó sẽ đảm bảo rằng,

Ө Ө.

20
Hãy để chúng tôi nhớ lại chức năng phụ trợ,

Ө, Ө /, Ө ,/Ө

Nếu chức năng phụ trợ tăng, thì khả năng xảy ra cũng sẽ tăng theo. Nếu,

Ө, Ө Ө, Ө

Sau đó,

Ө Ө .

Chúng ta có thể thấy sự khác biệt giữa khả năng xảy ra và các hàm phụ sẽ là sự phân kỳ KL,
như sau,

Ө Ө Ө, Ө Ө, Ө /, Ө, /, Ө 3,9

Sự gia tăng trong chức năng phụ trợ sẽ là một giới hạn thấp hơn đối với sự gia tăng khả năng ghi
nhật ký. Chúng tôi lưu ý rằng việc tối đa hóa hàm phụ một lần, không dẫn đến giá trị tham số tối ưu,
chúng tôi cần lặp lại cho đến khi đạt được sự hội tụ. Bây giờ chúng ta có thể tóm tắt thuật toán EM
theo hai bước:

⤇ Bước Kỳ vọng được thực hiện sau khi đoán điểm bắt đầu Ө và tính toán
phân phối sau của biến tiềm ẩn, /, Ө, bằng cách lấy giá trị kỳ vọng của nhật ký
khả năng dữ liệu đầy đủ về các giá trị tham số mới Ө, ,/
Ө , Ө liên quan đến phân phối sau của các biến tiềm ẩn, /, Ө . Như

theo sau,

Ө, Ө /, Ө ,/Ө ,Ө 3,10

⤇ Bước Tối đa hóa tối đa hóa chức năng phụ trợ, Ө, Ө, liên quan đến
tham số mới Ө.

Ө Ө, Ө
Ө

Vấn đề lớn với các giá trị tham số ban đầu là nếu có ít nhất một cực đại cục bộ bên cạnh giá trị cực
đại toàn cục, thì thuật toán EM có thể chỉ nhận được một cực đại cục bộ thay vì nhận được

21
cực đại toàn cầu. Một cách để cố gắng khắc phục vấn đề này là bắt đầu từ nhiều điểm ban đầu
khác nhau và sau đó chọn điểm có khả năng xảy ra cao nhất.

3.5 Hỗn hợp Gaussian và thuật toán EM

Một trong những ứng dụng của thuật toán EM là tìm MLE của các tham số Hỗn hợp Gaussian
trong các biến hoặc dữ liệu chưa được quan sát. Chúng tôi nhận thấy rằng MLE trực tiếp không
thể tìm thấy các tham số. Một quy trình lặp đi lặp lại cần được thực hiện để chúng ta có được
kết quả tối ưu cho các tham số. Vấn đề chính mà chúng ta gặp phải ở đây là thành phần
Gaussian nào chịu trách nhiệm tạo ra mẫu cụ thể đó. Chúng ta biết rằng các biến tiềm ẩn là rời
rạc xác định số lượng hỗn hợp đã được sử dụng để tạo dữ liệu quan sát. Nếu chúng ta có kiến
thức trước về các thành phần chịu trách nhiệm tạo ra dữ liệu, thì vấn đề sẽ trở nên dễ dàng
hơn và có thể được giải quyết bằng cách sử dụng MLE trực tiếp. Vì vậy, bây giờ vấn đề chính
của chúng tôi là ước tính thành phần chịu trách nhiệm tạo ra mỗi điểm dữ liệu trong dữ liệu
quan sát của tôi. Một khi chúng ta biết phân phối sau của các biến ẩn /, Ө, bài toán sau đó sẽ
trở thành một bài toán MLE trực tiếp theo nghĩa hàm phụ.

1 nếu dữ liệu quan sát 0 được tạo bởi thành phần

Giả sử,
nếu không thì

Hãy để chúng tôi xem xét một mẫu đã nhận duy nhất mà chúng tôi cho rằng nó được tạo bởi thành

phần. Chúng tôi có thể viết,

,/Ө / ,Ө

/ ,Ө 3,11

Ngoài Y được. . . mẫu, Z cũng được. . . mẫu,

,/Ө ,/Ө

Trong bước Kỳ vọng của thuật toán EM, chúng ta cần tính toán lặp đi lặp lại
phân phối của biến tiềm ẩn /, Ө để tìm hàm phụ. Sau đó, chúng tôi tối đa hóa chức năng phụ
trợ.

22
 Ө, Ө /, Ө ,/Ө

/, Ө ,/Ө

/, Ө ,/Ө

/ ,Ө ,/Ө

/ ,Ө / ,Ө

/ ,Ө / ,Ө

/ ,Ө

Ө, Ө / ,Ө / ,Ө

/ ,Ө 3,12

Chúng tôi biết rằng hàm khả năng ghi nhật ký cho một hỗn hợp thành phần là,

1
; μ, ∑ 2 |∑| μ ∑ μ
2

Điều này sau đó được thay thế trong chức năng phụ trợ như sau,

23
 1
Ө, Ө / ,Ө μ ∑ μ
2

1
/ ,Ө 2 ∑
2

/ ,Ө 3,13

Bây giờ chúng ta cần ước tính các tham số quan tâm của thành phần lúc lặp lại 1 bởi

phân biệt chức năng bổ trợ đối với một trong các tham số và bằng 0,

Ө Ө, Ө 0

Trong trường hợp ước tính giá trị trung bình của thành phần hỗn hợp,

Ө, Ө 0

Điều này sẽ dẫn đến việc cập nhật công thức trung bình,

∑ / ,Ө
μ 3,14
∑ / ,Ө

∑ Ө, Ө 0

Điều này sẽ dẫn đến việc cập nhật công thức Phương sai,

∑ /, Ө μ μ
∑ 3,15
∑ / ,Ө

Các phương trình (3.13) đến (3.15) sẽ được lặp lại cho đến khi đạt được sự hội tụ.

Tóm lại, thuật toán EM cho Hỗn hợp Gauss có thể được tóm tắt như sau,

1. Khởi tạo các tham số trung bình μ, Covariance ∑ và hệ số trộn

, sau đó tính giá trị ban đầu cho hàm khả năng đăng nhập.
2. Trong bước E, chúng ta cần tính toán các trách nhiệm, /, Ө,
/ μ, ∑
/, Ө
∑ / μ, ∑

3. Trong bước M, chúng ta cần ước tính lại các tham số, sử dụng trách nhiệm hiện tại,

24
 ∑ / ,Ө
∑ / ,Ө
∑ / ,Ө
∑
∑ / ,Ө
∑ / ,Ө

4. Đánh giá việc kiểm tra khả năng xảy ra của nhật ký để tăng khả năng xảy ra nhật ký và dừng quá

trình lặp lại nếu đã đạt được độ chính xác nhất định.

/, ∑ / μ, ∑

Nếu chưa đạt được độ chính xác, chúng ta quay lại điểm số 2 và lặp lại một lần nữa. Chúng tôi thực hiện quy

trình tương tự cho đến khi chúng tôi đạt được điều kiện chính xác.

Ví dụ, chúng ta hãy xem xét một ví dụ cho thấy một hỗn hợp của bốn Gaussian như một ví dụ minh

họa. Tôi giả định rằng giá trị có nghĩa là giá trị của bốn ký hiệu được gửi trong trường hợp QPSK, ∈ 1,

1, và có hiệp phương sai bằng ∑ 0,35, trong đó tôi là ma trận 2 × 2. Hình 3.1 được hiển thị cho thấy

những dữ liệu được tạo này với sự phù hợp Gaussian của nó bằng cách sử dụng thuật toán trước đó,

mô hình giả định của tôi giống như,

Dữ liệu nhận được bị hỏng do nhiễu Gaussian trắng phụ gia AWGN ở đâu,hiệp phương
sai, ∑,cả hai cỡ N và 1, 1. Điều này được thực hiện bằng cách tạo ra 800 mẫu

được rút ra từ mỗi hỗn hợp của bốn Gaussian và sau đó giả vờ như chúng ta không biết các
tham số mà các mẫu đó được lấy ra và cố gắng ước tính các tham số đó bằng cách tìm kết
quả phù hợp nhất về đường bao và ước tính các tham số bằng thuật toán EM.
Như chúng ta có thể thấy từ các số liệu sắp tới, chúng ta càng tăng phương sai, thì việc suy luận càng

trở nên khó khăn và kết quả là chúng ta có thể không nhận được các tham số thực sự. Khi chúng tôi

giảm phương sai, các hỗn hợp sẽ trở nên tròn hơn và tách biệt và dễ dàng được phân loại. Hình 3.2

cho thấy hỗn hợp của bốn Gaussian chính xác như trong hình trước, ngoại trừ việc chúng tôi giảm

phương sai xuống 0,05. Chúng ta thấy rõ sự khác biệt trong việc ước lượng đường bao của các hỗn

hợp đó. Trong hình này phân loại có thể được thực hiện dễ dàng mà không gặp phải quá nhiều lỗi. K ‐

có nghĩa là biểu đồ cũng được vẽ để thấy rằng nó chỉ là một trường hợp đặc biệt của thuật toán EM khi

hiệp phương sai tiến tới không.

25
 Biểu đồ phân tán với nhiễu Covariance 0,35I Biểu đồ phân tán và ước tính Đường bao PDF của nó bằng cách sử dụng thuật toán EM
2,5 2,5

2 2

1,5 1,5

1 1

0,5 0,5
y 2(n)

y 2(n)
0 0

- 0,5 - 0,5

-1 -1

- 1,5 - 1,5

-2 -2

- 2,5 - 2,5
- 2,5 - 2 - 1,5 - 1 - 0,5 0 0,5 1 1,5 2 2,5 - 2,5 - 2 - 1,5 - 1 - 0,5 0 0,5 1 1,5 2 2,5
y (n) y (n)
1 1

Cụm 1
dữ liệu được phân vùng bằng K-means Cụm 1
C4luster 2
3 Cụm 2
Cụm 3
Cụm 3 0,9
C3luster 4
Cụm 4
2 Centroid 0,8
2
0,7

Thành phần 1 Xác suất sau

1 1
0,6

y2(n)
0 0,5
y2(n)

0,4
-1
-1
0,3
-2
0,2
-2
-3
0,1

-3 -4
-3 -2 -1 0 1 2 3 -3 -2 -1 0 1 2 3
y1(n) y1(n)

Hình 3.1. hỗn hợp của bốn dữ liệu Gaussia và sự phù hợp của chúng khi 0,35

Biểu đồ phân tán có nhiễu Covariance 0,05I Biểu đồ phân tán và ước tính Đường bao PDF bằng thuật toán EM
2 2,5

1,5 2

1,5
1
1

0,5
0,5
y 2(n)

0
y 2(n)

- 0,5
- 0,5
-1
-1
- 1,5

- 1,5 -2

- 2,5
-2 - 2,5 -2 - 1,5 -1 - 0,5 0 0,5 1 1,5 2 2,5
-2 - 1,5 -1 - 0,5 0 0,5 1 1,5 2
y (n)
y (n) 1
1

Cụm 1
Cụm 1 2 Cụm 2 1
dữ liệu được phân vùng bằng cách sử dụng k-means

2 Cụm 2 C nước bóng 3

Cánh 3 C nước bóng 4 0,9
1,5
Cánh 4
1,5
Ccác chất gây nghiện
0,8
1
1 0,7
Thành phần 1 Xác suất sau

0,5
0,5 0,6
y (n)

0 0,5
y2(n)

0
2

0,4
- 0,5
- 0,5

0,3
-1 -1
0,2
- 1,5 - 1,5
0,1

-2 -2
-2 - 1,5 -1 - 0,5 0 0,5 1 1,5 2 0
-2 - 1,5 -1 - 0,5 0 0,5 1 1,5 2
y1(n)
y 1(n)
Hình 3.2. hỗn hợp của bốn dữ liệu Gaussia và sự phù hợp của chúng khi 0,05

26
 4 Ước tính SNR của SISO NDA bằng cách sử dụng thuật toán EM trong Tài liệu

4.1 Trường hợp BPSK

Trong khóa dịch chuyển pha nhị phân, chúng ta có một hỗn hợp của hai lớp, các ∈ 1, 1. Đó là những
ký hiệu được truyền.

4.1.1 Mô hình hệ thống

Chúng tôi giả định rằng không có lỗi về thời gian, độ lệch pha hoặc độ lệch tần số. Đầu ra bộ lọc phù
hợp có thể được cung cấp bởi,

, 1,…. . , 4.1

ở đâu, là mẫu đã nhận, là biểu tượng được truyền, là lợi ích của kênh và là một

AWGN nghĩa là 0 với phương sai .

Chúng ta có thể viết phương trình (4.1) dưới dạng vectơ dưới dạng,

4.2

ở đâu, .... , .... , .... . Truyền

các ký hiệu có thể được mô hình hóa như việc thực hiện . . . biến ngẫu nhiên nhị phân. Xác suất
chức năng phân phối có thể được viết dưới dạng,

1
/ ,Ө 4.3
√2 2

Giả sử các ký hiệu có khả năng như nhau, chúng tôi có,

;Ө /, Ө /Ө

1 1 1
√2 2 2 2 2

ở đâu, Ө . Bây giờ cho N nhận được. . . mẫu chúng tôi có,

;Ө ;Ө

27
 1 1
;Ө 4.4
√2 2 2 2

Đây là hàm khả năng của dữ liệu nhận được. Bây giờ với dữ liệu quan sát, hãy ước tính

giá trị tham số Ө và sau đó thay thế để tìm SNR,

10

4.1.2 CRLB cho BPSK

Giới hạn dưới Cramer ‐ Rao (CRLB) là giới hạn dưới cho Lỗi bình phương trung bình (MSE) của bất kỳ công cụ ước

lượng không chệch nào thỏa mãn điều kiện bình thường [2]. Trong trường hợp ước tính SNR của chúng tôi, CRLB có

thể được viết là,

Ө 4,5
Ө Ө

Ở đâu Ө là ma trận thông tin của ngư dân được đưa ra bởi,

;Ө ;Ө

Ө 4,6
;Ө ;Ө

Và,

20 10
4,7
Ө 10 10

Đối với trường hợp NDA,

Hàm khả năng nhật ký được đưa ra là,

Ө /Ө

1
2 4.8
2 2

28
Sau khi phân biệt chức năng này với mức tăng kênh và phương sai, chúng tôi nhận được những điều sau

đây,

;Ө

;Ө

;Ө ;Ө

;Ө 1 2
2

Ө 1 4,9
2

ở đâu,

2 2 4,10
√2

Bây giờ chúng ta có thể thay thế kết quả này vào phương trình (4.5) và nhận được kết quả sau:

1 20
20 10 10
10 10 1 10
2 10

2
200 1
4,11
10 1 2

29
Đối với trường hợp DA,

Ө / ,Ө

1
2
2 2

ở đâu được cho là +1 hoặc ‐1.

Sau khi phân biệt chức năng này với mức tăng kênh và phương sai, chúng tôi nhận được những điều sau

đây,

;Ө

;Ө

;Ө ;Ө

;Ө 1
2

0
Ө 4,12
0
2

Bây giờ chúng ta có thể thay thế kết quả này vào phương trình (4.5) và nhận được kết quả sau:

20
20 10 0 10
10 10 10
0
2 10

200 2
1 4,13
10

30
4.1.3 Ước tính SNR NDA bằng thuật toán EM
Bây giờ chúng tôi giới thiệu phương pháp của thuật toán EM trong ước tính SNR. Giả định của
chúng tôi là dữ liệu được lấy từ hỗn hợp của hai người Gaussia và không tương quan với nhau. Các
mẫu được vẽ trong một. . . thái độ. Các thông số mà chúng ta cần ước tính bây giờ là,

;Ө
Ө

10 4,14

Thuật toán EM sẽ được sử dụng để ước tính lặp đi lặp lại độ lợi của kênh và phương sai nhiễu sau đó sử dụng chúng

để ước tính tỷ số tín hiệu trên nhiễu. Dữ liệu nhận được sẽ được coi là tập dữ liệu chưa hoàn chỉnh vì chúng ta không

biết lớp của nó (ký hiệu được truyền). Chức năng phụ trợ trong trường hợp này có thể được đưa ra là,

Ө, Ө /, Ө ,/Ө ,Ө

Ө, Ө / ,Ө / ,Ө

/ ,Ө 4,15

Ө Ө, Ө 4,16
Ө

Bây giờ việc giải hai phương trình đó sẽ cho chúng ta các bước E & M. Vì chúng tôi biết tỷ lệ
trộn , chúng tôi không cần phải ước tính nó.

Chức năng phụ trợ có thể được cung cấp dưới dạng,

Ө, Ө1 /, Ө / ,Ө

31
 1
Ө, Ө / ,Ө ∑
2

1
/ ,Ө 2 ∑ / ,Ө
2

1
/ ,Ө 2
2 2

Ө, Ө
/ ,Ө 0
2

/ ,Ө 0

/ ,Ө 0

/ ,Ө

/ ,Ө / ,Ө

, / ,Ө / ,Ө 1

/ ,Ө 1 / ,Ө

2 / ,Ө 1

1
2 / ,Ө 1

32
 2 /, Ө 1 2 2 1

2 2

2
2 2 2

2 2

2 2

2 2

1
4,17

Giải quyết phương sai, chúng tôi có,

Ө, Ө

/, Ө /, Ө / ,Ө /, Ө 0

1 1
/ ,Ө / ,Ө 0
2 2 2 2

1 1
/ ,Ө 1 / ,Ө
2 2 2 2
0

1
/ ,Ө / ,Ө
2 2 2 2
0

33
 1
2 / ,Ө 0
2 2

4 / ,Ө 2 0

2 2 / ,Ө 1 0

2 0
2

2 0

1
4,18

10

1
4,19

1
4,20

Chúng ta không cần phải lo lắng về hệ số trộn vì chúng ta biết rằng chúng có khả năng như nhau. Tiếp

tuyến hyperbol trong việc cập nhật độ lợi kênh sẽ đóng vai trò là một ngưỡng mềm. Khi đối số tiếp tuyến

hyperbol lớn, ngưỡng này sẽ trở nên giống một ngưỡng hàm dấu hiệu hơn. Sau khi Bắt đầu với các giá trị

ban đầu cho độ lợi kênh và phương sai nhiễu, các phương trình (4.17) và (4.18) sẽ được sử dụng để lặp đi

lặp lại các ước lượng cho các tham số mà sau đó sẽ được sử dụng để

34
ước tính tỷ lệ tín hiệu trên nhiễu, như đã cho ở trên. Các sẽ được tìm thấy cho khác nhau

giá trị ước tính của SNR. Sau đó, MSE này sẽ được đánh giá bằng NDA CRLB theo đơn vị dB2. Quá trình

ước lượng sẽ được thực hiện đối với dải SNR từ 1 dB đến 20 dB và đối với các giá trị khác nhau của kích

thước mẫu nhận được, N, 128, 512 và 1024. Hình 4.1 giải thích ba điều khi BPSK được sử dụng làm ký

hiệu truyền. Đường cong màu đỏ là CRLB cho tín hiệu NDA, đường cong màu xanh lam là CRLB cho tín

hiệu DA và đường cong màu đen thể hiện MSE được ước tính bằng thuật toán EM. Ước tính thuật toán

EM được lặp lại 10000 lần bằng cách sử dụng mô phỏng Monte Carlo để có được 10000 lần thực hiện ước

tính SNR, sau đó lấy trung bình chúng để có được SNR ước tính, sau đó tìm phương sai để có được MSE

cho giá trị ước tính SNR cụ thể đó. Sau đó, chúng tôi lặp lại quá trình này cho các giá trị khác nhau của

SNR, chẳng hạn như từ 0 dB đến 20 dB và MSE kết quả của chúng. Những ước tính đó sau đó được đánh

giá bằng CRLB như được hiển thị bên dưới. Chúng tôi thấy rằng đối với các giá trị ước tính SNR thấp, MSE

lớn so với NDA CRLB. SNR càng cao, MSE chúng ta nhận được càng thấp cho đến khi cả hai (CRLB và MSE)

khớp với nhau. Đây là kích thước mẫu N = 128. Bước tiếp theo chúng tôi sẽ làm là tăng N và xem điều gì

sẽ xảy ra với độ chính xác ước tính của chúng tôi.

N = 128
3
CRL BNDA
CRL BDA
CÔ E - EM
2,5

2
MSE & CRLB (dB)2

1,5

0,5

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.1 MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 128 đối với trường hợp BPSK

35
 N = 512

CRL BNDA
1,2 CRLBDA
CÔ E - EM

0,8
MSE & CRLB (dB)2

0,6

0,4

0,2

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.2 MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 512 đối với trường hợp BPSK

Hình 4.2 cho thấy mối quan hệ giữa MSE và CRLB so với SNR cho N = 512. Điều chúng ta nhận
ra ở đây là MSE & CRLB giảm so với trường hợp N = 128. CRLB tự giảm từ 0,3 dB2cho SNR cao
khi N là 128, nhỏ hơn 0,1 dB2đối với SNR cao khi N là 512. Hình 4.3 cho thấy điều tương tự
nhưng đối với N = 1024. Hình 4.3 cho thấy độ chính xác của MSE và CRLB theo thứ tự nhỏ hơn
0,05 dB2đối với SNR lớn hơn 8 dB. Hình 4.4 cho thấy lỗi là sự khác biệt giữa MSE và CRLB tính
bằng dB2và SNR cho ba trường hợp trước đó của các N khác nhau, 128, 512 và 1024. Con số này
chứng minh rằng khi N tăng, lỗi giảm có nghĩa là MSE ngày càng gần với CRLB cho đến khi cả
hai đều khớp ở một giá trị SNR nào đó và hơn thế nữa. Từ phương trình SNR, chúng ta thấy
rằng SNR tỷ lệ nghịch với phương sai tiếng ồn, có nghĩa là khi chúng ta tăng phương sai tiếng
ồn, SNR sẽ giảm do đó và hai hỗn hợp sau đó sẽ can thiệp với nhau gây khó khăn. để phân loại.
Tuy nhiên, mặt khác, khi chúng ta giảm phương sai nhiễu, SNR sẽ tăng lên do đó và hai hỗn
hợp sau đó sẽ ở xa nhau, điều này làm cho việc phân loại trở nên dễ dàng hơn và hầu như
không có lỗi ..

36
 N = 1024

CRL BNDA
0,5 CRL BDA
CÔ E - EM

0,4
MSE & CRLB (dB)2

0,3

0,2

0,1

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.3 MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 1024 đối với trường hợp BPSK

2,5
N= 128
N= 512
N= 1024
2

1,5
Lỗi tính bằng (dB)2

0,5

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.4 Lỗi tính bằng dB2so với SNR tính bằng dB đối với các N khác nhau.

37
 MSE khi chúng ta tăng N cho SNR = 4dB
1

0,9

0,8

0,7

0,6
MSE tính bằng dB2

0,5

0,4

0,3

0,2

0,1

0
500 1000 1500 2000 2500 3000 3500 4000
N

Hình 4.5 MSE tính bằng dB2so với N.

Hình 4.5 cuối cùng cho thấy những thay đổi trong MSE khi chúng ta tăng N. điều này có thể dễ dàng được

suy ra từ các số liệu trước đó, nhưng chúng tôi muốn rõ ràng rằng khi chúng ta tăng N, kết quả là MSE sẽ

giảm. Chúng tôi thay đổi N từ 128 đến 4096 và xem kết quả MSE khi SNR được chọn không đổi trong

trường hợp này là 4 dB. MSE giảm từ 0,45 dB2khi N là 128 đến khoảng 0,025 dB2khi N là 4096. Kỳ vọng

của chúng tôi là khi N có xu hướng vô cùng, kết quả là MSE sẽ có xu hướng bằng không

4.2 Trường hợp QPSK

Trong trường hợp QPSK, giả thiết rằng các mẫu nhận được được rút ra một cách độc lập giống hệt nhau

từ hỗn hợp của bốn phân bố phức tạp đối xứng tròn Gaussian. Mô hình của chúng tôi trong trường hợp

này sẽ giống hệt nhau ngoại trừ các ký hiệu được truyền bây giờ là bốn thay vì hai. Chúng tôi giả định

rằng không có lỗi về thời gian, độ lệch pha hoặc độ lệch tần số. Đầu ra bộ lọc phù hợp có thể được cung

cấp dưới dạng,

, 1,…. . , 4,21

38
ở đâu, là mẫu đã nhận, ∈ là ký hiệu được truyền, là độ lợi kênh,
√ √

và là một AWGN trung bình bằng 0 với phương sai .

Chúng ta có thể viết phương trình (4.21) dưới dạng vectơ dưới dạng,

4,22

ở đâu, .... , .... , .... . Truyền

các biểu tượng có thể được mô hình hóa như các nhận thức của. . . phân bố phức tạp đối xứng tròn Gaussian.
Hàm phân phối xác suất có thể được viết dưới dạng,

1 1
/, Ө exp | | 4,23

Giả sử các ký hiệu có khả năng như nhau,

;Ө /, Ө /Ө

1 1 1 1 1 1 1 1 1
4 √2 √2 4 √2 √2

1 1 1 1 1 1 1 1
4 √2 √2 4 √2 √2

11 1 1
1 1
4 √2 √2

1 1
1 1
√2 √2

| | ∗

|| | | ∗
2

39
 11 1 1
;Ө
4 4 4

1 1
4 4

11 || 2
;Ө
4 4
2 2
4 4
2
4

1 1 | | 2
;Ө 2
4 4
2
2
4

1 1 | | 2
;Ө
2 4
2
4

1 || √2 √2
;Ө

Hàm phân phối xác suất của N. . . nhận được mẫu của sẽ như sau,

1 || √2 √2
;Ө 4,24

Sau đó, chức năng Khả năng ghi nhật ký được định nghĩa như sau,

Ө /Ө

40
 1 || √2 √2
Ө

1 | | √2 √2
4,25

Đây là hàm Khả năng ghi nhật ký của dữ liệu đã nhận, bây giờ vấn đề ước tính sẽ

như sau, với vectơ quan sát, ước lượng các tham số, Ө . Sau đó sử dụng chúng

để tìm ước tính SNR,

10

4.2.1 CRLB cho QPSK

Giới hạn dưới Cramer ‐ Rao (CRLB) là giới hạn dưới cho Lỗi bình phương trung bình (MSE) của bất kỳ công cụ ước

lượng không chệch nào thỏa mãn điều kiện bình thường [2]. Trong trường hợp ước tính SNR của chúng tôi, CRLB có

thể được đưa ra là,

Ө
Ө Ө

Ở đâu Ө là ma trận thông tin của ngư dân được đưa ra bởi,

;Ө ;Ө

Ө
;Ө ;Ө

Và,

20 10
Ө 10 10

Đối với trường hợp NDA,

Hàm khả năng ghi nhật ký được cung cấp bởi,

41
 1 || √2 √2
Ө

Quy trình này tương tự như quy trình được thực hiện bởi Alagha [8],

212 4
Ө 4,26
4
1 4

ở đâu,

2 4,27
√ 2

Bây giờ chúng ta có thể thay thế kết quả này trong phương trình (4.5) và nhận được kết quả sau:

212 4 20
20 10 10
10 10 4 10
1 4
10

2
100 1 2
4,28
10 1 2 4

Đối với trường hợp DA,

Hàm khả năng ghi nhật ký được cung cấp bởi,

Ө /, Ө

1 | |
Ө exp

| |

Sau đó thay thế để tìm ma trận thông tin cá,

42
 2
0
Ө
0

2 20
20 10 0 10
10 10 10
0
10

100 2
1 4,29
10

4.2.2 Ước tính SNR NDA bằng thuật toán EM

Bây giờ chúng tôi sử dụng thuật toán EM để ước tính SNR, MSE của nó và so sánh các giá trị ước tính
của chúng tôi với các giá trị CRLB. Giả định của chúng tôi là dữ liệu được lấy từ hỗn hợp của bốn
người Gaussia, và không tương quan với nhau. Các mẫu được vẽ trong một. . . thái độ. Các thông số
mà chúng ta cần ước tính bây giờ là,

;Ө
Ө

10 4.30

Thuật toán EM sẽ được sử dụng để ước tính lặp đi lặp lại độ lợi của kênh và phương sai nhiễu sau đó sử dụng chúng

để ước tính tỷ số tín hiệu trên nhiễu. Dữ liệu nhận được sẽ được coi là tập dữ liệu chưa hoàn chỉnh vì chúng ta không

biết lớp của mỗi ký hiệu được truyền. Chức năng phụ trợ trong trường hợp này có thể được cung cấp bởi,

Ө, Ө /, Ө ,/Ө ,Ө

43
 Ө, Ө / ,Ө / ,Ө

/ ,Ө

1
Ө, Ө / ,Ө ∑
2

1
/ ,Ө 2 ∑
2

/ ,Ө

/ , Ө1

Ө, Ө /, Ө

Ө Ө, Ө 4,31
Ө

Bây giờ việc giải hai phương trình đó sẽ cho chúng ta các bước E & M.

Khi giải quyết vấn đề đạt được kênh mà chúng tôi nhận được,

Ө, Ө
/ ,Ө 0

Ө, Ө
/ ,Ө 0

∗
/ ,Ө2 2 0

∗
/ ,Ө /, Ө

44
 /, Ө exp 2 1/4

/ ,Ө exp /4 /, Ө exp 3 /4

/ ,Ө exp 5 /4 / ,Ө exp 7/4

/, Ө 1 / ,Ө / ,Ө / ,Ө

/ ,Ө exp /4 /, Ө exp 3/4

/ ,Ө exp 5 /4

1 / ,Ө / ,Ө / ,Ө exp 7/4

/, Ө exp /4 exp 7/4

/ ,Ө exp 3 /4 exp 7 /4

/ ,Ө exp 5 /4 exp 7 /4 exp 7/4

√2
/ ,Ө / ,Ө 1 / ,Ө

1
1
2

√2 1
/ ,Ө / ,Ө
2

1
/ ,Ө / ,Ө 4,32
2

Khi giải phương sai chúng ta nhận được,

Ө, Ө
/ ,Ө 0

45
 1
/ ,Ө 0

/ ,Ө

/ ,Ө /, Ө

/ ,Ө

1 / ,Ө / ,Ө /, Ө

∗ ∗
/ ,Ө 2 2

∗ ∗
/ ,Ө 2 2

∗ ∗
/ ,Ө 2 2

2 /, Ө exp /4 exp 7/4

2 / ,Ө exp 3 /4 exp 7 /4
2 / ,Ө exp 5 /4 exp 7 /4

2 / ,Ө √2 2 /, Ө 21

2 / ,Ө √2

2√2
/ ,Ө / ,Ө 1

1
/ ,Ө 7 /4
2√2

46
 2√2 1
/ ,Ө / ,Ө
2

1 1 1
/ ,Ө / ,Ө | |
2 2√2 2√2

1
| | 4,33

Chúng ta không cần phải lo lắng về hệ số trộn vì chúng ta biết rằng chúng có khả năng như nhau. Sau khi

Bắt đầu với các giá trị ban đầu cho độ lợi kênh và phương sai nhiễu, các phương trình (4.27) và (4.28) sẽ

được sử dụng để lặp đi lặp lại các ước lượng cho các tham số mà sau đó sẽ được sử dụng để

ước tính như đã cho ở trên. Sẽ được tìm thấy cho các giá trị ước tính khác nhau của các giá trị SNR
khác nhau và sẽ được đánh giá theo CRLB.

N = 128
3
CRL BNDA
CRL BDA
CÔ E - EM
2,5

2
MSE & CRLB (dB)2

1,5

0,5

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.6 MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 128

Sau đó, hiệu suất MSE này sẽ được so sánh với giới hạn cơ bản của CRLB theo đơn vị dB2tại mỗi
giá trị SNR ước tính. Quá trình ước lượng sẽ được thực hiện cho dải SNR từ 0 dB đến 20

47
dB, và cho các giá trị khác nhau của kích thước mẫu nhận được N, 128, 512 và 1024. Hình 4.6 trình bày giải

thích ba điều khi QPSK được sử dụng làm ký hiệu được truyền. Đường cong màu đỏ là CRLB cho tín hiệu NDA,

đường cong màu xanh lam là CRLB cho tín hiệu DA và đường cong màu đen thể hiện MSE được ước tính bằng

thuật toán EM. Ước tính SNR của thuật toán EM được lặp lại 10000 lần bằng cách sử dụng mô phỏng Monte

Carlo để có được 10000 lần thực hiện ước tính SNR, sau đó lấy trung bình chúng để có được SNR ước tính và

tìm phương sai của chúng để lấy MSE cho giá trị ước tính SNR cụ thể đó.

N = 512
0,5
CRL BNDA
0,45 CRL BDA
CÔ E - EM
0,4

0,35

0,3
MSE & CRLB (dB)2

0,25

0,2

0,15

0,1

0,05

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.7 MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 512

Sau đó, chúng tôi lặp lại quá trình này cho các giá trị khác nhau của SNR, chẳng hạn như từ 0 dB đến 20

dB và MSE kết quả của chúng. Những ước tính đó sau đó được so sánh với CRLB như được hiển thị ở trên.

Chúng tôi thấy rằng đối với các giá trị ước tính SNR thấp; MSE lớn so với NDA CRLB. SNR càng cao, MSE

chúng ta nhận được càng thấp cho đến khi cả hai (CRLB và MSE) khớp với nhau. Đây là kích thước mẫu N

= 128 trong hình 4.6 ở trang trước. Bước tiếp theo chúng tôi sẽ làm là tăng N và xem điều gì sẽ xảy ra với

độ chính xác ước tính của chúng tôi. Hình 4.7 cho thấy mối quan hệ giữa MSE và CRLB so với SNR cho N =

512. Những gì chúng ta nhận ra ở đây là MSE giảm, CRLB cũng giảm so với trước đây khi N = 128. Bản

thân CRLB giảm từ 2 khi N là 128 và SNR là 0dB, xuống dưới 0,5 khi N là 512 tại cùng SNR.

48
 N = 1024
0,25
CR LBNDA
CR LBDA
CÔ E - EM
0,2

0,15
MSE & CRLB (dB)2

0,1

0,05

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.8. MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 1024

1,5
N= 128
N= 512
N= 1024

1
Lỗi tính bằng (dB)2

0,5

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 4.9. Lỗi tính bằng dB2so với SNR tính bằng dB đối với các N khác nhau.

49
Hình 4.8 cho thấy điều tương tự Hình 4.7 cho thấy, nhưng với N = 1024. Độ chính xác của MSE
và CRLB theo thứ tự nhỏ hơn 0,025 dB2đối với SNR lớn hơn 6 dB. Hình 4.9 cho thấy lỗi là sự
khác biệt giữa MSE và NDA CRLB tính bằng dB2ở các giá trị khác nhau của SNR được hiển thị
cho ba trường hợp trước đó của các N khác nhau, 128, 512 và 1024. Con số này chứng minh
rằng khi N tăng, lỗi giảm có nghĩa là MSE ngày càng gần với NDA CRLB cho đến khi cả hai đều
khớp ở một số giá trị SNR và hơn thế nữa. Từ phương trình SNR, chúng ta thấy rằng SNR tỷ lệ
nghịch với phương sai tiếng ồn, có nghĩa là khi chúng ta tăng phương sai tiếng ồn, SNR sẽ giảm
do đó và bốn hỗn hợp sau đó sẽ can thiệp với nhau, điều này gây khó khăn cho chúng tôi để
phân loại từng lớp. Mặt khác, tuy nhiên, khi chúng ta giảm phương sai nhiễu, SNR sẽ tăng lên
do đó và bốn hỗn hợp sau đó sẽ ở xa nhau (các lớp được tách ra khỏi nhau), điều này làm cho
việc phân loại trở nên dễ dàng hơn và dẫn đến hầu như không có lỗi.

50
5. MISO với ước tính SNR STBC NDA bằng cách sử dụng thuật toán Tối đa hóa kỳ vọng

Các hệ thống thông tin liên lạc hiện đại yêu cầu ước tính chính xác SNR của Tỷ số tín hiệu
trên nhiễu để sử dụng tối ưu tài nguyên vô tuyến [5], [9]. Kiến thức về SNR là một yêu cầu
trong hầu hết các ứng dụng để phát hiện tín hiệu tối ưu, điều khiển công suất. Hệ thống
MIMO nâng cao đáng kể độ chính xác của việc ước tính SNR bên cạnh nhiều cải tiến khác về
tốc độ dữ liệu, dung lượng kênh và có thể giảm thiểu mờ đa đường ở các thiết bị ở xa. Các
chế độ phân tập khác nhau đang được sử dụng, phân tập thời gian, phân tập tần số, phân
tập không gian. Một hệ thống MIMO thường bao gồm M ăng ten phát và N ăng ten thu. Sự
chú ý sẽ được dành cho sự đa dạng truyền vì một số lý do, sau đó sẽ được so sánh với SISO
và SIMO. Truyền đa dạng hoặc MISO sẽ cải thiện hiệu suất hệ thống của chúng tôi mà không
cần chi phí, kích thước, và nguồn mà SIMO sẽ có để cải thiện chất lượng của tín hiệu nhận
được [12]. Vì lý do đó, các kỹ thuật phân tập anten được sử dụng tại Trạm gốc. Một kỹ thuật
phân tập truyền đơn giản sẽ được giải thích ở đây và đã được thực hiện bởi Alamouti trong
[12]. Mã thời gian không gian được sử dụng để tạo ra tín hiệu dự phòng. Bản sao tín hiệu
không chỉ được truyền từ một ăng-ten khác mà còn được truyền vào một thời điểm khác. Tín
hiệu s1và s2được gửi trong biểu tượng đầu tiên, sau đó là một tín hiệu
bản sao của –s*2và s* 1được thêm vào để tạo mã khối thời gian không gian Alamouti.

5.1 Mô hình đa dạng nhận thông thường (SIMO):

RX # 1

RX # 2
h2
Lược đồ kết hợp

TX # 1

RX # NR
Hình 5.1 Mô hình hệ thống SIMO / Nhận đa dạng

51
trong đó i = 1, 2,. . . . . , NR. và n = 1, 2 ,. . . . . , N.

1
/ ,Ө exp

1
/, Ө exp

5.2 Mô hình phân tập phát (MISO):

h
TX # 1

h
TX # 2

RX # 1

TX # N
Hình 5.2 MISO / Mô hình hệ thống phân tập phát

trong đó i = 1, 2,. . . . . , NT. và n = 1, 2 ,. . . . . , N.

1 ∑ 1
/ ,Ө exp

1 ∑ 1
/, Ө exp

52
5.3 Mô hình MIMO:

h11

TX # 1
RX # 1

TX # 2 RX # 2

hNT NR

TX # N RX # NR

Hình 5.3 Mô hình hệ thống MIMO

trong đó i = 1, 2,. . . . . , NT, j = 1, 2,. . . . . , NRvà n = 1, 2 ,. . . . . , N và hijlà độ lợi kênh giữa

anten phát i và anten thu j.

1
/ ,Ө exp

1
/, Ө exp

53
 5.4 Phân tập truyền cho trường hợp BPSK:

Cách tiếp cận này đang được thực hiện bởi Alamouti [12] trong đó hai ăng ten phát và một ăng

ten thu đã được sử dụng. Tại một thời điểm nhất định, n, hai tín hiệu được gửi đồng thời từ hai

ăng ten. Biểu thị từng tín hiệu được gửi bởi ăng-ten, S1và tín hiệu được gửi bởi ăng-ten hai

bởi, S2. Sau đó, chúng tôi lặp lại gửi - S* 2từ ăng-ten đầu tiên, sau đó đến S*1từ thứ hai

ăng-ten, việc đặt hàng này sẽ được thực hiện đối với tất cả dữ liệu của chúng tôi. Đây được gọi là mã hóa không gian và thời gian. Mô hình của

chúng tôi trong trường hợp này sẽ giống như,

∗ ∗

Sau đó, chúng tôi có thể viết nó dưới dạng ma trận dưới dạng,

∗ ∗ ∗ , 1,2,…. . , / 2. 5.1

⊗
trong đó R (n) là các mẫu nhận được từ cả hai anten tại thời điểm n, H là ma trận thu
được kênh phức, S (n) là các ký hiệu được gửi tại thời điểm n từ hai anten, W (n) là phức
đối xứng tròn Gaussian mẫu tiếng ồn tại thời điểm n,Rlà vectơ của nhận

mẫu,TôiLà Ma trận nhận dạng trong đó N là tổng số mẫu nhận được,Slà

vector biểu tượng đã gửi,Wlà vectơ nhiễu tại máy thu, ⊗ là tích kroncker và H như sau;

∗ ∗

Hàm phân phối xác suất cho dữ liệu nhận được tại một thời điểm nhất định n, với dữ liệu đã
truyền, được cho bởi,
1 ‖ ‖
/ ,Ө exp 5.2

;Ө / ,Ө /Ө

Giả sử một ký hiệu dữ liệu có khả năng như nhau.

1 ‖ ‖
;Ө exp
4

54
 1 | | | |
;Ө exp
4

Đối với trường hợp BPSK, 1, 1, 1, 1.

1 1 1 1
ở đâu ∈ , , , .
1 1 1 1

Sau đó chúng tôi có thể viết lại ; Ө như sau,

1 | | | |
;Ө exp
4
| | | |
exp

| | | |
exp

| | | |
exp

;Ө
| | | | ∗ ∗ | | | |
1 2 2
exp
4
| | | | ∗ ∗ | | | |
2 2
exp

| | | | ∗ ∗ | | | |
2 2
exp

| | | | ∗ ∗ | | | |
2 2
exp

1 | | | | | | | |
;Ө exp ∗
4

55
 ∗ ∗
2 2
exp

∗ ∗
2 2
exp

∗ ∗
2 2
exp

∗ ∗
2 2
exp

1 | | | | | | | |
;Ө exp
4
∗ ∗
2 2
∗ 2 cosh

∗ ∗
2 2
2cosh

Chúng ta biết rằng,

cosh cosh 2cosh cosh

2 2

1 | | | | | | | |
;Ө exp
2
∗ ∗ ∗ ∗
2 2 2 2
∗ 2 cosh cosh

1 | | | | 2| | 2| |
;Ө exp

∗ ∗ ∗ ∗
2 2 2 2
∗ cosh cosh 5.3

Đối với N. . . đã nhận được các mẫu của R (n), bản phân phối PDF Chung sẽ được viết như sau,

/
1 | | | | 2|| 2||
;Ө exp

∗ ∗ ∗ ∗
2 2 2 2
∗ cosh cosh 5,4

Sau đó, chức năng Khả năng ghi nhật ký sẽ được cung cấp bởi,

56
 /

Ө ;Ө

/
1 | | | | 2| | 2| |
Ө exp

∗ ∗ ∗ ∗
2 2 2 2
∗ cosh cosh

/
| | | | 2| | 2| |
Ө

∗ ∗
2 2
cosh

∗ ∗
2 2
cosh 5.5

. Tuy nhiên, h1, h2là

Bây giờ đưa ra mẫu đã nhậnR,ước tính các thông số h1, h2và các biến phức tạp, vì vậy chúng

ta cần ước lượng phần thực và phần ảo của chúng một cách riêng biệt.

Để cho

Bây giờ các thông số của chúng tôi như sau,

;Ө
Ө

10 5,6

57
 5.5 CRLB cho phân tập truyền trong trường hợp BPSK.

Đối với trường hợp DA:

Trong trường hợp này, chúng tôi giả định rằng chúng tôi biết dữ liệu được truyềnSvà muốn tìm một giới hạn thấp hơn về

phương sai trong trường hợp này. Chúng tôi biết rằng CRLB được cung cấp bởi,

Ө
Ө Ө

ở đâu Ө là ma trận thông tin của ngư dân được đưa ra bởi,

;Ө
Ө
ӨӨ

Và,

20 20 20 20 10
Ө 10 10 10 10 10

ở đâu || ||.

1 ‖ ‖
/ ,Ө exp

/
1 ‖ ‖
/ ,Ө exp

/
‖ ‖
Ө

/
| | | |

| | | |

58
 /

| | |∗ |

∗ ∗

/
Ө 1 ∗
2 2

/
Ө 1
2 2

/
1
2 2

/
Ө 1 2
4

Ө Ө Ө
Ө Ө Ө Ө

Ө 2 Ө
,Ө

Ө
Ө 0
Ө Ө

59
 2
0000
2
0 00 0
2
Ө Ө 0 0 0 0
2
0 00 0
1
0000

Ө
Ө Ө

20
2
0000 10
2 20
0 00 0 10
20 20 20 20 10 2 20
0 0 0 0
10 10 10 10 10 10
2 20
0 0 0 0
10
0000 10
10

100 2
1 5,7
log 10

Đối với trường hợp NDA:

/
| | | | 2| | 2| |
Ө

∗ ∗ ∗ ∗
2 2 2 2
cosh cosh

Chúng ta cần tìm ma trận thông tin cá cho hàm Khả năng này để tìm CRLB cho trường hợp
NDA.

Ө
Ө , và Ө Ө vì ,
ӨӨ

60
 Ө Ө Ө
Ө , Ө , Ө ,

Ө Ө Ө
Ө , Ө ,Ө ,

Ө Ө Ө
Ө ,Ө , Ө ,

Ө Ө Ө
Ө ,Ө , Ө

Ө Ө Ө
Ө , Ө ,Ө .

/
∗ ∗ ∗
Ө 4 2 2 2

∗ ∗
2 2 2

/
∗ ∗ ∗ ∗
Ө 2 2 2 2

∗ ∗
2 2 2 2

/
∗ ∗ ∗
Ө 2 2 2 2

∗ ∗ ∗
2 2 2 2

/
∗ ∗ ∗
Ө 2 2 2 2

∗ ∗ ∗
2 2 2 2

61
 /
∗ ∗ ∗
Ө 4 2 2 2

∗ ∗ ∗ ∗ ∗
2 2 2 2 2

∗ ∗
2 2 2

∗ ∗ ∗ ∗
2 2 2 2 2

/
∗ ∗ ∗
Ө 4 2 2 2

∗ ∗
2 2 2

/
∗ ∗ ∗
Ө 2 2 2 2

∗ ∗ ∗
2 2 2 2

/
∗ ∗ ∗
Ө 2 2 2 2

∗ ∗ ∗
2 2 2 2

/
∗ ∗ ∗
Ө 4 2 2 2

∗ ∗ ∗ ∗ ∗
2 2 2 2 2

∗ ∗
2 2 2

∗ ∗ ∗ ∗
2 2 2 2 2

62
 /
∗ ∗
Ө 4 2 2 2

∗ ∗ ∗
2 2 2

/
∗ ∗
Ө 2 2 2 2

∗ ∗ ∗ ∗
2 2 2 2

/
∗ ∗
Ө 4 2 2 2

∗ ∗ ∗ ∗
2 2 2 2 2

∗ ∗ ∗
2 2 2

∗ ∗ ∗ ∗ ∗
2 2 2 2 2

/
∗ ∗
Ө 4 2 2 2

∗ ∗ ∗
2 2 2

/
∗ ∗
Ө 4 2 2 2

∗ ∗ ∗ ∗
2 2 2 2 2

∗ ∗ ∗
2 2 2

∗ ∗ ∗ ∗ ∗
2 2 2 2 2

63
 /
Ө 2 | | | ∗| 2| | 2| |
2

∗ ∗ ∗ ∗
2 2 2 2
2

∗ ∗ ∗ ∗
2 2 2 2

∗ ∗ ∗ ∗
2 2 2 2
2

∗ ∗ ∗ ∗
2 2 2 2

Tích hợp số được sử dụng để tìm kỳ vọng thống kê của mỗi mục nhập trong ma trận thông tin ngư
dân sau đây.

Ө Ө Ө Ө Ө

Ө Ө Ө Ө Ө

Ө Ө Ө Ө Ө
Ө

Ө Ө Ө Ө Ө

Ө Ө Ө Ө Ө

Điều này sau đó được sử dụng để tìm CRLB cho SNR như sau,

Ө
Ө Ө

5.6 Ước tính SNR STBC NDA bằng thuật toán EM.

Trong ước tính SNR sắp tới, dữ liệu BPSK sẽ được sử dụng, nhưng người ta có thể chọn bất kỳ sơ đồ báo

hiệu nào. Thuật toán EM sẽ được sử dụng để ước tính SNR. Thuật toán EM sẽ ước tính lặp đi lặp lại các

kênh và phương sai nhiễu sau đó được sử dụng để ước tính SNR. Vấn đề là, với các mẫu nhận đượcRmà

không có kiến thức về các ký hiệu được truyền, hãy ước lượng các tham số chưa biết. Tại mỗi thời điểm,

chúng tôi nhận được một mẫu, chúng tôi không biết mẫu này thuộc về hỗn hợp nào trong bốn hỗn hợp.

Dữ liệu nhận được của chúng tôi sẽ không đầy đủ, điều này sẽ không dễ dàng đối với MLE

64
được sử dụng để ước tính các tham số của nó; chúng tôi sử dụng một phương pháp lặp lại như thuật toán EM. Chúng ta bắt

đầu bằng cách viết hàm phụ,

Ө, Ө /, Ө ,/Ө ,Ө

Ө, Ө / ,Ө / ,Ө

/ ,Ө

Ө, Ө / ,Ө ∑

/ ,Ө 2 ∑

/ ,Ө

/ , Ө1

Ө, Ө / ,Ө

Ө Ө, Ө
Ө

/
Ө, Ө
/ ,Ө

/
1 ∗
/ ,Ө 5,8

/
Ө, Ө
/ ,Ө

65
 /
1 ∗
/ ,Ө 5.9

/
Ө, Ө
/ ,Ө

/
1 ∗
/ ,Ө 5.10

/
Ө, Ө
/ ,Ө

/
1 ∗
/ ,Ө 5.11

/
Ө, Ө
/ ,Ө

/
1
/ ,Ө 5.12

trong đó M = 4 trong trường hợp PBSK của chúng tôi và N là kích thước mẫu nhận được. Ngoài ra, các lớp hỗn hợp

được giả định có khả năng như nhau. Phương trình (5.8) - (5.12) sẽ được sử dụng để cập nhật các tham số một cách

lặp đi lặp lại bắt đầu từ các giá trị ban đầu cho các tham số đó. May mắn thay, mô hình của chúng tôi có một tham số

tối ưu toàn cục, giúp chúng tôi không nghĩ rằng các giá trị mà chúng tôi ước tính có thể là cực đại cục bộ. MSE & CRLB

sẽ được vẽ cho các giá trị khác nhau của N.

66
 Alamouti cho N = 128

CÔ E - EM
0,6 CR LBDA
CR LBNDA

0,5
MSE & CRLB (dB)2

0,4

0,3

0,2

0,1
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 5.4. MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 128.

Alamouti cho N = 512

CRL BDA
0,16
CÔ E - EM
CRL BNDA
0,14

0,12
MSE & CRLB (dB)2

0,1

0,08

0,06

0,04

0,02
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 5.5. MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 512.

67
 Alamouti cho N = 1024
0,08
CRL BDA
CÔ E - EM
0,07 CRL BNDA

0,06
MSE & CRLB (dB)2

0,05

0,04

0,03

0,02

0,01
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 5.6. MSE & CRLB tính bằng dB2so với SNR tính bằng dB khi N = 1024.

Thời gian hội tụ, τ của Thuật toán EM. (SNR = 8dB):

Kích thước dữ liệu, N Thời gian hội tụ, τ tính bằng Thời gian hội tụ, τ tính Thời gian hội tụ, τ tính bằng
giây cho một lần chạy bằng giây cho 2000 mô giây cho 10000 mô phỏng
phỏng Monte Carlo Monte Carlo

τ1 τ2000 τ10.000

N = 128 0,131456 6.881052 34.264368

N = 512 0,140788 27.668970 139,303882

N = 1024 0,173774 91.254040 456.952999

Các mô phỏng được thực hiện bằng MATLAB phiên bản 7.13.0.564 (R2011b), với bộ xử lý CPU
Intel (R) Core (TM) i7860 @ 2,80 GHz với RAM 4 GB.

68
 NDA CRLB, N = 128
0,6 DA CRLB, N = 128
MSE- E M, N = 128
NDA CRLB, N = 512
0,5
DA CRLB, N = 512
MSE- E M, N = 512
MSE & CRLB tính bằng (dB)2

0,4 NDA CRLB, N = 1024

DA CRLB, N = 1024
MSE- E M, N = 1024
0,3

0,2

0,1

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 5.7. MISO với trường hợp STBC BPSK.

2
NDACRLB, N = 128
1,8 DA CRLB, N = 128
MSE-E M, N = 128
1,6 NDACRLB, N = 512
DA CRLB, N = 512
1,4 MSE-E M, N = 512
MSE & CRLB tính bằng (dB)2

NDACRLB, N = 1024
1,2
DA CRLB, N = 1024
MSE-E M, N = 1024
1

0,8

0,6

0,4

0,2

0
0 2 4 6 số 8 10 12 14 16 18 20
SNR (dB)

Hình 5.8. Trường hợp SISO BPSK.

69
 6. Kết luận
Trong nghiên cứu này, phân tập truyền được sử dụng như một cách để cải thiện độ chính xác của
ước tính SNR. SNR được ước tính bằng cách sử dụng thuật toán EM theo cách NDA sử dụng mã hóa
khối không gian thời gian (STBC) được thực hiện bởi Alamouti [12]. Ngoài ra, CRLB cho trường hợp
DA và NDA được lấy và vẽ biểu đồ sau đó được sử dụng để đánh giá hiệu suất của công cụ ước tính
của chúng tôi. Điều này đã được thực hiện cho hệ thống chòm sao BPSK. Nó đang được thực hiện
cho các cỡ mẫu khác nhau, N; 128, 512 và 1024. Chúng tôi thấy rằng CRLB và MSE tỷ lệ nghịch với
kích thước mẫu N. Ngoài ra, khi chúng tôi tăng SNR, CRLB và MSE ngày càng trở nên gần nhau hơn
cho đến khi chúng khớp ở một số điểm SNR cao. Nói chung, vấn đề phát hiện phụ thuộc nhiều vào
SNR và N. Đó là sự cân bằng giữa hai yếu tố này. Ví dụ: nếu SNR thấp, thì chúng ta cần tăng N để
giảm xác suất lỗi và ước tính MSE. Tuy nhiên, mặt khác, nếu SNR cao, thì N nhỏ sẽ phù hợp với
chúng ta. Kỹ thuật này sau đó được so sánh với các kiểu máy SISO [3], [4], [8], [10] và SIMO [5], [9].
Hệ thống SIMO sẽ có một số hạn chế, đặc biệt là khi được áp dụng cho điện thoại di động như, kích
thước và giá thành của điện thoại cũng như mức tiêu thụ điện năng. Thay vì phân tập được thực
hiện ở mỗi đơn vị từ xa, thay vào đó, nó được thực hiện tại trạm gốc. Ví dụ, có hai ăng-ten ở trạm
gốc bao phủ hàng trăm đơn vị từ xa (có một ăng-ten thu) sẽ tiết kiệm hơn việc có hàng trăm đơn vị
từ xa (mỗi đơn vị có hai ăng-ten) và một ăng-ten phát tại trạm gốc. Đây là lý do chính của việc chọn
MISO với hệ thống STBC hơn hệ thống SIMO.

7. Công việc trong tương lai

1. Ước tính SNR sử dụng thuật toán EM với các tín hiệu được điều chế tuyến tính khác ngoài BPSK

như M ‐ QAM và M ‐ PSK.

2. Ước lượng SNR của Bayes.

3. Ước lượng SNR MIMO bằng thuật toán EM.

4. Ước lượng SNR trong nhiễu không Gauss.

70
8. Tài liệu tham khảo:

[1] CM Bishop, Nhận dạng mẫu và học máy. Springer năm 2006.

[2] SM Kay, Các nguyên tắc cơ bản về xử lý tín hiệu thống kê. Prentice Hall, 1993.

[3] A. Wiesel, J. Goldberg, và H. Messer, “Ước tính tỷ lệ tín hiệu trên nhiễu không hỗ trợ dữ liệu,”
Communications, 2002. ICC 2002. Hội nghị quốc tế IEEE về, tập. 1, trang 197‐201, 2002.

[4] A. Das, “Ước tính SNR NDA: CRLB và các công cụ ước tính dựa trên EM,” trong proc. TENCON 2008, Hyderabad, Ấn

Độ, tháng 11 năm 2008, trang 1‐6.

[5] MA Boujelben, F. Bellili, S. Affes và A. Stephenne, “Thuật toán EM cho ước tính SNR không hỗ trợ dữ

liệu của tín hiệu được điều chế tuyến tính qua các kênh SIMO,” trong proc. Truyền thông IEEE GLOBCOM

2009, trang 1‐6.

[6] AP Dempester, NM Laird và DB Rubin, “Khả năng tối đa từ dữ liệu không đầy đủ thông qua thuật toán

EM,” Tạp chí của Hiệp hội Thống kê Hoàng gia. Dòng B, không. 1, trang 1‐38, 1977.

[7] TK Moon, “Thuật toán tối đa hóa kỳ vọng”, Quy trình tín hiệu IEEE. Mag., Tập. 13, trang 47‐
60, tháng 11 năm 1996.

[8] NS Alagha, “Giới hạn ước tính SNR cho các tín hiệu được điều chế BPSK và QPSK,” thư IEEE

Communications, tập. 5, không. 1, trang 10‐12, tháng 1 năm 2001.

[9] MA Boujelben, F. Bellili, S. Affes và A. Stephenne, “Ước tính SNR qua các kênh SIMO từ các tín hiệu

được điều chế tuyến tính,” trong proc. Xử lý tín hiệu IEEE British Crown, vol. 58, n0. 12, tháng 12 năm

2010, trang 6017‐6028.

[10] A. Das và M. Miller, “Phát hiện không tuyến tính từ xa thông qua phối màu công suất liên tục và
ước tính SNR dựa trên EM,” Hội thảo quốc tế về truyền thông vệ tinh và vũ trụ. IWSSC, sept. 2007.

[11] F. Rice, B. Cowley, và M. Rice, “Cramer ‐ rao bán giới hạn thấp hơn để ước tính pha và tần số
QAM,” IEEE Trans. Truyền thông, vol. 49, trang 1582‐1591, sept. Năm 2001.

[12] SM Alamouti, “Một kỹ thuật phân tập truyền đơn giản cho truyền thông không dây,” IEEE Trans.

Truyền thông, vol. 16, trang 1451‐1458, sept. Năm 1998.

71
[13] N. Celandroni, E. Ferro, và F. Potorti, “Ước tính chất lượng của tín hiệu điều chế PSK,” IEEE Comm. Mag.,

Trang 50‐55. Tháng 7 năm 1997.

[14] K. Balachandran, SR Kadaba và S. Nanda, “Ước tính chất lượng kênh và thích ứng tốc độ cho vô tuyến

điện thoại di động,” IEEE J. Select Areas Comm., Vol. 17, trang 1244-1256, tháng 7 năm 1999.

[15] F. Bellili, S. Affes và A. Stephenne, “Cramer ‐ Rao Bound cho các ước tính SNR của NDA về Tín hiệu được điều chế

Square QAM,” IEEE trong WCNC 2009, trang 1‐5.

[16] F. Bellili, S. Affes, và A. Stephenne, “Cramer ‐ Rao Bounds cho các ước tính SNR của NDA về Truyền

điều chế Square QAM,” IEEE trên Comm. 2010, trang 3211‐3218.

[17] S. Caiyao, Y. Hongyi và Z. Tianzhong, “Cramer = Rao giới hạn Ước tính SNR cho tín hiệu BPSK và
QPSK qua các kênh SIMO,” IEEE ICSPS 2010, trang 647‐650.

[18] W. Gappmair, R. Lopez ‐ Valcare, và C. Mosquera, “Thuật toán ML và EM cho ước tính SNR không hỗ trợ dữ liệu

của các tín hiệu được điều chế tuyến tính,” trong Proc. IEEE giao hưởng. Commun. Syst., Graz, Áo, tháng 7 năm 2008,

trang 530-534.

[19] R. Lopez ‐ Valcare, C. Mosquera, và W. Gappmair, “Ước tính SNR dựa trên lớp bao lặp đi lặp lại cho chòm

sao mô-đun không thay đổi,” trong Proc. IEEE SPAWC'07, Helsinki, Phần Lan, tháng 6 năm 2007, trang 1‐5.

[20] W. Gappmair, R. Lopez ‐ Valcare và C. Mosquera, “Giới hạn dưới Cramer ‐ Rao và thuật toán EM cho ước

tính SNR dựa trên đường bao của chòm sao mô đun không thay đổi,” IEEE Trans. Commun. Tập 57, không. 6,

tháng 6 năm 2009, trang 1622‐1627.

72