Notes

Xû lþ £nh
Ch÷ìng 6: N²n £nh sè

Bi¶n so¤n: Ph¤m V«n Sü

Bë mæn Xû lþ t½n hi»u v Truy·n thæng

Khoa Kÿ thuªt i»n tû I
Håc vi»n Cæng ngh» B÷u ch½nh Vi¹n thæng

ver.19a

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 1 / 20

Têng quan v· n²n £nh sè Notes

T¤i sao ph£i n²n £nh sè?

C¦n thi¸t cho: L÷u trú; Truy·n t£i

N²n dú li»u £nh l t¼m ki¸m ph÷ìng ph¡p nh¬m biºu di¹n thæng tin £nh vîi mët
l÷ñng dú li»u nhä nh§t

ành lþ m¢ hâa thù nh§t cõa Shannon

Vîi mët nguçn ríi r¤c khæng nhî X, ë d i trung b¼nh tø m¢ l̄ cõa b§t cù bë m¢
n o l k¸t qu£ cõa ph²p m¢ hâa khæng tên hao khæng thº nhä hìn entropy cõa
nguçn. Nâi c¡ch kh¡c
l̄ ≥ H (X )

ành lþ m¢ hâa thù hai cõa Shannon

N¸u tèc ë dú li»u R khæng v÷ñt qu¡ kh£ n«ng thæng qua cõa k¶nh C 0 th¼ câ thº
x¥y düng ÷ñc ph²p m¢ hâa cho ph²p truy·n tin mët c¡ch tin cªy qua k¶nh câ
nhi¹u. Nâi c¡ch kh¡c:

N¸u R ≤ C 0 th¼ ∃C : pe −→ 0 khi l → ∞

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 2 / 20
Têng quan v· n²n £nh sè Notes
Mët sè kh¡i ni»m cì b£n: T sè n²n, ë d÷ thøa dú li»u t÷ìng èi

T sè n²n dú li»u CR = bb0

I Th÷íng vi¸t C : 1

ë d÷ thøa dú li»u t÷ìng èi RD = 1 − C1R

I æi khi vi¸t R
D × 100%
N¸u b = b 0 ⇒ L÷ñng dú li»u biºu di¹n giú nguy¶n: CR = 1, RD = 0
N¸u b << b 0 ⇒ L÷ñng dú li»u biºu di¹n ÷ñc mð rëng (ch±n th¶m dú li»u):
CR −→ 0, RD −→ ∞
N¸u b >> b 0 ⇒ L÷ñng dú li»u biºu di¹n ÷ñc gi£m nhä: CR −→ ∞,
RD −→ 0
Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 3 / 20

Têng quan v· n²n £nh sè Notes

Mët sè kh¡i ni»m cì b£n: C¡c lo¤i dú li»u d÷ thøa trong £nh sè

Ba lo¤i d÷ thøa dú li»u ch½nh trong £nh sè:

I D÷ thøa m¢ hâa
I D÷ thøa khæng gian, thíi gian
I Nhúng thæng tin khæng th½ch hñp

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 4 / 20

Têng quan v· n²n £nh sè Notes
Mët sè kh¡i ni»m cì b£n: C¡c ti¶u ch½ ¡nh gi¡ ch§t l÷ñng

C¡c ti¶u ch½ ¡nh gi¡ kh¡ch quan

I Sai sè giúa £nh gèc v £nh khæi phöc t¤i iºm (x , y ):
e (x , y ) = fˆ(x , y ) − f (x , y )
F e (x , y ) = 0 ∀x , y ⇒ n²n khæng tên hao
Têng sai sè giúa £nh gèc v £nh khæi phöc: Mx =−01 Ny =−01 |fˆ(x , y ) − f (x , y )|
P P
I

I Sai sè trung b¼nh qu¥n ph÷ìng giúa £nh gèc v £nh khæi phöc:
PM −1 PN −1 ˆ
erms = y =0 |f (x , y ) − f (x , y )|
q
1 2
x =0
NM
PM −1 PN −1 ˆ2
I SNRms = P x =0 y =0 f (x ,y )
M −1 PN −1 [fˆ(x ,y )−f (x ,y )]2
x =0 y =0
C¡c ti¶u ch½ ¡nh gi¡ chõ quan
I MOS: {−3, −2, −1, 0, 1, 2, 3} t÷ìng ùng { r§t tçi, tçi, hìi tç, khæng thay êi,
hìi tèt hìn, tèt hìn, r§t tèt hìn }

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 5 / 20

Têng quan v· n²n £nh sè Notes

Ph¥n lo¤i v mæ h¼nh h» thèng n²n £nh: Ph¥n lo¤i

Theo quan iºm b£o to n thæng tin:

Theo ph÷ìng ph¡p:
I N²n khæng tên hao (lossless data RLE (run length encoding)
compression) I

M¢ hâa thèng k¶
I N²n câ tên hao (lossy data I

M¢ hâa tø iºn
compression) I

I M¢ hâa chuyºn êi

Theo °c t½nh thay êi:
Theo mæ h¼nh n-user:
I M¢ th½ch nghi (adaptive) Tªp trung
M¢ khæng th½ch nghi
I
I

(nonadaptive)
I Ph¥n t¡n
Theo sü ph¡t triºn cõa lþ thuy¸t:
Theo khæng gian dú li»u sû döng:
N²n trong mi·n khæng gian £nh
I Ph÷ìng ph¡p n²n th¸ h» thù nh§t
I

I N²n trong mi·n chuyºn êi (t¦n

I Ph÷ìng ph¡p n²n th¸ h» thù hai
sè, ...)

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 6 / 20

Têng quan v· n²n £nh sè Notes
Ph¥n lo¤i v mæ h¼nh h» thèng n²n £nh: Mæ h¼nh h» thèng n²n £nh

M¢ hâa: thüc hi»n n²n dú li»u £nh

1 Khèi ¡nh x¤ (mapper)
F Ph²p thuªn nghàch (reversible)
2 Khèi l÷ñng tû hâa (quantizer)
F Ph²p khæng thuªn nghich (irreversible) ⇒ Khæng câ m°t trong c¡c h» thèng
n²n khæng tên hao
3 Khèi m¢ hâa kþ hi»u (symbol coder)
F Ph²p thuªn nghàch
F Th÷íng sû döng c¡c bë m¢ khæng ·u v g¡n theo nguy¶n t­c m¢ hâa tèi ÷u
º gi£m nhä ë d÷ thøa m¢ hâa
Gi£i m¢: thüc hi»n gi£i n²n dú li»u £nh
I Thüc hi»n c¡c thao t¡c ng÷ñc l¤i cõa ph½a m¢ hâa
I Khèi gi£i l÷ñng tû l thao t¡c khæng thuªn nghich n¶n trong tr÷íng hñp têng
qu¡t khæng ÷ñc tr¼nh b y
Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 7 / 20

Têng quan v· n²n £nh sè Notes

Mët sè chu©n n²n cì b£n

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 8 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes
M¢ hâa Huffman: Têng quan

Thuëc lîp m¢ hâa Entropy, m¢ hâa n²n dú li»u khæng tên hao (lossless data
compression)
L lîp m¢ vîi ë d i tø m¢ thay êi (variable-length code)
Bë m¢ thu ÷ñc l bë m¢ câ t½nh prefix.
Y¶u c¦u ph¥n bè cõa nguçn ph£i bi¸t tr÷îc.
Thuëc d¤ng thuªt to¡n "Greedy".
L thuªt to¡n m¢ hâa tèi ÷u.

ành lþ
M¢ hâa Huffman l m¢ hâa tèi ÷u. Nâi c¡ch kh¡c, gåi l̄H l ë d i trung b¼nh tø
m¢ cõa bë m¢ Huffman cho nguçn ríi r¤c X , l̄ l ë d i trung b¼nh tø m¢ cõa bë
m¢ t¤o ÷ñc bði mët ph÷ìng ph¡p n o â, khi â chóng ta câ:

l̄Huffman ≤ l̄
Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 9 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes

M¢ hâa Huffman: M¢ hâa

Input: X = {xk } vîi c¡c x¡c su§t ph¥n bè p (xk ) t÷ìng ùng.

x1 x2 xN
 
...
X = {xk } =
p (x1 ) p (x2 ) . . . p (xn )
Output: C¡c tø m¢ nhà ph¥n mklk t÷ìng ùng vîi tin xk
1 Khði ëng danh s¡ch c¥y nhà ph¥n câ mët nót, trång sè c¡c nót l x¡c su§t
t÷ìng ùng cõa c¡c tin xk , s­p x¸p danh s¡ch theo mët trªt tü t«ng d¦n cõa
trång sè
2 Thüc hi»n l°p c¡c b÷îc sau ¸n khi thu ÷ñc mët nót duy nh§t.
1 T¼m hai c¥y T 0 v T 00 trong danh s¡ch c¡c nót gèc câ trång sè tèi thiºu p0 v
p 00 . Thay th¸ chóng b¬ng mët c¥y câ nót gèc câ trång b¬ng p 0 + p 00 v c¡c
c¥y con l T 0 v T 00 .
2 G¡n nh¢n 0 v 1 tr¶n c¡c nh¡nh tø gèc mîi ¸n c¡c c¥y T 0 v T 00 .
3 S­p x¸p danh s¡ch c¡c nót gèc theo thù tü t«ng d¦n cõa trång x¡c su§t.
3 Duy»t tø gèc cuèi còng ¸n nót l¡: tê hñp c¡c b½t nh¢n tr¶n ÷íng duy»t l
c¡c tø m¢ t÷ìng ùng vîi c¡c tin.

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 10 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes
M¢ hâa Huffman: Gi£i m¢

Input: Chuéi m¢ hâa

Output: T¼m d¢y tin t÷ìng ùng
1 Khði ëng, °t con trä P ch¿ ¸n gèc (root) cõa c¥y m¢ hâa Huffman. G¡n
con trä b½t b réng.
2 L°p c¡c b÷îc sau ¸n khi gi£i m¢ h¸t chuéi m¢ hâa:
1 G¡n b b¬ng b½t ti¸p theo cõa chuéi m¢.
F N¸u b = 0 dàch con trä P theo nh¡nh câ nh¢n 0, n¸u ng÷ñc l¤i, dàch con trä P
theo nh¡nh câ nh¢n 1.
2 N¸u P ¢ ch¿ ¸n nót l¡ th¼ ghi ra tin t÷ìng ùng vîi tø cöm m¢. Khði ëng l¤i
c¡c con trä (P ch¿ ¸n gèc, b b¬ng réng)

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 11 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes

M¢ hâa ë d i ch¤y: Têng quan

≡ M¢ hâa lo¤t d i ch¤y, RLE (Run-length Encoding)

÷ñc ph¡t triºn v o nhúng n«m 1950
I Trð th nh ti¶u chu©n n²n cho m¢ truy·n t£i FAX
Thüc hi»n ìn gi£n, thüc thi m¢ hâa nhanh
I ÷ñc hé trñ bði h¦u h¸t c¡c ành d¤ng file £nh nhà ph¥n nh÷ BMP, TIFF,
PCX, ...
¤t ÷ñc hi»u qu£ n²n b¬ng c¡ch lo¤i bä d¤ng d÷ thøa dú li»u khæng gian
ìn gi£n
I M¢ hâa mët nhâm c¡c iºm £nh li¶n ti¸p câ còng gi¡ trà mùc x¡m → th÷íng

th nh 2 bytes: 1 byte ¸m, 1 bytes gi¡ trà

F Mët nhâm c¡c iºm £nh li¶n ti¸p câ còng gi¡ trà mùc x¡m ÷ñc gåi l mët lo¤t
d i ch¤y
I ⇒ Khæng ¤t ÷ñc hi»u qu£ n²n, thªm ch½ câ sü mð rëng (t«ng l¶n) v· dú
li»u n¸u câ qu¡ ½t ho°c khæng câ nhúng nhâm iºm £nh câ gi¡ trà mùc x¡m
l°p gièng nhau
Khæng ¤t ÷ñc hi»u qu£ n²n cao nh÷ c¡c ph÷ìng ph¡p n²n kh¡c

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 12 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes
M¢ hâa tø iºn LZW - Têng quan

÷ñc Abraham Lempel, Jacob Ziv ph¡t triºn v ÷ñc c£i ti¸n bði Terry
Welch n«m 1984
I ÷ñc gåi l ph÷ìng ph¡p m¢ hâa tø iºn LZW
Thuëc lîp m¢ hâa khæng tên hao
Thuëc lîp m¢ hâa thuªt to¡n tø iºn
I Khai th¡c °c t½nh d÷ thøa khæng gian cõa £nh º ¤t hi»u qu£ n²n
I Câ kh£ n«ng tê chùc tø iºn º ¤t hi»u qu£ cao
Khæng y¶u c¦u ph£i bi¸t tr÷îc ph¥n bè cõa nguçn, thuªt to¡n th½ch nghi

Ùng döng rëng r¢i trong thüc t¸, l cì sð cõa nhi·u tr¼nh ti»n ½ch n²n dú li»u
th÷ìng m¤i

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 13 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes

M¢ hâa tø iºn LZW - Thuªt to¡n

Thuªt to¡n m¢ hâa LZW

Input: Cho tr÷îc chuéi kþ tü nguçn X = x1 x2 . . . xn (n r§t lîn)
Output: B£ng tø iºn cì b£n v d¢y m¢ cõa chuéi kþ tü nguçn ¢ cho
1 Khði ëng b£ng tø m¢ cì b£n khði ¦u
2 L°p cho ¸n khi to n bë kþ tü trong chuéi nguçn ÷ñc duy»t h¸t:
1 T¼m ki¸m trong chuéi kþ tü nguçn ¢ cho cöm kþ tü ti·n tè d i nh§t w ¢ câ
m°t trong b£ng tø iºn m¢. Nâi c¡ch kh¡c, t¼m ki¸m cöm kþ tü ti·n tè w d i
nh§t m X = (w , X 0 )
2 Vi¸t tø m¢ t÷ìng ùng vîi w v o d¢y tø m¢
3 Cªp nhªt b£ng m¢ vîi tø m¢ mîi ÷ñc t¤o th nh tø cöm kþ tü (w , xk ), vîi xk
l kþ tü ngay ti¸p theo cöm w trong chuéi kþ tü nguçn
4 Cªp nhªt X = X 0

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 14 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes
M¢ hâa tø iºn LZW - X¥y düng tø iºn

B£ng tø iºn cì b£n:

I ë lîn phö thuëc v o k½ch th÷îc kþ tü cì b£n cõa nguçn c¦n m¢ hâa
F Khi bà tr n → Ph£i khði ëng l¤i v t«ng k½ch th÷îc
F L mët tham sè quan trång cõa h» thèng: Qu¡ nhä → t câ kh£ n«ng ph¡t hi»n
c¡c d¢y l°p; Qu¡ lîn ⇒ ƒnh h÷ðng ¸n hi»u qu£ n²n
I Ph½a gi£i m¢ ch¿ c¦n thæng tin cõa b£ng tø iºn n y
I Câ thº th¶m mët sè m¢ °c bi»t: CC (Clear Code), EOI (End of Information),
...
B£ng tø iºn m¢ hâa, gi£i m¢:
I ÷ñc x¥y düng v cªp nhªt tø b£ng m¢ cì b£n trong qu¡ tr¼nh m¢ hâa, gi£i
m¢
F Cöm kþ tü nguçn ch÷a câ m°t trong tø iºn ÷ñc °t v o tø iºn t¤i và tr½
÷ñc x¡c ành b¬ng thuªt to¡n

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 15 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes

M¢ hâa bi¸n êi DCT: H» thèng

M¢ hâa:
I Chia £nh k½ch th÷îc M × N → vòng £nh (khèi £nh) k½ch th÷îc n × n
I Thüc hi»n ph²p bi¸n êi tr¶n c¡c vòng £nh (khèi £nh)
F ⇒ Gi£i t÷ìng quan giúa c¡c iºm £nh; "âng gâi" thæng tin £nh nhi·u nh§t
v o sè l÷ñng ½t nh§t c¡c h» sè bi¸n êi
I L÷ñng tû hâa º lo¤i bä (gi£m nhä) c¡c h» sè khæng quan trång (mang ½t
thæng tin v· £nh)
F ¥y l kh¥u t¤o ra hi»u ùng n²n
Gi£i m¢:
I L qu¡ tr¼nh ng÷ñc l¤i cõa qu¡ tr¼nh m¢ hâa (ngo¤i trø khèi l÷ñng tû hâa)
M¢ hâa bi¸n êi DCT l h» thèng m¢ hâa bi¸n êi khèi trong â ph²p bi¸n êi
DCT ÷ñc lüa chån
Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 16 / 20
Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes
M¢ hâa bi¸n êi DCT: H m bi¸n êi

C°p bi¸n êi DCT-IDCT

Mët khèi £nh f (x , y ) (n × n), F (u , v ) = DCT {f (x , y )} ÷ñc x¡c ành:

n −1 X
n −1
(2x + 1)u π (2y + 1)v π
X    
F (u , v ) = f (x , y )α(u )α(v )cos cos
2n 2n
x =0 y =0

 1 vîi u = 0
q
n
trong â α(u ) = q v
 2 vîi u = 1, 2, . . . , n − 1
n
 1 vîi v = 0
q
n
α(v ) = q
 2 vîi v = 1, 2, . . . , n − 1
n
V khèi £nh f (x , y ) câ thº ÷ñc khæi phöc tø F (u , v ) thæng qua ph²p bi¸n êi
ng÷ñc, f (x , y ) = IDCT {F (u , v )}, ÷ñc x¡c ành:

n −1 X
n −1
(2x + 1)u π (2y + 1)v π
X    
f (x , y ) = F (u , v )α(u )α(v )cos cos
2n 2n
u=0 v =0
Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 17 / 20

×u iºm cõa DCT:

I Cho ph²p gi£m nhä sai sè trung b¼nh b¼nh ph÷ìng
Mët sè ph÷ìng ph¡p n²n £nh cì b£n
I Gi£m hi»u ùng c­t, khæng li¶n töc cõa c¡c h» sè chuyºn êi c¡c khèi £nh t¤i
bi¶n khèi Notes
M¢ hâa bi¸n¤t
I êi ÷ñc
DCT:sai sè trung
L÷ñng tû hâab¼nh ch§p nhªn ÷ñc khi k½ch th÷îc vòng £nh ð gi¡ trà
vøa ph£i

Câ 3 c¡ch cì b£n ph¥n ng÷ïng:

I Sû döng mët ng÷ïng to n cöc
I Méi khèi £nh mët ng÷ïng x¡c ành
I Ng÷ïng thay êi theo và tr½ c¡c h» sè trong khèi £nh
 
F (u,v )
K¸t hñp giúa ph¥n ng÷ïng v l÷ñng tû hâa: F̂ (u , v ) = round Z (u,v )

Z (u , v ) ph¦n tû cõa ma trªn chu©n hâa bi¸n êi (cán gåi l ma trªn l÷ñng tû
hâa)

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 18 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes
M¢ hâa bi¸n êi DCT: Chu©n n²n JPEG - Têng quan

JPEG (Joint Photographic Expert Group) l mët ành d¤ng n²n £nh chu©n
Quèc t¸ ÷ñc cæng nhªn n«m 1990
I Chõ y¸u dòng cho £nh a mùc x¡m, ho°c £nh m u
JPEG k¸t hñp c£ kÿ thuªt n²n tên hao v n²n khæng tên hao
I ¤t hi»u qu£ n²n tèt vîi £nh kÿ thuªt sè thæng th÷íng
Duy»t m¢ hâa theo ÷íng zig-zag
I S­p x¸t c¡c th nh ph¦n t¦n sè t«ng d¦n

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 19 / 20

Mët sè ph÷ìng ph¡p n²n £nh cì b£n Notes

M¢ hâa bi¸n êi DCT: Chu©n n²n JPEG

Bi¶n so¤n: Ph¤m V«n Sü (PTIT) Xû lþ £nh ver.19a 20 / 20