Giáo trình Kĩ thuật thông tin số - Chương 4: Mã hóa nguồn
- Chæång IV -
Chæång
4
Ma hoa nguän
Hã thäng thäng tin âæåc sæ dung âã truyãn tin tæc tæ nguän tin âãn nhán tin. Nguän tin sinh
ra tin dæåi nhiãu dang khac nhau, vê du ám thanh trong hã thäng radio, tên hiãu video trong
hã thäng vä tuyãn truyãn hçnh...
Tin nay co thã âæåc âæa træc tiãp vao kãnh âã truyãn âi, nhæng trong thæc tã, tin nay thæång
âæåc biãn âäi räi âæa vao kãnh truyãn. Vê du nhæ tin la vàn ban tiãng Anh, nguän tin co
khoang 40 ky tæ (symbol) khac nhau, gäm cac máu tæ alphabet, con sä, dáu chám cáu...Vã
nguyãn tàc ta co thã dung 40 dang song âiãn ap khac nhau âã biãu thë 40 ky tæ nay. Tuy
nhiãn thæc tã thç phæång phap nay khäng phu håp, qua kho thæc hiãn hay thám chê khäng thã
âæåc, vç:
-
Kãnh truyãn khäng phu håp vã màt vát ly âã co thã mang nhiãu ky tæ khac nhau nhæ
váy.
-
-
Dai tán âoi hoi se rát räng.
Viãc læu træ hay xæ ly tên hiãu træåc khi truyãn rát kho, trong khi nãu chuyãn sang nhë
phán thç moi viãc se dã dang hån nhiãu.
Váy ta tháy cán phai thay âäi dang cua tin khac âi so våi dang ban âáu do nguän cung cáp.
Cäng viãc thay âäi dang nay âæåc goi la ma hoa (encoding).
Cå så ly thuyãt cua ma hoa la ly thuyãt tin (information theory). Ly thuyãt tin liãn quan âãn
viãc biãu diãn tin bàng cac ky tæ, âæa ra giåi han ly thuyãt cho viãc thæc hiãn hã thäng thäng
tin, cho phep âanh gia hiãu suát cua hã thäng thæc tã. Nãn tang cua ly thuyãt tin do Hartley
va Nyquist âæa ra tæ nhæng nàm 1920 va âæåc Shannon hoan chènh va täng kãt vao nàm
1948. Âáy la mät ly thuyãt phæc tap, phán âáu cua chæång nay danh âã trçnh bay nhæng ván
âã cå ban nhát cua ly thuyãt tin.
Vã cac muc âêch cua ma hoa, ta co thã tom tàt nhæ sau:
- Âënh dang, âã chuyãn tin tæ dang gäc tæ nhiãn sang dang chuán vê du sang dang sä
PCM.
- Ma hoa âæång, âã âam bao dang song cua ky tæ truyãn âi phu håp våi cac âàc âiãm cua
kãnh truyãn.
- Ma hoa nguän (source encoding), nhàm giam sä ky tæ trung bçnh yãu cáu âã truyãn ban
tin.
- Mát ma hoa (encryption), âã ma hoa ban tin bàng mät khoa mát ma nhàm tranh sæ thám
nháp trai phep, âam bao âä an toan cho thäng tin.
- Ma hoa kãnh truyãn (channel encoding), cho phep bãn thu co thã phat hiãn, kã ca sæa
- 81 -
- Chæång IV -
âæåc cac läi trong ban tin thu âã tàng âä tin cáy cua thäng tin.
Phán âënh dang va ma hoa âæång âa âæåc xet âãn trong chæång III. Do nhæng âàc âiãm
riãng, phán mát ma hoa khäng âæåc âã cáp trong giao trçnh nay. Phán ma hoa kãnh truyãn se
âæåc trçnh bay trong chæång sau. Chæång nay trçnh bay vã ma hoa nguän, trong âo táp trung
vao loai ma thäng kã täi æu. Loai ma nay tao ra tæ ma co âä dai thay âäi, trong âo phä biãn la
ma Huffman, bao gäm ma Huffman cå så (basic Huffman) va ma Huffman âäng (dynamic
Huffman). Phán cuäi chæång se giåi thiãu så læåc vã ma hoa fax (facsimile)
4.1 Ly thuyãt tin
4.1.1 Âo tin tæc
Âã âanh gia âënh læång cho tin tæc, ngæåi ta âæa ra khai niãm læång tin (information content).
Læång tin liãn quan âãn gia trë cua tin, hay noi cach khac la kha nàng dæ âoan âæåc
(predictability) cua tin: mät tin co kha nàng âoan træåc cang nhiãu thç cang chæa êt tin. Vê du,
ban tin vã ty sä trán bong Manchester United - Bradford Academicals la 7 - 0 chæa rát êt tin
nhæng kãt qua ngæåc lai thç gáy chán âäng, va do âo chæa rát nhiãu tin. Váy xac suát cang
cao thç ban tin cang chæa êt tin va ngæåc lai. Ta co thã viãt:
p (ban tin) = 1 khäng mang tin
p (ban tin) = 0 mang mät læång tin vä han.
Tæ nhán xet trãn, ta tháy tin cang co y nghéa khi no cang hiãm gàp, nãn âä lån cua no phai ty
lã nghëch våi xac suát xuát hiãn cua tin.
Xet nguän tin X råi rac sinh ra cac tin i våi xac suát la p(i), læång tin cua tin i phai la mät
ham co cac âàc âiãm sau:
-
-
-
Ty lã nghëch våi xac suát xuát hiãn p(i), hay âo la ham f(1/p(i)).
Ham nay phai la 0 khi p(i) = 1.
Nãu hai tin âäc láp thäng kã la i va j âäng thåi xuát hiãn, ta co tin la (i,j), læång tin
chung cua chung phai bàng täng læång tin cua tæng tin, nghéa la:
f(1/p(i,j)) = f(1/p(i)) + f(1/p(j))
Theo luát nhán xac suát ta co:
Do âo:
p(i,j) = p(i).p(j)
f(1/(p(i).p(j))) = f(1/p(i)) + f(1/p(j))
Ta tháy ham loga thoa man tát ca cac yãu cáu nay. Váy ham log(1/p(i)) âæåc chon âã âanh
gia âënh læång cho tin. Læång tin cua mät tin i âæåc ky hiãu la I(i). Âënh nghéa læång tin cua
mät tin i la:
1
I(i) = log
= −logp(i)
p(i)
- 82 -
- Chæång IV -
Âån vë âo cua læång tin tuy thuäc vao cå sä cua loga. Âån vë cua læång tin la bit, la nat hay
la hartley khi cå sä cua loga lán læåt la 2, la e hay la 10. Trong âo cå sä 2 thæång âæåc chon
hån ca. Khi chon cå sä 2 thç læång tin cua tin i la:
1
I(i) = log
= −log p(i) (bit)
2
2 p(i)
Váy co thã âënh nghéa bit nhæ sau: bit la læång tin mang trong mät ky tæ co xac suát xuát hiãn
la p = 0,5.
4.1.2 Entropy cua nguän tin
Entropy H âæåc âënh nghéa la gia trë trung bçnh thäng kã cua læång tin. Âo la læång tin trung
bçnh chæa trong mät ky tæ bát ky cua nguän tin.
Xet mät nguän tin sinh ra M ky tæ âäc láp thäng kã. Nguän tin nay âæåc goi la nguän råi rac
khäng nhå (discrete memoryless source). Entropy cua nguän nay la:
M
1
H = p(m)log
(bit/ky tæ)
∑
2
p(m)
m=1
trong âo p (m) la xac suát chon ky tæ thæ m.
Ly thuyãt tin âa chæng minh gia trë lån nhát cua entropy la H
cac ky tæ âäc láp va âäng xac suát (equiprobable), nghéa la:
= log M , âat âæåc khi
2
max
p(m) =1/ M, ∀m =1,M
Âäi våi nguän tin ASCII co M = 128 thç entropy cæc âai la:
Hmax = - log2(1/128) = 7 (bit/ky tæ).
Thæc tã thç âiãu nay kho xay ra nãn entropy cua nguän ASCII la:
128
1
H = p(m)log
< 7 (bit/ky tæ)
∑
2
p(m)
m=1
Âäi våi nguän tin nhë phán co M = 2, nãu p (1) = 1 va p (0) = 1-p thç entropy la:
2
1
1
1
H = p(m)log
= plog + (1− p)log
(bit/ky tæ)
∑
2
2
p(m)
p
2 1− p
m=1
4.1.3 Entropy co âiãu kiãn va âä dæ
Âäi våi cac nguän tin trong âo viãc sinh ra ky tæ sau khäng âäc láp thäng kã våi cac ky tæ
træåc âo ( goi la nguän co nhå - memory source) thç cäng thæc entropy trãn khäng âu täng
quat âã tênh âæåc entropy chênh xac.
Trong træång håp nay phai xet âãn xac suát co âiãu kiãn (conditional probability). Vê du våi
nguän co nhå mät ky tæ, nghéa la ky tæ sau âæåc chon phu thuäc vao mät ky tæ træåc âo,
entropy âæåc tênh nhæ sau:
- 83 -
- Chæång IV -
1
H =
p(j,i)log
(bit/ky tæ)
∑ ∑
2
p(ji)
i
j
å âáy p(j,i) la xac suát nguän chon i va j, p(ji) la xac suát nguän chon j nãu træåc âo âa
chon i. Theo âënh ly Bayes, ta co:
p(j,i) = p(i)p(ji)
Váy:
1
H = p(i) p(ji)log
(bit/ky tæ)
∑ ∑
2
p(ji)
i
j
Sæ khac nhau giæa entropy thæc sæ cua nguän va entropy cæc âai goi la âä dæ (redundancy)
cua nguän, ky hiãu la r:
1
r = H − H = log M − p(i) p(ji)log
(bit/ky tæ)
∑ ∑
2 p(ji)
max
2
i
j
Âä dæ tæång âäi cua nguän âæåc âënh nghéa nhæ sau:
H
− H
H
max
r =
=1−
H
H
max
max
4.1.4 Sæ mát mat tin do nhiãu
Goi ky tæ nguän thæ i âæåc truyãn âi la i , xac suát xuát hiãn i la p(i ), læång tin cua
TX
TX
TX
i
la I (i ):
TX TX
TX
1
I (i ) = log
(bit)
2 p(i )
TX TX
TX
Âäi våi kãnh khäng nhiãu (noiseless channel), gia sæ âiãn ap v tæång æng våi ky tæ phat la
RX
i , khi bãn nhán tin tach âæåc v thç co thã biãt chàc chàn ky tæ phat å nguän la i .
TX
RX
TX
Læång tin trong træång håp nay âæåc bao toan khi truyãn qua kãnh:
1
I (v :i ) = I (i ) = log
(bit)
2 p(i )
RX
RX
TX
TX TX
TX
Tuy nhiãn, âäi våi kãnh co nhiãu (noise channel), khi bãn nhán tin tach âæåc âiãn ap v thç
RX
khäng thã kãt luán chàc chàn vã ky tæ thæc phat å nguän. Sæ khäng chàc chàn nay liãn quan
âãn xac suát p(i v ), âáy la xac suát phat ky tæ thæ i va tach âæåc âiãn ap v å bãn
TX
RX
RX
nhán (Âäi våi kãnh khäng nhiãu, xac suát nay la 1). Âäi våi kãnh co nhiãu, tin nhán âæåc êt
hån tin truyãn âi mät læång liãn quan âãn âä khäng chàc chàn cua quyãt âënh. Thæc tã, læång
tin nhán âæåc la:
- 84 -
- Chæång IV -
p(i v )
TX
RX
I (v :i ) = log
2
(bit)
RX
RX
TX
p(i )
TX
Gia sæ bãn nhán tin thæc hiãn quyãt âënh cæng, âiãn ap v chuyãn âäi træc tiãp thanh ky tæ
RX
nhán la i . Trong træång håp nay, læång tin nhán âæåc la:
RX
p(i i )
TX RX
I (i ) = log
(bit)
RX RX
2
p(i )
TX
Sæ suy giam læång tin trong mäi ky tæ do nhiãu co nghéa la entropy nhán nho hån entropy
phat. Entropy nhán chênh la entropy hiãu qua (effective entropy) cua cac ky tæ nhán. Ky hiãu
entropy hiãu qua la H va âæåc tênh nhæ sau:
eff
H = p(i )I (i ) (bit/ky tæ)
∑
eff
RX
RX RX
i
å âáy p(i ) la xac suát thu ky tæ thæ i.
RX
Sæ khac nhau giæa H va entropy phat goi la âä nghi ngå (equivocation) E:
eff
H = H - E (bit/ky tæ)
eff
Âä nghi ngå âæåc tênh tæ viãc ta khäng chàc la ky tæ truyãn âi co giäng våi ky tæ nhán âæåc
hay khäng. Sæ khäng chàc chàn nay la do kãnh truyãn co nhiãu nãn co thã xem nhiãu chênh
la tin ám cäng vao dong ky tæ phat.
Âä nghi ngå âæåc âënh nghéa la:
1
1
E =
p(i , j )log
=
p(j ) p(i j )log
RX TX RX 2
∑ ∑
∑
∑
TX
RX
2
i
j
p(i j )
j
i
p(i j )
TX RX
TX RX
å âáy p(j )la xac suát nhán ky tæ thæ j, p(i j )liãn quan âãn xac suát läi ky tæ.
RX
TX RX
4.1.5 Täc âä láp tin cua nguän tin
Ngoai thäng sä cå ban cua nguän la entropy tuy thuäc vao cáu truc thäng kã cua nguän, con
co mät thäng sä khac tuy thuäc vao tênh chát vát ly cua nguän. Âo la täc âä thiãt láp tin
(information rate) cua nguän, ky hiãu la R. Thäng sä nay chè ra sæ hçnh thanh tin nhanh hay
chám âã âæa vao kãnh. Vê du con ngæåi, do kãt cáu cua cå quan phat ám nãn mäi giáy chè
phat ám âæåc tæ 5 âãn 7 tiãng, trong khi mät thiãt bë âáu cuäi sä liãu co thã âat âãn hang
ngan ky hiãu trong mät giáy.
Täc âä thiãt láp tin cua nguän co âån vë la læång tin trãn âån vë thåi gian (træång håp dung
loga cå sä 2 thç âån vë la bit/s) va âæåc tênh la têch cua entropy våi sä ky hiãu láp âæåc trong
mät âån vë thåi gian:
- 85 -
- Chæång IV -
R = n H (bit/s)
0
trong âo n0 la sä ky hiãu láp âæåc trong mät âån vë thåi gian, tuy thuäc vao tênh chát vát ly
cua nguän.
Ta tháy âã náng cao täc âä thiãt láp tin cua nguän cán thiãt phai náng cao entropy. Täc âä
láp tin cua nguän se cæc âai khi entropy cua nguän cæc âai.
4.1.6 Thäng læång kãnh
Âënh nghéa thäng læång cua kãnh (channel capacity) la læång tin täi âa kãnh cho âi qua trong
mät âån vë thåi gian ma khäng gáy läi. Ky hiãu thäng læång kãnh la C va âån vë âo giäng
nhæ âån vë cua täc âä láp tin (bit/s).
Thäng thæång täc âä láp tin be hån nhiãu so våi thäng læång kãnh:
R << C
a) Træång håp truyãn tin trong kãnh khäng nhiãu:
Khi kãnh khäng nhiãu, toan bä tin tæc âãu âæåc truyãn qua kãnh ma khäng bë läi. Læång tin
täi âa ma kãnh cho qua cung bàng våi læång tin täi âa ma nguän co thã thiãt láp. Váy thäng
læång kãnh la:
C = R = n H (bit/s)
max
max
0
Theo Shannon, nãu R < C thç co thã ma hoa âã lam cho täc âä láp tin cua nguän tiãp cán våi
thäng læång kãnh:
C − R < ε , ε la vä cung be
Phæång phap ma hoa nay âæåc goi la ma hoa thäng kã täi æu.
b) Træång håp truyãn tin trong kãnh co nhiãu:
Trong kãnh co nhiãu, læång tin truyãn âi bë hao hut mät phán do nhiãu nãn thäng læång kãnh
bë giam âi. Læång giam âi âo chênh la læång tin bë nhiãu pha huy trong mät âån vë thåi gian,
âæåc tênh bàng n0 E. Váy thäng læång kãnh co nhiãu la:
R = n H − n E = n (H − E)
0
max
0
0
max
Theo Shannon, nãu R < C thç co thã ma hoa âã tin âæåc truyãn âi trong kãnh våi xac suát läi
be tuy y va nãu R > C thç khäng thã truyãn tin âi ma khäng bë läi. Phæång phap ma hoa âã
giam xac suát läi âæåc goi la ma hoa âiãu khiãn läi.
Âã so sanh cac loai hã thäng thäng tin khac nhau, ta co thã xet kãnh truyãn cho thuán tiãn.
Xet kãnh co nhiãu gausse tràng, ty sä tên hiãu trãn nhiãu trung bçnh la S/N, bàng thäng cua
kãnh la B. Theo âënh ly Hartley - Shannon, thäng læång cua kãnh nay la:
C = Blog (1+ S/ N) (bit/s)
2
- 86 -
- Chæång IV -
Co thã ap dung räng rai kãt qua nay cho nhiãu hã thäng khac nhau båi vç co thã mä hçnh hoa
nhiãu kãnh thanh kãnh gausse tràng (white gaussian channel). Kãt qua nay cung âæåc cháp
nhán cho ca kãnh liãn tuc va råi rac.
4.2Cå ban vã ma hoa
4.2.1 Âënh nghéa ma hoa
Cho nguän tin råi rac X sinh ra N tin hay ky tæ âäc láp ( x ,x ,...,x ,...,x ). Xet mät táp M
1
2
i
N
co M phán tæ hæu han ( m ,m ,...,m ).
1
2
q
Ma hoa (encoding) nguän tin X bàng táp M co nghéa la biãn âäi mäi tin x cua nguän tin X
i
thanh mät táp cac phán tæ thuäc M nhàm thoa man mät yãu cáu nao âo cua hã thäng thäng
tin:
x → m m ...m
il
i
i1 i2
Phep biãn âäi ngæåc lai:
m m ...m → x
i
i1 i2
il
âæåc goi la giai ma (decoding).
Thäng thæång, sä tin cua nguän tin rát lån nãn sä ky hiãu ma khäng thã bàng hoàc nhiãu hån
sä tin.
4.2.2 Cac tham sä cå ban cua ma hoa
Táp M âæåc goi la ma hiãu (code), cac phán tæ m goi la ky hiãu ma (symbol), sä ky hiãu ma
k
khac nhau trong ma goi la cå sä cua ma. Ma nhë phán la ma cå sä 2, trong âo ma chè co 2 ky
hiãu ma la 0 va 1.
Day liãn tuc cac ky hiãu ma dung âã ma hoa mät tin cua nguän âæåc goi la tæ ma
(codeword). Å âáy tæ ma tæång æng våi tin x la m m ...m .
i
i1 i2
il
Sä ky hiãu ma co trong mät tæ ma âæåc goi la âä dai cua tæ ma (codeword length), ky hiãu la
l. Vê du tæ ma 00100 co âä dai la 5.
Tham sä tiãp theo la trong læång tæ ma (codeword weigh), âo la täng sä cac ky hiãu khac 0
co màt trong tæ ma, ky hiãu la w. Vê du tæ ma 110001 co trong læång la 3.
Mät tham sä næa la khoang cach ma (distance), ky hiãu la d. Âo la sä ky hiãu cung vë trê
khac nhau giæa hai tæ ma dai bàng nhau. Vê du khoang cach giæa hai tæ ma 110001 va
101000 la 3.
Goi C1 va C2 la hai tæ ma dai bàng nhau. Co thã dã dang nhán tháy khoang cach ma giæa hai
tæ ma nay la:
d(C ,C ) = w(C ⊕ C )
1
2
1
2
- 87 -
- Chæång IV -
4.2.3 Phán loai ma
Ta co thã phán loai ma theo nhiãu cach khac nhau. Dæåi âáy la mät sä cach hay gàp:
-
Dæa vao âä dai cua tæ ma, ta phán ra ma co âä dai khäng âäi goi la ma âãu va ma co
âä dai thay âäi goi la ma khäng âãu. Âäi våi ma khäng âãu, âä dai trung bçnh la mät
thäng sä cå ban cua ma va âæåc tênh theobiãu thæc:
M
l = p(m)l
∑
m
m=1
trong âo lm la âä dai tæ ma tæång æng våi ky tæ m.
-
-
-
Dæa vao trong læång cua tæ ma, ta phán ra ma co trong læång khäng âäi va ma co
trong læång thay âäi.
Dæa vao khoang cach ma giæa hai tæ ma kã nhau, ta phán ra ma co khoang cach
khäng âäi va ma co khoang cach thay âäi.
Dæa vao cå sä cua ma, ta phán ra ma nhë phán (ma cå sä 2), ma bat phán (ma cå sä
8), ma hexa (ma cå sä 16)... Trong âo ma nhë phán la ma thäng dung nhát. Chæång
nay ta chè xet ma nhë phán.
-
-
Dæa vao âä tin cáy, ta phán ra ma co kha nàng phat hiãn va sæa läi va ma khäng co
kha nàng phat hiãn va sæa läi
Dæa vao hiãu suát thäng tin, ta phán ra ma täi æu va ma chæa täi æu.
4.2.4 Cac phæång phap biãu diãn ma
a) Phæång phap liãt kã
Âáy la phæång phap biãu diãn ma âån gian nhát: chè cán liãt kã cac tin cua nguän va cac tæ
ma tæång æng trong mät bang.
Vê du: nguän tin co 8 tin (ky tæ), cac tin âæåc ma hoa nhæ bang 4.1
Phæång phap biãu diãn nay co æu âiãm la cu thã, ro rang nhæng âäi våi cac bä ma lån thç qua
cäng kãnh.
Tin
A
B
C
D
E
F
G
H
Tæ ma
000
001
010
011
100
101
110
111
Bang 4.1 Vê du vã bang ma
b) Phæång phap ma trán
Tæ vê du trãn, ta tháy: co nhæng tæ ma la tä håp tuyãn tênh cua cac tæ ma khac. Chàng han
nhæ: D = B ⊕ C,F = B ⊕ E,G = C ⊕ E,H = B ⊕ C ⊕ E. Váy khäng cán thiãt phai liãt
kã hãt tát ca cac tæ ma trong bang ma ma chè cán chon mät sä tæ ma lam cå så. Cac tæ ma cå
så nay se láp thanh bang dæåi dang ma trán va goi la ma trán sinh (generated matrix).
- 88 -
- Chæång IV -
Vê du ma trán sinh tæång æng våi bang ma trãn la:
0 0 1
⎡
⎢
⎢
⎤
⎥
⎥
0 1 0
⎢
⎥
⎦
1 0 0
⎣
Khi thanh láp ma trán sinh, quy æåc loai bo cac tæ ma gäm toan ky hiãu 0.
c) Phæång phap cáy
Cáy ma (code tree) gäm co nut gäc (root node), nut la (leaf node) va cac nut nhanh (branch
node). Gäc cua cáy goi la nut gäc. Tæ nut gäc phán ra täi âa q nhanh (q la cå sä cua ma). Mäi
nhanh mang mät ky hiãu ma, âo la gia trë cua nhanh. Nhanh âæåc bàt âáu å nut mæc i va kãt
thuc å nut mæc i+1. Nut ma tæ âo con phán nhanh tiãp goi la nut nhanh. Tæ mäi nut nhanh
phán ra täi âa q nhanh. Nut cuäi cung cua cáy goi la nut la. Mäi nut la biãu diãn mät cho mät
tæ ma. Tæ ma bao gäm cac ky hiãu ma la gia trë cua cac nhanh theo thæ tæ âi tæ nut gäc qua
cac nut nhanh âãn nut la.
Hçnh 4.1 la vê du vã mät cáy ma cho bä ma nhë phán gäm cac tæ ma la 00, 01, 10, 1101,
11001.
Mæc
1
Mæc 1
Mæc 2
0
1
0
1
00
01
10
0
Mæc 3
Mæc 4
0
1
1
1101
Mæc 5
11001
Hçnh 4.1 Vê du vã cáy ma
Nhçn vao cáy ma ta co thã biãt âæåc âáy la ma âãu hay khäng âãu. Ma la âãu khi tát ca cac
nut la co cung mæc. Ma biãu diãn bàng cáy ma å hçnh 4.1 thuäc loai ma khäng âãu.
d) Phæång phap âa thæc
Phæång phap nay dung lam mä hçnh toan âã biãu diãn ma vong. Æu âiãm cua phæång phap
nay la co thã thæc hiãn ma hoa va giai ma ma vong dã dang bàng cach sæ dung cac phep toan
âäi våi âa thæc nhæ phep cäng, nhán va chia.
Tæ ma k bit m m ...m m m ( theo thæ tæ tæ trai qua phai la msb âãn lsb) co thã âæåc
k−1
k−2
2
1
0
biãu diãn bàng âa thæc sau:
- 89 -
- Chæång IV -
f (x) = m xk−1 + m xk−2 + ... + m x2 + m x + m
0
k−1
k−2
2
1
Vê du tæ ma nhë phán 1101001 co thã biãu diãn bàng âa thæc: f (x) = x6 + x5 + x3 +1.
4.3 Ma hoa nguän
Hã thäng thäng tin âæåc sæ dung âã truyãn tin tæc tæ nguän tin âãn nhán tin. Nguän tin co rát
nhiãu dang khac nhau, nhæng co thã phán thanh hai loai chênh la nguän liãn tuc (continuous
source) nhæ nguän ám thanh, nguän video... va nguän råi rac (discrete source) nhæ nguän dæ
liãu tæ may tênh.
Trong hã thäng thäng tin sä, âáu ra cua nguän phai âæåc chuyãn thanh dang thêch håp âã co
thã truyãn âi bàng ky thuát sä. Theo sæ phán loai nguän, ta co hai ky thuát ma hoa nguän
chênh la ma hoa nguän liãn tuc va ma hoa nguän råi rac. Näi dung ma hoa nguän liãn tuc
cung trung våi näi dung sä hoa tên hiãu liãn tuc âa xet trong chæång træåc.
Trong phán nay, ta xet qua trçnh ma hoa nguän råi rac (discrete source encoding). Nguän råi
rac la nguän sinh ra cac ky tæ våi mät quy luát phán bä xac suát nao âo. Âã cho âån gian, ta
xet træång håp nguän khäng nhå, cac ky tæ âæåc sinh ra âäc láp våi nhau. Thäng thæång, quy
luát phán bä xac suát sinh ra cac ky tæ la khäng âãu nãn âä dæ cua nguän lån, entropy cua
nguän be, täc âä láp tin cua nguän con xa måi âat âãn thäng læång kãnh. Luc âo nhiãm vu
cua ma hoa nguän råi rac la lam cho cáu truc thäng kã cua nguän trå nãn håp ly bàng cach
tàng entropy cua cac ky tæ dung âã ma hoa nguän.
Nguyãn tàc cua ma hoa nguän råi rac la ma hoa cac ky tæ co xac suát sinh ra lån bàng cac tæ
ma ngàn va ma hoa cac ky tæ co xac suát sinh ra be bàng cac tæ ma dai. Loai ma nay goi la
ma hoa thäng kã (statistical encoding). Mät vê du cua ma hoa thäng kã la ma Morse dung âã
ma hoa ban tin tiãng Anh. Trong ma Morse, ky tæ xuát hiãn nhiãu nhát la 'e' âæåc ma hoa
bàng tæ ma ngàn nhát '.' (1 bit). Dæa theo nguyãn tàc nay ta tháy ma hoa thäng kã giup tranh
hiãn tæång kãnh truyãn bë qua tai khi ban tin chæa qua nhiãu ky tæ co xac suát xuát hiãn lån.
Viãc truyãn tin se trå nãn kinh tã hån nãu ma thäng kã co âä dai trung bçnh cua tæ ma la nho
nhát. Loai ma nhæ váy goi la ma thäng kã täi æu (optimum statistical code). Âáy chênh la ma
hoa nen (copression)
Phán sau âáy se xet cu thã cac tiãu chuán cua ma thäng kã täi æu cå sä 2.
4.3.1 Giåi han cua âä dai tæ ma trung bçnh
Gia sæ nguän tin X sinh ra cac ky tæ xi âäc láp. Ma hoa nguän tin X bàng bä ma nhë phán M,
cac ky hiãu ma 0 va 1 co xac suát bàng nhau p(0) = p(1) = 0.5.
Læång tin riãng cua mät ky hiãu 0 hay 1 bàng våi læång tin trung bçnh va âat gia trë cæc âai:
I(0) = I(1) = log 2 =1 (bit/ky hiãu)
2
Ma hoa ky tæ xi bàng mät tæ ma nhë phán dai li. Nhæ váy læång tin chæa trong tæ ma nay se la
li (bit). Læång tin trung bçnh chæa trong mät tæ ma se la âä dai trung bçnh cua tæ ma, la L (bit)
- 90 -
- Chæång IV -
Âã cho phep ma hoa âat hiãu qua cao, toan bä læång tin riãng trong mäi ky tæ nguän phai
âæåc chuyãn hãt sang cho tæ ma tæång æng, hay læång tin trung bçnh cua tæ ma phai lån hån
hoàc bàng læång tin trung bçnh cua mät ky tæ nguän. Læång tin trung bçnh cua mät ky tæ
nguän chênh la entropy cua nguän H. Váy:
L ≥ H
Âáy la giåi han dæåi cua âä dai trung bçnh cua tæ ma. Dáu bàng chè xay ra khi âä dai cua mät
tæ ma bát ky bàng våi læång tin riãng cua ky tæ ma no ma hoa:
l = −logp(x )
i
i
Vç li la sä nguyãn nãn - logp(xi) phai la sä nguyãn. Khi âo âä dai trung bçnh cua tæ ma se âat
täi thiãu L = Lmin. Ta co bä ma thäng kã täi æu. Thæång thç - logp(xi) khäng phai la sä
nguyãn nãn L ≥ H chè la mät âiãu kiãn giåi han.
Ta co thã tháy: âã âä dai tæ ma trung bçnh nho nhát khi - logp(xi) khäng phai la sä nguyãn
thç L phai thoa man bát âàng thæc sau:
H ≤ L < H +1
Váy giåi han trãn cua âä dai tæ ma trung bçnh la H+1. Mät bä ma co âä dai tæ ma trung bçnh
thoa âiãu kiãn nay âæåc goi la ma thäng kã täi æu.
4.3.2 Hiãu suát ma
Âënh nghéa hiãu suát ma (code efficiency) la ty sä giæa entropy cua nguän tin co cac ky tæ
âäc láp va entropy cæc âai cua nguän âo:
M
1
p(m)log
∑
2
H
p(m)
m=1
η =
x100% =
x100%
H
log M
2
max
Nãu cac ky tæ nguän âæåc ma hoa thanh mät táp cac ky tæ måi nhæ hçnh 4.2 thç H va H max la
entropy va entropy cæc âai cua táp ky tæ måi nay.
Ban tin
(Táp ky tæ 1)
Ban tin
(Táp ky tæ 2)
Ma hoa
Hçnh 4.2 Chuyãn âäi ban tin giæa hai táp ky tæ khac nhau
Nãu cac ky tæ nguän âæåc ma hoa thanh tæ ma nhë phán thç co mät cach khac âã tênh hiãu
suát ma:
- 91 -
- Chæång IV -
H
H
η = x100% =
x100% (bit/sä nhë phán)
M
L
p(m)l
∑
m
m=1
å âáy lm la âä dai cua mäi tæ ma nhë phán va L la âä dai tæ ma trung bçnh.
So sanh hai cäng thæc tênh hiãu suát ma å trãn, ta rut ra âæåc:
H
max (bit/ky tæ) = L (bit/tæ ma)
4.3.3 Giai ma trong træång håp tæ ma co âä dai thay âäi
Noi chung la chung ta âi tçm mät cach ma hoa hæu hiãu co thã biãu diãn cac tin giäng nhau
ma trung bçnh dung êt sä nhë phán hån. Kãt qua la âä dai cua cac tæ ma biãu diãn cac ky tæ
khac nhau se khac nhau. Ván âã âàt ra la lam thã nao âã bãn giai ma nhán ra âæåc âiãm bàt
âáu va kãt thuc cua cac tæ ma dai khac nhau nhæ váy. Sau âáy la cac âàc âiãm cán phai co âã
giai ma våi cac tæ ma dai khac nhau:
a) Giai ma duy nhát (unique decoding)
Âiãu nay la cán thiãt âã cho cac ban tin thu chè co mät nghéa duy nhát. Xet mät nguän tin
gäm 4 ky tæ alphabet, cac ky tæ âæåc ma hoa bàng cac tæ ma nhë phán nhæ sau:
A = 0, B = 01, C = 11, D = 00
Nãu bãn thu nhán âæåc day tæ ma 0011thç khäng biãt la bãn phat truyãn âi DC hay la AAC.
Váy vê du trãn khäng thoa tênh giai ma duy nhát.
b) Giai ma tæc thåi (instaneous decoding)
Báy giå xet mät nguän tin khac gäm 4 ky tæ alphabet, cac ky tæ âæåc ma hoa bàng cac tæ ma
nhë phán nhæ sau:
A = 0, B = 10, C = 110, D = 111
Ma nay co thã giai ma tæc thåi dung cáy ma nhæ trong hçnh 4.3 a, vç khäng co tæ ma hoan
thanh nao la phán âáu (prefix) cua tæ ma khac dai hån no. Ma thoa âiãu kiãn nay goi la ma co
tênh prefix. Vê du nay ngæåc våi vê du træåc co A la phán âáu cua ca B va D.
Âäi khi ma khäng co tênh prefix nhæng ván âam bao giai ma duy nhát, tuy nhiãn luc nay
khäng thã giai ma tæc thåi âæåc ma phai mát thãm thåi gian âã xem xet cac sä tiãp theo træåc
khi kãt luán chênh xac âæåc âiãm kãt thuc cua tæ ma. Vê du nhæ nguän tin sau:
A = 0, B = 01, C = 011, D = 111
Ta tháy nãu bãn thu nhán âæåc sä 0 thç phai chå nhán thãm sä tiãp theo. Nãu sä tiãp theo la 0
thç quyãt âënh sä 0 træåc la A, nãu sä tiãp theo la 1 thç chå nhán thãm mät sä næa, räi cæ tiãp
tuc nhæ váy.
Thuát toan giai ma (hçnh 4.3 c) gia sæ bãn thu âa co sàn bang tæ ma va bang ma ASCII tæång
æng. Dong bit thu âæåc xæ ly trong biãn DONG BIT. Biãn TÆ MA âæåc dung âã læu cac bit
vao mäi tæ ma trong khi cac tæ ma nay âæåc hçnh thanh dán. Nhæ ta tháy tæ læu âä, mäi khi tæ
- 92 -
- Chæång IV -
ma âæåc nhán dang, tæ ma ASCII tæång æng âæåc viãt vao trong biãn BÄ ÂÃM THU. Thu
tuc nay âæåc làp lai cho âãn khi xæ ly hãt tát ca cac bit. Hçnh 4.3 b la mät vê du vã giai ma.
1
(a)
0
A
B
1
C
D
(b)
Dong bit thu:
0
1 0
0
1 1 1
1 1 0 0 - - -
thåi gian
1000001 1000010 1000001
1000100
Tæ ma:
A
B
A
D
Begin
(c)
TÆ MA = 0
Âoc bit tiãp theo tæ DONG BIT &
gàn thãm vao cac bit âang co trong TÆ MA
N
TÆ MA âa co sàn
trong cáy ma ?
Y
Tai ky tæ ASCII vao BÄ ÂÃM THU
Âa xæ ly tát ca bit
trong DONG BIT
N
Y
End
Hçnh 4.3 Thuát toan giai ma va mät vê du giai ma thæc tã
(a) Vê du cáy ma (b) Vê du gia i ma (c) Thuát toan giai ma
- 93 -
- Chæång IV -
4.4Ma hoa Huffman
Nhán tháy xac suát xuát hiãn cua cac ky tæ trong nguän tin la khäng bàng nhau, co nhæng ky
tæ xuát hiãn thæång xuyãn hån nhæng ky tæ khac, nàm 1952, Huffman âa âæa ra mät thuát
toan ma hoa dæa trãn xac suát xuát hiãn cua cac ky tæ. Thuát toan cua Huffman täi æu theo
nghéa âä dai tæ ma trung bçnh la nho nhát. Ma Huffman khäng co âàc tênh sæa läi, nhæng co
tênh giai ma duy nhát va tæc thåi. Sau âáy ta se xet hai vê du, mät vê du vã ma hoa Huffman
cå så va mät vê du vã ma hoa Huffman âäng.
4.4.1 Ma hoa Huffman cå så (basic Huffman encoding)
Gia sæ co mät sä ban tin âæåc truyãn giæa hai may tênh qua mang PSTN. Cac ban tin chè chæa
cac ky tæ tæ A âãn H. Theo kãt qua thäng kã cho tháy xac suát xuát hiãn cua cac ky tæ nhæ
sau:
Ky tæ
A
B
C
D
E
F
G
H
X.suát
0.1
0.18
0.4
0.05
0.06
0.1
0.07
0.04
Entropy cua nguän la:
8
1
H = p(m)log
= 2.55 (bit/ky tæ)
∑
2
p(m)
m=1
Entropy cæc âai cua nguän la:
H = log 8 = 3 (bit/ky tæ)
2
Nhæ váy hiãu suát cua nguän la:
2.55
η =
x100 % = 85 %
3
Nãu mäi ky tæ trãn âæåc ma hoa thanh 3 bit thç hiãu suát ma hoa se giæ nguyãn khäng thay
âäi la 85 %.
Ma hoa Huffman thæc hiãn ma hoa sæ dung êt bit hån cho cac ky tæ co xac suát xuát hiãn cao
vç chung âæåc truyãn âi thæång xuyãn hån va ngæåc lai, nhiãu bit hån cho cac ky tæ co xac
suát xuát hiãn tháp nãn co thã tàng âæåc hiãu suát.
Thuát toan ma hoa Huffman gäm cac bæåc sau:
(1) Sàp xãp cac ky tæ theo thæ tæ xac suát giam dán.
(2) Gan cho hai ky tæ co xac suát xuát hiãn tháp nhát våi hai nhanh (0) va (1) cua cáy ma.
Tæ hai ky tæ co xac suát tháp nhát giam con mät ky tæ våi xac suát bàng täng cua hai
xac suát.
(3) Làp lai tæ bæåc (1) cho âãn khi chè con lai mät ky tæ duy nhát våi xac suát la 1.
(4) Duyãt cáy ma âã tçm ra tæ ma tæång æng våi tæng ky tæ cua nguän.
- 94 -
- Chæång IV -
Hçnh 4.4 a trçnh bay vê du vã ma hoa Huffman cho nguän tin trãn. Nãu ta quy æåc gan cho
nhanh âi ra tæ ky hiãu co xac suát cao hån la 1 va nhanh kia la 0, nhanh 0 ve å bãn trai, nhanh
1 ve å bãn phai thç ta co thã ve lai cáy ma Huffman væa láp âæåc nhæ hçnh 4.4 b.
(a)
C 0.40
B 0.18
A 0.10
F 0.10
G 0.07
E 0.06
D 0.05(1)
H 0.04(0)
0.40
0.40
0.40
0.40
0.40
0.60(1)
0.40(0)
0.18
0.18
0.19
0.23
0.37(1)
0.23(0)
1
0.10
0.13
0.18
0.19(1)
0.18(0)
0.10
0.10
0.13(1)
0.10(0)
0.09
0.10(1)
0.09(0)
0.07(1)
0.06(0)
1.0
(b)
0
1
C 0.40
0.60
0
1
0
0.23
0.37
0
1
1
A 0.10
0.13
B 0.18
0.19
0
1
0
1
E 0.06
0.09
G 0.07
F 0.10
0
1
H 0.04
D 0.05
Thæ tæ trong sä = 0.04 0.05 0.06 0.07 0.09 0.10 0.10 0.13 0.18 0.19 0.23 0.37 0.40 0.60
Hçnh 4.4 Vê du ma hoa Huffman
(a) Tao cáy ma (b) Cáy ma
Goi trong sä cua cac nut trong cáy ma la xac suát cua nut âo, ta nhán tháy cáy ma Huffman
væa láp la cáy ma täi æu theo nghéa thæ tæ trong sä cua cac nut tàng dán theo chiãu tæ dæåi lãn
trãn va trai sang phai.
Nhçn vao cáy ma, ta tháy kãt qua ma hoa Huffman cua nguän tin trãn nhæ sau:
- 95 -
- Chæång IV -
Ky tæ
C
0
B
A
F
G
E
D
H
Tæ ma
110
100
1111
1011
1010
11101
11100
Âä dai tæ ma trung bçnh báy giå la:
L = 1(0.4) + 3(0.18 + 0.10) + 4(0.10 + 0.07 + 0.06) + 5(0.05 + 0.04) = 2.61(bit/ky tæ)
Váy âä låi ma hoa la:
H
2.55
2.61
η = x100 % =
x100 % = 97.7 %
L
Qua vê du trãn ta tháy hiãu suát 85 % khi khäng ma hoa âa tàng lãn âãn 97.7 % khi ma hoa
Huffman.
Ta tháy ràng phæång phap ma hoa Huffman khäng phai chè cho mät bä ma duy nhát, vç ta co
thã ky hiãu bát cæ nhanh nao la 0 hay 1 chæ khäng bàt buäc. Tát nhiãn khi âo hiãu suát ma
hoa se khäng thay âäi, nhæng thæ tæ trong sä cua cac nut se thay âäi.
Do tæ ma Huffman khac nhau âäi våi cac táp ky tæ khac nhau nãn âã bãn thu co thã giai ma
âæåc thç yãu cáu bãn thu phai biãt cac tæ ma liãn quan âãn dæ liãu phat. Co thã thæc hiãn âiãu
nay bàng hai cach. Hoàc la bãn phat gåi bang ma træåc khi phat dæ liãu, hoàc la bãn thu phai
co sàn bang ma.
Phæång phap âáu co æu âiãm la co thã ma hoa nen thêch nghi, vç tæ ma co thã thay âäi cho
phu håp våi kiãu dæ liãu truyãn, nhæng co khuyãt âiãm la phai mát thåi gian truyãn bang ma
måi mäi khi gåi kiãu dæ liãu måi.
4.4.2 Ma hoa Huffman âäng (dynamic Huffman encoding)
Khac våi ma hoa Huffman cå så, phæång phap ma hoa Huffman âäng khäng yãu cáu bãn
phat va bãn thu biãt bang ma liãn quan âãn dæ liãu phat, cung khäng yãu cáu kãt qua thäng
kã xac suát xuát hiãn ky tæ cua nguän tin. Phæång phap ma hoa Huffman âäng cho phep ca
bãn phat (ma hoa) va bãn thu (giai ma) láp cáy ma Huffman - va dán âãn bang ma - mät cach
âäng khi ky tæ âæåc phat/ thu.
Våi phæång phap nay, nãu ky tæ phat âang co màt trong cáy ma thç tæ ma tæång æng se âæåc
xac âënh giäng ma Huffman cå så va gåi âi theo cach thäng thæång. Nãu ky tæ chæa co màt
trong cáy ma - nghéa la xuát hiãn lán âáu, thç no se âæåc gåi âi theo dang khäng nen. Bä ma
hoa bãn phat cáp nhát vao cáy ma Huffman bàng cach tàng sä lán xuát hiãn (tàng trong sä)
cua ky tæ phat hoàc la âæa thãm ky tæ måi vao cáy.
Ngoai ra, âã cho bãn thu co thã xac âënh âæåc ky tæ ma no nhán, mäi tæ ma phat âæåc ma hoa
theo cung cach cua bãn thu. Bãn thu tiãn hanh cac thay âäi giäng nhæ bãn phat va co mät
bang sao riãng cua cáy. Nhå âo bãn thu se xac âënh âung tæ ma tiãp theo âæåc nhán tuy vao
cáu truc cáy måi cáp nhát.
Ca bãn phat va bãn thu âãu bàt âáu våi mät cáy ma chè co mät nhanh trai - nhanh 0 - va mät
- 96 -
- Chæång IV -
nut la räng (empty leaf node) - nut la co 0 lán xuát hiãn.
Âã mä ta chi tiãt phæång phap nay, ta xet vê du ban tin truyãn âi bàt âáu bàng day ky tæ:
A B C D C D C . . .
Hçnh 4.5 minh hoa cac bæåc láp cáy ma Huffman.
Træåc tiãn, ca bãn phat va bãn thu cung thanh láp cáy ban âáu ( mät nhanh 0 va mät nut la
räng e0).
Tiãp theo, bä ma hoa bàt âáu âoc ky tæ âáu tiãn trong ban tin - A - va gan 'A' vao nhanh phai-
nhanh 1 âáu tiãn. Vç âáy la lán xuát hiãn âáu tiãn cua 'A' nãn no âæåc truyãn âi khäng nen
(dang ASCII). Vç cáy bãn giai ma âang räng nãn no nhán ra day bit nhán âæåc la mät ky tæ
khäng nen va no sàp xãp ky tæ nay vao trong cáy theo cach giäng bãn ma hoa (hçnh 4.5a).
Våi mäi ky tæ tiãp theo, træåc hãt bä ma hoa kiãm tra xem ky tæ âo âa co màt trong cáy ma
chæa. Nãu co räi thç bä ma hoa se gåi tæ ma theo cach thäng thæång giäng nhæ ma Huffman
cå så, tæ ma âæåc xac âënh båi vë trê cua ky tæ trong cáy. Nãu chæa co thç bä ma hoa gåi tæ
ma hiãn hanh cho nut la räng - âæåc xac âënh båi vë trê cua nut la räng trong cáy, theo sau la
tæ ma khäng nen cua ky tæ. Vç bä giai ma cung co cáy ma y nhæ váy nãn no co thã suy ra tæ
dong bit nhán âæåc âáu la tæ ma co nen, âáu la nut la räng våi ky tæ khäng nen theo sau.
Bä ma hoa va giai ma cáp nhát vao cáy ma dæa trãn ky tæ cuäi cung âæåc phat/ thu. Nãu âáy
la ky tæ måi thç nut la räng âang tän tai trong cáy âæåc thay bàng mät nut nhanh måi, nut la
räng âæåc gan bãn nhanh 0 va ky tæ bãn nhanh 1 (hçnh 4.5 b).
Nãu ky tæ âa co màt trong cáy thç sä lán xuát hiãn cua nut la tæång æng tàng lãn 1. Vê du hçnh
4.5 e, bä ma hoa kiãm tra va tháy ky tæ 'C' âa co màt trong cáy ma nãn no truyãn âi tæ ma
tæång æng la '01', trong sä cua nut C tæ 1 tàng lãn thanh 2. Cac vê du tæång tæ khac å trong
hçnh 4.5 f va g.
Luc nay, vë trê cua nut la co thã khäng con la vë trê täi æu næa. Vç váy, mäi lán cáp nhát cáy -
tæc la thãm ky tæ måi hoàc tàng sä lán xuát hiãn cua ky tæ sàn co - ca bä ma hoa va giai ma
âãu phai kiãm tra va nãu cán thç phai thay âäi vë trê hiãn tai cua tát ca cac nut trong cáy.
Âã âam bao ca bä ma hoa va giai ma âãu lam viãc nay theo cung mät cach, træåc hãt ca bä
ma hoa va giai ma phai liãt kã cac trong sä cua cac nut theo chiãu tæ trai sang phai, tæ dæåi
lãn trãn bàt âáu tæ nut la räng. Nãu thæ tæ sàp xãp tàng dán thç khäng thay âäi cáy, nãu khäng
âung thç phai thay âäi cáu truc cua cáy bàng cach thay âäi vë trê cua cac nut trong cáy. Khi
âæa nut la âãn vë trê måi phai kem theo toan bä cac nhanh va nut con cua chung (hçnh 4.5 c
âãn 4.5 g).
Qua vê du trãn ta tháy nãu truyãn day ky tæ A B C D C D C... bàng ma ASCII thç mát 49 bit,
trong khi dung ma Huffman âäng thç mát 41 bit. Bàng thäng truyãn dán chè âæåc tiãt kiãm
bàt âáu tæ khi co ky tæ làp lai. Thæc tã, cac file vàn ban luän co sæ làp lai ky tæ, va ma
Huffman âäng âæåc æng dung trong nhiãu æng dung truyãn thäng, nhæ la nen dæ liãu trong
modem V.32.
- 97 -
- Chæång IV -
0
0
0
Ky tæ
Phat
e 0
e 0
1
(a)
(b)
A
'A'
1
1
A1
A1
B
0 'B'
0
1
e 0
B1
0
1
(c)
C
0 0 'C'
2
A1
0
1
1
B1
0
1
e 0
C1
A1
0
1
2
0
1
1
B1
0
1
e 0
C1
(d)
D
1 0 0 'D'
- 98 -
- Chæång IV -
(d)
D
1 0 0 'D'
0
1
A1
3
0
1
2
B1
0
1
1
C1
0
1
e 0
D1
0
1
1
0
2
2
0
1
1
C1
A1
B1
0
1
e 0
D1
(e)
C
01
0
1
1
0
2
2
0
1
1
C2
A1
B1
0
1
e 0
D1
- 99 -
- Chæång IV -
0
1
1
3
2
0
0
1
1
B1
A1
C2
0
1
e 0
D1
3
0
1
1
0
(f)
D
001
3
0
1
2
B1
A1
C2
0
1
e 0
D2
2
0
1
1
4
0
0
1
1
B1
D2
C2
0
1
e 0
A1
2
0
1
1
(g)
C
11
5
0
0
1
1
B1
D2
C3
0
1
e 0
A1
- 100 -
Tải về để xem bản đầy đủ
24 trang
28120
Free
Bạn đang xem 20 trang mẫu của tài liệu "Giáo trình Kĩ thuật thông tin số - Chương 4: Mã hóa nguồn", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- giao_trinh_ki_thuat_thong_tin_so_chuong_4_ma_hoa_nguon.pdf
