Sadraj

m Uvod m Markovljevi modeli m Skriveni Markovljevi modeli m Algoritmi za skrivene Markovljeve modele

Temporalni podaci
m Podaci dobiveni otipkavanjem m Uz prostornu i vremenska komponenta
q

Ureenost vremenske komponente i usporedivost u smislu ranije i kasnije

Markovljev Markov ljev model (1/2)

m Definicija
q

Stanja Sekvenca Markovljevo svojstvo N-tog reda P(qt = j | qt-1 = i, , qt-N = x, , qt-(N+M) = z) = P(qt = j | qt-1 = i, , qt-N = x)

Stacionarnost P(qt = j | qt-1 = i)= P(qt+x = j | qt+x-1 = i)

Uz pretpostavku Markovljevog svojstva 1. reda

Markovljev Markov ljev model (2/2)

m Vjerojatnost sekvence
q

Uvjetna vjerojatnost Bayesov teorem P(A, B)= P(A | B) P(B)

Vjerojatnost sekvence Markovljevog modela P(q1, q2, , qT)= = P(q1)P(q2|q1)P(q3|q1,q2) P(qT|q1,, qT-1)= = P(q1)P(q2|q1)P(q3|q2) P(qT|qT-1)

Vjerojatnost inicijalnog stanja i = P(q1 = i) 1 i N

Uz pretpostavku Markovljevog svojstva 1. reda

Primjer dijagram stanja

q

Dijagram dobiven uz sekvencijalno opaanje pravilnim intervalima (npr. 1 opaanje dnevno) Suma izlaznih prijelaza stanja je 1
0.2 0.5

0.7

Sunano 0.1 0.1 0.4

0.2 0.5

Oblano

0.3 Kiovito

Primjer - predikcija
m Predikcija (prognoza): koja je vjerojatnost da e vrijeme poevi od sutra biti sunano-sunanosunano-oblano-oblano-kiovito-sunano? Danas je sunano.
S: Sunano, O: Oblano, K: Kiovito P({S,S,S,O,O,K,S} | model)=
= P(S) P(S|S) P(S|S) P(S|S) P(O|S) P(O|O) P(K|O) P(S|K)=

=1.0 0.70.70.70.20.50.30.1 = 1.029E-3

Utjecaj Markovljevog svojstva na sloenost - ilustracija (1/2)

m Vjerojatnost stanja
q q

Vjerojatnost stanja u trenutku t: P(qt= i) Naivan algoritam

l

Vjerojatnost da put u trenutku t zavrava u stanju i

Qt(i)= (q1, q2, , qt=i)

Suma vjerojatnosti preko svih putova koji zavravaju u stanju i u trenutku t

O(Nt)
7

Utjecaj Markovljevog svojstva na sloenost - ilustracija (2/2)

m Vjerojatnost stanja
q

Efikasan algoritam
l

Rekurzivan izraun vjerojatnosti: pamtimo sumu vjerojatnosti da parcijalni put zavrava u nekom voru, za svaki vor

O(N2t)

m Algoritmi preko Markovljevih modela o kojima e biti rijei upravo su rekurzivnog tipa
8

MM Primjer (1/3)
m N (neprozirnih) urni sa obojenim kuglicama u M razliitih boja.
l

konkretno: N= 3 and M= 4

q q q

Svaka urna sadri kuglice uz poznatu distribuciju Izvukavi kuglicu iz urne, vraamo je nazad u istu urnu Proces selekcije urne je stohastiki
Urna 1 Urna 2 Urna 3

MM Primjer (2/3)
m Proces selekcije urne
Urna 2 0.6 Urna 1 0.4 0.1 0.1 Poetna urna
10

0.5 0.2 0.2 0.8 Urna 3 0.1

MM Primjer (3/3)
m Primjer sekvence - vidljiva su oba procesa:
q q

Proces odabira urne Proces vaenja kuglice

Urna 1 Urna 2 Urna 3 Urna 2

Urna 1

t=1

t=2

t=3

t=4

t=5 11

Primjer sa urnama skriveni Markovljev model (HMM)

m Vidljiv je samo proces vaenja kuglice iz urne (sekvenca je ista)
q q q

Opaamo rezultate vaenja kuglica u trenutku t Ne moemo opaziti koja urna je odabrana u trenutku t Dakle, odabir urne, tj. informacija o trenutanom stanju je skrivena.
Urna 1,2 ili 3? Urna 1,2 ili 3? Urna 1,2 ili 3? Urna 1,2 ili 3?

Urna 1,2 ili 3?

t=1

t=2

t=3

t=4

t=5 12

HMM
m HMM je MM sa skrivenom sekvencom stanja
q q

Opaamo samo sekvencu opaanja. Dvostruki stohastiki proces:

l l

Skriveni stohastiki proces (sekvenca stanja) Vidljivi stohastiki opaanja proces koji generira sekvencu

Primjene: prepoznavanje govora, identifikacija govornika, prepoznavanje rukopisa, raspoznavanje gesti, modeliranje jezika, praenje objekata na temelju video signala...

13

HMM definicija (1/2)

m Notacija: =(A,
q

B, )

A: Vjerojatnosna distribucija prijelaza stanja

A= {aij }, 1 i, j N,
gdje je N broj stanja
q

B: Vjerojatnosna distribucija vidljivog simbola

B= {bj(k)}, 1 j K,
gdje je K broj simbola
q

: Vjerojatnosna distribucija poetnog stanja

= {i}, 1 i N
14

HMM definicija (2/2)

m Struktura ovisnosti
q

Markovljevo svojstvo 1. reda za tranziciju

Uvjetna nezavisnost opservacijskih parametara

15

HMM primjer sa urnama

Urna 2

0.6

Urna 1

0.5 0.2 0.2 0.1 0.1

0.8 Urna 3

Broj stanja: N=3.

l

0.4

{1, 2, 3}

Broj opservacija: M=4.

l

0.1

{uta, plava, crvena, magenta }

Distribucija poetnog stanja.

l

=[1, 0, 0]

16

HMM primjer sa urnama

q

Vjerojatnosna distribucija prijelaza stanja

Urna 1

Urna 2

0.6 0.5 0.2 0.4 0.1 0.1 0.8

Urna 3

0.2

Vjerojatnosna distribucija vidljivog simbola

0.1

17

Osnovni problemi i algoritmi

m Osnovni problemi
1. 2. 3.

Estimacija stanja (filtriranje) Predikcija Zaglaivanje (smoothing)

l

FORWARD

FORWARD-BACKWARD

4.

Najvjerojatnije objanjenje opservacijske sekvence

l

Viterbi

5.

Uenje modela
l

Baum-Welch
18

Osnovni problemi i algoritmi

m Osnovni problemi
1. 2. 3.

Estimacija stanja (filtriranje) Predikcija Zaglaivanje (smoothing)

l

FORWARD

FORWARD-BACKWARD

4.

Najvjerojatnije objanjenje opservacijske sekvence

l

Viterbi

5.

Uenje modela
l

Baum-Welch
19

Notacija

q q q q

Skriveno stanje stohastika varijabla: Skriveno stanje ishod: Opaeno stanje: Indeksiranje vremenski indeks
l

Raspon indeksa oznaavamo dvotokom, npr.

20

Estimacija stanja (1/2)

m Odravati trenutanu estimaciju stanja na online nain m Poeljno (i ostvarivo) rekurzivna estimacija
Na temelju estimacije stanja u prolom vremenskom koraku i nove opservacije, generirati novu estimaciju

21

Estimacija stanja (2/2)

Poznato iz modela

Predikcija

Forma poruke

22

Estimacija stanja primjer sa urnama

m Neka je opservacijski slijed m Traimo:
0.4 0.1 0.8
Urna 3 Urna 1

Urna 2

0.6 0.5 0.2 0.2

0.1

0.1

23

Predikcija stanja

m Rekurzivni izraz slino kao kod estimacije stanja

m Primjer sa urnama za vjebu.

24

Zaglaivanje (1/2)
m A posteriori distribucija preko prolih stanja, uz opservacije do aktualnog trenutka:

m I ovaj algoritam bit e u rekurzivnoj formi

FORWARD-BACKWARD

25

Zaglaivanje (2/2)
m Preostaje BACKWARD dio:

Poznato iz modela

Inicijalizacija:
26

Zaglaivanje primjer sa urnama

m Neka je opservacijski slijed m Traimo:
0.4 0.1 0.8
Urna 3 Urna 1

Urna 2

0.6 0.5 0.2 0.2

0.1

m Otprije (FORWARD): m Dalje:

0.1

27

FORWARDFORWARD -BACKWARD, sloenost (1/2)

m Naivno:
q

Jedna rekurzija FORWARD i BACKWARD (za jedan vremenski trenutak): O(t) Zaglaivanje preko cijele sekvence: O(t2)

m Pametno:
q

Najprije izraun FORWARD i spremanje rezultata (kao u prethodnom primjeru)

28

FORWARDFORWARD -BACKWARD, sloenost (2/2)

29

Najvjerojatnija sekvenca stanja (1/2)

m Problem: pronai najvjerojatniju sekvencu stanja koja je generirala neku sekvencu opaanja
q

Sekvencu stanja promatramo kao put kroz graf iji su vorovi mogua stanja za svaki trenutak Markovljevo svojstvo (prvog reda) omoguava rekurzivnu relaciju najvjerojatnijeg puta do xt+1 i najvjerojatnijih putova do svakog od stanja xt

30

Najvjerojatnija sekvenca stanja (2/2)

m Viterbi algoritam

q q

Rekurzija je tipa filtriranja Umjesto FORWARD poruke ima desni maksimizirajui lan

m Za vjebu: primjer sa urnama

31