:

:
112/07

1.
Matlab N=500 2-D
:

(* + *

(* + *

+)

+)

(* + *

+)

d2 .
,
,
.
N=500;
Y=randn(2,N);
M=[2 4]';
S=[3 -1;-1 2];
[F,L]=eig(S);
for i=1:N
x(1:2,i)=F*sqrt(L)*Y(1:2,i)+M;
end

1. 1.

 1.
d2 . D2
. ( 2).

Odbirci i d2 krive
8
X1
fmax*0.1
fmax*0.5
fmax*0.9

7
6
5
4
3
2
1
0
-1
-4

-2

2.

2. , 2 ,
0,7*500 0,3*500
, :

 3.
Odbirci i d2 krive
10

0
X2
fmax*0.1
fmax*0.5
fmax*0.9

-2

-4
-2

4.

10

12

14

2.
N=1000 2-D
:
(* + *

(*

+ *

+)

+)

(*

+ *

+)

a) .

.
.
, .
f11=1/(2*pi*det(S1)^0.5)*exp(-0.5*([x y]'-M1)'*inv(S1)*([x y]'-M1));
f21=1/(2*pi*det(S2)^0.5)*exp(-0.5*([x y]'-M2)'*inv(S2)*([x y]'-M2));
f22=1/(2*pi*det(S3)^0.5)*exp(-0.5*([x y]'-M3)'*inv(S3)*([x y]'-M3));
br2=br2+1;
f1(br1,br2)=f11;
f2(br1,br2)=0.4*f21+0.6*f22;
h(br1,br2)=-log(f1(br1,br2))+log(f2(br1,br2));

Bajesov klasifikator minimalne greske

8

Odbirci iz I klase
Odbirci iz II klase
Klasifikaciona linija

-2

-4
-10

-5

10

15

20

5.
:
for i=1:length(xosa)-1;
for j=1:length(yosa)-1;
if h(i,j)<0;
eps2=eps2+0.1*0.1*(f2(i,j)+f2(i+1,j)+f2(i,j+1)+f2(i+1,j+1))/4;
else
eps1=eps1+0.1*0.1*(f1(i,j)+f1(i+1,j)+f1(i,j+1)+f1(i+1,j+1))/4;
end;
end;
end;

) Neyman-Pearson-

,
.

Neyman-Pearson-
.

.

Zavisnost Eps0(mi)
0.09
0.08
0.07

Eps0

0.06
0.05
0.04
0.03
0.02
0.01
0

10
mi

6.

12

14

16

18

20

Neyman-Pearson-ov klasifikator
7
6
5
4
3
2
1
0
-1

Odbirci iz I klase
Odbirci iz II klase
Klasifikaciona linija

-2
-3
-5

10

15

20

7.
:

) - r(P1)
c11, c12, c21, c22.

. , . ,

, ,
.
8 9 r(P1) .

Zavisnost r(P1)
0.9
0.8
0.7

r(P1)

0.6
0.5
0.4
0.3
0.2
0.1
0

0.1

0.2

0.3

0.4

0.5
P1

0.6

0.7

0.8

0.9

8.
Min-max klasifikator
7
6
5

Odbirci iz I klase
Odbirci iz II klase
Klasifikaciona linija

4
3
2
1
0
-1
-2
-3
-5

9.

10

15

20

, Wald- .

).

Wald-
.

Broj potrebnih odbiraka do odluke

1
-100

-80

-60
-40
-20
Logaritamska osa po eps

10.

20

3.
2 2-D .
) .
. :

[ ]

:
[

[ ]

,
:
* +

* +

11.

Linearni klasifikator zeljenog izlaza

10
9
8

Odbirci iz I klase
Odbirci iz II klase
Klasifikaciona linija

7
6
5
4
3
2
1
0
-2

10

11.
) .
:
* +

* +

.
, :

[ ]

Kvadratni klasifikator zeljenog izlaza

10
Odbirci iz I klase
Odbirci iz II klase
Klasifikaciona linija

9
8
7
6
5
4
3
2
1
0
-1

12.

)
KNN.
KNN
. ,
.

9
8
7
6
5
4
3
2
1
0
-1

13.

10

4.
)
:

([ ] [

])

([ ] [

])

14.
) ,
.
:


Sx ,
:
[

Odbirci klasa nakon redukcije dimenzija Kl ekspanzijom

10

-5

-10

-15

-20
-8

Odbirci iz I klase
Odbirci iz II klase
-6

-4

-2

15.
1.0366=1.0202+0.0165.
.

) ,
,
.
:

:
3.7464=3.5471+0.1993.
.
,
.

-2

-4

-6
-2

-1

16.

) , N=2x500
,

, .
- , .
17 18
. -
.

C-mean klasterizacija
8
Odbirci iz I klase
Odbirci iz II klase

-2

-4

-6
-2

-1

17.
Kvadratna dekompozicija
6
Odbirci iz I klase
Odbirci iz II klase
4

-2

-4

-6
-2

-1

18.

C-mean klasterizacija
8
Odbirci iz I klase
Odbirci iz II klase

-2

-4

-6
-2

-1

19.

Kvadratna dekompozicija
8
Odbirci iz I klase
Odbirci iz II klase

-2

-4

-6
-2

-1

20.
-
. .
,
.