Sieci neuronowe – ćwiczenie numer 2

Temat: Sieci nieliniowe

Cel ćwiczenia: Dobór konfiguracji sieci nieliniowej.

Zakres ćwiczenia:

1. Ćwiczenie należy wykonać dla funkcji nieliniowej zależnej od dwóch parametrów x1,
x2 (np. postaci y  2 x13  3x12  2 x22 ) przydzielonej przez prowadzącego w ramach
ćwiczenia 0.
2. Przygotować pliki zawierające wektory ciągu uczącego dla sieci oraz ciągu
testującego (odpowiednia liczba punktów dla ustalonych zakresów parametrów x1 i x2,
minimum 100 punktów dla zbioru uczącego, 10 punktów dla zbioru testującego)
3. Przygotować plik w środowisku Matlab symulujący sieć o dwóch wejściach i jednym
wyjściu z jedną warstwą ukrytą. Funkcja przejścia neuronów w warstwie ukrytej
sigmoidalna, w warstwie wyjściowej liniowa. Metoda uczenia: algorytm wstecznej
propagacji błędu z zastosowaniem współczynnika momentum i adaptacyjnym
współczynnikiem uczenia. Jeśli tym algorytmem nie da się nauczyć sieci, można go
zmienić na inny, np. Levenberga-Marquardta.
UWAGA! Wszystkie symulacje należy przeprowadzić tym samym algorytmem.
Wszystkie informacje potrzebne do przygotowania skryptu podane są w pliku
SSNwMatlab.pdf
4. Przetestować 7 konfiguracji sieci zmieniając liczbę neuronów w warstwie ukrytej.
Jedną symulację przeprowadzić dla małej liczby neuronów w warstwie ukrytej, np. 3.
Jedną symulację przeprowadzić dla dużej liczby neuronów w warstwie ukrytej, np. 35.
Pięć symulacji przeprowadzić zmieniając liczbę neuronów w warstwie ukrytej od 12
do 25.
Dla każdej konfiguracji przeprowadzić proces uczenia wykorzystując ciąg uczący oraz
proces testowania z wykorzystaniem ciągu testującego. Testy wykonać ustalając
maksymalna liczbę epok procesu uczenia na 30 000 oraz wartość błędu uczenia MSE,
przy którym uczenie jest przerywane na 0,1% największej wartości y zawartej w ciągu
uczącym (znormalizowanym). Dla każdej symulacji zanotować w protokole wartości
wyjściowe sieci dla poszczególnych punktów ciągu testującego.

Opracowanie wyników w sprawozdaniu

Dla każdej przeprowadzonej symulacji należy:

- przedstawić na wykresie oczekiwane odpowiedzi sieci na ciąg testujący oraz
odpowiedzi otrzymane z wytrenowanej sieci neuronowej
- policzyć błędy odwzorowania – dla każdego punktu wykresu policzyć błąd względny
wg wzoru:
x exp  x calc
  100%
x calc
gdzie:
xcalc – wartość oczekiwana
xexp – wartość uzyskana na wyjściu sieci
Następnie policzyć błąd  dla każdej konfiguracji sieci będący średnią arytmetyczną
błędów  wszystkich punktów ciągu testującego.
Wnioski

Ocenić jaki wpływ na dokładność odwzorowania funkcji y przez sieć neuronową ma

liczba neuronów w warstwie ukrytej.
.