2주차 1차시

합성곱 연산의 작동 방식
2주차
학습목표
Convolutional Neural Networks (CNNs)의 구조를
설명할 수 있다.

학습내용
1 합성곱 연산의 작동 방식

2 다채널 합성곱 연산

3 Padding과 Stride, Max Pooling과 Average Pooling

1차시
학습목표
합성곱 레이어의 시각 인식 메커니즘을 설명할 수 있다.

학습내용
1 합성곱 연산과 Kernels
 01
합성곱 연산과 Kernels
 합성곱 신경망이란?

CNN
(Convolutional Neural Networks)
 MNIST 데이터 같은 경우

[출처] https://itwiki.kr/w/CNN.jpeg
 MNIST 데이터 같은 경우

 28×28 매트릭스 하나로 표현

 입력 데이터가 Lank 3인 Tensor 필요

 MNIST 데이터 같은 경우

[출처] https://itwiki.kr/w/CNN.jpeg
 [ Convolution Network ]
 Convolution operation을 통해
3차원 Tensor를 만드는 반복 다층 구조

[ Multi-Layer Perceptron ]
 입력 벡터가 1차원 텐서
 각 레이어는 벡터를 입력받아 행렬 곱셈을 하고
다시 벡터를 출력하는 식의 레이어가
여러 개인 다층 구조

[출처] https://itwiki.kr/w/CNN.jpeg
[출처] https://itwiki.kr/w/CNN.jpeg
Convolution & Kernels
 Convolution & Kernels

<input>

1 0 0 0 0 <kernel> <output>

0 1 0 0 0

0 0 1 0 0

0 0 0 1 0

0 0 0 0 1
 Convolution & Kernels

<input>

1 0 0 0 0 <kernel> <output>

0 1 0 0 0 1 0 0 3 0 0

0 0 1 0 0 0 1 0 0 3 0

0 0 0 1 0 0 0 1 0 0 3

0 0 0 0 1
 Convolution & Kernels

<input>

1 0 0 0 0 <kernel> <output> <kernel> <output>

0 1 0 0 0 1 0 0 3 0 0 1 0 0

0 0 1 0 0 0 1 0 0 3 0 0 1 0

0 0 0 1 0 0 0 1 0 0 3 0 0 1

0 0 0 0 1
 Convolution & Kernels

<input>

1 0 0 0 0 <kernel> <output> <kernel> <output>

0 1 0 0 0 1 0 0 3 0 0 1 0 0

0 0 1 0 0 0 1 0 0 3 0 0 1 0 9

0 0 0 1 0 0 0 1 0 0 3 0 0 1

0 0 0 0 1
큰 값은 긴 사선의 위치로 인식 가능하며 Kernel은 모델 파라미터를 통해 학습
 Convolution & Kernels

<input>

1 0 0 0 0 <kernel> <output> <kernel> <output>

0 1 0 0 0 1 0 0 3 0 0 1 0 0

0 0 1 0 0 0 1 0 0 3 0 0 1 0 9

0 0 0 1 0 0 0 1 0 0 3 0 0 1

0 0 0 0 1
경사하강법을 통해 Kernel 학습
 Convolution & Kernels

<input>

0 0 1 0 0 <kernel> <output>

0 0 1 0 0 1 0 0

1 1 1 0 0 0 1 0

0 0 1 0 0 0 0 1

0 0 1 0 0
사선을 판단하는 Kernel을 다른 이미지에 적용하면 어떻게 될까요?
 Convolution & Kernels

<input>

0 0 1 0 0 <kernel> <output>

0 0 1 0 0 1 0 0 1 1 1

1 1 1 0 0 0 1 0 2 1 1

0 0 1 0 0 0 0 1 2 2 1

0 0 1 0 0
 Convolution & Kernels

<input>

0 0 1 0 0 <kernel> <output> <kernel> <output>

0 0 1 0 0 1 0 0 1 1 1 1 0 0

1 1 1 0 0 0 1 0 2 1 1 0 1 0 3

0 0 1 0 0 0 0 1 2 2 1 0 0 1

0 0 1 0 0
큰 사선 존재 여부에 따라 멀티레이어 퍼셉트론을 추가해 값을 출력