CNN에서의 Deconvolution

 

**TGNet code 를 보다가 deconvolution 연산에 관한 내용이 있어 찾아보았다.

 

 

1. Deconvolution을 통해 CNN을 시각화하자. 

2. f (필터) * g (인풋) = h (아웃풋)

• f 와 h 를 아는 상태에서 g(인풋) 을 찾아내는 것 

 

 

3. 예를 들어, x번 레이어의 feature map 의 한 patch 에서 큰 값이 나왔다고 하면, 앞으로 돌아가며 input 의 어떤 부분이 크게 작용한건지 찾아볼 수 있다. 

4.  filter 그림이 눈 그림이라면, filter 를 거쳐나온 layer 의 패치들 중 큰 값에 매치되는 Input 부분이 얼굴 중 눈그림이라는 의미? 

 

 

5. https://dambaekday.tistory.com/3  의 2.1 논문의 공식은 추후 Norm 공부하며 다시 이해해보기 

•  Norm1, Norm2 https://leebaro.tistory.com/entry/norm%EB%85%B8%EB%A6%84%EC%9D%98-%EC%A0%95%EC%9D%98

6. https://dambaekday.tistory.com/3  의 2.2논문 "Adaptive Deconvolutional Networks for Mid and High Level Feature Learning" 

• f (필터) * g (인풋) = h (아웃풋) 
  
  • 인풋값을 모름.  아웃풋과 필터값을 알아도 인풋이 될 수 있는 경우의 수는 다양하다. 
    • 즉, 인풋값을 추정해보자. 
    • 아웃풋(1)을 필터(2*2)의 비율에 따라 배분

7. Upsampling? : 특징 맵을 키우기 위해 사용

-아까 아웃풋을 필터의 각 값들 비율에 따라 배분해서 만든다고 했는데,

여기선 그렇게 해서 feature map 의 사이즈를 키우는 것 

- 역전파 과정은 normal convolution 과 같다!

-픽셀수 늘여서 사진 흐릿해진 거 생각하면 될래나..

-그럼 역전파하는건 upsampling 적용 전까지의 filter weight 조정하는 부분인건가? 이부분 아직 확실치 않음 .

 

 

---

참고 : https://dambaekday.tistory.com/3 

https://m.blog.naver.com/PostView.nhn?blogId=sogangori&logNo=220963465380&proxyReferer=https%3A%2F%2Fwww.google.com%2F

 

 

Issues :

1. Norm 공부

2. CS231n 해당 내용 upsampling? - 시간나면

3. UNet 찾아보기