오토인코더의 모든 것 1/3 by NAVER D2

https://youtu.be/o_peo6U7IRM?si=E-wStaPrmyrtUBCW

 

 

언제 오토인코더를 쓰느냐?

주로 Nonlinear Dimensionality reduction이 필요할 때 쓴다.

오토인코더는 representation learning에 속한다.

이는 다른 말로, efficient coding learning=feature extraction=manifold learning이라고도 한다.

 

[오토인코더가 학습할 때]

- unsupervised learning

- Loss function : negative maximum likelihood

 

[학습된 오토인코더에서]

- 인코더 : 차원 축소의 역할 >> Manifold learning

- 디코더 : 생성 모델의 역할 >> Generative model learning

 

---

 Gradient Descent

$$\theta^* = {\arg\min}_{\theta \in \Theta} L(f_\theta(x), y)$$

$\theta$의 dimension이 어마어마하게 크면 이걸 어떻게 찾을 건데?

gradient descent는 이렇게 할거야