Optimization

Optimization

- 보통 adam을 많이 씀 → 제일 마지막에 바꾸는 하이퍼파라미터

  > learing rate은 옵티마이저 안에 정의하게 되고, regularization도 마찬가지여

 

- 하이퍼파라미터 정의하는 위치를 기억하자!!!

  > train_and_evaluate에서는 train steps을 정할때 spec 부분에서 정의함

  >> input_fn → optimizer → model → train → test