[code] EfficientNet with ImageNet

Rethinking Model Scaling for Convolutional Neural Networks 구현

이 논문의 efficientNet은 ImageNet으로 학습시켜 좋은 성능을 내는데, 이 모델을 가지고 Cifar-100으로 전이시켜 학습시켜도 SOTA 성능을 낼 정도로 좋다고 한다.

따라서, ImageNet으로 학습시키도록 하였고,

Epoch : 100

BATCH SIZE: 128

alpha(depth) = 1.2

beta(width) = 1.1

gamma(resolution) = 1.15

앞서 해석한 논문을 참고하면 코드를 이해하기 편할 것이다! => 참고! Rethinking Model Scaling for Convolutional Neural Networks

아래 EfficientNet-B0를 구현하였고, 논문에서 제시한 대로 각 $\alpha$ $\beta$ $\gamma$ 값들은 각 1.2, 1.1, 1.15, $\phi$는 1로 고정하였다.

학습중

참고

[1] https://deep-learning-study.tistory.com/563

[2] https://ichi.pro/ko/pytorcheseo-efficientnet-guhyeonhagi-part-4-the-finale-40529429372185