반응형 스케쥴러1 [개념 정리] 스케쥴러란? Scheduler (딥러닝 학습) 이번에 알아볼 건 스케쥴러입니다. 1. 딥러닝에서 스케쥴러(Scheduler)란?- 스케쥴러는 학습률(Learning Rate)을 시간 또는 학습단계에 따라 변화시키는 전략을 말합니다.- 학습률이란 것은, 딥러닝에서 데이터를 학습할 때 가중치를 업데이트하는 속도를 결정하는 중요한 하이퍼파라미터로 보통은 하나의 값으로 고정하기도 합니다. - 이때 스케쥴러는 학습률을 단일 값으로 고정하지 않고 학습 단계에 따라 변화시키는 것을 스케쥴링 하기에 Scheduler라고 불린다고 생각하면 되겠습니다. - 모델이 처음 학습을 시작할 때는 큰 학습률을 사용해 빠르게 최적점에 접근하고, 이후 학습률을 점차 낮추면서 더 세밀한 조정을 할 수 있도록 설계가 되는 것입니다. - 이를 활용하면 다음과 같은 이점을 얻을 수 있.. 2024. 10. 29. 이전 1 다음 반응형
