Python에서의 하이퍼파라미터 튜닝
Alex Scriven
Data Scientist
하이퍼파라미터 vs 파라미터:
하이퍼파라미터는 사용자가 설정하는 모델 구성 요소입니다. 학습 과정에서 자동으로 학습되지 않습니다.
파라미터는 사용자가 설정하지 않습니다. 알고리즘이 학습을 통해 찾습니다.
배운 내용:
그리드 서치를 소개했습니다:
계산 비용이 크지만, 설정한 그리드 내에서는 최선을 보장합니다. (좋은 그리드를 설정하는 것이 중요합니다!)
랜덤 서치:
더 빠르게 합리적인 모델을 찾지만, 그리드 내 최적 모델은 보장하지 않습니다.
정보 기반 서치 살펴보기:
정보 기반 서치는 매 반복에서 이전 결과를 학습합니다. 반면 그리드/랜덤은 한꺼번에 학습 후 최적을 고릅니다.
다음과 같은 정보 기반 방법을 다뤘습니다:
Python에서의 하이퍼파라미터 튜닝