Encerramento
Ajuste de Hiperparâmetros em Python
Alex Scriven
Data Scientist
Hiperparâmetros vs Parâmetros
Hiperparâmetros vs Parâmetros:
Hiperparâmetros são componentes do modelo que você define. Eles não são aprendidos durante o processo de modelagem
Parâmetros não são definidos por você. O algoritmo os descobre para você
Quais hiperparâmetros e valores?
Você viu que:
- Alguns hiperparâmetros são melhores para começar do que outros
- Há valores ruins que você pode definir para hiperparâmetros
- É preciso cuidado com hiperparâmetros conflitantes
- Boas práticas são específicas aos algoritmos e seus hiperparâmetros
Relembrando a Grid Search
Apresentamos a grid search:
- Construa uma matriz (ou "grid") de combinações e valores de hiperparâmetros
- Treine modelos para todas as combinações de hiperparâmetros
- Depois escolha o vencedor
É caro computacionalmente, mas garante achar o melhor dentro do seu grid. (Lembre a importância de definir um bom grid!)
Relembrando a Random Search
Random Search:
- Muito semelhante à grid search
- A principal diferença é selecionar (n) combinações aleatórias.
Este método encontra mais rápido um modelo razoável, mas não o melhor do seu grid.
De busca não informada à informada
Vendo a busca informada:
Na busca informada, cada iteração aprende com a anterior; já na Grid e na Random, a modelagem é feita toda de uma vez e só então se escolhe a melhor.
Métodos informados explorados:
- "Grosseiro para fino" (random iterativa e depois grid search)
- Ajuste bayesiano de hiperparâmetros, atualizando crenças com evidências do desempenho do modelo
- Algoritmos genéticos, evoluindo seus modelos ao longo de gerações
Obrigado!
Ajuste de Hiperparâmetros em Python
