Porovnání Grid Search a Random Search

Hyperparameter Tuning in Python

Alex Scriven

Data Scientist

Co je stejné?

Co mají Random Search a Grid Search společného?

  • Oba automaticky ladí hyperparametry
  • U obou nastavujete mřížku vzorkování (hyperparametry a jejich hodnoty)

 

Mřížku volte vždy pečlivě!

 

  • U obou nastavujete schéma křížové validace a hodnoticí funkci
Hyperparameter Tuning in Python

Co je jiné?

Grid Search:

  • Vyzkouší vyčerpávajícím způsobem všechny kombinace v prostoru vzorků
  • Žádná metodologie vzorkování
  • Vyšší výpočetní náročnost
  • Zaručeně nalezne nejlepší skóre v prostoru vzorků

Random Search:

  • Náhodně vybírá podmnožinu kombinací v prostoru vzorků (počet musíte určit)
  • Umožňuje zvolit metodologii vzorkování (výchozí je rovnoměrné)
  • Nižší výpočetní náročnost
  • Nezaručuje nejlepší skóre, ale pravděpodobně nalezne dobré výsledky rychleji
Hyperparameter Tuning in Python

Kterou metodu použít?

Kterou metodu použít? Co je třeba zvážit?

  • Kolik dat máte k dispozici?
  • Kolik hyperparametrů a hodnot chcete ladit?
  • Jaké máte zdroje? (čas, výpočetní výkon)

 

  • Více dat → Random Search může být lepší volbou.
  • Více hyperparametrů → Random Search může být lepší volbou.
  • Méně zdrojů → Random Search může být lepší volbou.
Hyperparameter Tuning in Python

Pojďme si procvičit!

Hyperparameter Tuning in Python

Preparing Video For Download...