So sánh Grid Search và Random Search

Tinh chỉnh siêu tham số trong Python

Alex Scriven

Data Scientist

Điểm giống nhau?

Điểm giống giữa Random và Grid Search?

  • Cả hai đều tự động tinh chỉnh nhiều siêu tham số
  • Cả hai đều cần đặt “grid” để lấy mẫu (siêu tham số và các giá trị cho mỗi cái)

 

Hãy cân nhắc kỹ khi thiết kế grid!

 

  • Cả hai đều cần sơ đồ cross-validation và hàm chấm điểm
Tinh chỉnh siêu tham số trong Python

Điểm khác nhau?

Grid Search:

  • Thử toàn bộ kết hợp trong không gian mẫu
  • Không có phương pháp lấy mẫu
  • Tốn tài nguyên tính toán hơn
  • Đảm bảo tìm được điểm số tốt nhất trong không gian mẫu

Random Search:

  • Chọn ngẫu nhiên một phần các kết hợp trong không gian mẫu (do bạn chỉ định)
  • Có thể chọn phương pháp lấy mẫu (không chỉ đều mặc định)
  • Ít tốn tài nguyên tính toán hơn
  • Không đảm bảo tìm điểm số tốt nhất (nhưng thường tìm điểm tốt nhanh hơn)
Tinh chỉnh siêu tham số trong Python

Nên dùng cách nào?

Nên dùng cái nào? Cần cân nhắc gì?

  • Bạn có bao nhiêu dữ liệu?
  • Bạn muốn tinh chỉnh bao nhiêu siêu tham số và giá trị?
  • Bạn có bao nhiêu tài nguyên? (thời gian, năng lực tính toán)

 

  • Dữ liệu nhiều → Random Search có thể phù hợp hơn.
  • Nhiều siêu tham số/giá trị → Random Search có thể phù hợp hơn.
  • Ít tài nguyên → Random Search có thể phù hợp hơn.
Tinh chỉnh siêu tham số trong Python

Hãy thực hành!

Tinh chỉnh siêu tham số trong Python

Preparing Video For Download...