Kiểm thử A/B

Tìm hiểu về Khoa học Dữ liệu

Lis Sulmont

Curriculum Manager, DataCamp

Quy trình khoa học dữ liệu

Quy trình khoa học dữ liệu

Tìm hiểu về Khoa học Dữ liệu

Thí nghiệm trong khoa học dữ liệu là gì?

Thí nghiệm giúp ra quyết định và rút kết luận

  1. Đặt câu hỏi
  2. Đặt giả thuyết
  3. Thu thập dữ liệu
  4. Kiểm định giả thuyết bằng kiểm định thống kê
  5. Diễn giải kết quả
Tìm hiểu về Khoa học Dữ liệu

Tình huống: tiêu đề blog nào tốt hơn?

Đặt câu hỏi: Tiêu đề A hay B đem lại nhiều nhấp hơn?

Đặt giả thuyết: Tiêu đề A và B cho số nhấp như nhau.

Thu thập dữ liệu:

  • 50% người dùng thấy tiêu đề A
  • 50% người dùng thấy tiêu đề B
  • Theo dõi CTR đến khi đạt cỡ mẫu

a-b-test-headlines.jpg

Tìm hiểu về Khoa học Dữ liệu

Tình huống: tiêu đề blog nào tốt hơn?

Kiểm định giả thuyết: Chênh lệch CTR giữa hai tiêu đề có ý nghĩa không?

Diễn giải kết quả:

  • Chọn một tiêu đề
  • Hoặc đặt câu hỏi mới và thiết kế thí nghiệm khác!

a-b-test-headlines.jpg

Tìm hiểu về Khoa học Dữ liệu

Kiểm thử A/B là gì?

Còn gọi là thử nghiệm Champion/Challenger

kiểm-thử-a-b.png

Tìm hiểu về Khoa học Dữ liệu

Ôn thuật ngữ

  • Cỡ mẫu: số điểm dữ liệu dùng
  • Ý nghĩa thống kê: kết quả khó do ngẫu nhiên
    • Với các giả định của mô hình thống kê
    • Dùng kiểm định thống kê để tính:
      • ví dụ: t-test, Z-test, ANOVA, Chi-square
Tìm hiểu về Khoa học Dữ liệu

Các bước kiểm thử A/B

  • Chọn chỉ số theo dõi
  • Tính cỡ mẫu
  • Chạy thí nghiệm
  • Kiểm tra ý nghĩa thống kê
Tìm hiểu về Khoa học Dữ liệu

Chọn chỉ số: tỷ lệ nhấp (CTR)

nhấp-vào-liên-kết.jpg

Tìm hiểu về Khoa học Dữ liệu

cỡ-mẫu-phần-trăm.jpg

  • Chỉ số nền để đo thay đổi
    • Mức người dùng thường nhấp vào liên kết blog của ta
  • Nếu tỷ lệ chênh nhiều so với 50%, cần cỡ mẫu lớn
    • Tỷ lệ nhấp thường nhỏ (<3%)
Tìm hiểu về Khoa học Dữ liệu

độ-nhạy-cỡ-mẫu.jpg

Cỡ mẫu lớn giúp phát hiện thay đổi nhỏ

Tìm hiểu về Khoa học Dữ liệu

Chạy thí nghiệm

chạy-thí-nghiệm.jpg

Tìm hiểu về Khoa học Dữ liệu

Kiểm tra ý nghĩa thống kê

ý-nghĩa-thống-kê.jpg

Tìm hiểu về Khoa học Dữ liệu

Nếu kết quả không có ý nghĩa thì sao?

  • Chênh lệch nhỏ hơn ngưỡng đã chọn
  • Chạy lâu hơn cũng không giúp
  • Vẫn có thể có khác biệt; chỉ là nhỏ và không đáng kể với ta
Tìm hiểu về Khoa học Dữ liệu

Ayo berlatih!

Tìm hiểu về Khoa học Dữ liệu

Preparing Video For Download...