Testarea A/B

Înțelegerea științei datelor

Lis Sulmont

Curriculum Manager, DataCamp

Fluxul de lucru în știința datelor

Fluxul de lucru în știința datelor

Înțelegerea științei datelor

Ce sunt experimentele în știința datelor?

Experimentele ajută la luarea deciziilor și formularea concluziilor

  1. Formularea unei întrebări
  2. Formularea unei ipoteze
  3. Colectarea datelor
  4. Testarea ipotezei cu un test statistic
  5. Interpretarea rezultatelor
Înțelegerea științei datelor

Studiu de caz: care este cel mai bun titlu de articol?

Formularea întrebării: Titlul A sau titlul B al articolului generează mai multe clicuri?

Formularea ipotezei: Titlul A și titlul B generează același număr de clicuri.

Colectarea datelor:

  • 50% dintre utilizatori vor vedea titlul A
  • 50% dintre utilizatori vor vedea titlul B
  • Se urmărește rata de clic până la atingerea dimensiunii eșantionului

Titluri test A/B

Înțelegerea științei datelor

Studiu de caz: care este cel mai bun titlu de articol?

Testarea ipotezei cu un test statistic: Diferența dintre ratele de clic ale celor două titluri este semnificativă?

Interpretarea rezultatelor:

  • Alegerea unui titlu
  • Sau formularea de noi întrebări și proiectarea unui alt experiment!

Titluri test A/B

Înțelegerea științei datelor

Ce este testarea A/B?

Cunoscut și ca testare Champion/Challenger

Test A/B

Înțelegerea științei datelor

Recapitularea terminologiei

  • Dimensiunea eșantionului: numărul de puncte de date utilizate
  • Semnificație statistică: rezultatul nu se datorează întâmplării
    • Pe baza ipotezelor modelului statistic
    • Se calculează cu teste statistice:
      • ex.: testul t, testul Z, ANOVA, testul Chi-pătrat
Înțelegerea științei datelor

Pașii testării A/B

  • Alegerea unei metrici de urmărit
  • Calcularea dimensiunii eșantionului
  • Rularea experimentului
  • Verificarea semnificației
Înțelegerea științei datelor

Alegerea metricii: rata de clic

Clic pe link

Înțelegerea științei datelor

Procent dimensiune eșantion

  • Metrică de referință pentru a măsura modificările
    • Cât de des accesează utilizatorii linkurile spre blogurile noastre
  • Dacă rata este mult mai mare sau mai mică de 50%, este nevoie de un eșantion mare
    • Rata de clic este de obicei mică (<3%)
Înțelegerea științei datelor

Sensibilitate dimensiune eșantion

Eșantioanele mai mari permit detectarea unor modificări mai mici

Înțelegerea științei datelor

Rularea experimentului

Rularea experimentului

Înțelegerea științei datelor

Verificarea semnificației

Semnificație statistică

Înțelegerea științei datelor

Ce facem dacă rezultatele nu sunt semnificative?

  • Diferența este mai mică decât pragul ales
  • Prelungirea testului nu va aduce îmbunătățiri
  • Poate exista o diferență, dar este prea mică pentru a conta
Înțelegerea științei datelor

Să exersăm!

Înțelegerea științei datelor

Preparing Video For Download...