Tests A/B

Comprendre la science des données

Lis Sulmont

Curriculum Manager, DataCamp

Flux de travail en science des données

Flux de travail en science des données

Comprendre la science des données

Qu'est-ce qu'une expérience en science des données ?

Les expériences orientent les décisions et les conclusions

  1. Formuler une question
  2. Formuler une hypothèse
  3. Recueillir des données
  4. Tester l'hypothèse avec un test statistique
  5. Interpréter les résultats
Comprendre la science des données

Étude de cas : quel est le meilleur titre d'article ?

Formuler une question : Le titre A ou le titre B génère-t-il plus de clics ?

Formuler une hypothèse : Le titre A et le titre B génèrent le même nombre de clics.

Recueillir des données :

  • 50 % des utilisateurs voient le titre A
  • 50 % des utilisateurs voient le titre B
  • Suivre le taux de clics jusqu'à atteindre la taille d'échantillon

Titres pour un test A/B

Comprendre la science des données

Étude de cas : quel est le meilleur titre d'article ?

Tester l'hypothèse avec un test statistique : La différence entre les taux de clics des titres est-elle significative ?

Interpréter les résultats :

  • Choisir un titre
  • Ou poser d'autres questions et concevoir une nouvelle expérience !

Titres pour un test A/B

Comprendre la science des données

Qu'est-ce qu'un test A/B ?

Aussi appelé « Champion/Défiant »

test a-b.png

Comprendre la science des données

Révision de la terminologie

  • Taille d'échantillon : nombre de points de données utilisés
  • Signification statistique : résultat probablement non dû au hasard
    • Selon les hypothèses du modèle statistique
    • Utiliser des tests statistiques pour le calculer :
      • p. ex., test t, test Z, ANOVA, test du khi carré
Comprendre la science des données

Étapes d'un test A/B

  • Choisir un indicateur à suivre
  • Calculer la taille d'échantillon
  • Exécuter l'expérience
  • Vérifier la signification
Comprendre la science des données

Choisir un indicateur : taux de clics

cliquer sur un lien

Comprendre la science des données

taille d'échantillon en pourcentage

  • Indicateur de référence pour évaluer les changements
    • À quelle fréquence les gens cliquent généralement sur un lien vers nos blogues
  • Si le taux est beaucoup plus grand ou plus petit que 50 %, il faut un grand échantillon
    • Le taux de clics est généralement faible (<3 %)
Comprendre la science des données

sensibilité de la taille d'échantillon

Des échantillons plus grands détectent de plus petits écarts

Comprendre la science des données

Exécutez votre expérience

exécuter l'expérience

Comprendre la science des données

Vérifiez la signification

signification

Comprendre la science des données

Et si les résultats ne sont pas significatifs ?

  • La différence est plus petite que le seuil choisi
  • Prolonger le test ne changera rien
  • Il peut y avoir une différence, mais elle est trop petite pour nous
Comprendre la science des données

Passons à la pratique !

Comprendre la science des données

Preparing Video For Download...