Unité 8 / 11

Variantes de tests A/B et conception d'expériences

Gains :

  • Possibilité de générer des variantes de texte systématiques qui isolent des variables uniques pour les tests A/B
  • Capacité à transformer une hypothèse en une configuration expérimentale mesurable
  • Capacité à interpréter les résultats des tests en termes de signification statistique et d'apprentissage

L’intuition est précieuse en marketing, mais les preuves sont plus précieuses. Quel titre obtient le plus de clics, quel CTA vend le plus, quelle image attire le plus l'attention ? Au lieu de deviner, vous pouvez mesurer cela avec des tests A/B. Les tests A/B sont une méthode expérimentale qui montre deux versions du même contenu (A et B) à un public réel et mesure laquelle est la plus performante. L'intelligence artificielle produit rapidement les données d'entrée pour ces tests, à savoir les variantes ; Mais pour que le test fonctionne, il faut une règle scientifique : une variable à la fois. Dans cette unité, vous apprendrez à générer des variantes, à traduire une hypothèse en une expérience mesurable et à interpréter les résultats en termes de signification statistique.

Règle d'or : isoler une variable

Pour interpréter le résultat d'un test, une seule chose doit être différente entre A et B. Si vous changez le titre, l'image et le CTA en même temps, vous ne saurez jamais lequel a fait la différence lorsque B gagne. Isoler la variable à tester est la seule chose qui rend l'apprentissage possible.

Variables typiques pouvant être testées :

  • Titre : Même image et corps, titre différent.
  • Texte du CTA : « Acheter » ou « Ajouter au panier » ?
  • Ligne d'objet : affecte le taux d'ouverture d'un e-mail.
  • Image : Même texte, image différente.
  • Longueur/ton : court ou long, formel, etc. sincère.

De l’hypothèse à l’expérimentation : étape par étape

  1. Faites une observation. "Notre page de destination a une faible conversion."
  2. Hypothéser. "Le titre axé sur les avantages convertit plus que le titre axé sur les fonctionnalités."
  3. Isolez la variable. Seul le titre changera.
  4. Générez des variantes. 2 variantes claires avec le modèle (A : fonctionnalité, B : avantage).
  5. Définissez votre mesure du succès. Par exemple, le taux de conversion : le pourcentage de visiteurs effectuant l'action souhaitée.
  6. Déterminez l’échantillon et la durée. Assez de monde et assez de temps.
  7. Mesurez, comparez, apprenez. Apprenez le « pourquoi », pas le gagnant.

Une « hypothèse » est une prédiction qui sera testée ici et qui peut s’avérer vraie ou fausse ; Une bonne hypothèse vous indique ce à quoi vous vous attendez et pourquoi.

Invite faible/Invite forte

Invite faible :

Écrivez quelques alternatives pour ce titre.

Invite puissante :

Générez des variantes pour un test A/B. Règle : SEUL le titre changera, le corps et le CTA resteront les mêmes. HYPOTHÈSE : Le titre axé sur les avantages génère plus de clics que le titre orienté sur les fonctionnalités. CONTEXTE : Page de destination. Produit : application de gestion de projet. Public : petites équipes. DEMANDÉ : - Variante A : titre orienté fonctionnalité (décrit ce que fait le produit) - Variante B : titre orienté bénéfice (décrit ce qu'il apporte à l'utilisateur) Sous chaque variante, écrivez quelle motivation psychologique elle touche. Seulement 2 variantes ; Les deux doivent être constitués d’une seule ligne, de longueur similaire.

Il est important que les variantes soient de longueur similaire ; sinon, la « longueur » devient involontairement une deuxième variable.

Tableau de test avant/après

Scène

Que faire

erreur fréquente

hypothèse

Quoi, pourquoi j'attends ?

"Essayons" sans hypothèses

Variable

Isoler une chose

Changer plusieurs choses à la fois

critère

Choisissez une métrique claire

"Mieux" indéfini

échantillon

Assez de personnes/de temps

décider tôt

Commentaire

Apprenez pourquoi

Prends juste le gagnant

trois mini-cases

Cas 1 — Le test CTA donne des résultats clairs. Un site e-commerce a testé le bouton produit : A « Acheter », B « Ajouter au panier ». Seul le texte du bouton a changé. Lors d'un test réalisé auprès de 3 000 visiteurs, B a augmenté son taux de clics de 4,0 % à 4,9 %. Avec la seule variable isolée, le gagnant était clair : « ajouter au panier » semblait moins contraignant.

Cas 2 — Erreur multivariée. Une équipe a conçu deux pages de destination, mais le titre, l'image et la couleur étaient tous différents. B a gagné, mais l'équipe ne savait pas quel élément faisait la différence ; l'apprentissage est devenu nul. Lors du test suivant, ils ont suivi la règle : une variable à la fois. Lors de ce test, ils ont clairement vu que le titre était le facteur principal.

Cas 3 – Piège de décision précoce. Une équipe de newsletter a testé deux lignes d'objet sur un groupe de 200 personnes et a déclaré : « Cela a obtenu un A » dès la première heure. L'échantillon était très petit ; la différence était statistiquement insignifiante (c'est-à-dire qu'elle aurait pu être due au hasard). Lorsque le test a été augmenté jusqu'à un échantillonnage et une durée suffisants, le résultat a été inversé. Leçon : ne prenez pas de décisions sans suffisamment de données.

Attention : La différence observée sur un petit échantillon (petit nombre de personnes) peut être trompeuse. La signification statistique fait référence à la probabilité qu'une différence soit réelle et non due au hasard. Assurez-vous que suffisamment de personnes sont touchées et que les tests durent suffisamment longtemps avant de tirer des conclusions hâtives.

Modèles copiables

Modèle 1 — Générateur de variantes isolées :

Générez des variantes pour les tests A/B. La SEULE variable à tester : [titre/CTA/image]. Tout le reste restera constant. Hypothèse : [...]. Contexte : [...].Variante A : [approche actuelle]. Variante B : [approche alternative]. Supposons que les deux variantes soient de longueur similaire ; ne change rien d'autre.

Modèle 2 — Clarificateur d'hypothèse :

Construire une hypothèse testable à partir de l'observation suivante : "[observation]". Écrivez l'hypothèse au format "si nous faisons [un changement], [métrique] augmente parce que [pourquoi]". Ensuite, dites-moi quelle variable je dois isoler.

Modèle 3 — Ensemble de tests de ligne d'objet :

Créez 2 lignes d'objet à tester A/B pour l'e-mail suivant. Différence sur un seul axe : [curiosité vs clarté/concision etc. longue/question etc. expression]. Les deux ne doivent pas contenir le mot spam et doivent être de longueur similaire. Résumé par e-mail : [...]

Modèle 4 — Interprétation des résultats :

Interpréter le résultat d'un test A/B.Variable : [...]. Variante A métrique : [...]. Métrique de la variante B : [...].Taille de l'échantillon : [...]. Durée : [...].Dites-moi : La différence semble-t-elle significative, ou l'échantillon est-il petit ? Qu’avons-nous appris ? Que préconisez-vous pour le prochain test ? Ne prétendez pas à des statistiques exactes ; Si ce n’est pas clair, précisez.

Astuce : Il ne suffit pas de désigner le « gagnant » du test ; Le véritable gain réside dans la compréhension du « pourquoi il a gagné ». Cette idée alimente l’hypothèse du prochain test et construit un ensemble d’apprentissages au fil du temps.

Priorité : que tester en premier ?

Il existe une infinité d’éléments que vous pouvez tester, mais votre temps et votre trafic sont limités. Priorisez donc les tests en fonction du potentiel d’impact. Règle générale : les éléments que l'utilisateur voit en premier et qui ont le plus d'impact sur la décision sont testés en premier. Sur une page de destination, le titre a le plus grand impact sur les clics ; car l'utilisateur le lit en premier et décide là ou non de continuer. Les détails comme la couleur des boutons ont souvent un impact moindre ; laissez-les pour la fin.

Un moyen pratique d'établir des priorités consiste à noter chaque idée de test sur trois axes : l'impact attendu (quelle différence cela fera-t-il si elle gagne ?), la confiance (à quel point sommes-nous sûrs qu'elle gagnera ?) et la facilité (à quelle vitesse est-elle mise en place ?). Les tests ayant un impact élevé, une confiance élevée et un faible effort sont placés en premier. Cela vous permet d'allouer un trafic limité aux expériences qui apportent le plus d'apprentissage. L'IA peut vous donner un plan rapide pour noter et hiérarchiser une liste d'idées selon ces trois axes ; Vous décidez.

Modèle 5 — Priorisation des tests :

Donnez la priorité aux idées de tests A/B suivantes. Notez chacun sur les axes d'impact (1-5), de fiabilité (1-5) et de facilité d'installation (1-5), classez-les selon le score total et expliquez en une phrase pourquoi ils sont dans cet ordre. IDÉES DE TEST : [liste]

Erreurs courantes

  • Tellement variable à la fois. Le résultat devient ininterprétable.
  • Tests sans hypothèse. « Essayons et voyons » ne produit pas d'apprentissage.
  • Décision précoce. Dans un petit échantillon, on pense que la différence est réelle et due au hasard.
  • Variantes de différentes longueurs. Une deuxième variable est créée involontairement.
  • Je prends juste le gagnant. Si la raison n’est pas connue, les informations ne s’accumuleront pas.

En résumé

  • La règle d'or des tests A/B : une variable à la fois.
  • Chaque test doit commencer par une hypothèse : qu’est-ce que j’attends et pourquoi ?
  • Définissez une seule mesure claire du succès et un échantillon adéquat.
  • La différence dans le petit échantillon est trompeuse ; Notez la signification statistique.
  • Découvrez pourquoi, pas le gagnant ; Cette idée alimente le prochain test.

Tâche de candidature

Choisissez une observation sur un de vos contenus. Avec le modèle 2, traduisez cela en une hypothèse claire et identifiez la variable à isoler. Réalisez deux variantes avec le gabarit 1 (longueur similaire, seule différence). Enfin, ajustez les résultats hypothétiques, interprétez-les à l'aide du modèle 4 et notez ce que dit le modèle sur l'adéquation de l'échantillon. Durée : environ 25 minutes.

liste de contrôle

  • [ ] J'ai commencé le test avec une hypothèse claire.
  • [ ] Je n'ai isolé qu'une seule variable.
  • [ ] Les variantes sont restées similaires dans les autres axes (longueur, etc.).
  • [ ] J'ai défini une mesure de réussite claire.
  • [ ] Je n'ai pas décidé sans suffisamment d'échantillon/de temps.
  • [ ] J'ai noté la raison du gagnant pour le prochain test.