Unidade 8 / 11

Variantes de teste A/B e design de experimento

Ganhos:

  • Capacidade de gerar variantes de texto sistemáticas que isolam variáveis únicas para testes A/B
  • Capacidade de transformar uma hipótese em uma configuração experimental mensurável
  • Capacidade de interpretar resultados de testes em termos de significância estatística e aprendizagem

A intuição é valiosa em marketing, mas as evidências são mais valiosas. Qual título recebe mais cliques, qual CTA vende mais, qual imagem atrai mais atenção? Em vez de adivinhar, você pode medir isso com testes A/B. O teste A/B é um método experimental que mostra duas versões do mesmo conteúdo (A e B) para um público real e mede qual delas tem melhor desempenho. A inteligência artificial produz rapidamente os dados para estes testes, nomeadamente variantes; Mas fazer o teste funcionar requer uma regra científica: uma variável de cada vez. Nesta unidade você aprenderá como gerar variantes, traduzir uma hipótese em um experimento mensurável e interpretar resultados em termos de significância estatística.

Regra de ouro: isolar uma variável

Para interpretar o resultado de um teste, apenas uma coisa deve ser diferente entre A e B. Se você alterar o título, a imagem e o CTA ao mesmo tempo, nunca saberá qual deles fez a diferença na vitória de B. Isolar a variável a ser testada é a única coisa que torna possível o aprendizado.

Variáveis típicas que podem ser testadas:

  • Título: Mesma imagem e corpo, título diferente.
  • Texto do CTA: “Comprar” ou “Adicionar ao carrinho”?
  • Linha de assunto: afeta a taxa de abertura de um e-mail.
  • Imagem: Mesmo texto, imagem diferente.
  • Comprimento/tom: Curto vs. longo, formal etc.

Da hipótese ao experimento: passo a passo

  1. Faça uma observação. “Nossa landing page tem baixa conversão.”
  2. Hipotese. “O título focado em benefícios converte mais do que o título focado em recursos.”
  3. Isole a variável. Apenas o título mudará.
  4. Gerar variantes. 2 variantes claras do modelo (A: recurso, B: benefício).
  5. Defina sua medida de sucesso. Por exemplo, taxa de conversão – a porcentagem de visitantes que realizam a ação desejada.
  6. Determine a amostra e a duração. Pessoas suficientes e tempo suficiente.
  7. Meça, compare, aprenda. Aprenda o “porquê”, não o vencedor.

Uma “hipótese” é uma previsão que será testada aqui e pode revelar-se verdadeira ou falsa; Uma boa hipótese diz o que você espera e por quê.

Alerta fraco / Alerta forte

Alerta fraco:

Escreva algumas alternativas para este título.

Alerta poderoso:

Gere variantes para um teste A/B. Regra: SOMENTE o título mudará, o corpo e o CTA permanecerão os mesmos. HIPÓTESE: O título voltado para benefícios recebe mais cliques do que o título voltado para recursos. CONTEXTO: Página de destino. Produto: aplicativo de gerenciamento de projetos. Público: equipes pequenas.SOLICITADO:- Variante A: título orientado a recursos (descreve o que o produto faz)- Variante B: título orientado a benefícios (descreve o que ele fornece ao usuário) Em cada variante, escreva qual motivação psicológica ela toca.Apenas 2 variantes; Ambos devem ser de linha única, de comprimento semelhante.

É importante querer que as variantes tenham comprimento semelhante; caso contrário, "comprimento" torna-se involuntariamente uma segunda variável.

Gráfico de teste antes/depois

Palco

O que fazer

erro frequente

hipótese

O que, por que estou esperando?

“Vamos tentar” sem hipóteses

Variável

Isole uma coisa

Mudando muitas coisas ao mesmo tempo

critério

Escolha uma métrica clara

"Melhor" indefinido

amostra

Pessoas/tempo suficientes

decidir cedo

Comentário

Saiba por quê

Basta pegar o vencedor

três mini cases

Caso 1 — O teste CTA dá resultados claros. Um site de comércio eletrônico testou o botão do produto: A “Comprar”, B “Adicionar ao carrinho”. Apenas o texto do botão foi alterado. Num teste com 3.000 visitantes, B aumentou a sua taxa de cliques de 4,0% para 4,9%. Com a única variável isolada, o vencedor era claro: “adicionar ao carrinho” parecia menos vinculativo.

Caso 2 — Erro multivariado. Uma equipe projetou duas landing pages, mas o título, a imagem e a cor eram todos diferentes. B venceu, mas a equipe não sabia qual elemento fazia a diferença; o aprendizado tornou-se zero. No teste seguinte, seguiram a regra: uma variável por vez. Nesse teste, viram claramente que o título era o fator principal.

Caso 3 — Armadilha da decisão antecipada. A equipe do boletim informativo testou duas linhas de assunto em um grupo de 200 pessoas e disse: “Ganhou nota A” na primeira hora. A amostra foi muito pequena; a diferença foi estatisticamente insignificante (ou seja, poderia ter sido devido ao acaso). Quando o teste foi aumentado para amostragem e tempo suficientes, o resultado foi revertido. Lição: não tome decisões sem dados suficientes.

Atenção: A diferença observada numa amostra pequena (pequeno número de pessoas) pode ser enganosa. A significância estatística refere-se à probabilidade de uma diferença ser real e não devido ao acaso. Certifique-se de que um número suficiente de pessoas seja alcançado e que os testes continuem por tempo suficiente antes de tirar conclusões precipitadas.

Modelos copiáveis

Modelo 1 — Gerador de variante isolada:

Gere variantes para testes A/B. A ÚNICA variável a ser testada: [título/CTA/imagem]. Todo o resto permanecerá constante. Hipótese: [...]. Contexto: [...].Variante A: [abordagem atual]. Variante B: [abordagem alternativa]. Sejam as duas variantes de comprimento semelhante; não mude mais nada.

Modelo 2 — Esclarecedor de hipóteses:

Construa uma hipótese testável a partir da seguinte observação: "[observação]". Escreva a hipótese no formato “se fizermos [mudança], [métrica] aumenta porque [por que]”. Então me diga qual variável devo isolar.

Modelo 3 — Conjunto de teste de linha de assunto:

Crie 2 linhas de assunto para teste A/B para o seguinte e-mail. Diferença num único eixo: [curiosidade vs. clareza/concisão etc. longa/pergunta etc. expressão]. Ambos não devem conter a palavra spam e devem ter comprimento semelhante. Resumo por e-mail: [...]

Modelo 4 — Interpretação dos resultados:

Interpretar o resultado de um teste A/B.Variável: [...]. Métrica da variante A: [...]. Métrica da variante B: [...].Tamanho da amostra: [...]. Duração: [...].Diga-me: a diferença parece significativa ou a amostra é pequena? O que aprendemos? O que você recomenda para o próximo teste? Não reivindique estatísticas exatas; Se não estiver claro, especifique.

Dica: Não basta tirar o “vencedor” da prova; O verdadeiro ganho é a compreensão de “por que venceu”. Esse insight alimenta a hipótese para o próximo teste e constrói um conjunto de aprendizado ao longo do tempo.

Prioridade: o que testar primeiro?

Existem inúmeros itens que você pode testar, mas seu tempo e tráfego são limitados. Portanto, priorize os testes com base no potencial de impacto. Regra geral: os elementos que o usuário vê primeiro e que têm maior impacto na decisão são testados primeiro. Em uma landing page, o título tem o maior impacto nos cliques; porque o usuário lê primeiro e decide ou não continuar. Detalhes como a cor do botão geralmente causam um impacto menor; deixe-os para o final.

Uma maneira prática de priorizar é pontuar cada ideia de teste em três eixos: impacto esperado (quão diferença fará se vencer?), confiança (quão confiantes estamos de que ela vencerá?) e facilidade (quão rápido é a configuração?). Testes com alto impacto, alta confiança e baixo esforço são colocados em primeiro lugar. Isso permite alocar tráfego limitado aos experimentos que trazem mais aprendizado. A IA pode fornecer um plano rápido para pontuar e priorizar uma lista de ideias ao longo desses três eixos; Você decide.

Modelo 5 — Priorização de testes:

Priorize as seguintes ideias de testes A/B. Pontue cada um nos eixos de impacto (1-5), confiabilidade (1-5) e facilidade de instalação (1-5), classifique-os de acordo com a pontuação total e explique em uma frase por que estão nessa ordem. IDEIAS DE TESTE: [lista]

Erros comuns

  • Tão variável ao mesmo tempo. O resultado torna-se ininterpretável.
  • Teste sem hipóteses. “Vamos experimentar e ver” não produz aprendizagem.
  • Decisão antecipada. Numa pequena amostra, pensa-se que a diferença é real por acaso.
  • Variantes de diferentes comprimentos. Uma segunda variável é criada acidentalmente.
  • Apenas levando o vencedor. Se o motivo não for descoberto, as informações não serão acumuladas.

Em resumo

  • A regra de ouro dos testes A/B: uma variável de cada vez.
  • Todo teste deve começar com uma hipótese: o que estou esperando e por quê?
  • Defina uma única medida clara de sucesso e uma amostra adequada.
  • A diferença na pequena amostra é enganosa; Observe a significância estatística.
  • Descubra por que, não o vencedor; Esse insight alimenta o próximo teste.

Tarefa de aplicativo

Escolha uma observação sobre um de seus conteúdos. Com o Modelo 2, traduza isto numa hipótese clara e identifique a variável a isolar. Produza duas variantes com o modelo 1 (comprimento semelhante, apenas diferença). Finalmente, ajuste os números dos resultados hipotéticos, interprete-os usando o Modelo 4 e observe o que o modelo diz sobre a adequação da amostra. Duração: aproximadamente 25 minutos.

lista de verificação

  • [ ] Comecei o teste com uma hipótese clara.
  • [] Isolei apenas uma variável.
  • [ ] As variantes permaneceram semelhantes em outros eixos (comprimento, etc.).
  • [] Eu defini uma métrica de sucesso clara.
  • [] Não decidi sem amostra/tempo suficiente.
  • [ ] Anotei o motivo do vencedor da próxima prova.