Unidad 8 / 11

Variantes de prueba A/B y diseño de experimentos

Ganancias:

  • Capacidad para generar variantes de texto sistemáticas que aíslan variables individuales para pruebas A/B
  • Capacidad para transformar una hipótesis en una configuración experimental mensurable.
  • Capacidad para interpretar los resultados de las pruebas en términos de significación estadística y aprendizaje.

La intuición es valiosa en marketing, pero la evidencia es más valiosa. ¿Qué título obtiene más clics, qué CTA vende más, qué imagen atrae más atención? En lugar de adivinar, puedes medir esto con pruebas A/B. Las pruebas A/B son un método experimental que muestra dos versiones del mismo contenido (A y B) a una audiencia real y mide cuál funciona mejor. La inteligencia artificial produce rápidamente los datos necesarios para estas pruebas, es decir, variantes; Pero hacer que la prueba funcione requiere una regla científica: una variable a la vez. En esta unidad aprenderá cómo generar variantes, traducir una hipótesis en un experimento mensurable e interpretar resultados en términos de significancia estadística.

Regla de oro: aislar una variable

Para interpretar el resultado de una prueba, solo una cosa debe ser diferente entre A y B. Si cambias el título, la imagen y la CTA al mismo tiempo, nunca sabrás cuál marcó la diferencia cuando B gana. Aislar la variable a probar es lo único que hace posible el aprendizaje.

Variables típicas que se pueden probar:

  • Título: Misma imagen y cuerpo, diferente título.
  • Texto de CTA: ¿"Comprar" o "Agregar al carrito"?
  • Línea de asunto: afecta la tasa de apertura de un correo electrónico.
  • Imagen: Mismo texto, diferente imagen.
  • Longitud/tono: Corto versus largo, formal, etc., sincero.

De la hipótesis al experimento: paso a paso

  1. Haz una observación. "Nuestra página de destino tiene baja conversión".
  2. Hipótesis. "El título centrado en los beneficios convierte más que el título centrado en las características".
  3. Aislar la variable. Sólo cambiará el título.
  4. Generar variantes. 2 variantes claras con el modelo (A: característica, B: beneficio).
  5. Defina su medida de éxito. Por ejemplo, tasa de conversión: el porcentaje de visitantes que realizan la acción deseada.
  6. Determinar muestra y duración. Suficiente gente y suficiente tiempo.
  7. Mide, compara, aprende. Aprenda el "por qué", no el ganador.

Una “hipótesis” es una predicción que se probará aquí y puede resultar verdadera o falsa; Una buena hipótesis te dice lo que esperas y por qué.

Aviso débil / Aviso fuerte

Aviso débil:

Escribe algunas alternativas para este título.

Potente mensaje:

Genera variantes para una prueba A/B. Regla: SÓLO cambiará el título, el cuerpo y la CTA seguirán siendo los mismos. HIPÓTESIS: El título orientado a los beneficios obtiene más clics que el título orientado a las funciones. CONTEXTO: Página de destino. Producto: aplicación de gestión de proyectos. Público: equipos pequeños. SOLICITADO: - Variante A: título orientado a funciones (describe lo que hace el producto) - Variante B: título orientado a beneficios (describe lo que proporciona al usuario) Debajo de cada variante, escriba qué motivación psicológica toca. Solo 2 variantes; Ambos deben ser de una sola línea y de longitud similar.

Es importante querer que las variantes tengan una longitud similar; de lo contrario, la "longitud" se convierte involuntariamente en una segunda variable.

Cuadro de prueba antes/después

etapa

que hacer

error frecuente

hipótesis

¿Qué, por qué estoy esperando?

"Probemos" sin hipótesis

variable

aislar una cosa

Cambiando muchas cosas a la vez

criterio

Elija una métrica clara

Indefinido "mejor"

muestra

Suficiente gente/tiempo

decidir temprano

Comentario

Aprende por qué

Solo toma el ganador

tres mini casos

Caso 1: la prueba CTA arroja resultados claros. Un sitio de comercio electrónico probó el botón del producto: A "Comprar", B "Agregar al carrito". Sólo el texto del botón ha cambiado. En una prueba de 3.000 visitantes, B aumentó su tasa de clics del 4,0% al 4,9%. Con la única variable aislada, el ganador fue claro: "agregar al carrito" se sintió menos vinculante.

Caso 2: error multivariado. Un equipo diseñó dos páginas de destino, pero el título, la imagen y el color eran todos diferentes. B ganó, pero el equipo no sabía qué elemento marcaba la diferencia; el aprendizaje se volvió cero. En la siguiente prueba, siguieron la regla: una variable a la vez. En esa prueba vieron claramente que el título era el factor principal.

Caso 3: trampa de la decisión temprana. El equipo de un boletín probó dos líneas de asunto en un grupo de 200 personas y dijo: "Obtuvo una A" en la primera hora. La muestra fue muy pequeña; la diferencia fue estadísticamente insignificante (es decir, podría haberse debido al azar). Cuando la prueba se incrementó a un muestreo y tiempo suficientes, el resultado se revirtió. Lección: no tomes decisiones sin suficientes datos.

Precaución: La diferencia observada en una muestra pequeña (pequeña cantidad de personas) puede ser engañosa. La significancia estadística se refiere a la probabilidad de que una diferencia sea real y no debida al azar. Asegúrese de llegar a suficientes personas y de que las pruebas duren lo suficiente antes de sacar conclusiones precipitadas.

Plantillas copiables

Plantilla 1: generador de variantes aisladas:

Genera variantes para pruebas A/B. La ÚNICA variable a probar: [título/CTA/imagen]. Todo lo demás permanecerá constante. Hipótesis: [...]. Contexto: [...].Variante A: [enfoque actual]. Variante B: [enfoque alternativo]. Sean las dos variantes de longitud similar; no cambies nada más.

Plantilla 2: Aclarador de hipótesis:

Construya una hipótesis comprobable a partir de la siguiente observación: "[observación]". Escriba la hipótesis en el formato "si hacemos [cambio], [métrica] aumenta porque [por qué]". Entonces dime qué variable única debo aislar.

Plantilla 3: conjunto de prueba de línea de asunto:

Cree 2 líneas de asunto para la prueba A/B para el siguiente correo electrónico. Diferencia en un solo eje: [curiosidad vs. claridad / concisión etc. larga/pregunta etc. expresión]. Ambos no deben contener la palabra spam y deben tener una longitud similar. Resumen por correo electrónico: [...]

Plantilla 4 — Interpretación de resultados:

Interpretar el resultado de un test A/B.Variable: [...]. Métrica variante A: [...]. Métrica variante B: [...].Tamaño de la muestra: [...]. Duración: [...].Dime: ¿La diferencia parece significativa o la muestra es pequeña? ¿Qué aprendimos? ¿Qué recomiendas para la próxima prueba? No reclame estadísticas exactas; Si no está claro, especifique.

Consejo: no basta con sacar al "ganador" de la prueba; La verdadera ganancia es comprender “por qué ganó”. Esta información alimenta la hipótesis para la siguiente prueba y construye un cuerpo de aprendizaje con el tiempo.

Prioridad: ¿qué probar primero?

Hay un sinfín de elementos que puedes probar, pero tu tiempo y tráfico son limitados. Así que priorice las pruebas según el potencial de impacto. Regla general: primero se prueban los elementos que el usuario ve primero y que tienen mayor impacto en la decisión. En una página de destino, el título tiene el mayor impacto en los clics; porque el usuario lo lee primero y decide ahí o no continuar. Detalles como el color de los botones suelen tener un impacto menor; déjalos para el final.

Una forma práctica de priorizar es calificar cada idea de prueba en tres ejes: impacto esperado (¿qué diferencia habrá si gana?), confianza (¿qué tan seguros estamos de que ganará?) y facilidad (¿qué tan rápido se configura?). Las pruebas con alto impacto, alta confianza y bajo esfuerzo se colocan en primer lugar. Esto le permite asignar tráfico limitado a los experimentos que aportan el mayor aprendizaje. La IA puede brindarle un plan rápido para calificar y priorizar una lista de ideas a lo largo de estos tres ejes; Tú decides.

Plantilla 5: Priorización de pruebas:

Priorice las siguientes ideas de pruebas A/B. Califique cada uno en los ejes de impacto (1-5), confiabilidad (1-5) y facilidad de instalación (1-5), clasifíquelos según el puntaje total y explique en una oración por qué están en ese orden. IDEAS DE PRUEBA: [lista]

Errores comunes

  • Tan variable al mismo tiempo. El resultado se vuelve ininterpretable.
  • Pruebas sin hipótesis. “Probemos y veremos” no produce aprendizaje.
  • Decisión temprana. En una muestra pequeña, se cree que la diferencia es real por casualidad.
  • Variantes de diferentes longitudes. Se crea involuntariamente una segunda variable.
  • Solo tomando al ganador. Si no se conoce el motivo, la información no se acumulará.

En resumen

  • La regla de oro de las pruebas A/B: una variable a la vez.
  • Cada prueba debe comenzar con una hipótesis: ¿qué espero y por qué?
  • Definir una única medida clara de éxito y una muestra adecuada.
  • La diferencia en la muestra pequeña es engañosa; Tenga en cuenta la significación estadística.
  • Descubra por qué, no el ganador; Esta idea se alimenta de la siguiente prueba.

Tarea de aplicación

Elige una observación sobre uno de tus contenidos. Con la Plantilla 2, traduzca esto en una hipótesis clara e identifique la variable a aislar. Produzca dos variantes con la plantilla 1 (longitud similar, única diferencia). Finalmente, ajuste los números de resultados hipotéticos, interprételos usando la Plantilla 4 y observe lo que dice el modelo sobre la adecuación de la muestra. Duración: aproximadamente 25 minutos.

lista de verificación

  • [ ] Comencé la prueba con una hipótesis clara.
  • [] Aislé solo una variable.
  • [ ] Las variantes se mantuvieron similares en otros ejes (longitud, etc.).
  • [] He definido una métrica de éxito clara.
  • [] No me decidí sin suficiente muestra/tiempo.
  • [ ] Anoté el motivo del ganador para la próxima prueba.