Enhet 8 / 11

A/B testvarianter og eksperimentdesign

Gevinster:

  • Evne til å generere systematiske tekstvarianter som isolerer enkeltvariabler for A/B-testing
  • Evne til å transformere en hypotese til et målbart eksperimentelt oppsett
  • Evne til å tolke testresultater med tanke på statistisk signifikans og læring

Intuisjon er verdifull i markedsføring, men bevis er mer verdifull. Hvilken overskrift får flere klikk, hvilken CTA selger mer, hvilket bilde tiltrekker seg mer oppmerksomhet? I stedet for å gjette kan du måle dette med A/B-testing. A/B-testing er en eksperimentell metode som viser to versjoner av samme innhold (A og B) til et reelt publikum og måler hvilken som presterer best. Kunstig intelligens produserer raskt input til disse testene, nemlig varianter; Men å få testen til å fungere krever en vitenskapelig regel: én variabel om gangen. I denne enheten lærer du hvordan du genererer varianter, oversetter en hypotese til et målbart eksperiment og tolker resultater i form av statistisk signifikans.

Gylden regel: isoler én variabel

For å tolke resultatet av en test, må bare én ting være forskjellig mellom A og B. Hvis du endrer tittel, bilde og CTA samtidig, vil du aldri vite hvilken som gjorde forskjellen når B vinner. Å isolere variabelen som skal testes er det eneste som gjør læring mulig.

Typiske variabler som kan testes:

  • Tittel: Samme bilde og kropp, annen tittel.
  • CTA-tekst: "Kjøp" eller "Legg i handlekurv"?
  • Emnelinje: Påvirker åpningshastigheten til en e-post.
  • Bilde: Samme tekst, annet bilde.
  • Lengde/tone: Kort vs. lang, formell etc. oppriktig.

Fra hypotese til eksperiment: trinn for trinn

  1. Gjør en observasjon. "Destinasjonssiden vår har lav konvertering."
  2. Hypoteser. "Den fordelsfokuserte overskriften konverterer mer enn den funksjonsfokuserte overskriften."
  3. Isoler variabelen. Bare tittelen endres.
  4. Generer varianter. 2 klare varianter med modellen (A: funksjon, B: fordel).
  5. Definer ditt mål på suksess. For eksempel konverteringsfrekvens – prosentandelen av besøkende som utfører ønsket handling.
  6. Bestem prøve og varighet. Nok folk og nok tid.
  7. Mål, sammenlign, lær. Lær "hvorfor", ikke vinneren.

En "hypotese" er en prediksjon som vil bli testet her og kan vise seg å være sann eller usann; En god hypotese forteller deg hva du forventer og hvorfor.

Svak forespørsel / Sterk forespørsel

Svak melding:

Skriv noen alternativer for denne tittelen.

Kraftig ledetekst:

Generer varianter for en A/B-test. Regel: BARE tittelen vil endres, kroppen og CTA forblir de samme.HYPOTESE: Fordelsorientert tittel får flere klikk enn funksjonsorientert tittel. KONTEKST: Landingsside. Produkt: prosjektledelsesapplikasjon. Målgruppe: små team. FORESPØRT:- Variant A: funksjonsorientert tittel (beskriver hva produktet gjør)- Variant B: nytteorientert tittel (beskriver hva det gir brukeren) Under hver variant skriver du hvilken psykologisk motivasjon den berører.Kun 2 varianter; Begge skal være enkeltlinje, av samme lengde.

Det er viktig å ønske at variantene skal ha samme lengde; ellers blir "lengde" utilsiktet en annen variabel.

Før/etter testskjema

Scene

Hva du skal gjøre

hyppige feil

hypotese

Hva, hvorfor venter jeg?

«La oss prøve» uten hypoteser

Variabel

Isoler én ting

Endre mange ting på en gang

kriterium

Velg én tydelig beregning

Ubestemt "bedre"

prøve

Nok folk/tid

bestemme tidlig

Kommentar

Finn ut hvorfor

Bare ta vinneren

tre minisaker

Case 1 - CTA-test gir klare resultater. En e-handelsside testet produktknappen: A "Kjøp", B "Legg i handlekurv". Bare knappeteksten er endret. I en test med 3000 besøkende økte B sin klikkfrekvens fra 4,0 % til 4,9 %. Med enkeltvariabelen isolert var vinneren klar: "legg i handlekurv" føltes mindre bindende.

Tilfelle 2 — Multivariat feil. Et team designet to landingssider, men tittelen, bildet og fargen var alle forskjellige. B vant, men laget visste ikke hvilket element som gjorde utslaget; læring ble null. I neste test fulgte de regelen: én variabel om gangen. I den testen så de tydelig at tittelen var hovedfaktoren.

Sak 3 — Tidlig beslutningsfelle. Et nyhetsbrevteam testet to emnelinjer på en gruppe på 200 personer og sa: "Den fikk en A" i løpet av den første timen. Utvalget var svært lite; forskjellen var statistisk insignifikant (dvs. kunne ha vært på grunn av tilfeldigheter). Når testen ble økt til tilstrekkelig prøvetaking og tid, ble resultatet reversert. Leksjon: ikke ta avgjørelser uten nok data.

Forsiktig: Forskjellen sett i et lite utvalg (lite antall personer) kan være misvisende. Statistisk signifikans refererer til sannsynligheten for at en forskjell er reell og ikke skyldes tilfeldigheter. Sørg for at nok folk blir nådd og at testingen varer lenge nok før du trekker konklusjoner.

Kopierbare maler

Mal 1 — Isolert variantgenerator:

Generer varianter for A/B-testing. Den ENESTE variabelen som skal testes: [headline/CTA/image]. Alt annet vil forbli konstant. Hypotese: [...]. Context: [...].Variant A: [current approach]. Variant B: [alternativ tilnærming]. La de to variantene ha samme lengde; ikke endre noe annet.

Mal 2 – Hypoteseklargjøring:

Konstruer en testbar hypotese fra følgende observasjon: "[observasjon]". Skriv hypotesen i formatet "hvis vi gjør [endre], øker [metrisk] fordi [hvorfor]". Fortell meg så hvilken enkelt variabel jeg skal isolere.

Mal 3 — Emnelinjetestsett:

Lag 2 emnelinjer til A/B-test for følgende e-post. Forskjell på en enkelt akse: [nysgjerrighet vs. klarhet / kortfattethet etc. lang/spørsmål etc. uttrykk]. Begge skal ikke inneholde ordet spam og bør ha samme lengde. E-postsammendrag: [...]

Mal 4 – Tolke resultater:

Tolk resultatet av en A/B-test. Variabel: [...]. Variant A-metrikk: [...]. Variant B metrikk: [...].Prøvestørrelse: [...]. Varighet: [...].Fortell meg: Virker forskjellen signifikant, eller er utvalget lite? Hva lærte vi? Hva anbefaler du til neste test? Ikke hevder nøyaktig statistikk; Hvis uklart, spesifiser.

Tips: Det er ikke nok å få "vinneren" fra testen; Den virkelige gevinsten er innsikten i "hvorfor den vant." Denne innsikten mater inn i hypotesen for neste test og bygger en mengde læring over tid.

Prioritet: hva skal jeg teste først?

Det er uendelige ting du kan teste, men tiden din og trafikken er begrenset. Så prioriter tester basert på effektpotensial. Generell regel: elementene som brukeren ser først og har størst innvirkning på beslutningen, testes først. På en landingsside har overskriften størst innvirkning på klikk; fordi brukeren leser den først og bestemmer seg der eller ikke fortsette. Detaljer som knappefarge gjør ofte mindre innvirkning; la dem stå til sist.

En praktisk måte å prioritere på er å score hver testidé på tre akser: forventet effekt (hvor stor forskjell vil det gjøre hvis den vinner?), tillit (hvor sikre er vi på at den vil vinne?), og letthet (hvor rask er den å sette opp?). Tester med høy effekt, høy selvtillit og lav innsats plasseres først. Dette lar deg allokere begrenset trafikk til eksperimentene som gir mest læring. AI kan gi deg en rask plan for scoring og prioritering av en liste med ideer langs disse tre aksene; Du bestemmer.

Mal 5 – Testprioritering:

Prioriter følgende A/B-testingsideer. Score hver enkelt på støtaksene (1-5), pålitelighet (1-5) og enkel installasjon (1-5), ranger dem i henhold til den totale poengsummen og forklar i én setning hvorfor de er i den rekkefølgen. TESTIDEER: [liste]

Vanlige feil

  • Så varierende på samme tid. Resultatet blir uforståelig.
  • Hypotesefri testing. «La oss prøve og se» gir ikke læring.
  • Tidlig beslutning. I et lite utvalg antas forskjellen å være reell ved en tilfeldighet.
  • Varianter av forskjellige lengder. En annen variabel er utilsiktet opprettet.
  • Bare å ta vinneren. Hvis årsaken ikke er lært, vil informasjon ikke samle seg.

Oppsummert

  • Den gylne regelen for A/B-testing: én variabel om gangen.
  • Hver test bør starte med en hypotese: hva forventer jeg og hvorfor?
  • Definer et enkelt klart mål på suksess og et tilstrekkelig utvalg.
  • Forskjellen i det lille utvalget er misvisende; Legg merke til statistisk signifikans.
  • Finn ut hvorfor, ikke vinneren; Denne innsikten mater inn i neste test.

Søknadsoppgave

Velg en observasjon om et av innholdet ditt. Med mal 2, oversett dette til en klar hypotese og identifiser variabelen som skal isoleres. Produser to varianter med mal 1 (lik lengde, kun forskjell). Til slutt tilpasser du de hypotetiske utfallstallene, tolker dem ved hjelp av mal 4, og legg merke til hva modellen sier om utvalgets tilstrekkelighet. Varighet: ca 25 minutter.

sjekkliste

  • [ ] Jeg startet testen med en klar hypotese.
  • [ ] Jeg isolerte bare én variabel.
  • [ ] Varianter forble like i andre akser (lengde osv.).
  • [ ] Jeg har definert én klar suksessberegning.
  • [ ] Jeg bestemte meg ikke uten nok prøve/tid.
  • [ ] Jeg noterte årsaken til vinneren for neste test.