యూనిట్ 8 / 11

A/B పరీక్ష వేరియంట్లు మరియు ప్రయోగ రూపకల్పన

లాభాలు:

  • A/B పరీక్ష కోసం ఒకే వేరియబుల్‌లను వేరుచేసే సిస్టమాటిక్ టెక్స్ట్ వేరియంట్‌లను రూపొందించగల సామర్థ్యం
  • పరికల్పనను కొలవగల ప్రయోగాత్మక సెటప్‌గా మార్చగల సామర్థ్యం
  • గణాంక ప్రాముఖ్యత మరియు అభ్యాసం పరంగా పరీక్ష ఫలితాలను అర్థం చేసుకోగల సామర్థ్యం

మార్కెటింగ్‌లో అంతర్ దృష్టి విలువైనది, కానీ సాక్ష్యం మరింత విలువైనది. ఏ హెడ్‌లైన్‌కు ఎక్కువ క్లిక్‌లు వచ్చాయి, ఏ CTA ఎక్కువ విక్రయిస్తుంది, ఏ చిత్రం ఎక్కువ దృష్టిని ఆకర్షిస్తుంది? ఊహించడానికి బదులుగా, మీరు దీన్ని A/B పరీక్షతో కొలవవచ్చు. A/B పరీక్ష అనేది నిజమైన ప్రేక్షకులకు ఒకే కంటెంట్ (A మరియు B) యొక్క రెండు వెర్షన్‌లను చూపే ప్రయోగాత్మక పద్ధతి మరియు ఏది మెరుగ్గా పనిచేస్తుందో కొలుస్తుంది. కృత్రిమ మేధస్సు ఈ పరీక్షల కోసం ఇన్‌పుట్‌ను త్వరగా ఉత్పత్తి చేస్తుంది, అవి వేరియంట్‌లు; కానీ పరీక్ష పని చేయడానికి శాస్త్రీయ నియమం అవసరం: ఒక సమయంలో ఒక వేరియబుల్. ఈ యూనిట్‌లో మీరు వేరియంట్‌లను ఎలా రూపొందించాలో, పరికల్పనను కొలవగల ప్రయోగంగా అనువదించడం మరియు గణాంక ప్రాముఖ్యత పరంగా ఫలితాలను ఎలా అర్థం చేసుకోవాలో నేర్చుకుంటారు.

గోల్డెన్ రూల్: ఒక వేరియబుల్‌ను వేరు చేయండి

పరీక్ష ఫలితాన్ని అర్థం చేసుకోవడానికి, A మరియు B మధ్య ఒక విషయం మాత్రమే భిన్నంగా ఉండాలి. మీరు టైటిల్, ఇమేజ్ మరియు CTAని ఒకే సమయంలో మార్చినట్లయితే, B గెలిచినప్పుడు ఏది తేడా వచ్చిందో మీకు ఎప్పటికీ తెలియదు. పరీక్షించవలసిన వేరియబుల్‌ను వేరుచేయడం అనేది నేర్చుకోవడం సాధ్యం చేసే ఏకైక విషయం.

పరీక్షించగల సాధారణ వేరియబుల్స్:

  • శీర్షిక: ఒకే చిత్రం మరియు శరీరం, విభిన్న శీర్షిక.
  • CTA వచనం: "కొనుగోలు" లేదా "కార్ట్‌కి జోడించు"?
  • సబ్జెక్ట్ లైన్: ఇమెయిల్ ఓపెన్ రేట్‌ను ప్రభావితం చేస్తుంది.
  • చిత్రం: ఒకే వచనం, విభిన్న చిత్రం.
  • పొడవు/టోన్: పొట్టి వర్సెస్ పొడవాటి, అధికారికం మొదలైనవి సిన్సియర్.

పరికల్పన నుండి ప్రయోగం వరకు: దశలవారీగా

  1. ఒక పరిశీలన చేయండి. "మా ల్యాండింగ్ పేజీ తక్కువ మార్పిడిని కలిగి ఉంది."
  2. పరికల్పన. "ప్రయోజనాల-కేంద్రీకృత శీర్షిక ఫీచర్-కేంద్రీకృత శీర్షిక కంటే ఎక్కువగా మారుస్తుంది."
  3. వేరియబుల్‌ను వేరు చేయండి. టైటిల్ మాత్రమే మారుతుంది.
  4. వేరియంట్‌లను రూపొందించండి. మోడల్‌తో 2 స్పష్టమైన వేరియంట్లు (A: ఫీచర్, B: ప్రయోజనం).
  5. మీ విజయ ప్రమాణాన్ని నిర్వచించండి. ఉదాహరణకు, మార్పిడి రేటు — కావలసిన చర్య తీసుకునే సందర్శకుల శాతం.
  6. నమూనా మరియు వ్యవధిని నిర్ణయించండి. తగినంత వ్యక్తులు మరియు తగినంత సమయం.
  7. కొలవండి, సరిపోల్చండి, నేర్చుకోండి. "ఎందుకు" తెలుసుకోండి, విజేత కాదు.

"పరికల్పన" అనేది ఇక్కడ పరీక్షించబడే ఒక అంచనా మరియు అది నిజం లేదా తప్పు కావచ్చు; మంచి పరికల్పన మీరు ఏమి ఆశిస్తున్నారో మరియు ఎందుకు అని మీకు తెలియజేస్తుంది.

బలహీనమైన ప్రాంప్ట్ / బలమైన ప్రాంప్ట్

బలహీనమైన ప్రాంప్ట్:

ఈ శీర్షిక కోసం కొన్ని ప్రత్యామ్నాయాలను వ్రాయండి.

శక్తివంతమైన ప్రాంప్ట్:

A/B పరీక్ష కోసం వేరియంట్‌లను రూపొందించండి. నియమం: శీర్షిక మాత్రమే మారుతుంది, శరీరం మరియు CTA అలాగే ఉంటాయి. పరికల్పన: ప్రయోజనాల ఆధారిత శీర్షిక ఫీచర్-ఆధారిత శీర్షిక కంటే ఎక్కువ క్లిక్‌లను పొందుతుంది. సందర్భం: ల్యాండింగ్ పేజీ. ఉత్పత్తి: ప్రాజెక్ట్ నిర్వహణ అప్లికేషన్. ప్రేక్షకులు: చిన్న బృందాలు.అభ్యర్థించబడినవి:- వేరియంట్ A: ఫీచర్-ఆధారిత శీర్షిక (ఉత్పత్తి ఏమి చేస్తుందో వివరిస్తుంది)- వేరియంట్ B: ప్రయోజనం-ఆధారిత శీర్షిక (ఇది వినియోగదారుకు ఏమి అందజేస్తుందో వివరిస్తుంది) ప్రతి రూపాంతరం క్రింద, అది తాకిన మానసిక ప్రేరణను వ్రాయండి. 2 రకాలు మాత్రమే; రెండూ ఒకే పంక్తి, ఒకే పొడవు ఉండాలి.

వేరియంట్‌లు ఒకే పొడవుతో ఉండాలని కోరుకోవడం ముఖ్యం; లేకుంటే "పొడవు" అనుకోకుండా రెండవ వేరియబుల్ అవుతుంది.

పరీక్షకు ముందు/తర్వాత చార్ట్

వేదిక

ఏం చేయాలి

తరచుగా లోపం

పరికల్పన

ఏమిటి, నేను ఎందుకు వేచి ఉన్నాను?

పరికల్పనలు లేకుండా "ప్రయత్నిద్దాం"

వేరియబుల్

ఒక విషయాన్ని వేరు చేయండి

ఒకేసారి అనేక విషయాలను మార్చడం

ప్రమాణం

ఒక స్పష్టమైన మెట్రిక్ ఎంచుకోండి

నిరవధిక "మంచిది"

నమూనా

తగినంత వ్యక్తులు/సమయం

ముందుగానే నిర్ణయించుకోండి

వ్యాఖ్యానించండి

ఎందుకో తెలుసుకోండి

విజేతను మాత్రమే తీసుకోండి

మూడు చిన్న కేసులు

కేసు 1 - CTA పరీక్ష స్పష్టమైన ఫలితాలను ఇస్తుంది. ఒక ఇ-కామర్స్ సైట్ ఉత్పత్తి బటన్‌ను పరీక్షించింది: A "కొనుగోలు", B "కార్ట్‌కు జోడించు". బటన్ వచనం మాత్రమే మార్చబడింది. 3,000 మంది సందర్శకుల పరీక్షలో, B తన క్లిక్-త్రూ రేటును 4.0% నుండి 4.9%కి పెంచింది. సింగిల్ వేరియబుల్ వేరుచేయబడినందున, విజేత స్పష్టంగా ఉన్నాడు: "కార్ట్‌కు జోడించు" తక్కువ బైండింగ్‌గా భావించబడింది.

కేస్ 2 - మల్టీవియారిట్ లోపం. ఒక బృందం రెండు ల్యాండింగ్ పేజీలను రూపొందించింది, కానీ టైటిల్, చిత్రం మరియు రంగు అన్నీ భిన్నంగా ఉన్నాయి. B గెలిచింది, కానీ జట్టుకు ఏ మూలకం తేడా వచ్చిందో తెలియదు; నేర్చుకోవడం సున్నా అయింది. తదుపరి పరీక్షలో, వారు నియమాన్ని అనుసరించారు: ఒక సమయంలో ఒక వేరియబుల్. ఆ టెస్ట్‌లో టైటిల్‌ ప్రధాన కార‌ణ‌మ‌ని స్ప‌ష్టంగా చూశారు.

కేసు 3 - ముందస్తు నిర్ణయం ఉచ్చు. ఒక వార్తాలేఖ బృందం 200 మంది వ్యక్తుల సమూహంలో రెండు సబ్జెక్ట్ లైన్‌లను పరీక్షించి, మొదటి గంటలో "ఇది A సంపాదించింది" అని చెప్పింది. నమూనా చాలా చిన్నది; వ్యత్యాసం గణాంకపరంగా చాలా తక్కువగా ఉంది (అనగా, అవకాశం వల్ల కావచ్చు). పరీక్షను తగినంత నమూనా మరియు సమయానికి పెంచినప్పుడు, ఫలితం తారుమారు చేయబడింది. పాఠం: తగినంత డేటా లేకుండా నిర్ణయాలు తీసుకోవద్దు.

హెచ్చరిక: చిన్న నమూనాలో (తక్కువ సంఖ్యలో వ్యక్తులు) కనిపించే వ్యత్యాసం తప్పుదారి పట్టించేది కావచ్చు. గణాంక ప్రాముఖ్యత అనేది ఒక వ్యత్యాసం వాస్తవమైనది మరియు అవకాశం కారణంగా కాదు అనే సంభావ్యతను సూచిస్తుంది. తగినంత మంది వ్యక్తులు చేరుకున్నారని నిర్ధారించుకోండి మరియు నిర్ధారణలకు వెళ్లే ముందు పరీక్ష చాలా కాలం పాటు కొనసాగుతుంది.

కాపీ చేయగల టెంప్లేట్లు

టెంప్లేట్ 1 — ఐసోలేటెడ్ వేరియంట్ జనరేటర్:

A/B పరీక్ష కోసం వేరియంట్‌లను రూపొందించండి. పరీక్షించాల్సిన ఏకైక వేరియబుల్: [శీర్షిక/CTA/image]. మిగతావన్నీ స్థిరంగా ఉంటాయి. పరికల్పన: [...]. సందర్భం: [...].వేరియంట్ A: [ప్రస్తుత విధానం]. వేరియంట్ B: [ప్రత్యామ్నాయ విధానం]. రెండు రూపాంతరాలు ఒకే పొడవుతో ఉండనివ్వండి; ఇంకేమీ మార్చవద్దు.

టెంప్లేట్ 2 — పరికల్పన క్లారిఫైయర్:

కింది పరిశీలన నుండి పరీక్షించదగిన పరికల్పనను రూపొందించండి: "[పరిశీలన]". పరికల్పనను ఫార్మాట్‌లో వ్రాయండి "మనం [మార్పు] చేస్తే, [మెట్రిక్] పెరుగుతుంది ఎందుకంటే [ఎందుకు]". అప్పుడు నేను ఏ సింగిల్ వేరియబుల్‌ని ఐసోలేట్ చేయాలో చెప్పండి.

టెంప్లేట్ 3 — సబ్జెక్ట్ లైన్ టెస్ట్ సెట్:

కింది ఇమెయిల్ కోసం A/B పరీక్ష కోసం 2 సబ్జెక్ట్ లైన్‌లను సృష్టించండి. ఒకే అక్షం మీద వ్యత్యాసం: [ఉత్సుకత vs. స్పష్టత / సంక్షిప్తత మొదలైనవి దీర్ఘ/ప్రశ్న మొదలైనవి. వ్యక్తీకరణ]. రెండూ స్పామ్ అనే పదాన్ని కలిగి ఉండకూడదు మరియు ఒకే పొడవు ఉండాలి. ఇమెయిల్ సారాంశం: [...]

టెంప్లేట్ 4 — ఫలితాలను వివరించడం:

A/B పరీక్ష ఫలితాన్ని వివరించండి. వేరియబుల్: [...]. వేరియంట్ A మెట్రిక్: [...]. వేరియంట్ B మెట్రిక్: [...].నమూనా పరిమాణం: [...]. వ్యవధి: [...].నాకు చెప్పు: వ్యత్యాసం ముఖ్యమైనదిగా అనిపిస్తుందా లేదా నమూనా చిన్నదా? మనం ఏమి నేర్చుకున్నాము? తదుపరి పరీక్ష కోసం మీరు ఏమి సిఫార్సు చేస్తారు? ఖచ్చితమైన గణాంకాలను క్లెయిమ్ చేయవద్దు; అస్పష్టంగా ఉంటే, పేర్కొనండి.

చిట్కా: పరీక్ష నుండి "విజేత" పొందడానికి ఇది సరిపోదు; అసలు లాభం "ఎందుకు గెలిచింది" అనే అంతర్దృష్టి. ఈ అంతర్దృష్టి తదుపరి పరీక్ష కోసం పరికల్పనను ఫీడ్ చేస్తుంది మరియు కాలక్రమేణా నేర్చుకునే శరీరాన్ని నిర్మిస్తుంది.

ప్రాధాన్యత: ముందుగా ఏమి పరీక్షించాలి?

మీరు పరీక్షించగల అంతులేని అంశాలు ఉన్నాయి, కానీ మీ సమయం మరియు ట్రాఫిక్ పరిమితం. కాబట్టి ప్రభావ సామర్థ్యం ఆధారంగా పరీక్షలకు ప్రాధాన్యత ఇవ్వండి. సాధారణ నియమం: వినియోగదారు ముందుగా చూసే మరియు నిర్ణయంపై ఎక్కువ ప్రభావం చూపే అంశాలు ముందుగా పరీక్షించబడతాయి. ల్యాండింగ్ పేజీలో, హెడ్‌లైన్ క్లిక్‌లపై అత్యధిక ప్రభావాన్ని చూపుతుంది; ఎందుకంటే వినియోగదారు దానిని ముందుగా చదివి, కొనసాగించాలా వద్దా అని నిర్ణయించుకుంటారు. బటన్ రంగు వంటి వివరాలు తరచుగా చిన్న ప్రభావాన్ని చూపుతాయి; వాటిని చివరిగా వదిలేయండి.

ప్రతి పరీక్ష ఆలోచనను మూడు అక్షాలపై స్కోర్ చేయడం ప్రాధాన్యతనిచ్చే ఆచరణాత్మక మార్గం: ఆశించిన ప్రభావం (అది గెలిస్తే ఎంత తేడా ఉంటుంది?), విశ్వాసం (అది గెలుస్తుందని మనం ఎంత నమ్మకంగా ఉన్నాము?) మరియు సులభంగా (ఎంత వేగంగా సెటప్ చేయాలి?). అధిక ప్రభావం, అధిక విశ్వాసం మరియు తక్కువ ప్రయత్నంతో పరీక్షలు మొదట ఉంచబడతాయి. ఇది ఎక్కువ అభ్యాసాన్ని అందించే ప్రయోగాలకు పరిమిత ట్రాఫిక్‌ను కేటాయించడానికి మిమ్మల్ని అనుమతిస్తుంది. ఈ మూడు అక్షాలతో పాటు ఆలోచనల జాబితాను స్కోరింగ్ చేయడానికి మరియు ప్రాధాన్యతనిచ్చేందుకు AI మీకు శీఘ్ర బ్లూప్రింట్‌ను అందిస్తుంది; మీరు నిర్ణయించుకోండి.

టెంప్లేట్ 5 — పరీక్ష ప్రాధాన్యత:

కింది A/B పరీక్ష ఆలోచనలకు ప్రాధాన్యత ఇవ్వండి. ప్రభావం (1-5), విశ్వసనీయత (1-5) మరియు ఇన్‌స్టాలేషన్ సౌలభ్యం (1-5) అక్షాలపై ప్రతి ఒక్కటి స్కోర్ చేయండి, మొత్తం స్కోర్ ప్రకారం వాటిని ర్యాంక్ చేయండి మరియు అవి ఎందుకు ఆ క్రమంలో ఉన్నాయో ఒక వాక్యంలో వివరించండి. పరీక్ష ఆలోచనలు: [జాబితా]

సాధారణ తప్పులు

  • కాబట్టి అదే సమయంలో వేరియబుల్. ఫలితం అర్థం చేసుకోలేనిదిగా మారుతుంది.
  • పరికల్పన రహిత పరీక్ష. “ప్రయత్నించండి మరియు చూద్దాం” అభ్యాసాన్ని ఉత్పత్తి చేయదు.
  • ముందస్తు నిర్ణయం. ఒక చిన్న నమూనాలో, వ్యత్యాసం యాదృచ్ఛికంగా వాస్తవమని భావించబడుతుంది.
  • వేర్వేరు పొడవుల వైవిధ్యాలు. రెండవ వేరియబుల్ అనుకోకుండా సృష్టించబడింది.
  • విజేతను మాత్రమే తీసుకుంటారు. కారణం నేర్చుకోకపోతే, సమాచారం పేరుకుపోదు.

సారాంశంలో

  • A/B పరీక్ష యొక్క గోల్డెన్ రూల్: ఒక సమయంలో ఒక వేరియబుల్.
  • ప్రతి పరీక్ష ఒక పరికల్పనతో ప్రారంభం కావాలి: నేను ఏమి ఆశిస్తున్నాను మరియు ఎందుకు?
  • విజయం యొక్క ఒక స్పష్టమైన కొలత మరియు తగిన నమూనాను నిర్వచించండి.
  • చిన్న నమూనాలో వ్యత్యాసం తప్పుదారి పట్టించేది; గణాంక ప్రాముఖ్యతను గమనించండి.
  • ఎందుకు కనుగొనండి, విజేత కాదు; ఈ అంతర్దృష్టి తదుపరి పరీక్షకు ఫీడ్ అవుతుంది.

అప్లికేషన్ టాస్క్

మీ కంటెంట్‌లలో ఒకదాని గురించి పరిశీలనను ఎంచుకోండి. టెంప్లేట్ 2తో, దీనిని స్పష్టమైన పరికల్పనగా అనువదించండి మరియు వేరుచేయడానికి వేరియబుల్‌ను గుర్తించండి. టెంప్లేట్ 1 (ఇలాంటి పొడవు, తేడా మాత్రమే)తో రెండు వేరియంట్‌లను ఉత్పత్తి చేయండి. చివరగా, ఊహాత్మక ఫలిత సంఖ్యలను సరిపోల్చండి, టెంప్లేట్ 4ని ఉపయోగించి వాటిని అర్థం చేసుకోండి మరియు నమూనా సమర్ధత గురించి మోడల్ ఏమి చెబుతుందో గమనించండి. వ్యవధి: సుమారు 25 నిమిషాలు.

చెక్లిస్ట్

  • [ ] నేను స్పష్టమైన పరికల్పనతో పరీక్షను ప్రారంభించాను.
  • [ ] నేను ఒక వేరియబుల్‌ను మాత్రమే వేరు చేసాను.
  • [ ] ఇతర అక్షాలలో (పొడవు, మొదలైనవి) వేరియంట్‌లు ఒకే విధంగా ఉన్నాయి.
  • [ ] నేను ఒక స్పష్టమైన విజయ ప్రమాణాన్ని నిర్వచించాను.
  • [ ] నేను తగినంత నమూనా/సమయం లేకుండా నిర్ణయించలేదు.
  • [] నేను తదుపరి పరీక్షలో విజేతకు కారణాన్ని గుర్తించాను.