Jedinica 11 / 12

Mjerenje, KPI i kontinuirano poboljšanje: šta pratiti i kako?

Dobici:

  • Sposobnost čitanja klasičnih KPI (AHT, FCR, CSAT, NPS, CES) i metrike specifičnih za AI sa balansom kvaliteta za svaku mjeru produktivnosti
  • Sposobnost mjerenja tačnosti odgovora i redovnog odstupanja i izbjegavanja zamke zaključavanja u jednu metriku
  • Sposobnost izvođenja kontinuiranog poboljšanja na osnovu 'ne znam' evidentiranja, razloga fluktuacije i neuspjelih tokova s PDCA ciklusom

Najopasnija greška kada AI uđe u pozivni centar je reći "instalirali smo ga, izgleda da radi, dosta je". Protok bot-a, pomoćnika ili samoposluživanja nije savršen u trenutku kada se pokrene i ne ostaje tamo; Mora se stalno mjeriti, pratiti i poboljšavati. Štaviše, praćenje pogrešne metrike je ponekad štetnije od nepraćenja prave metrike — jer vas pokreće u pogrešnom smjeru. U ovoj jedinici ćemo vidjeti ključne indikatore call centra (KPI), metrike specifične za AI i kako uspostaviti kontinuirani ciklus poboljšanja.

Prvo, upozorenje: metrika je sredstvo za postizanje cilja, a ne sam cilj. Cilj je kvalitetno i efikasno riješiti problem kupca. Ako jurite jednu metriku (npr. AHT) u izolaciji, predstavnici će prekinuti poziv bez rješavanja klijenta, a prava svrha će biti oštećena. Ovo se zove opsesija metrikom; Pročitajte svaku metriku s protutežom.

Osnovni KPI pozivnog centra

KPI (Key Performance Indicator) je broj koji mjeri učinak procesa. Najosnovnije u call centru:

KPI

Koje mere

balanser

AHT (prosječno vrijeme obrade)

Trajanje kontakta

FCR, CSAT (kratko, ali ne nerastvorljivo)

FCR (Rezolucija pri prvom kontaktu)

Jednokratno rješenje

CSAT (nemojte reći da ste ga riješili i ne riješite ga)

CSAT (zadovoljstvo kupaca)

Rezultat nakon kontakta

Stopa odgovora (bit će varljivo ako malo ljudi popuni)

NPS (ocjena preporuka)

Lojalnost/preporuka

Osnovni uzrok (zašto nizak?)

CES (Ocjena napora kupaca)

Koliko je mušterija bila teška

SL (Nivo usluge)

% poziva odgovoreno za x sekundi

Stopa napuštanja

Stopa napuštanja (napuštanje)

Poziv je ostavljen na čekanju

SL, hlađenje

CES (Customer Effort Score) mjeri koliko se korisnik trudi da riješi svoj problem; mali napor je snažno povezan s visokom vjernošću. Mušterija koja kaže "lako sam to riješila" često je vrednija od toga da kaže "veoma sam zadovoljan".

metrike specifične za AI

Pored klasičnih KPI-ova, dodaju se i posebne metrike za AI aplikacije:

  • Stopa zadržavanja/otklona: Stopa kontakta koju bot/samoposluživanje rješava bez predaje čovjeku. Ali samo to vara; treba čitati zajedno sa rastvorom (zamka u jedinici 8).
  • Stopa rješavanja bota: kontakti koje je bot stvarno riješio (kupac je otišao zadovoljan) — a ne "ostali u botu".
  • Stopa fluktuacije i razlog: Koliko se prenosi i zašto (Jedinica 10).
  • Tačnost odgovora: Stopa po kojoj su odgovori koje daje bot/pomoćnik tačni — mjereno uzorkovanjem i ljudskim nadzorom.
  • Usvajanje: Stopa po kojoj agenti koriste prijedloge za pomoć agentu (Jedinica 6).
  • Preciznost sažetka: Stopa kojom se automatski sažeci/oznake ispravljaju ljudskim odobrenjem (Jedinica 4).
  • Halucinacije/stopa grešaka: Učestalost izmišljenih ili netačnih odgovora — cilj blizu nule.
Savjet: uparite svaki AI metriku sa „stabilizatorom kvaliteta“. Samo "visoko ograničenje" nije dobro; "zaštićenost je visoka I zadovoljstvo bot rješenjem je visoko" je dobro. Nikada ne odvajajte metriku efikasnosti od metrike kvaliteta.

Ciklus kontinuiranog poboljšanja

Dobar AI program je točak koji se vrti, a ne jednokratni projekat. Klasični PDCA ciklus (Plan-Do-Check-Act; PDCA) radi ovdje:

  1. Plan: Koju metriku ćete poboljšati i zašto? Postavite cilj (npr. "povećati stopu rješavanja botova pri povratu sa 60% na 75%)."
  2. Primijeni: izvršite promjenu (dodajte stavku baze znanja, popravite tok, poboljšajte prompt).
  3. Provjerite: Da li se metrika zaista poboljšala? Ima li nuspojava (da li su neki drugi pokazatelji pokvareni)?
  4. Poduzmite mjere opreza: ako djeluje, učinite ga trajnim; Ako ne uspije, vratite ga i naučite.

Gorivo za ovaj ciklus su podaci: evidencija „ne znam” (Cijena 5), ​​razlozi za fluktuacije (Cijena 10), neuspjeli tokovi (Cijena 8), razgovori sa niskim rezultatom (Cijena 7). Ovi resursi vam govore gdje da se poboljšate.

Oprez: AI modeli i ponašanje kupaca se mijenjaju tokom vremena; Ovo se zove drift. Bot koji danas radi 95% precizno može se tiho pogoršati ako njegova baza znanja zastari ili se promijeni obrazac pitanja korisnika. Zato mjerenje nije jednokratno, već kontinuirano. Ono što ne izmjeriš tiho se kvari.

Četiri šablona za kopiranje

1) Dizajn KPI kontrolne ploče:

Napravite nacrt mjesečne KPI kontrolne table za moj call centar AI program. Za svaku metriku: definicija, cilj, metrika odstupanja, izvor podataka, prag upozorenja (alarm iznad/ispod ove vrijednosti). metrike: AHT, FCR, CSAT, zadržavanje, stopa bot rješenja, stopa obrtanja, tačnost odgovora. Nemojte davati fiktivne brojeve; Postavite šablon tako da popunjavam polja.

2) Metričko tumačenje (osnovni uzrok):

Tumačite KPI podatke u nastavku kao CX analitičar. (1) Najznačajnija promjena, (2) HIPOTEZE mogućeg osnovnog uzroka (dokazati), (3) koju drugu metriku pogledati (offset), (4) 2 predložene radnje. Uzmite brojeve iz podataka; Označite hipoteze kao "moraju biti potvrđene". Podaci: <<...>>

3) A/B poređenje evaluacije:

Uporedite dvije bot/stream verzije (A i B) sa ovim podacima: <<podaci>>. Što je bolje u zatvorenosti, stopi rezolucije botova i CSAT-u? Da li se razlika čini značajnom ili je manja/šum? Da li je povećanje produktivnosti na štetu gubitka kvaliteta? Dajte jasnu preporuku, ali i ukažite na sve nejasnoće.

4) Sažetak povratnih informacija o stalnom poboljšanju:

Kombinirajte sljedeće resurse za poboljšanje (ne znam dnevnik, razlozi primopredaje, neuspjeli tokovi). Dajte prioritet 3 mogućnosti poboljšanja najvećeg uticaja: problem / metrika na koju utiče / predložena promjena / očekivani uticaj. Samo se oslonite na podatke. Izvori: <<...>>

Slaba prompt / Jaka prompt

Slab upit:

Reci mi da li su brojke za ovaj mjesec dobre ili loše.

Nejasno: koja metrika, šta cilj, šta stabilizator, šta je osnovni uzrok - proizvodi površan i pogrešan sud.

Snažan upit:

Ovog mjeseca, obuzdavanje je poraslo sa 58% na 71%, ali je CSAT pao sa 4,1 na 3,6, a stopa fluktuacije smanjena sa 30% na 19%. Protumačite ovaj grafikon: da li je povećanje produktivnosti došlo na račun zadovoljstva kupaca (mogu li kupci biti zarobljeni u botu)? Kojim podacima trebam provjeriti? Predložite 2 radnje.

Razlika: pitanje metrike, balansiranja i validacije je jasno; Tumačenje ima smisla (ovdje postoji signal zamke "zatvaranja", budući da povećanje zadržavanja dolazi sa smanjenjem CSAT-a).

tri mini kofera

Slučaj 1 — Pogrešna metrička zamka. Jedan pozivni centar je nagradio samo AHT. Agenti su spuštali slušalice na klijente, a da ih nisu riješili da skrate vrijeme; Kratkoročno, AHT je pao za 15%, ali ponovni pozivi su porasli za 28%, a FCR je pao. Ukupni teret i troškovi su se zapravo povećali. Ravnoteža je uspostavljena kada su AHT, FCR i CSAT praćeni zajedno. Lekcija: jedna metrika laže.

Slučaj 2 — Tihi drift. Bot jedne banke je radio bez problema 6 mjeseci, niko to nije mjerio. Kada su se pojavili novi proizvodi, baza znanja je zaostala; Tačnost bota neprimjetno je pala sa 94% na 79%, a pritužbe su se povećale. Nakon što je uspostavljeno redovno mjerenje tačnosti, klizanje je rano uhvaćeno. Pouka: sistem koji se ne meri tiho se kvari.

Slučaj 3 — Snaga ciklusa iscjeljenja. Kompanija za e-trgovinu odabrala je 3 poboljšanja s najvećim uticajem svakog mjeseca (od nepoznatog dnevnika + razloga fluktuacije + neuspjelih tokova) uz mjesečni PDCA ciklus. Za 6 mjeseci, stopa rješavanja botova porasla je sa 52% na 74%, CSAT sa 3,8 na 4,4 — ne u jednom velikom napretku, već u malim, izmjerenim poboljšanjima jedno za drugim. Kontinuirano poboljšanje dolazi od dosljednosti, a ne skokova i granica.

Uobičajene greške

  • Fokusiranje na jednu metriku. Samo provođenje AHT-a ili zadržavanja degradira kvalitet; Svaka metrika mora imati stabilizator.
  • Odvajanje metrike produktivnosti od kvaliteta. "Bot rješava mnogo" i "kupac je zadovoljan" dvije su različite stvari; Čitajte zajedno.
  • Postavite ga jednom i pustite ga. Drift je tih; Kontinuirano mjerenje je obavezno.
  • Smatrajući samo CSAT stvarnim. Niska stopa odgovora dovodi u zabludu ATBZ; Pogledajte ko je to popunio.
  • Ne povezuje poboljšanje sa podacima. Odredite prioritete sa podacima „ne znam dnevnik/primopredaja/neuspeli tok“, a ne intuicijom.

Ukratko

Mjerenje i kontinuirano poboljšanje pretvaraju AI iz jednokratne instalacije u živi sistem. Zajedno pratite klasične KPI (AHT, FCR, CSAT, NPS, CES) i metrike specifične za AI (zadržavanje, stopa bot rješenja, tačnost odgovora, korištenje preporuka); čitajte svaku metriku produktivnosti sa stabilizatorom kvaliteta; Nikad se ne fiksirajte na jednu metriku. Kontinuirano se poboljšavajte s PDCA petljom i koristite evidencije „ne znam“, razloge fluktuacije i neuspjele tokove kao gorivo za petlju. Zapamtite: modeli i kupci se mijenjaju tokom vremena; Ono što ne izmjeriš tiho propada.

Zadatak aplikacije

Dizajnirajte KPI kontrolnu tablu za sopstveni AI program koji se sastoji od 7 metrika; za svaku metriku postavite definiciju, cilj, metriku kompenzacije i prag upozorenja (koristite predložak „1) KPI kontrolna tabla“. Zatim kreirajte fiktivni mjesečni skup podataka i izvršite analizu osnovnog uzroka pomoću šablona „2) Metrička interpretacija“. Konačno, odredite prioritet za 3 poboljšanja s najvećim uticajem za sljedeći mjesec sa „4) Sažetak povratnih informacija o stalnom poboljšanju“.

kontrolna lista

  • [ ] Zajedno pratim klasične KPI i metrike specifične za AI.
  • [ ] Svaka metrika produktivnosti ima stabilizator kvaliteta; Ne fokusiram se na jednu metriku.
  • [ ] Pročitao sam stopu suzbijanja/bot rješenja zajedno sa zadovoljstvom kupaca.
  • [ ] Mjerim tačnost odgovora i redovno se pomjeram.
  • [ ] Pravim kontinuirano poboljšanje vođeno podacima uz PDCA ciklus.
  • [ ] Dajem prioritet poboljšanjima s dnevnikom "ne znam", razlozima primopredaje i neuspjelim tokovima.