Enhet 7 / 11

Pasienttilfredshet og tilbakemeldingsanalyse: undersøkelse og tekstutvinning

Gevinster:

  • Evne til å dele pasienttilfredshetsundersøkelser og friteksttilbakemeldinger i temaer og utføre sentimentanalyse med støtte for kunstig intelligens
  • Evne til å produsere handlekraftig innsikt og forbedringsutkast fra klage- og forslagstekster
  • Evne til å fange fallgruver som samplingbias, automatisk sentimenttag-feil og personvern før tolkning

Pasienter kommer ikke bare for å bli bedre; De opplever og husker også hvordan de ble behandlet, hvor lenge de ventet, og hvem de kunne fortelle om problemene sine. Pasienttilfredshet er både et etisk ansvar og en prestasjonsdimensjon som påvirker institusjonens omdømme og i noen tilfeller refusjonen. Men tilfredshetsdata kommer ofte i to former: undersøkelser målt etter stjerner/vurderinger og anmeldelser i fritt format. Det tar tid å lese hundrevis av gratis kommentarer én etter én. Det er her kunstig intelligens er kraftig: den deler hundrevis av tekster inn i temaer, trekker ut emosjonelle toner og oppsummerer fremtredende klager og ros. I denne enheten skal vi se hvordan du gjør dette, men enda viktigere, hvordan du unngår feillesing. Boundary: AI oppsummerer tekst og trekker ut temaer; men den automatiske følelsesetiketten kan være feilbar, utvalget kan være partisk - generalisering og beslutning tilhører lederen.

Grunnleggende konsepter for tekstutvinning

Noen få begreper: Tekstutvinning er prosessen med å automatisk trekke ut mønstre og mening fra skrevne tekster. Sentimentanalyse er den automatiske klassifiseringen av den positive/negative/nøytrale tonen i en tekst. Tema-/emneutvinning er grupperingen av flere kommentarer i vanlige emner (renslighet, venting, kommunikasjon, pris). NPS (Net Promoter Score) er en lojalitetsindikator basert på spørsmålet "Vil du anbefale oss?" Det er nyttig å tenke på tilfredshetsdata i to separate dimensjoner: den kvantitative dimensjonen (vurderinger, NPS) gir deg svaret på "hvor mye"-spørsmålet; Den kvalitative dimensjonen (gratis kommentarer) bærer svaret på spørsmålet "hvorfor". Begge vil være ufullstendige hver for seg; Når du leser sammen, ser du både omfanget av problemet og kilden.

Disse kjøretøyene har en kraftig, men farlig side. Sentimentanalyse snubler over språkets finesser. Setningen "Flott, jeg ventet 3 timer igjen" kan virke positiv når man ser på ord for ord fordi den inneholder "flott"; Det er imidlertid ironisk. "Det var ikke dårlig" inneholder negasjon. Suffikser og idiomer på tyrkisk gjør dette enda vanskeligere. Den andre faren er prøvetakingsskjevhet: undersøkelsen fylles vanligvis ut av personer som enten er veldig fornøyde eller veldig sinte; Det tause flertallet i midten er usynlig. Derfor er bildet som AI tegner oppfatningen til "forfatterne", ikke "alle pasienter".

Den virkelige verdien av disse verktøyene er ikke i antall, men i retning. En stjernerangering forteller deg "tilfredshet 3,8", men forteller deg ikke hva du skal fikse; fritekst forteller deg nøyaktig hva som plager deg. AIs jobb er å destillere denne rå fortellingen til håndterbare overskrifter: Du kan ikke lese 600 kommentarer, men du kan gjøre setningen «30 prosent av kommentarene nevner routing-forvirring» til handling. Likevel innebærer denne reduksjonen også et tap: en slående, enestående, men viktig sikkerhetsadvarsel fra en enkelt pasient kan gå tapt i det "lille temaet 2 prosent." Derfor, i tillegg til den kvantitative oppsummeringen, er det nødvendig å i tillegg screene individuelle kommentarer som signaliserer sikkerhet eller alvorlige klager; Tallet viser det store bildet, og den enkelte kommentaren viser det kritiske unntaket.

Trinn for trinn: Tilbakemeldingsanalyse med AI

  1. Anonymiser. Fjern identifikatorer som navn, legenavn, romnummer fra kommentarer.
  2. Del den etter tema. Be AI om å gruppere kommentarer i vanlige emner; Du bestemmer antall titler.
  3. Fjern den emosjonelle tonen, men bekreft den. Få den positive/negative prisen for hvert tema; Les deretter eksempelkommentarene selv.
  4. Innsikt i handling. Velg det hyppigste og mest brennende temaet; Det utarbeides et konkret forbedringsforslag.
  5. Prøvekontroll. Hvor mange har skrevet det, hvem har skrevet det, er det representativt? Gjør generaliseringen i henhold til denne grensen.
  6. Lederavgjørelse. Forbedringsbeslutningen og prioriteringen tilhører lederen; AI forbereder bare innsikt.
Forsiktig: Et tall som "78 prosent positivt" gitt av AI kan ha misforstått ironien og negasjonen. Sørg for å lese noen rå anmeldelser for hvert tema selv og sjekk om taggen stemmer overens med virkeligheten.

tre minisaker

Sak 1 – Skjult tema. Ett sykehus samlet 640 gratis kommentarer per måned; ingen kunne lese alt. Pasientrettighetsenheten ga de anonyme kommentarene til YZ og tildelte dem temaet. Det største negative temaet var ikke "ventetid" som forventet, men "ruteforvirring" (pasienter kunne ikke finne ut hvilken etasje de skulle gå til). Med et enkelt opplegg for skilting og veiledningspersonell ble dette temaet betydelig redusert på to måneder. AI gjorde det skjulte temaet synlig; Løsningen tilhørte laget.

Tilfelle 2 - Ironifelle. En enhet var fornøyd med AIs "82 prosent positive" sammendrag og fortalte ledelsen at "tilfredsheten er høy." Kvalitetsansvarlig leste eksempelkommentarer: Ironiske setninger som «Utrolig, jeg kom inn 2 timer etter avtaletiden» ble ansett som positive. Den faktiske positive raten var lavere. Behandleren kalibrerte AI-taggen ved å håndlese flere dusin kommentarer og korrigerte presentasjonen.

Tilfelle 3 – Sampling bias. Ved en poliklinikk svarte kun 45 personer på nettundersøkelsen, og de fleste var svært negative. En leder fikk panikk over at «poliklinikken har gått konkurs». Analytikeren minnet om at disse 45 personene var en liten og partisk del av de 3200 pasientene den måneden, og at sinte mennesker svarte mer på undersøkelsen. I stedet for panikk ble det satt i gang en representativ exit poll; Det virkelige bildet var mye mer balansert.

Fire kopierbare maler

1) Temautvinning:

Din rolle: assistent for pasientopplevelsesanalytiker. Nedenfor er anonyme frilanspasientkommentarer (ingen navn/legenavn). Oppgave: del inn kommentarer i 6-8 vanlige temaer (f.eks. venting, kommunikasjon, rydding, henvisning, gebyr). Oppgi hvor mange kommentarer du hadde for hvert tema og gi 2 eksempler på sitater. Ikke gjør opp kommentarene; Bare bruk det jeg gir deg.

2) Sentiment + valideringsvarsel:

Trekk fra det positive/negative/nøytrale forholdet for hvert tema. MEN påpek at ironi, negasjon og sarkastiske uttrykk kan villede følelsestaggen, og skriv opp de 5 kommentarene du ikke er sikker på separat som "manuelt sjekket". Presenteres som en nøyaktig prosentandel; gi ca.

3) Handlingsorientert innsikt:

Velg det hyppigste og mest negative temaet. For dette temaet: en oversikt over den mulige årsaken, 3 forbedringer som kan implementeres på kort sikt, og estimert effekt/kostnad for hver. Oppgi at dette er et forslag og avgjørelsen er opp til lederen.

4) Eksempel på kontrollnotat:

I denne analysen er det totale antallet responser [N] antall pasienter i den perioden [M]. Skriv meg en advarsel om representativiteten til utvalget: hvis svarprosenten er lav eller sinte pasienter er overrepresentert, forklar risikoen ved å generalisere resultatene i 4 punkter.

Svak forespørsel / Sterk forespørsel

Svak melding:

Fortell meg om disse kommentarene er gode eller dårlige, hvilken prosentandel er fornøyd.

Ingen temaer, ingen verifisering, ingen prøveadvarsler; Det returnerer en enkelt villedende prosentandel.

Kraftig ledetekst:

Nedenfor er [N] anonyme pasientkommentarer, antall pasienter på det tidspunktet [M]. Skill kommentarene etter tema, gi omtrentlig emosjonell tone for hvert tema, men merk av hvis de er usikre på grunn av ironi/nektelse. Lag et forslag til forbedring av det mest brennende temaet og legg til en advarsel om representativiteten til utvalget.

trinn

Bidrag av AI

menneskelig kontroll

Temaseparasjon

Grupperer hundrevis av kommentarer

Er titlene meningsfulle?

følelsesmerke

Gir rask tone

Ironi/negasjonskontroll

innsikt

Forbedringsutkast

Anvendbarhet, kostnad

generalisering

Gir oppsummering

Er utvalget representativt?

Vanlige feil

  • Aksepterer følelsesmerket som det er. Ironi og negasjon er misvisende; Les eksemplene.
  • Generalisering fra lite/partisk utvalg. 45 sinte kommentarer representerer ikke alle pasienter.
  • Omgå anonymisering. Kommentarer kan inkludere navnet på legen/pasienten; fjerne den.
  • Fokuserer kun på det negative. Positive temaer indikerer også hva du vil beskytte.
  • Feilaktig innsikt for beslutning. Beslutningen og prioriteringen for forbedring tilhører lederen.
Tips: På slutten av hver analyse kan du lese 15-20 tilfeldige råkommentarer selv og sammenligne dem med AI-koden. Denne 10-minutters "kalibreringsvanen" fanger ironi og negasjonsfeller og lærer deg hvor mye du skal stole på AI-briefen.

Oppsummert

Data om pasienttilfredshet kommer i både poengsum og fritekst, og AI er veldig kraftig til å dele opp hundrevis av kommentarer i temaer og oppsummere dem. Men den automatiske følelsesetiketten tar feil på siden av ironi og negasjon; Sampling av undersøkelser er ofte partisk. Derfor kan AI-utdata ikke generaliseres uten verifisering med råtolkninger og utvalgsstørrelse. Anonymiteten opprettholdes, innsikt utarbeides; Men beslutningen og prioriteringen for forbedring tilhører alltid lederen.

Søknadsoppgave

Få et anonymt kommentarsett (20-30 kommentarer, ekte eller hypotetiske). Spør AI om tema og tone med malene "Theme inference" og "Emotion + validation alert". Les deretter minst 10 rå kommentarer selv og sammenlign dem med AI-koden; Skriv ned hvor mange av dem du finner feil på grunn av ironi/nektering og representativiteten til utvalget i 5 punkter.

sjekkliste

  • [ ] Har jeg anonymiserte kommentarer (ingen pasient-/legenavn)?
  • [ ] Har jeg kalibrert sentiment-taggen med rå kommentarer?
  • [ ] Har jeg vurdert prøvestørrelse og skjevhet?
  • [ ] Har jeg sett etter både positive og negative temaer?
  • [ ] Har jeg overlatt forbedringsbeslutningen og prioriteringen til lederen?