Jednostka 8 / 12

Analiza wywiadów i ankiet: od danych jakościowych do tematu

Zyski:

  • Możliwość dzielenia transkrypcji wywiadów i odpowiedzi z ankiet otwartych na tematy związane ze sztuczną inteligencją i wspierania ich cytatami z dowodów
  • Umiejętność podsumowania danych z badania ilościowego i uniknięcia wprowadzającej w błąd interpretacji (mała próba, pytanie wiodące, błąd selekcji)
  • Umiejętność pracy etycznej i zgodnej z KVKK poprzez ochronę poufności uczestników i anonimizację transkrypcji

Najbogatsze spostrzeżenia w doradztwie często nie kryją się w wykresach, ale w tym, co mówią ludzie. Wywiad z menadżerem, otwarte odpowiedzi na ankietę klienta, notatki z wizyty w terenie... Są to dane nieliczbowe (jakościowe), których przeczytanie, zakodowanie i podzielenie na tematy zajmuje wiele godzin. Sztuczna inteligencja znacznie przyspiesza tę pracę: w ciągu kilku minut rozkłada 30 transkrypcji wywiadów na tematy, wyszukując powtarzające się wzorce. Istnieją jednak dwa niebezpieczeństwa: model może „wymyślić” temat (dodać komentarz, którego nie ma w transkrypcji), a poufność uczestnika może zostać łatwo naruszona. W tym module nauczymy się analizować dane jakościowe w bezpieczny i oparty na dowodach sposób.

Analiza jakościowa: od kodowania do tematu

Analiza jakościowa składa się z trzech etapów. Najpierw kodowanie: każde stwierdzenie opatrzone jest krótką etykietą („reklamacja cenowa”, „pochwała dostawy”). Następnie tematyzacja: podobne kody zbierane są w temat („niezadowolenie operacyjne”). Na koniec komentarz: ustalone są relacje pomiędzy tematami a warstwą „co z tego”. Sztuczna inteligencja jest bardzo szybka w pierwszych dwóch etapach; Trzeci krok wymaga oceny adwokata.

Najważniejsze zapewnienie jest następujące: każdy temat musi być poparty dokładnym cytatem. Potwierdza to, że temat faktycznie pochodzi z danych; Motyw cytatu i cytatu niesie ze sobą ryzyko halucynacji.

Twoja rola: analityk badań jakościowych. Poniżej znajduje się zanonimizowany zapis 12 wywiadów z klientami (oznaczonych jako P1, P2...). Zadanie: 1) Wyodrębnij powtarzające się motywy (do 7 tematów).2) Dla każdego tematu: ilu uczestników go widziało + 2 dokładne cytaty (z kodem uczestnika).3) Pokaż osobne stwierdzenia, które wspierają i KONFLIKTUJĄ z tematem. Zasady: - Nie dodawaj żadnych opinii, których nie ma w transkrypcji; Każdy temat należy poprzeć cytatem. - Nie podawaj informacji identyfikacyjnych innych niż kody uczestników. - Wypisz osobno na końcu pojedyncze opinie „mniejszości, ale ważne” (głosy odrębne).

Inną skuteczną techniką jest poproszenie modelu o kodowanie przy użyciu ustalonych kategorii, które określisz, zamiast najpierw konfigurować własny schemat kodu. Na przykład, jeśli w badaniu satysfakcji klienta podasz predefiniowane tematy, takie jak „cena, jakość produktu, dostawa, wsparcie, łatwość obsługi”, różne transkrypcje staną się porównywalne i model nie będzie mógł za każdym razem tworzyć różnych nazw. Swobodna ekstrakcja motywów nadaje się do odkrywania, natomiast kodowanie ze stałą kategorią nadaje się do porównań i pomiarów; W przypadku większości projektów najlepiej sprawdza się użycie obu rozwiązań: najpierw swobodna eksploracja, a następnie digitalizacja według ustalonego schematu.

Twoja rola: asystent kodowania jakościowego. Naprawiono kategorie: [cena, jakość, dostawa, wsparcie, łatwość obsługi, inne]. Zadanie: Przypisz każdą otwartą odpowiedź poniżej do jednej lub więcej z tych kategorii. - Wpisz frazę wyzwalającą w odpowiedzi (dosłownie) obok każdego zadania. - Zaznacz, czy reakcja jest pozytywna czy negatywna. Dodawanie komentarzy nieuwzględnionych w odpowiedzi.

Wskazówka: Bardzo cenne jest osobne zapytanie o opinie „mniejszościowe, ale ważne”. Raz sformułowany, ale krytyczny alert (np. pojedynczy duży klient mówiący „rozważamy przedłużenie umowy”) gubi się w większości tematów; pozostaje widoczny, gdy jest wymieniony osobno.

Prywatność i anonimizacja

Transkrypcje rozmów kwalifikacyjnych stanowią dane osobowe i często mają charakter wrażliwy (skargi pracowników, krytyka przełożonego). Przed przesłaniem ich do narzędzia AI konieczna jest ich anonimizacja: imiona, tytuły, wewnętrzne szczegóły wyróżniające zostają zastąpione numerem kodowym (K1, K2...). Uczestnikowi często zapewnia się, że „to, co powiesz, zostanie zgłoszone anonimowo”; Technicznym odpowiednikiem tego wyrażenia jest anonimizacja.

Typ danych

Ryzyko

środek ostrożności

Imię i nazwisko/tytuł uczestnika

ujawnienie tożsamości

Zastąp numerem kodu

Detal wewnętrzny

diagnoza pośrednia

Generalizuj lub maskuj

wrażliwy wzrok

Ryzyko odwetu

Indywidualne dopasowanie z raportem zbiorczym

Nagrywanie audio/wideo

najwyższa czułość

Renderuj w zatwierdzonym narzędziu, a następnie usuń

Możesz poprosić modela o anonimizację jako krok wstępny przed przesłaniem transkrypcji do narzędzia; Pamiętaj jednak, aby wizualnie sprawdzić dane wyjściowe:

Twoja rola: redaktor ds. prywatności. Przygotuj następujący zapis wywiadu do analizy; wykonaj następujące maskowanie: - Dodaj wszystkie nazwy kontaktów K1, K2... - Uogólnij pośrednio identyfikujące szczegóły, takie jak tytuł, dział, lokalizacja („Jedyny zagraniczny inżynier w dziale B+R” → „Inżynier”). - Usuń nazwy firmy/klienta. Podaj tylko zamaskowany tekst; Krótko opisz, jaki rodzaj informacji maskujesz i dlaczego.

Uwaga: powiedzenie „Anonimowy” nie wystarczy. Wyrażenie „Jedyna kobieta menadżerka odpowiedzialna za marketing” identyfikuje osobę, mimo że nie jest zapisane jej imię i nazwisko. Anonimizacja powinna obejmować także wszystkie szczegóły umożliwiające pośrednią identyfikację. Od tego zaczyna się naruszenie KVKK i utrata zaufania uczestników.

Interpretacja danych z badań ilościowych

Sztuczna inteligencja tworzy podsumowanie i zestawienie wyników ankiety zamkniętej (numerycznej). Analiza ilościowa ma jednak swoje pułapki i model może je zignorować:

  • Mała próbka: Stwierdzenie „61% klientów jest zadowolonych” na podstawie ankiety przeprowadzonej wśród 18 osób jest mylące; Jeżeli próbka jest mała, należy omówić liczbę surową i niepewność, a nie wartość procentową.
  • Pytanie wiodące: „Jak bardzo jesteś zadowolony z naszej doskonałej obsługi?” Pytanie zawiera odpowiedź; Wynik jest stronniczy.
  • Błąd selekcji: gdyby odpowiedzieli tylko najbardziej zadowoleni lub wściekli klienci, wynik nie byłby reprezentatywny dla wszechświata.

Przed podsumowaniem wyników tego badania należy przeprowadzić kontrolę metodologiczną: - Czy wielkość próby jest wystarczająca do przedstawienia wyników w procentach? - Czy w pytaniach znajdują się stwierdzenia wiodące/wiodące? Zaznacz.- Jaki jest odsetek odpowiedzi i ryzyko błędu selekcji? Dostarczaj wyłącznie raport z audytu; Podsumujemy to następnie w osobnej wiadomości.

trzy mini etui

Przypadek 1 — Uchwycono wymyślony motyw. Konsultant przydziela modelowi 20 wywiadów; model wyodrębnia temat „uczestnicy chcą pracować zdalnie”. Konsultant prosi o wycenę; Modelka może znaleźć tylko 1 niejednoznaczny cytat. Temat właściwie nie istniał, model go wymyślił z ogólnego trendu. Jeżeli nie istniałby wymóg cytowania, w raporcie znalazłoby się nieprawidłowe ustalenie.

Przypadek 2 — Diagnoza pośrednia. W projekcie dotyczącym zadowolenia pracowników transkrypcja zawiera: „To powiedział jedyny zagraniczny inżynier w dziale badań i rozwoju”. Nie ma imienia, ale osoba jest jasna; Gdy zgłoszenie trafi do przełożonego, istnieje ryzyko odwetu. Konsultant musiał od początku uogólniać wszystkie wyróżniające szczegóły („inżynier”).

Przypadek 3 — Pułapka na małe próbki. W teście produktu spodobało się 15 z 22 użytkowników; model ma napis „68% satysfakcji” i jest umieszczany na slajdzie. Rada inwestycyjna sprzeciwia się: „22 osoby nie reprezentują wszechświata”. Konsultant uczciwie przepisuje wynik jako „15 z 22 użytkowników pozytywnych; wymagana jest orientacyjna, potwierdzająca duża próba”; zaufanie powraca.

Słaba zachęta/silna zachęta

Słaba zachęta:

Przeczytaj te wywiady i wyodrębnij główne wnioski.

Model tworzy motywy bez cudzysłowów, bez dowodów; Ryzyko sfabrykacji i poufności jest wysokie.

Potężny monit:

Twoja rola: analityk jakościowy. Transkrypcja poniżej, zanonimizowana (K1..Kn).Zadanie: Do 7 tematów; liczba uczestników na każde + 2 cytaty (z kodem); oddzielnie stwierdzenia wspierające i sprzeczne; oddzielna lista mniejszościowych, ale krytycznych opinii. Zasady: dodawanie opinii, których nie ma w transkrypcie; generowanie tożsamości; Nie podawaj tematu bez cudzysłowu; oznacz temat, którego nie jesteś pewien, jako „słaby dowód”.

Nasycenie i waga tematów

W analizie jakościowej o jakości interpretacji decydują dwa pojęcia. Pierwszym z nich jest nasycenie: mówi się, że dane są „nasycone”, gdy nowe wywiady nie generują już nowych tematów; To znak, że próbka jest wystarczająca. Jeśli podczas ósmej rozmowy kwalifikacyjnej nadal pojawiają się zupełnie nowe tematy, potrzebnych jest więcej rozmów. Po drugie, waga tematów: to, ile osób widzi dany temat, i znaczenie tego tematu to dwie różne rzeczy. Drobne niedogodności, o których wspomniało pięć osób, i ryzyko odstąpienia od umowy, o którym wspomniała jedna osoba, nie występują jednakowo często, choć to drugie może mieć znacznie większe znaczenie. Dlatego też ocenianie tematów wyłącznie według częstotliwości jest mylące; Oceń każdy temat pod względem zarówno „ile osób”, jak i „jak ważny”. Gdy sztuczna inteligencja powie „oceń te tematy w dwóch oddzielnych kolumnach pod względem częstotliwości i potencjalnego wpływu na biznes”, sprawia, że ​​to rozróżnienie staje się widoczne; Dokonujesz oceny wpływu na biznes.

Typowe błędy

  • Akceptacja motywu bez cudzysłowu. Każdy temat musi być potwierdzony dosłownym cytatem z transkrypcji; W przeciwnym razie istnieje ryzyko halucynacji.
  • Czynienie anonimizacji powierzchowną. Nie wystarczy usunąć nazwę; Należy również zamaskować szczegóły identyfikujące pośrednio.
  • Przedstawienie małej próbki w procentach. W przypadku małej liczby uczestników należy omawiać surowe liczby i niepewność, a nie wartości procentowe.
  • Ignorując pytanie wiodące. Wynik pytań wiodących jest stronniczy; Sprawdź metodologię.
  • Utrata wartości odstających. Kiedy już zostanie wypowiedziane, krytyczne ostrzeżenie zostaje połknięte przez większość tematów; listę osobno.
  • Mieszanie ilościowego i jakościowego. Przetwarzaj komentarze otwarte z wynikami liczbowymi na różne sposoby.

Podsumowując

Dane jakościowe są najbogatszym źródłem wiedzy w doradztwie, a sztuczna inteligencja pozwala zaoszczędzić godziny na kodowaniu i tematach. Jednak każdy temat powinien być udokumentowany dosłownymi cytatami, należy w pełni chronić poufność uczestników, w tym identyfikację pośrednią, a pułapki metodologiczne, takie jak próbkowanie, stronniczość pytań i selekcja, powinny być kontrolowane w badaniach ilościowych. Model jest szybkim czytnikiem i etykietą; zadaniem konsultanta jest weryfikacja dowodów, zachowanie poufności i ustalenie warstwy „co z tego”.

Zadanie aplikacji

Przygotuj kilka transkrypcji wywiadów (lub odpowiedzi z ankiety otwartej), prawdziwych lub reprezentatywnych, i najpierw zanonimizuj je (w tym imię i nazwisko oraz identyfikację pośrednią). Wyodrębnij motywy, cytaty, sprzeczne stwierdzenia i głosy odrębne, korzystając z silnych podpowiedzi jakościowych. Sprawdź cytat co najmniej jednego tematu w transkrypcie, aby sprawdzić, czy faktycznie istnieje. Następnie przeprowadź małą ankietę ilościową i oceń stronniczość próby i pytań, zlecając audyt metodologiczny.

lista kontrolna

  • [ ] Zanonimizowałem transkrypcje, włączając imię i nazwisko oraz identyfikację pośrednią.
  • [ ] Każdy temat udokumentowałem dosłownym cytatem.
  • [ ] Osobno pokazałem sprzeczne wyrażenia i sprzeczne głosy.
  • [ ] W przypadku małej próby zamiast wartości procentowych użyłem surowych liczb i niepewności.
  • [ ] Zaznaczyłem pytania wiodące.
  • [ ] Oceniłem ryzyko błędu selekcji.
  • [ ] Zgłosiłem drażliwe komentarze zbiorczo, nie dopasowując ich do konkretnej osoby.