Zyski:
- Zrozumienie, dlaczego sztuczna inteligencja nie może podejmować decyzji w obliczu ryzyka kryzysu, samobójstwa i wyrządzenia krzywdy sobie/innym oraz dlaczego interwencja człowieka jest obowiązkowa.
- Możliwość umieszczenia sztucznej inteligencji w ocenie ryzyka jedynie na poziomie przypomnienia/listy kontrolnej, poniżej oceny eksperckiej
- Możliwość zdefiniowania ograniczonej i kontrolowanej roli sztucznej inteligencji w protokole awaryjnym, liniach trasowania i planie bezpieczeństwa
Jednostka ta wyznacza najważniejszą granicę całego modułu. Są momenty w branży zdrowia psychicznego, w których nie liczy się szybkość, łatwość i wydajność; przemawia tylko życie jednego człowieka i odpowiedzialność jednego eksperta. Sytuacje takie jak ryzyko samobójstwa, krzywdzenie siebie lub innych, ostra psychoza, groźba przemocy, zgłaszanie dziecka/znęcania się są kryzysami. W takich momentach sztuczna inteligencja (AI) nie może podejmować decyzji, mierzyć ryzyka, interweniować i brać odpowiedzialności. To nie jest kwestia tego, że „sztuczna inteligencja nie jest jeszcze wystarczająco dobra”; Kryzys z natury wymaga kontaktu międzyludzkiego w czasie rzeczywistym, oceny klinicznej i odpowiedzialności. W tej części dowiesz się, dlaczego sztuczna inteligencja zatrzyma się w sytuacji kryzysowej, dlaczego ludzie są niezbędni i jaką ograniczoną rolę sztuczna inteligencja może najbardziej odegrać.
Dlaczego sztuczna inteligencja nie może podejmować decyzji w czasie kryzysu
Ocena kryzysu wymaga czterech rzeczy i żadna z nich nie jest wystarczająca w przypadku sztucznej inteligencji:
- Relacja w czasie rzeczywistym. Prawdziwych oznak ryzyka często nie widać w wypowiadanych słowach; Jest ukryte w tonie głosu, pauzie, spojrzeniu, mowie ciała, „niedopowiedzeniu”. AI widzi tekst; nie widzi ludzi.
- Holistyczne rozumowanie kliniczne. Ryzyko; To ważenie na żywo kilkudziesięciu czynników takich jak historia, czynniki ochronne, impulsywność, dostęp (dostęp do metody), system wsparcia. Sztuczna inteligencja może dać mechaniczną „ocenę ryzyka”, ale ta ocena nie uratuje człowieka.
- Odpowiedzialność i odpowiedzialność. Musi być osoba, która podpisze decyzję kryzysową, która w razie potrzeby zostanie pociągnięta do odpowiedzialności i która przejmie życie klienta. AI nie może ponosić odpowiedzialności.
- Zdolność reagowania. W sytuacji kryzysowej (opracowanie planu bezpieczeństwa, zaangażowanie rodziny, skierowanie na pogotowie, skierowanie do szpitala) potrzebne są konkretne, ludzkie działania.
Uwaga: Kiedy klient wykazuje oznaki ryzyka, zapytaj sztuczną inteligencję „czy istnieje ryzyko?” Pytanie” oznacza odroczenie decyzji i uniknięcie odpowiedzialności. W sytuacji kryzysowej ekspert wkracza BEZPOŚREDNIO. Sztuczna inteligencja nie pełni w tej chwili roli decyzyjnej. W razie potrzeby uruchamiane są infolinie i łańcuchy wsparcia ludzkiego.
Zagrożenie AI w chatbotach kryzysowych
W ostatnich latach popularne stały się chatboty AI, które mówią „pozwól mi cię wesprzeć”. Ich niebezpieczeństwo w sytuacji kryzysowej jest poważne: bot może źle zrozumieć samobójczy przekaz, uchylić się od tematu, udzielić banalnej odpowiedzi lub (w udokumentowanych przypadkach) zareagować w szkodliwy sposób. Osoba wyczuwa, że druga osoba jest w realnym niebezpieczeństwie i podejmuje działania; bot nie może tego zrobić niezawodnie. Nigdy więc nie kieruj klienta w kryzysie do chatbota.
Dopuszczalna ograniczona rola sztucznej inteligencji
Sztuczna inteligencja nie może podejmować decyzji w czasie kryzysu; ale POZA sesją profesjonalista może odgrywać bardzo ograniczoną rolę we wspieraniu własnej pracy:
- Przypomnienie/lista kontrolna. Przygotowanie w formie listy kontrolnej obszarów, o które ekspert nie powinien zapomnieć zapytać w ocenie ryzyka (korzysta z tego ekspert, a nie klient).
- Projekt protokołu. Przygotowanie projektu protokołu kryzysowego instytucji, listy linii skierowań, wzoru planu bezpieczeństwa (następnie zatwierdza go ekspert/instytucja).
- Trening/próba. Próba wyimaginowanego scenariusza (bez prawdziwego klienta) mająca na celu udoskonalenie umiejętności specjalisty w zakresie prowadzenia wywiadu kryzysowego.
Co te role mają wspólnego: Sztuczna inteligencja nigdy nie zajmuje stanowiska decyzyjnego w czasie kryzysu na żywo, z prawdziwym klientem.
Sytuacja
Rola sztucznej inteligencji
Kto decyduje
Kryzys na żywo (klient zagrożony)
BRAK roli decyzyjnej
Ekspert, bezpośrednio i natychmiast
Poza sesją: przygotowanie listy kontrolnej
przypomnienie o wersji roboczej
Ekspert zatwierdza/używa
Spisanie protokołu/wzoru kryzysowego
projekt tekstu
Ekspert/instytucja zatwierdza
Prowadzenie klienta w kryzysie
Zabronione (nigdy nie rozmawiaj z botem)
łańcuch wsparcia ludzkiego
trzy mini etui
Przypadek 1 – Ochrona granic. Klientka podczas sesji mówi: „Nie mogę już tego znieść, chcę to zakończyć”. Ekspert myśli: „Napiszę to do sztucznej inteligencji i zapytam, czy to poważna sprawa”, ale zatrzymuje się. Zamiast tego przechodzi bezpośrednio, spokojnie i bezpośrednio do oceny ryzyka: częstotliwość myślenia, plan, metoda, zasięg, mówi o czynnikach ochronnych; tworzy plan bezpieczeństwa; aktywuje niezbędne podpory. Decyzja i odpowiedzialność od początku do końca należą do człowieka; Nie byłoby w porządku, gdyby sztuczna inteligencja w ogóle wkroczyła w ten moment.
Przypadek 2 – Niewystarczalność łodzi. Organizacja rozważa wdrożenie chatbota AI do wsparcia po godzinach pracy. Podczas testów pilotażowych bot odpowiada ogólną odpowiedzią „uważaj” na wiadomość sugerującą samobójstwo; Nie rozpoznaje i nie kieruje ryzykiem. Agencja uznaje, że bot nie jest bezpieczny w sytuacjach kryzysowych; Zamiast tego ustanawia przejrzysty system, który kieruje ludzi do prawdziwej linii kryzysowej i dyżurującego specjalisty w sytuacjach poza godzinami pracy.
Przypadek 3 – Prawidłowe ograniczone użycie. Aby wzmocnić własną praktykę oceny ryzyka, jeden z ekspertów prosi sztuczną inteligencję o „listę kontrolną obszarów, o których powinienem pamiętać, aby zapytać podczas kompleksowej rozmowy oceniającej ryzyko samobójstwa”. AI tworzy dobrą listę przypomnień; Ekspert trzyma go w torbie jako siatkę zabezpieczającą. Tutaj AI w ogóle nie dotyka klienta; Wspomaga jedynie przygotowanie specjalisty. To jest dopuszczalny limit.
Kopiowalne podpowiedzi i szablony
Uwaga: żadnego z tych szablonów nie należy używać w przypadku kryzysu na żywo z rzeczywistym klientem. Wszystko poza sesją, do samodzielnego przygotowania specjalisty.
Przygotuj ogólną LISTĘ KONTROLNĄ, aby profesjonalista nie zapomniał zadać pytania podczas oceny ryzyka (częstotliwość/intensywność myśli, plan, dostęp do metody, czynniki ochronne, historia, system wsparcia). Niniejsza lista stanowi jedynie przypomnienie dla eksperta; DECYZJA dotycząca ryzyka nie jest podana, nie jest przekazywana klientowi.
Przygotuj szablon PROTOKOŁU ODNIESIENIA KRYZYSOWEGO dla naszej organizacji: godziny pracy, godziny otwarcia, do kogo dzwonić, skierowanie na linie alarmowe, dokumentacja. Nasi eksperci i kierownictwo sprawdzą to i zatwierdzą zgodnie z lokalną rzeczywistością i ustawodawstwem.
Przygotuj PUSTY projekt szablonu planu bezpieczeństwa: znaki ostrzegawcze, strategie radzenia sobie, ludzie wsparcia, profesjonalna komunikacja, zapewnienie bezpieczeństwa środowiska. Specjalista uzupełni treść twarzą w twarz z klientem; Po prostu dajesz pusty szablon.
Przygotuj WYOBRAŻONY scenariusz próby (bez prawdziwego klienta), aby udoskonalić moje umiejętności prowadzenia rozmów kryzysowych. Pozwól, że odpowiem w roli eksperta, a następnie przekaż mi konstruktywną opinię na temat mojego podejścia. To próba treningowa, a nie prawdziwy przypadek.
Słaba zachęta/silna zachęta
Słaba podpowiedź: „Ten klient powiedział: [zwroty]. Czy istnieje wysokie ryzyko samobójstwa, co powinienem zrobić?”
Ten monit deleguje decyzję kryzysową do sztucznej inteligencji; Sztuczna inteligencja nie może mierzyć ryzyka, nie może brać odpowiedzialności, a ten moment wymaga interwencji człowieka w czasie rzeczywistym. To użycie jest niebezpieczne.
Mocna podpowiedź: „Skończyła mi się sesja, nie ma prawdziwego klienta. Aby odświeżyć swoje umiejętności oceny ryzyka, zrób listę przypominającą obszary, których nie powinienem poruszać podczas rozmowy kwalifikacyjnej dotyczącej ryzyka samobójstwa. Decyzja i interwencja będą moją odpowiedzialnością w rzeczywistej sytuacji”.
Ten monit wykorzystuje sztuczną inteligencję wyłącznie jako narzędzie przygotowujące poza sesją; Kryzys pozostawia decyzję osobie.
Typowe błędy
- Pytanie AI o decyzję kryzysową. „Czy istnieje ryzyko?” konsultowanie sztucznej inteligencji; jest przegapienie decyzji i odpowiedzialności.
- Kierowanie klienta w kryzysie do bota. Zapominając, że chatbot nie jest w stanie rzetelnie zarządzać ryzykiem.
- Mylenie oceny ryzyka z rzeczywistością. Zastąpienie mechanicznego wyniku „poziomu ryzyka” AI na potrzeby oceny klinicznej.
- Przeniesienie narzędzia pomostowego do użytku na żywo. Korzystanie z listy kontrolnej poza sesją w czasie kryzysu na żywo w porozumieniu z AI.
- Brak ustanowienia łańcucha wsparcia ludzkiego. Poleganie na sztucznej inteligencji zamiast na prawdziwym systemie eksperckim/linii kryzysowej w organizacji po godzinach.
Podsumowując
Ryzyko kryzysu, samobójstwa i krzywdy jest najwyraźniejszym ograniczeniem modułu: w tych momentach sztuczna inteligencja nie może podejmować decyzji, mierzyć ryzyka, interweniować i brać odpowiedzialności. Ponieważ kryzys wymaga zaangażowania w czasie rzeczywistym, całościowej oceny klinicznej, odpowiedzialności i interwencji człowieka. Jedyną akceptowalną rolą AI jest lista kontrolna, projekt protokołu/szablonu i próba szkoleniowa POZA sesją, wspierająca własne przygotowania profesjonalisty. Nigdy nie kieruj klienta w kryzysie do chatbota; Aktywowany jest łańcuch wsparcia ludzkiego i infolinie.
Zadanie aplikacji
Narysuj schemat kierowania kryzysowego dla swojej praktyki lub organizacji: co dzieje się krok po kroku, gdy klient wykazuje ryzyko, do kogo się zwraca, do jakich linii się zwraca? Sprawdź, czy sztuczna inteligencja nie jest decydentem na żadnym etapie tego przepływu. Wyciągnij także z AI listę kontrolną oceny ryzyka poza sesją i napisz jednym zdaniem, dlaczego jest to tylko przypomnienie i nie można jej przekazać klientowi.
lista kontrolna
- [ ] Nie dałem AI roli decyzyjnej podczas kryzysu na żywo.
- [ ] Sam bezpośrednio podjąłem się oceny kryzysu i reakcji.
- [ ] Nie kierowałem klienta w kryzysie do chatbota.
- [ ] Używałem sztucznej inteligencji tylko do przygotowań poza sesją (lista kontrolna/protokół/próba).
- [ ] Zdefiniowałem korporacyjny łańcuch wsparcia ludzkiego i infolinie.
- [ ] Przyjęłam do wiadomości, że decyzja i odpowiedzialność za kryzys spoczywa na osobie.