Табыстар:
- Неліктен жасанды интеллект дағдарыс, суицид және өзіне/өзгелерге зиян келтіру қаупінде шешім қабылдай алмайтынын және неге адамның араласуы міндетті екенін түсіну.
- Тәуекелді бағалауда AI-ны тек еске салу/бақылау парағы деңгейінде, сарапшылардың пікірінен төмен орналастыру мүмкіндігі
- Төтенше жағдайлар хаттамасында, маршруттық желілерде және қауіпсіздік жоспарында жасанды интеллекттің шектеулі және басқарылатын рөлін анықтау мүмкіндігі
Бұл блок бүкіл модульдің ең маңызды шекарасын сызады. Психикалық денсаулық бизнесінде жылдамдық, жеңілдік немесе тиімділік туралы емес сәттер бар; тек бір адамның өмірі мен бір маманның жауапкершілігі сөйлейді. Өз-өзіне қол жұмсау қаупі, өзіне немесе басқаларға зиян келтіру, жедел психоз, зорлық-зомбылық қаупі, бала/зорлық туралы хабарлау сияқты жағдайлар дағдарыс болып табылады. Осы сәттерде жасанды интеллект (AI) шешім қабылдауға, тәуекелді өлшеуге, араласуға және жауапкершілікті өз мойнына ала алмайды. Бұл «AI әлі жеткіліксіз» мәселесі емес; Дағдарыс нақты уақыттағы адам байланысын, клиникалық пайымдауды және есеп беруді талап етеді. Бұл бөлімде сіз AI дағдарыс кезінде неліктен тоқтайтынын, адамдар неліктен маңызды екенін және AI қандай шектеулі рөлде көбірек қала алатынын білесіз.
Неліктен AI дағдарыс жағдайында шешім қабылдай алмайды?
Дағдарысты бағалау төрт нәрсені талап етеді, ал АИ-де екеуі де жеткіліксіз:
- Нақты уақыттағы қарым-қатынас. Тәуекелдің нақты белгілері көбінесе айтылған сөздерде болмайды; Ол дауыс ырғағында, паузада, көзқараста, дене қимылында, «айтылмағанда» жасырылады. AI мәтінді көреді; адамдарды көрмейді.
- Біртұтас клиникалық негіздеме. Тәуекел; Бұл тарих, қорғаныс факторлары, импульсивтілік, қол жеткізу (әдіске қол жеткізу), қолдау жүйесі сияқты ондаған факторлардың тірі таразы. AI механикалық «қауіпті балл» бере алады, бірақ бұл балл адамды құтқара алмайды.
- Жауапкершілік пен жауапкершілік. Дағдарыс шешімінің артында қол қоятын, қажет болған жағдайда жауап беретін және клиенттің өмірін алатын адам болуы керек. AI жауапкершілікті көтере алмайды.
- Жауап беру қабілеті. Дағдарыс кезінде қажет нәрсе (қауіпсіздік жоспарын жасау, отбасын тарту, жедел жәрдем бөлмесіне бағыттау, ауруханаға сілтеме жасау) нақты, адам жасаған әрекеттер.
Абайлаңыз: Клиент тәуекел белгілерін көрсеткенде, АИ-ден «қауіп бар ма?» деп сұраңыз. "Сұрау - бұл шешімді кейінге қалдыру және жауапкершіліктен жалтару. Дағдарыс жағдайында сарапшы ТІКЕЛЕЙ қадамдар жасайды. Қазіргі уақытта AI шешім қабылдау рөліне ие емес. Қажет болған жағдайда жедел желілер мен адами қолдау желілері іске қосылады.
Дағдарыс чат-боттарындағы AI қаупі
Соңғы жылдары «сені қолдауға рұқсат ет» дейтін AI чат-боттары кең тарады. Дағдарыс кезіндегі олардың қаупі өте маңызды: бот суицидтік хабарды дұрыс түсінбеуі, тақырыпты айналып өтуі, клишелік жауап беруі немесе (құжатталған жағдайларда) зиянды түрде жауап беруі мүмкін. Адам басқа адамға нақты қауіп төніп тұрғанын сезеді және әрекет етеді; бот мұны сенімді түрде жасай алмайды. Сондықтан дағдарысқа ұшыраған тұтынушыны ешқашан чатботқа жібермеңіз.
АИ-нің рұқсат етілген шектеулі рөлі
AI дағдарыс жағдайында шешім қабылдай алмайды; бірақ сеанстан тыс маманның өз жұмысын қолдаудағы рөлі өте шектеулі болуы мүмкін:
- Еске салғыш/бақылау тізімі. Бақылау парағы ретінде сарапшы тәуекелді бағалауда сұрауды ұмытпауы керек салаларды дайындау (оны клиент емес, сарапшы пайдаланады).
- Хаттама жобасы. Мекеменің дағдарыс хаттамасының жобасын, жолдама сызығын, қауіпсіздік жоспарының үлгісін дайындау (содан кейін сарапшы/мекеме оны бекітеді).
- Жаттығу/репетиция. Маманның дағдарысты сұхбат алу дағдыларын жақсарту үшін ойдан шығарылған сценарий репетициясы (нақты клиент жоқ).
Бұл рөлдердің ортақтығы: AI ешқашан нақты клиентпен тікелей дағдарыста шешім қабылдау позициясында болмайды.
Жағдай
АИ рөлі
Кім шешеді
Тікелей дағдарыс (қауіпті клиент)
Шешім рөлі ЖОҚ
Сарапшы, тікелей және дереу
Сеанстан тыс: бақылау парағын дайындау
еске салу жобасы
Сарапшы мақұлдайды/пайдаланады
Дағдарыс хаттамасын/үлгіні жазу
мәтін жобасы
Сарапшы/мекеме бекітеді
Клиентті дағдарыс жағдайында бағыттау
Тыйым салынған (ешқашан ботпен сөйлесуге болмайды)
адамды қолдау тізбегі
үш шағын іс
1-жағдай — Шекараны қорғау. Клиент сеанста: «Мен енді шыдай алмаймын, оны аяқтағым келеді» дейді. Сарапшы: «Мен мұны AI-ға жазып, оның маңыздылығын сұраймын», - деп ойлайды, бірақ тоқтайды. Оның орнына ол тікелей, сабырлы және тікелей тәуекелді бағалауға көшеді: ойлау жиілігі, жоспар, әдіс, қол жеткізу, қорғаныс факторлары туралы әңгімелейді; қауіпсіздік жоспарын жасайды; қажетті тіректерді іске қосады. Шешім мен жауапкершілік басынан аяғына дейін адамға тиесілі; Жасанды интеллекттің осы сәтке кіруі мүлде дұрыс болмас еді.
2-жағдай — Қайықтың жеткіліксіздігі. Ұйым жұмыстан кейін қолдау көрсету үшін AI чатботын қолдануды қарастыруда. Пилоттық тестілеу кезінде бот өзіне-өзі қол жұмсауды болжайтын хабарламаға жалпы «сақтық» деп жауап береді; Ол тәуекелді мойындамайды және басқармайды. Агенттік бот дағдарысқа қарсы емес деп шешеді; Оның орнына ол адамдарды нақты дағдарыс сызығына және жұмыстан тыс жағдайларда шақыру бойынша маманға бағыттайтын нақты жүйені орнатады.
3-жағдай — Шектеулі пайдалануды дұрыс. Тәуекелді бағалау тәжірибесін күшейту үшін бір сарапшы AI-дан «суицид қаупін бағалау бойынша жан-жақты сұхбатта сұрауды ұмытпауым керек аймақтардың бақылау тізімін» сұрайды. AI жақсы еске салғыштар тізімін жасайды; Сарапшы оны сөмкесінде қауіпсіздік торы ретінде сақтайды. Мұнда AI клиентке мүлде тиіспейді; Ол тек маманның дайындығын қолдайды. Бұл рұқсат етілген шек.
Көшірілетін шақырулар мен үлгілер
Ескертпе: Осы үлгілердің ешқайсысы нақты клиентпен тікелей дағдарыста пайдаланылмауы керек. Барлығы сессиядан тыс, маманның өз дайындығы үшін.
Кәсіби маман тәуекелді бағалауда (ойдың жиілігі/қарқындылығы, жоспар, әдіске қолжетімділік, қорғаныс факторлары, тарих, қолдау жүйесі) сұрауды ұмытпауы үшін жалпы БЕКЕРУ ТІЗІМін дайындаңыз. Бұл тізім тек сарапшының жеке ескертуі; Тәуекел ШЕШІМ берілмейді, ол клиентке берілмейді.
Біздің ұйымға арналған ДАҒДАРЫСТЫҢ АНЫҚТАМАСЫ ХАТТАМА үлгісінің жобасын жасаңыз: қосу/өшіру сағаттары қадамдары, кімге қоңырау шалу керек, жедел желіге жолдама, құжаттама. Біздің сарапшылар мен басшылық мұны қарап, жергілікті шындыққа және заңнамаға сәйкес бекітеді.
Қауіпсіздік жоспары үлгісінің БЛАНК жобасын дайындаңыз: ескерту белгілері, күресу стратегиялары, адамдарға қолдау көрсету, кәсіби байланыс, қоршаған ортаны қауіпсіз ету. Маман клиентпен бетпе-бет мазмұнды толтырады; Сіз жай ғана бос үлгіні бересіз.
Дағдарыспен сұхбат алу дағдыларын жақсарту үшін ЕСЕЛІ репетиция сценарийін (нақты клиент жоқ) орнатыңыз. Маған сараптамалық рөлімде жауап беруге рұқсат етіңіз, содан кейін менің көзқарасым туралы конструктивті кері байланыс беріңіз. Бұл нақты жағдай емес, жаттығу репетициясы.
Әлсіз шақыру / Күшті шақыру
Әлсіз нұсқау: "Бұл клиент айтты: [сөз тіркестері]. Өз-өзіне қол жұмсау қаупі жоғары ма, мен не істеуім керек?"
Бұл шақыру дағдарыс шешімін AI-ға береді; Жасанды интеллект тәуекелді өлшей алмайды, жауапкершілікті өз мойнына алмайды және бұл сәт нақты уақыттағы адамның араласуын талап етеді. Бұл пайдалану қауіпті.
Күшті шақыру: "Мен сессиядан шықтым, нақты клиент жоқ. Тәуекелдерді бағалау дағдыларын жетілдіру үшін, өз-өзіне қол жұмсау қаупі туралы сұхбатта жазбауым керек салаларды еске салу ретінде тізім жасаңыз. Шешім мен араласу нақты жағдайда менің жауапкершілігім болады."
Бұл шақыру AI-ны сессиядан тыс дайындық құралы ретінде ғана пайдаланады; Дағдарыс шешім қабылдауды адамның өзіне қалдырады.
Жалпы қателер
- AI-дан дағдарыс туралы шешім қабылдауды сұрау. «Тәуекел бар ма?» AI бойынша кеңес беру; шешім мен жауапкершілікті жіберіп алу болып табылады.
- Дағдарыс жағдайында клиентті ботқа бағыттау. Чатбот тәуекелді сенімді басқара алмайтынын ұмыту.
- Тәуекел көрсеткішін шынайы деп қателесу. Клиникалық бағалау үшін АИ-ден механикалық «қауіп деңгейі» шығысын ауыстыру.
- Қою құралын тікелей пайдалануға жылжыту. Жасанды интеллектпен кеңесе отырып, тікелей дағдарыс жағдайында сессиядан тыс бақылау парағын пайдалану.
- Адамды қолдау тізбегін құрмау. Ұйымдағы жұмыстан кейінгі уақытта нағыз сарапшы/дағдарыс сызығы жүйесінің орнына AI-ге сүйену.
Қысқаша
Дағдарыс, суицид және зиян қаупі модульдің ең айқын шегі болып табылады: бұл сәттерде АИ шешім қабылдай алмайды, тәуекелді өлшей алмайды, араласа алмайды және жауапкершілікті өз мойнына алады. Өйткені дағдарыс нақты уақыттағы қатысуды, біртұтас клиникалық пайымдауды, жауапкершілікті және адамның араласуын талап етеді. AI үшін жалғыз қолайлы рөл - бұл кәсіби маманның жеке дайындығына қолдау көрсететін бақылау парағы, хаттама/үлгі жобасы және сеанстан тыс жаттығу репетициясы. Ешқашан дағдарысқа ұшыраған клиентті чат-ботқа бағыттамаңыз; Адамды қолдау тізбегі мен сенім телефондары іске қосылды.
Қолданбалы тапсырма
Жеке тәжірибеңіз немесе ұйымыңыз үшін дағдарысты бағыттау ағынын сызыңыз: клиент тәуекелді көрсеткенде кезең-кезеңімен не болады, кім шақырылады, олар қандай жолдарға сілтеме жасайды? Бұл ағынның кез келген қадамында AI шешім қабылдаушы емес екенін тексеріңіз. Сондай-ақ AI-ден сеанстан тыс тәуекелді бағалаудың бақылау парағын шығарып, бір сөйлеммен неліктен бұл жай ғана еске салғыш екенін және клиентке берілмейтінін жазыңыз.
бақылау парағы
- [ ] Тікелей дағдарыс кезінде AI-ға шешім қабылдау рөлін бермедім.
- [ ] Дағдарысты бағалау мен әрекет етуді өзім тікелей қолға алдым.
- [ ] Мен дағдарысқа ұшыраған клиентті чатботқа бағыттаған жоқпын.
- [ ] Мен AI тек сессиядан тыс дайындық үшін қолдандым (бақылау тізімі/хаттама/репетиция).
- [ ] Мен корпоративтік адамдарды қолдау тізбегін және сенім телефондарын анықтадым.
- [ ] Мен дағдарыстың шешімі мен жауапкершілігі адамның өз қолында екенін түсіндім.