Добици:
- Способност да се дефинише зашто се одлуке о дијагнози, лечењу и лековима не могу пренети на вештачку интелигенцију и улогу одобрења надлежног лекара
- Способност да се вештачка интелигенција у овој области користи само као пред-провера, контролна листа и алат за комуникацију у сигурним границама
- Способност имплементације како затворити препоруку вештачке интелигенције која је критична за безбедност уз протокол агенције, клиничку процену и компетентно одобрење
Једна од најважнијих професионалних вештина медицинске сестре је да зна да ли је одлука у његовој или њеној надлежности или у надлежности лекара/специјалисте. Ова граница није само бирократија, она је основа безбедности пацијената. У доба вештачке интелигенције, ова граница постаје још важнија: вештачка интелигенција говори тако течно и самоуверено да се може упасти у замку мислећи да је стручњак. У овој јединици ћете научити зашто се одлуке од кључне важности за безбедност не могу пренети на вештачку интелигенцију, улогу надлежног лекара/експертског одобрења и како да користите вештачку интелигенцију у сигурним границама у овој области. Непроменљив принцип: Дијагноза, лечење, лекови и клиничке одлуке од кључне важности за безбедност захтевају одобрење надлежног лекара/специјалисте; АИ излаз не замењује ово одобрење.
Шта је безбедносно критична одлука?
Безбедносна одлука је она која, ако је нетачна, може да изазове озбиљну, неповратну штету пацијенту или да угрози његов живот. У контексту медицинских сестара, то су обично у надлежности лекара: постављање дијагнозе, почетак или промена лечења, наручивање лекова и дозе, одлука о операцији, одлука о отпуштању. Медицинска сестра такође има своја размишљања која су критична за безбедност: приметити да се стање пацијента погоршава, препознати ситуацију која захтева хитну интервенцију. Ове одлуке су храњене подацима, али коначну реч имају људи.
Вештачка интелигенција не може имати коначну реч ни у једној од ових одлука. Разлог је једноставан: вештачка интелигенција не види пацијента, не преузима одговорност, није одговорна и може да халуцинира. Препуштање дијагнозе, дозе или одлуке АИ је преношење одговорности на страну која не може да преузме одговорност — ово је и етички и правно неприхватљиво.
Пажња: Колико год вештачка интелигенција убедљиво објаснила одлуку, то не значи да је она исправна или ауторитативна. Течност није стручност. Свака одлука која је критична за безбедност затвара се проценом и одобрењем надлежног лекара/стручњака.
Сигурна улога вештачке интелигенције
АИ није потпуно искључена из домена критичног за безбедност; али је његова улога строго ограничена. Сигурне улоге су:
- Претходно скенирање: Подсећање на тачке које треба размотрити у маси информација.
- Контролна листа: Прављење видљивих корака који се могу прескочити.
- Комуникациони алат: Организовање извештавања лекара и комуникације са пацијентом.
- Организација информација: Стављање дисперзованих података у разумљиву форму.
Ниједна од ових улога не доноси одлуке; Сви они припремају и олакшавају човекову одлуку. Опасност је да се ова споредна улога претвори у улогу „доношења одлука“.
три мини кофера
Случај 1 — Исправна граница. Медицинска сестра тражи од АИ да изда СБАР извештај за пацијента са погоршањем, а затим позива лекара. Одлуку о лечењу доноси лекар. Вештачка интелигенција је убрзала комуникацију; Одлука је остала на доктору. Граница је исправно нацртана.
Случај 2 — Опасан обрт. Медицинска сестра пита вештачку интелигенцију "која дијагноза и какав третман са овим симптомима?" и покушава да спроведе сугестију без консултације са лекаром. Интервенише медицинска сестра: дијагноза и лечење су одлука лекара. Лекција: Предлог вештачке интелигенције не замењује редослед.
Случај 3 — Потврдите затварање. Медицинска сестра примећује могућу интеракцију са лековима коју АИ унапред прегледа. Он то доноси фармацеуту и лекару не као „одлуку“ већ као „питање“. Стручњаци процењују и доносе одлуку. Вештачка интелигенција је привукла пажњу, људи су донели одлуку, а процес је завршен уз компетентно одобрење.
Корак по корак: искључите безбедносно критичну АИ препоруку
- Третирајте предлог као питање, а не као одлуку. „АИ је ово означио“ је почетак.
- Одредите своју надлежност. Да ли је ова одлука одлука медицинске сестре или лекара/специјалисте?
- Тестирајте са извором и протоколом. Да ли препорука одговара тренутним сазнањима?
- Однесите га компетентном специјалисту. Нека то процени лекар/фармацеут/стручњак.
- Забележите одлуку и њено образложење. Затворите уз компетентно одобрење.
- Држите АИ само у припремној улози.
Четири шаблона за копирање
Задатак: Означите ПРЕ-СЦАН листу могућих ризика на које треба обратити пажњу у следећим (анонимним) налазима. Постављање дијагнозе, препорука лечења; Сваком предмету дајте напомену „мора се упутити на процену лекара“. Налази: [...]
Задатак: Организовати информације које треба да пренесем лекару за ову ситуацију пацијента у СБАР формату. Доношење одлука или налога; само припремите комуникацију. Ситуација: [...]
Задатак: Подсети ме као контролну листу безбедносних корака који могу бити пропуштени током овог процеса узимања лека/одлуке. Одлука је на мени и надлежном стручњаку; Само ме подсетите на кораке. Процес: [...]
Задатак: Класификујте следећу сугестију вештачке интелигенције из перспективе медицинске сестре: да ли је ова одлука у надлежности медицинске сестре, да ли је потребно одобрење лекара/специјалисте? За сваку ставку напишите област надлежности и зашто треба да иде на одобрење. Предлог: [...]
Слаби промпт / Јаки промпт
Слабо: „Који третман да започнем код овог пацијента?“
Гуцлу: „Означите тачке пажње које морам да пренесем лекару у следећим анонимним налазима као листу пре скрининга и дајте сваком од њих напомену „захтева процену лекара“. Не постављајте дијагнозу, не препоручујем лечење. Мој циљ је да се припремим за састанак са лекаром; лекар ће донети одлуку.“
У моћној брзини, вештачка интелигенција се држи у припремној улози; Одлука је очигледно препуштена лекару.
Уобичајене грешке
- Грешка течност за стручност. Самоуверени тон вештачке интелигенције није ауторитет или тачност.
- Замена предлога у редослед. Дијагноза, лечење и дозирање су у надлежности лекара.
- Збуњујућа надлежност. Сигурност пацијената је сазнати која је одлука чија.
- Прескакање корака потврде. Безбедносно критична одлука се затвара компетентном потврдом.
- Пребацивање споредне улоге на улогу одлучивања. Пре-скрининг није одлука.
Мандат медицинске сестре: заступање
Принцип компетентног пристанка не претвара медицинску сестру у пасивног практичара. Напротив, најјача професионална улога медицинске сестре је заступање пацијената: да стане, испитује и приговара ако је потребно, када се чини да ће наредба или одлука вероватно нашкодити пацијенту. На пример, ако се доза чини необично високом, медицинска сестра је не примењује слепо јер јој је речено да „приреди ово“; Пита доктора и тражи потврду. Ово је и овлашћење и одговорност медицинске сестре. АИ може подржати ово заговарање: може унапред прегледати и скренути пажњу медицинске сестре на аспекте налога који изгледају необично. Али медицинска сестра показује одлуку и храброст да преиспита.
Овде АИ игра занимљиву двоструку улогу: с једне стране, може подсетити медицинску сестру на ризик који он или она може пропустити, али с друге стране, не би требало да замени сопствену клиничку интуицију медицинске сестре. Најздравија равнотежа је да користите вештачку интелигенцију као друго око које потврђује или изазива вашу интуицију, али препушта коначну реч вашој сопственој процени и одобрењу компетентног стручњака.
Замка пристрасности аутоматизације
Пристрасност аутоматизације је тенденција да људи верују више у излаз машине или софтвера него својој сопственој процени. У здравству, ово је опасно: медицинска сестра може бити у искушењу да следи препоруку вештачке интелигенције која се појави на екрану, чак и ако јој сопствено запажање говори другачије. Протуотров за ову замку је позиционирање АИ као „помоћника“, а не као „ауторитета“. Када вештачка интелигенција нешто сугерише, мора се рефлексно запитати: "Па, да ли ово одговара овом пацијенту, да ли је у супротности са оним што видим?" Када је ваше сопствено клиничко посматрање у сукобу са АИ, ослоните се на своје запажање подразумевано и процените ситуацију са надлежним стручњаком. Само зато што је машина самоуверена не значи да нисте у праву. Ова свесна сумња је најважнија професионална навика безбедне употребе вештачке интелигенције.
Савет: Да бисте брзо утврдили да ли је одлука „критична за безбедност“, запитајте се: „Да ли би пацијент претрпео неповратну штету да је ово погрешно?“ Уколико је одговор „да” или „можда”, та одлука је у црвеној зони и потребно је одобрење надлежног стручњака; АИ је само припремна тамо. Ово једноставно питање је брз и поуздан компас у свакодневној пракси. Други компас је: "Ако бих морао да браним ову одлуку, шта би било моје оправдање?" Ако је ваше једино оправдање "АИ је ово предложио", престаните; Ваше оправдање увек треба да буде институционални протокол, налог, доказ или клиничка евалуација. Ова два питања су најпрактичнији начин да правилно нацртате границу.
Укратко
Одлуке од кључне важности за безбедност—дијагноза, лечење, лекови, отпуштање, процена погоршања—када су нетачне, узрокују неповратну штету и захтевају одобрење надлежног лекара/специјалисте. Вештачка интелигенција не може да има коначну реч у овим одлукама јер не види пацијента, не преузима одговорност и може да халуцинира. Сигурна улога вештачке интелигенције је пре-провера, контролна листа, комуникација и организација информација. Трансформисање помоћне улоге у улогу одлучивања је најопаснија грешка; Сваки безбедносно критичан предлог се затвара уз компетентно одобрење.
Задатак апликације
Изаберите пример безбедносно критичне одлуке из сопствене праксе (нпр. промена дозе лека, процена погоршања). Дизајнирајте ток где користите вештачку интелигенцију само у припремној улози у овом процесу: у ком кораку претпровера, у ком кораку комуникација, у ком кораку компетентно одобрење. Напишите у пасусу зашто вештачка интелигенција не може да донесе одлуку и ко има одобрење.
контролна листа
- [ ] Одредио сам надлежност одлуке.
- [ ] Предлог вештачке интелигенције сам схватио као питање, а не као одлуку.
- [ ] Тестирао сам предлог са извором и протоколом.
- [ ] Пренео сам одлуку критичну за безбедност надлежном лекару/специјалисти.
- [ ] Држао сам АИ само у припремној улози.
- [ ] Снимио сам одлуку и њено образложење.
- [ ] Нисам упао у замку да погрешно разумем течност за стручност.