Печалби:
- Способност да се дефинира защо решенията за диагноза, лечение и лекарства не могат да бъдат делегирани на изкуствения интелект и ролята на одобрението на компетентния лекар
- Възможност за използване на изкуствен интелект в тази област само като инструмент за предварителна проверка, контролен списък и комуникационен инструмент в безопасни граници
- Възможност за прилагане на това как да затворите критична за безопасността препоръка на AI с протокол на агенцията, клинична оценка и компетентно одобрение
Едно от най-важните професионални умения на медицинската сестра е да знае дали дадено решение е в неговата или нейната юрисдикция или тази на лекаря/специалиста. Това ограничение не е просто бюрокрация, то е в основата на безопасността на пациентите. В ерата на изкуствения интелект тази граница става още по-важна: изкуственият интелект говори толкова гладко и уверено, че човек може да попадне в капана и да го мисли за експерт. В този раздел ще научите защо решенията, които са критични за безопасността, не могат да бъдат делегирани на изкуствения интелект, ролята на одобрението на компетентния лекар/експерт и как да използвате изкуствения интелект в безопасни граници в тази област. Неизменен принцип: Диагнозата, лечението, медикаментите и критичните за безопасността клинични решения изискват одобрение от компетентен лекар/специалист; AI изходът не замества това одобрение.
Какво е критично за сигурността решение?
Критично за безопасността решение е такова, което, ако е неправилно, може да причини сериозни, необратими увреждания на пациента или да застраши живота му. В контекста на сестринските грижи те обикновено са в правомощията на лекаря: поставяне на диагноза, започване или промяна на лечението, назначаване на лекарства и дозировка, решение за операция, решение за изписване. Медицинската сестра също има свои собствени съображения, важни за безопасността: забелязване, че пациентът се влошава, разпознаване на ситуация, която изисква незабавна намеса. Тези решения се подхранват от данни, но хората имат последната дума.
Изкуственият интелект не може да има последната дума при нито едно от тези решения. Причината е проста: изкуственият интелект не вижда пациента, не поема отговорност, не е отговорен и може да халюцинира. Оставянето на диагноза, дозировка или решение на AI е прехвърляне на отговорност на страна, която не може да поеме отговорност - това е както етично, така и правно неприемливо.
Внимание: Колкото и убедително изкуственият интелект да обяснява дадено решение, това не означава, че то е правилно или авторитетно. Свободното владеене не е опит. Всяко критично за безопасността решение се приключва с оценка и одобрение от компетентен лекар/експерт.
Безопасната роля на изкуствения интелект
AI не е напълно изключен от критичната за сигурността област; но ролята му е строго ограничена. Сигурните роли са:
- Предварително сканиране: Напомняне на точките, които трябва да се вземат предвид в масива от информация.
- Контролен списък: Направете видими стъпки, които могат да бъдат пропуснати.
- Инструмент за комуникация: Организиране на комуникацията с лекаря и пациента.
- Организация на информацията: Поставяне на разпръснати данни в разбираема форма.
Нито една от тези роли не взема решения; Всички те подготвят и улесняват решението на човека. Опасността е тази поддържаща роля да се превърне във „вземане на решение“.
три мини калъфа
Случай 1 — Правилна граница. Медицинска сестра моли AI да издаде SBAR доклад за влошаващ се пациент, след което се обажда на лекаря. Лекарят взема решение за лечение. Изкуственият интелект ускори комуникацията; Решението остана на лекаря. Границата е начертана правилно.
Случай 2 — Опасен оборот. Медицинска сестра пита изкуствения интелект "каква диагноза и какво лечение при тези симптоми?" и се опитва да приложи предложението без консултация с лекар. Намесва се главната сестра: диагнозата и лечението са решение на лекаря. Урок: Предложението на AI не замества реда.
Случай 3 — Потвърждаване на затварянето. Медицинска сестра забелязва възможно лекарствено взаимодействие, което AI проверява предварително. Той отправя това към фармацевта и лекаря не като „решение“, а като „въпрос“. Експертите оценяват и вземат решение. Изкуственият интелект привлече вниманието, хората взеха решението и процесът приключи с компетентно одобрение.
Стъпка по стъпка: изключете критична за сигурността препоръка за AI
- Отнасяйте се към предложението като към въпрос, а не като към решение. „AI маркира това“ е начало.
- Определете вашата юрисдикция. Това решение на медицинската сестра ли е или на лекаря/специалиста?
- Тествайте с източник и протокол. Препоръката отговаря ли на настоящите познания?
- Занесете го на компетентен специалист. Нека лекарят/фармацевтът/експертът го оцени.
- Запишете решението и мотивите му. Затворете с компетентно одобрение.
- Запазете AI само в подготвителна роля.
Четири копируеми шаблона
Задача: Маркирайте списък ПРЕД СКАНИРАНЕ с възможни рискове, които изискват внимание в следните (анонимни) констатации. Поставяне на диагноза, препоръчване на лечение; Дайте на всеки елемент бележка „трябва да се насочи към преглед от лекар“. Констатации: [...]
Задача: Организирайте информацията, която трябва да предам на лекаря за тази ситуация на пациента във формат SBAR. Вземане на решения или нареждания; просто подгответе комуникацията. Ситуация: [...]
Задача: Напомни ми като контролен списък със стъпки за безопасност, които може да бъдат пропуснати по време на този процес на лечение/вземане на решение. Решението е на мен и на компетентния експерт; Просто ми напомняш за стъпките. Процес: [...]
Задача: Класифицирайте следното предложение за изкуствен интелект от гледна точка на медицинска сестра: това решение в правомощията на медицинската сестра ли е, изисква ли одобрение от лекар/специалист? За всеки елемент напишете областта на правомощията и защо трябва да отиде за одобрение. Предложение: [...]
Слаба подкана / Силна подкана
Слаб: „Какво лечение трябва да започна на този пациент?“
Гючлю: „Отбележете точките на внимание, които трябва да предам на лекаря в следните анонимни констатации като списък за предварителен скрининг и дайте на всяко от тях бележка „изисква оценка от лекар“. Не поставяйте диагноза, не препоръчвайте лечение. Моята цел е да се подготвя за срещата с лекаря; лекарят ще вземе решение.“
В мощната подкана изкуственият интелект се поддържа в подготвителната роля; Решението очевидно е оставено на лекаря.
Често срещани грешки
- Погрешно говорене за експертни познания. Увереният тон на AI не е авторитет или точност.
- Подмяна на предложението в поръчката. Диагнозата, лечението и дозировката се определят от лекаря.
- Объркваща юрисдикция. Да знаете кое решение е чие е безопасността на пациента.
- Пропускане на стъпката за потвърждение. Критичното за сигурността решение се затваря с компетентно потвърждение.
- Преместване на поддържащата роля в ролята на вземане на решение. Предварителният преглед не е решение.
Мандат на медицинската сестра: застъпничество
Принципът на компетентното съгласие не превръща медицинската сестра в пасивен практикуващ. Напротив, най-силната професионална роля на медицинската сестра е тази на застъпничеството на пациента: да спре и да разпита и да възрази, ако е необходимо, когато дадена заповед или решение изглежда вероятно да навреди на пациента. Например, ако една доза изглежда необичайно висока, медицинската сестра не я прилага сляпо, защото й е казано да „приложи това“; Пита лекаря и иска потвърждение. Това е едновременно правомощие и отговорност на медицинската сестра. AI може да подкрепи това застъпничество: той може предварително да провери и да привлече вниманието на медицинската сестра към аспекти на поръчка, които изглеждат необичайни. Но сестрата показва решението и смелостта да задава въпроси.
Тук AI играе интересна двойна роля: от една страна, той може да напомни на медицинската сестра за риск, който той или тя може да пропусне, но от друга страна, той не трябва да замества собствената клинична интуиция на медицинската сестра. Най-здравословният баланс е да използвате AI като второ око, което потвърждава или предизвиква вашата интуиция, но оставя последната дума на вашата собствена преценка и одобрението на компетентния експерт.
Автоматичен капан за пристрастия
Пристрастието към автоматизацията е тенденцията хората да се доверяват повече на изхода на дадена машина или софтуер, отколкото на собствената си преценка. В здравеопазването това е опасно: медицинска сестра може да се изкуши да следва препоръка на AI, която се появява на екрана, дори ако собственото й наблюдение й подсказва друго. Противоотровата срещу този капан е да се позиционира AI като „асистент“, а не като „авторитет“. Когато AI предлага нещо, човек трябва рефлексивно да попита: "Е, това пасва ли на този пациент, противоречи ли на това, което виждам?" Когато вашето собствено клинично наблюдение противоречи на AI, разчитайте на вашето наблюдение по подразбиране и оценете ситуацията с компетентния експерт. Само защото една машина е уверена, не означава, че не сте прави. Това съзнателно съмнение е най-важният професионален навик за безопасно използване на AI.
Съвет: За да определите бързо дали дадено решение е „критично за безопасността“, запитайте се: „Ще ли пациентът претърпи необратима вреда, ако това е грешно?“ Ако отговорът е „да“ или „може би“, това решение е в червената зона и изисква компетентно експертно одобрение; AI е само подготвителна там. Този прост въпрос е бърз и надежден компас в ежедневната практика. Втори компас е: "Ако трябваше да защитя това решение, какво би било моето оправдание?" Ако единственото ви оправдание е „AI предложи това“, спрете; Вашата обосновка винаги трябва да бъде институционален протокол, заповед, доказателства или клинична оценка. Тези два въпроса са най-практичният начин да начертаете границата правилно.
В обобщение
Критични за безопасността решения - диагноза, лечение, лекарства, изписване, оценка на влошаването - когато са неправилни, причиняват необратими вреди и изискват одобрение от компетентен лекар/специалист. Изкуственият интелект не може да има последната дума при тези решения, защото не вижда пациента, не поема отговорност и може да халюцинира. Безопасната роля на AI е предварителен преглед, контролен списък, комуникация и организация на информацията. Трансформирането на помощната роля в роля на вземане на решение е най-опасната грешка; Всяко критично за сигурността предложение се затваря с компетентно одобрение.
Задача за приложение
Изберете пример за критично за безопасността решение от вашата собствена практика (напр. промяна на дозата на лекарството, оценка на влошаването). Проектирайте поток, при който използвате AI само в подготвителна роля в този процес: на коя стъпка предварителен преглед, на каква стъпка комуникация, на каква стъпка компетентно одобрение. Напишете в параграф защо изкуственият интелект не може да вземе решение и кой има одобрението.
контролен списък
- [ ] Определих компетентността на решението.
- [ ] Приех предложението за изкуствен интелект като въпрос, а не като решение.
- [ ] Тествах предложението с източника и протокола.
- [ ] Предадох критичното за безопасността решение на компетентен лекар/специалист.
- [ ] Запазих AI само в подготвителна роля.
- [ ] Записах решението и обосновката му.
- [ ] Не попаднах в капана да бъркам свободното владеене с опит.