Печалби:
- Възможността да се разграничи къде изкуственият интелект спестява реално време в работния процес на аптеката и къде критичната за безопасността отговорност трябва да остане на компетентния фармацевт и лекар, според нивото на риска
- Възможност за прилагане на многопластова дисциплина за проверка, която тества всеки AI изход спрямо актуална продуктова информация (SPC/KT), приложимо законодателство и независим експертен контрол
- Способност за придобиване на навика за избор на безопасни инструменти по отношение на анонимизирането на контекста, поверителността (KVKK) и етиката за защита на личните и здравни данни на пациента.
Фармацията е професия на доверие, която вижда пациента зад рецепта и му доставя лекарството по безопасен, точен и рационален начин. Източникът на това доверие е, че фармацевтът основава всяко свое решение на знания и отговорност. Изкуственият интелект (накратко AI; софтуер, който научава модели от данни и произвежда текст, таблици и предложения) навлиза в тази професия като много мощен помощник: сканиране на взаимодействие, писане на текст с информация за пациента, изготвяне на уведомление, обобщаване на законодателен текст. Но AI не е фармацевт; Нито носи отговорност, нито носи диплома, нито стои юридически срещу пациента. В този модул ще научите къде да използвате изкуствения интелект в аптечния бизнес, къде да застанете и как да проверите всеки резултат. Целта е да ви направим професионалист, който контролира изкуствения интелект, а не зависи от него.
Какво може и какво не може изкуственият интелект във фармацията?
Истинската сила на изкуствения интелект е да произвежда език, модели и чертежи. Текст за консултиране на пациенти, рамка за докладване на нежелани ефекти (странични ефекти), рационална употреба на лекарства (RAH; принцип на използване на лекарството с правилното лекарство, точната доза, за точната продължителност), брошура, таблица за анализ на запасите и резюме на литературата се появяват за секунди. В тези задачи изкуственият интелект ви спестява часове и облекчава умственото натоварване.
Това, което изкуственият интелект не може да направи, е решението, което изисква клинична отговорност. Коригиране на дозата на пациента въз основа на бъбречната функция, дали взаимодействието на две лекарства е клинично значимо за този пациент, безопасността на лекарството при бременна жена, дали трябва да бъде одобрена рецепта; Нищо от това не може да се определи от логиката на "така обикновено се случва". AI халюцинира, защото се учи от текстове в интернет и в книги: тоест може да измисли фалшива доза, взаимодействие или източник, който изглежда реален, но е фалшив. Във фармацията този тип грешка не е просто печатна грешка; Грешната доза означава сериозни неблагоприятни ефекти или дори увреждане на пациента.
Внимание: Резултатът от AI е чернова, а не експертно мнение. Не могат да се вземат критични за безопасността решения по отношение на медикаменти, дозировка и лечение без одобрението на компетентен фармацевт и лекар. Решението за диагностициране и лечение принадлежи на човека; AI не замества това съгласие.
Три района според степента на риск
Най-практичният начин за безопасно използване на изкуствения интелект е да разделите всяка задача на три зони въз основа на нивото на риск. Това разграничение дава бърз и точен отговор на въпроса "трябва ли изкуственият интелект да прави това?"
Регион
Примерни задачи
Ролята на изкуствения интелект
Ниво на проверка
Зелен (нисък риск)
Чернова на блог, етикет на рафт, бележка от срещата, имейл, текст с обща информация
безплатно производство
Бърз преглед
Жълто (среден риск)
Текст с информация за пациента, резюме на законодателството, анализ на запасите, резюме на литературата, проект на уведомление
Чернова + предложение
Експертен контрол + SmPC/потвърждение на източника
Червено (критично за сигурността)
Определяне на дозата, решение за взаимодействие, одобрение на рецепта, оценка на специална група (бременни/дете/недостатъчност)
Само предварителен екран/контролен списък
Задължително е одобрение от компетентен фармацевт и при необходимост от лекар.
Бъдете бързи в зелената зона. Използвайте AI в жълтата зона, но проверявайте фактите на всяко медицинско твърдение и източник. В червената зона AI никога няма последната дума; Това е просто помощно средство, което ускорява работата на експерта.
Дисциплина за многослойна проверка
Проверката не е нещо, което трябва да се отлага с мисълта „Ще го проверя по-късно“; е част от работния процес. Надеждното валидиране във фармацията се състои от пет слоя:
- Връщане към източника. Ако AI е дал доза, взаимодействие или състояние, отворете и го потвърдете от текущата информация за продукта (КХП: Обобщена информация за продукта; официална информация за лекарството за лекаря. KT: Инструкции за употреба; за пациента) или приложимото ръководство/законодателство.
- Независим акаунт. Преизчислете доза или концентрация (mg/kg, mL, %) ръчно или като използвате валидиран метод.
- Тествайте в контекста на пациента. Сравнете твърдението с действителната възраст, тегло, бъбречна/чернодробна функция, бременност и други лекарства на този пациент.
- Експертно око. Ако решението е клинично и има колебание, консултирайте се с лекар; Окончателното одобрение е на компетентния фармацевт.
- Оставете своя отпечатък. Запишете кой резултат е валидиран и как; Нека се провери по-късно.
Съвет: „ИИ каза“ не е оправдание. Обосновката за решение за аптека винаги е текущата КХП/ИП, текущите насоки/законодателство, независимо изчисление или компетентно експертно одобрение. AI ви помага да подготвите тези обосновки, той не ги замества.
Поверителност, KVKK и етика
Здравните данни са най-чувствителният вид лични данни; Подлежи на най-висока защита като „лични данни със специален характер“ в законодателството. Име на пациента, TR ID номер, диагноза, използвани лекарства; Всичко това е поверително. Преди да дадете тези данни на базиран в облак AI инструмент, задайте три въпроса: тези данни наистина ли са необходими? Може ли да се анонимизира? Инструментът, който използвам, използва ли данни в обучението?
Етичното измерение не свършва дотук. Изкуственият интелект не може директно да диагностицира пациент, да препоръча лечение или да замени лекар. Дори за продуктите без рецепта (OTC) е безотговорно да се прехвърля изходът на AI на пациента, без да се премине през филтъра на фармацевта. Използвайте AI като вътрешен инструмент; Никога не заобикаляйте професионалната преценка между вас и пациента.
три мини калъфа
Случай 1 — Валидирането улавя грешка. Фармацевт се консултира с ИИ, за да провери бързо дозата за 18 кг дете; AI погрешно предложи обща доза от 150 mg вместо 15 mg/kg. Фармацевтът разглежда разпечатката като чернова и прави независимо изчисление: 18 × 15 = 270 mg/ден. Той видя разликата, потвърди я на SPC и приложи правилната доза. Без дисциплината на проверка детето би получило приблизително половината доза; Сляпото доверие в AI би довело до грешка.
Случай 2 — Защита на поверителността. Фармацевт се канеше да запише името и идентификационния номер на пациента, докато питаше изкуствения интелект за сложен случай. Благодарение на собствения си навик за анонимизиране, той ги замени с клинични еквиваленти като „65 години, мъж, хронично бъбречно заболяване“. Качеството на изхода никога не намалява, но личните данни на пациента не отиват в облак. Поверителността беше защитена, без да се компрометира качеството на резултатите.
Казус 3 — Превишена скорост в зелена зона. Същата аптека ще напише процедура за доставка на студена верига за персонала. Тази мисия беше с нисък риск (зелена зона); Фармацевтът взе чернова от изкуствения интелект и я адаптира към реалния поток, намалявайки почасовата работа до половин час. Тъй като знаеше правилното зониране, той ускори тук, докато при клинично решение той щеше да забави и да провери.
Стъпка по стъпка: Безопасно въвеждане на AI в задача
- Поставете задачата в региона. Зелено, жълто или червено?
- Анонимизиране на контекста. Изчистете истинското име, личната карта, личната информация и личната информация.
- Дайте ясна кратка информация. Напишете ясно характеристиките на пациента (възраст, тегло, функция), целта и формата.
- Считайте резултата за чернова. Никога не го използвайте като крайния продукт.
- Прилагане на слоеве за проверка. Източник, акаунт, контекст на пациента, експерт, следа.
- Запишете решението и мотивите му.
Четири копируеми шаблона
Роля: Вие сте асистент в аптека (НЕ взимате клинични решения). Задача: Създайте ЧЕРНОВА за [задача]. Контекст: Възраст на пациента [...], тегло [...], състояние на бъбреците/черния дроб [...], други лекарства [...]. (НЯМА истинска идентификационна информация.) Правило: Етикет „ИЗИСКВА СЕ ПОТВЪРЖДЕНИЕ НА КХП/ИЗТОЧНИК“ за всяка доза/взаимодействие/състояние, за което не сте сигурни. Формат: В точки, с обосновка.
Задача: СПИСЪК на медицински твърдения, стойности на дозите и нормативни препратки в текста по-долу. Добавете бележка „източникът трябва да бъде проверен“ за всеки. Не го потвърждавайте сами, просто го маркирайте. Текст: [...]
Задача: Класифицирайте този резултат от изкуствен интелект според нивото на риск през очите на фармацевт. За всеки елемент: зелено / жълто / червено и дайте обосновка с едно изречение. Напишете „изисква се одобрение от квалифициран фармацевт/лекар“ в червените елементи. Резултат: [...]
Задача: Анонимизирайте текста на пациента/рецептата по-долу. Заменете истинското име, ID, адрес, телефон и идентификатор с [TAGET]; запазват клинично значение. Текст: [...]
Слаба подкана / Силна подкана
Слаб: "Кое лекарство трябва да дам на този пациент?"
Güçlü: „За 65-годишен пациент с приблизителен креатининов клирънс от 40 ml/min, използващ варфарин и метформин, избройте възможните взаимодействия на нов антибиотик, предписан от лекаря, и необходимостта от коригиране на дозата като предварителен скрининг. Посочете, че всеки елемент трябва да бъде потвърден от КХП. Не вземайте решение; просто премахнете точките, които трябва да бъдат проверени.“
В мощната подкана контекстът на пациента, числото, ограничението и границата са ясно дадени; Ясно е къде ще стои изкуственият интелект и решението е оставено на фармацевта.
Често срещани грешки
- Погрешно извеждане на резултата от изкуствения интелект за експертно мнение. AI произвежда очертания, а не клинични решения.
- Делегиране на вземането на критични за сигурността решения на изкуствен интелект. Дозата, взаимодействието и одобрението на рецептата никога не са оставени на изкуствения интелект.
- Използване на информация без потвърждение на КХП/източник. Всяка дозировка, взаимодействие и състояние трябва да бъдат потвърдени от официалния източник.
- Директно зареждане на данни за пациента. Анонимизирането и безопасният избор на инструменти не трябва да се пренебрегват.
- Не забелязвайки халюцинациите. Въпреки че AI може да изглежда уверен, той може да греши; Сигурното твърдение не е доказателство за истината.
В обобщение
AI е истински ускорител във фармацията, но не е заместител на фармацевта. Разделете задачите в зелена, жълта и червена зона; Бъдете бързи на зелено, потвърдете на жълто, никога не давайте последната дума на AI на червено. Считайте всеки изход за чернова и го преминете през петстепенна проверка. Отнасяйте се сериозно към поверителността на пациентите и KVKK. Отговорността винаги се носи от компетентния фармацевт и лекар; AI не споделя тази отговорност.
Задача за приложение
Изберете три задачи от собствената си ежедневна практика (напр. текст с информация за пациента, резюме на нормативната уредба, проверка на дозата на пациент). Класифицирайте всяко като зелено/жълто/червено. Запишете какви слоеве за проверка ще приложите за жълтите и червените задачи и чие одобрение се изисква за червената задача. Освен това намерете и отбележете в политиката за поверителност на инструмент с изкуствен интелект, който използвате, дали използва данни на пациенти в образованието.
контролен списък
- [ ] Поставих задачата в рисковата зона.
- [ ] Анонимизирах контекста (име, ID, диагноза е ясна).
- [ ] Дадох ясна, съобразена с пациента кратка информация.
- [ ] Отнесох изхода като чернова.
- [ ] Потвърдих дозата/взаимодействието/условията от текущата КХП/референция.
- [ ] Оставих критичното за безопасността решение на компетентния фармацевт/лекар.
- [ ] Запазих следата за проверка.