Прибуток:
- Можливість розрізнити, де штучний інтелект економить реальний час у робочому процесі аптеки, а де критично важлива відповідальність за безпеку повинна залишатися за компетентним фармацевтом і лікарем, відповідно до рівня ризику
- Можливість впровадження багаторівневої дисципліни перевірки, яка перевіряє кожен результат штучного інтелекту на відповідність актуальній інформації про продукт (SPC/KT), чинному законодавству та незалежному експертному контролю
- Здатність набути звички обирати безпечні інструменти з точки зору анонімізації контексту, конфіденційності (KVKK) та етики для захисту персональних даних пацієнта та його здоров’я.
Фармація — це професія довіри, яка бачить пацієнта за рецептом і доставляє йому/їй ліки безпечним, точним і раціональним способом. Джерело цієї довіри полягає в тому, що кожне рішення фармацевта базується на знаннях і відповідальності. Штучний інтелект (скорочено ШІ; програмне забезпечення, яке вивчає шаблони з даних і створює текст, таблиці та пропозиції) входить у цю професію як дуже потужний помічник: сканування взаємодії, написання інформаційного тексту для пацієнта, складання повідомлення, узагальнення законодавчого тексту. Але ШІ не є фармацевтом; Він не несе ні відповідальності, ні диплома, ні юридично проти пацієнта. У цьому розділі ви дізнаєтесь, де використовувати штучний інтелект в аптечному бізнесі, де стояти та як перевіряти кожен результат. Мета — зробити вас професіоналом, який керує штучним інтелектом, а не залежить від нього.
Що може і не може штучний інтелект у фармації?
Справжня сила штучного інтелекту полягає у створенні мови, шаблонів і схем. За лічені секунди з’являється текст консультації для пацієнта, структура звітності про несприятливі ефекти (побічні ефекти), раціональне використання ліків (RAH; принцип використання препарату з правильним препаратом, правильною дозою, протягом потрібної тривалості), таблиця аналізу запасів і короткий виклад літератури. У цих завданнях штучний інтелект економить ваші години та полегшує розумове навантаження.
Штучний інтелект не може прийняти рішення, яке вимагає клінічної відповідальності. Коригування дози пацієнта на основі функції нирок, чи є взаємодія двох препаратів клінічно значущою для цього пацієнта, безпечності препарату для вагітної жінки, чи потрібно затверджувати рецепт; Нічого з цього не можна визначити логікою «так зазвичай буває». Штучний інтелект галюцинує, тому що він навчається з текстів в Інтернеті та книгах: тобто він може створити хибну дозу, взаємодію або джерело, яке виглядає справжнім, але є хибним. У фармації цей тип помилки є не просто друкарською помилкою; Неправильна доза означає серйозні побічні ефекти або навіть шкоду для пацієнта.
Увага: результати ШІ є чернеткою, а не висновком експерта. Без схвалення компетентного фармацевта та лікаря не можна приймати критично важливі для безпеки рішення щодо ліків, дозування та лікування. Рішення про діагностику та лікування належить людині; ШІ не замінює цю згоду.
Три області за рівнем ризику
Найпрактичніший спосіб безпечного використання штучного інтелекту — це розділити кожне завдання на три зони залежно від рівня ризику. Це розрізнення дає швидку та точну відповідь на запитання «чи повинен це робити штучний інтелект?»
Регіон
Зразки завдань
Роль штучного інтелекту
Рівень перевірки
Зелений (низький ризик)
Чернетка блогу, етикетка на полиці, нотатка зустрічі, електронна пошта, текст із загальною інформацією
безкоштовне виробництво
Швидкий огляд
Жовтий (середній ризик)
Текст інформації для пацієнтів, резюме законодавства, аналіз запасів, резюме літератури, проект повідомлення
Проект + пропозиція
Експертний контроль + SmPC/підтвердження джерела
Червоний (важливий для безпеки)
Визначення дози, рішення про взаємодію, затвердження рецепта, оцінка спеціальної групи (вагітні/дитини/недостатність)
Лише попередній перегляд/контрольний список
Дозвіл компетентного фармацевта та, якщо необхідно, лікаря є обов’язковим.
Будьте швидкими в зеленій зоні. Використовуйте ШІ в жовтій зоні, але перевіряйте факти кожної медичної заяви та джерела. У червоній зоні ШІ ніколи не має останнього слова; Це лише допомога, яка прискорює роботу експерта.
Дисципліна багаторівневої перевірки
Перевірка – це не те, що можна відкладати, думаючи «перевірю пізніше»; є частиною робочого процесу. Надійна перевірка у фармації складається з п’яти рівнів:
- Повернення до джерела. Якщо ШІ вказав дозу, взаємодію чи стан, відкрийте та підтвердьте це з поточної інформації про продукт (SmPC: Коротка інформація про продукт; офіційна інформація про лікарський засіб для лікаря. KT: Інструкції із застосування; для пацієнта) або відповідних вказівок/законодавства.
- Незалежний рахунок. Перерахуйте дозу або концентрацію (мг/кг, мл, %) вручну або за допомогою перевіреного методу.
- Перевірте в контексті пацієнта. Порівняйте твердження з фактичним віком пацієнта, вагою, функцією нирок/печінки, вагітністю та іншими ліками.
- Око експерта. Якщо рішення є клінічним і є коливання, проконсультуйтеся з лікарем; Остаточне схвалення належить компетентному фармацевту.
- Залиште свій слід. Запишіть, який результат перевірено та як; Нехай потім перевірять.
Підказка: «ШІ сказав» не є виправданням. Обґрунтуванням рішення щодо аптеки завжди є поточна SmPC/PI, чинне керівництво/законодавство, незалежний розрахунок або схвалення компетентного експерта. ШІ допомагає вам підготувати ці обґрунтування, він не замінює їх.
Конфіденційність, КВКК і етика
Дані про стан здоров’я є найбільш конфіденційним типом персональних даних; Вони підлягають найвищому захисту як «персональні дані особливого характеру» в законодавстві. ПІБ пацієнта, номер ТРД, діагноз, використовувані ліки; Усе це конфіденційно. Перш ніж передати ці дані хмарному інструменту штучного інтелекту, задайте три запитання: чи справді ці дані потрібні? Чи можна анонімізувати? Чи використовує інструмент, який я використовую, дані під час навчання?
На цьому етичний вимір не закінчується. Штучний інтелект не може безпосередньо діагностувати пацієнта, рекомендувати лікування чи замінити лікаря. Навіть для безрецептурних (OTC) продуктів безвідповідально передавати вихід ШІ пацієнту, не пропускаючи його через фільтр фармацевта. Використовуйте ШІ як внутрішній інструмент; Ніколи не обходьте професійне судження між вами та пацієнтом.
три міні-чохла
Випадок 1 — Перевірка виявляє помилку. Фармацевт проконсультувався з ШІ, щоб швидко перевірити дозу для дитини вагою 18 кг; ШІ помилково запропонував загальну дозу 150 мг замість 15 мг/кг. Фармацевт вважав роздруківку чернеткою і зробив самостійний розрахунок: 18 × 15 = 270 мг/добу. Він побачив різницю, підтвердив це на SPC і застосував правильну дозу. Без дисципліни перевірки дитина отримала б приблизно половину дози; Сліпа довіра ШІ призведе до помилки.
Випадок 2 — Захист конфіденційності. Фармацевт збирався записати ім’я та ідентифікаційний номер пацієнта, запитуючи штучний інтелект про складний випадок. Завдяки власній звичці анонімізації він замінив їх клінічними еквівалентами, такими як «65 років, чоловік, хронічна хвороба нирок». Якість виходу ніколи не знижувалася, але особисті дані пацієнта не потрапляли ні в яку хмару. Конфіденційність була захищена без шкоди для якості результатів.
Випадок 3 — Перевищення швидкості на зеленій зоні. Та сама аптека напише процедуру доставки холодового ланцюга для персоналу. Ця місія мала низький ризик (зелена зона); Фармацевт взяв чернетку у штучного інтелекту та адаптував її до реального потоку, скоротивши погодинну роботу до півгодини. Оскільки він знав правильне зонування, він прискорювався тут, тоді як у клінічному рішенні він уповільнював і перевіряв.
Крок за кроком: безпечне впровадження ШІ в завдання
- Розмістіть завдання в регіоні. Зелений, жовтий чи червоний?
- Анонімізація контексту. Очистіть справжнє ім’я, ідентифікатор, ідентифікатор та особисту інформацію.
- Дайте чіткий бриф. Чітко запишіть характеристики пацієнта (вік, вага, функції), мету та формат.
- Вважайте вихід чернеткою. Ніколи не використовуйте його як кінцевий продукт.
- Застосуйте верифікаційні версії. Джерело, обліковий запис, контекст пацієнта, експерт, слід.
- Записати рішення та його мотивування.
Чотири шаблони, які можна копіювати
Роль: Ви асистент аптеки (НЕ приймаєте клінічні рішення). Завдання: Створіть ПРОЕКТ для [завдання]. Контекст: Вік пацієнта [...], вага [...], стан нирок/печінки [...], інші ліки [...]. (НЕМАЄ справжньої ідентифікаційної інформації.) Правило: Позначте «SmPC/ПОТРІБНО ПІДТВЕРДЖЕННЯ ДЖЕРЕЛА» для кожної дози/взаємодії/стану, у якому ви не впевнені. Формат: у пунктах, з обґрунтуванням.
Завдання: ПЕРЕЛІК медичних тверджень, значень дозування та нормативних посилань у тексті нижче. Додайте примітку "джерело має бути перевірено" для кожного. Не перевіряйте це самостійно, просто позначте це. Текст: [...]
Завдання: класифікуйте цей результат штучного інтелекту за рівнем ризику очима фармацевта. Для кожного пункту: зелений / жовтий / червоний і дайте обґрунтування одним реченням. Напишіть «потрібне схвалення кваліфікованого фармацевта/лікаря» в червоних пунктах. Вихід: [...]
Завдання: анонімізувати текст пацієнта/рецепту нижче. Замініть справжнє ім’я, ідентифікатор, адресу, телефон та ідентифікатор на [TAGET]; зберігають клінічне значення. Текст: [...]
Слабка підказка / Сильна підказка
Слабкий: «Які ліки мені дати цьому пацієнту?»
Гючлю: «Для 65-річного пацієнта з орієнтовним кліренсом креатиніну 40 мл/хв, який приймає варфарин і метформін, перелічіть можливі взаємодії нового антибіотика, призначеного лікарем, і потребу в коригуванні дози як попередній скринінг. Вкажіть, що кожен пункт має бути підтверджений Короткою характеристикою препарату. Не приймайте рішення; просто видаліть пункти, які потрібно перевірити».
У потужній підказці чітко вказано контекст пацієнта, кількість, обмеження та ліміт; Зрозуміло, де стоятиме штучний інтелект, і рішення залишається за фармацевтом.
Поширені помилки
- Прийняття результатів штучного інтелекту за експертну думку. ШІ формує плани, а не клінічні рішення.
- Делегування прийняття важливих для безпеки рішень штучному інтелекту. Схвалення доз, взаємодії та рецептів ніколи не покладається на штучний інтелект.
- Використання інформації без підтвердження SmPC/джерела. Кожне дозування, взаємодія та стан повинні бути підтверджені з офіційного джерела.
- Безпосереднє завантаження даних пацієнта. Не варто нехтувати анонімністю та безпечним вибором інструментів.
- Не помічаючи галюцинації. Хоча ШІ може здаватися впевненим, він може помилятися; Впевнене твердження не є доказом істини.
Підсумовуючи
ШІ є справжнім прискорювачем у фармації, але він не замінює фармацевта. Розподіліть завдання на зелену, жовту та червону зони; Будьте швидкими на зеленому, підтверджуйте на жовтому, ніколи не давайте ШІ останнього слова на червоному. Вважайте кожен вихід чернеткою та проходьте п’ятирівневу перевірку. Ставтеся серйозно до конфіденційності пацієнта та КВКК. Відповідальність завжди лежить на компетентному фармацевті та лікарі; ШІ не поділяє цю відповідальність.
Аплікаційне завдання
Виберіть три завдання зі своєї повсякденної практики (наприклад, текст інформації для пацієнта, нормативне резюме, перевірка дози пацієнта). Класифікуйте кожен як зелений/жовтий/червоний. Запишіть, які верифікаційні рівні ви будете застосовувати для жовтих і червоних завдань і чиє схвалення потрібне для червоного завдання. Також знайдіть і зазначте в політиці конфіденційності використовуваний вами інструмент штучного інтелекту, чи використовує він дані пацієнтів у навчанні.
контрольний список
- [ ] Помістив завдання в зону ризику.
- [ ] Я анонімізував контекст (ім’я, ідентифікатор, діагноз чітко).
- [ ] Я дав чітке, контекстне резюме.
- [ ] Я розглядав результат як чернетку.
- [ ] Я підтвердив дозу/взаємодію/умови з поточної SmPC/посилання.
- [ ] Я залишив важливе для безпеки рішення компетентному фармацевту/лікарю.
- [ ] Я зберіг трасування перевірки.