Прибуток:
- Розуміння того, що дані про здоров’я – це дані особливої якості, а також правила анонімізації, зберігання та обміну в рамках KVKK/законодавства
- Здатність розробити етичні принципи (справедливість, прозорість, підзвітність) і політику корпоративного управління у використанні штучного інтелекту
- Можливість створити структуру управління, в якій результати штучного інтелекту не замінюють управлінські та клінічні рішення, а відповідальність і остаточне схвалення завжди залишаються за людиною.
У цьому модулі ми використовували штучний інтелект як прискорювач у кожній операційній сфері, від записів до ліжок, від прогнозування до доходу, від якості до інвентаризації. Але є дах над усіма цими потужними способами використання: конфіденційність даних, дотримання нормативних вимог і етика. Без цієї структури кожен бізнес, який ви прискорюєте, також є підвищеним ризиком. Цей останній блок об’єднує розрізнені правила в єдину структуру управління. Управління – це система управління, яка визначає, хто і що може робити в установі та за якими правилами, а також як працюють відповідальність і контроль. Давайте ще раз максимально чітко сформулюємо головний принцип: результати ШІ не замінюють управлінських та клінічних рішень; Відповідальність і остаточне схвалення завжди лежить на людині.
Чому дані про здоров’я є конфіденційними?
Дані про здоров’я – це не звичайні дані. У Туреччині KVKK (Закон про захист персональних даних) розглядає дані про стан здоров’я як «особисті дані особливого характеру»; Це означає найвищий рівень захисту. Його європейським аналогом є GDPR. Якщо діагноз пацієнта, лікування, номер протоколу буде розкрито, буде завдано незворотної шкоди: стигма, дискримінація, втрата довіри. Отже, є кілька основних правил. Анонімізація полягає у видаленні з даних усієї інформації, яка ідентифікує особу (ім’я, ідентифікатор, протокол, рідкісний діагноз + вік + місцезнаходження). Мінімізація даних — це робота з найменшою кількістю даних, яка виконає роботу. Обмеження за призначенням означає використання даних лише з метою, для якої вони були зібрані. Обмеження зберігання не передбачає зберігання даних довше, ніж це необхідно.
Вставлення даних пацієнтів у загальнодоступний інструмент ШІ надсилає дані на зовнішній сервер і є серйозним порушенням. Правильний підхід: знеособити дані, якщо можливо, вибрати інструменти з корпоративними контрактами та контрактами на обробку даних (які не використовують ваші дані для навчання моделі) і мати письмову політику щодо того, які дані можуть надходити в який інструмент. Пам’ятайте: коли дрібні частинки збираються разом, людину можна змінити; Тоді як «68-річна жінка» в безпеці, «68-річна жінка з села X, з рідкісним захворюванням Y» більше не є анонімною.
Етика та наскрізне управління
Належне управління ШІ базується на трьох етичних принципах. Справедливістю є те, що штучний інтелект систематично не ставить у невигідне становище групу пацієнтів (людей похилого віку, малозабезпечених, сільських); Прикладом цього було невикористання показника неявки для виключення. Прозорість означає можливість пояснити, на чому базується рішення; Бажано пропозицію з видимим обґрунтуванням, а не пропозицію «чорної скриньки». Підзвітність означає мати відповідальну особу, яка стоїть за кожним рішенням; «ШІ так сказав» не є захистом.
Те, що втілює ці принципи в життя, — це політика управління. Гарна політика визначає: які дані можуть надходити в який транспортний засіб (класифікація даних); правила анонімізації; точки схвалення людини для кожної роботи (хто що підписує); підзвітність і контрольний слід (хто що і коли зробив — запис сліду); та етичні принципи. Ця політика об’єднує всі твердження «люди вирішують», які ми бачили протягом усього модуля, в єдину інституційну структуру.
Увага: речення «AI запропонував, я реалізував» не є перекладом відповідальності. Юридично та етично відповідальність залишається за особою, яка приймає та реалізує пропозицію. Управління робить цю відповідальність видимою та відстежуваною.
три міні-чохла
Випадок 1 — Ризик повторної ідентифікації. Один підрозділ поділився «анонімним» описом випадку: «Єдиного пацієнта з пересадкою серця в нашому місті, 34-річного чоловіка, виписали минулого місяця». У цьому реченні не було іменника, але поєднання однозначно описувало цю людину. Офіцер з якості заперечив проти цього; Поєднання рідкісних особливостей порушує анонімність. Короткий зміст було переписано, вилучивши описові деталі та узагальнивши його.
Випадок 2 — Значення запису трасування. У лікарні номер у звіті керівництва, створеному за допомогою ШІ, виявився неправильним, і керівництву було надіслано неправильну інформацію. Під час перевірки питання "звідки ця цифра, хто її підтвердив?" запитали. Оскільки політика управління організації передбачає обов’язковий запис «джерело + верифікатор + дата» для кожного виходу штучного інтелекту, одразу стало очевидно, що помилка сталася там, де етап перевірки був пропущений. Слідова фіксація використовувалася для коригування процесу, а не для пошуку злочинців.
Випадок 3 — Політика запобігає кризі. Новий співробітник збирався завантажити свій список звільнень у загальнодоступний інструмент ШІ. Чітка політика закладу стверджувала, що «жодні файли, які містять ідентифікацію пацієнтів, не потрапляють у відкритий інструмент, вони спочатку анонімізуються, і використовується лише затверджений інституційний інструмент». Співробітник запам’ятав політику, анонімізував дані та використав затверджений інструмент. Письмове управління запобігло індивідуальній помилці як інституційний рефлекс.
Чотири шаблони, які можна копіювати
1) Проект політики класифікації даних:
Ваша роль: помічник спеціаліста з інформаційної безпеки/якості закладу охорони здоров’я. Створіть класифікаційну таблицю «Які дані можуть входити до ШІ» для нашої установи: червоний (ніколи: ідентифікатор пацієнта, ідентифікатор, протокол), жовтий (анонімний), зелений (вільний: загальнодоступний, безособовий). Напишіть приклади та правила для кожного класу. Зазначте, що це чернетка, і її має затвердити юридичний відділ/відділ відповідності.
2) Контрольний список анонімізації:
Підготуйте контрольний список анонімізації, який я запустю, перш ніж надавати будь-які дані штучному інтелекту: чи є вихід імені/TC/протоколу, чи ідентифікує особу комбінація рідкісних ознак (вік+місцезнаходження+рідкісний діагноз), чи є непотрібний простір, чи це корпоративний інструмент. Нехай кожен пункт буде позначено так/ні.
3) Карта точок схвалення людини:
Створіть таблицю «хто схвалює» для наступних сфер використання штучного інтелекту (звіт, прогноз попиту, пріоритет ліжок, платіжний код, графік змін): рівень ризику та обов’язкові повноваження для схвалення людини для кожної області. Підкресліть необхідність клінічного та адміністративного подвійного схвалення в зонах високого ризику.
4) Шаблон запису трасування виведення AI:
Напишіть шаблон журналу слідів, який потрібно заповнити для кожного результату штучного інтелекту: дата, використаний інструмент, клас введених даних (анонімно), підсумок результату, особа, яка перевірила, керівник, який схвалив, рішення. Вкажіть, що це для аудиту та звітності.
Слабка підказка / Сильна підказка
Слабка підказка:
Передайте дані наших пацієнтів ШІ та проаналізуйте їх.
Анонімізація, безпека транспортного засобу, без підтвердження та без запису слідів; Ризик прямого порушення КВКК.
Потужна підказка:
Розробіть проект політики управління штучним інтелектом для нашої організації: (1) класифікація даних (червоний/жовтий/зелений), (2) правила анонімізації, (3) точки схвалення людини для кожного випадку використання, (4) реєстрація та аудит, (5) принципи справедливості/прозорості/підзвітності. Зазначте, що це чернетка і потребує юридичного/відповідного схвалення.
Елемент управління
Що забезпечує
приклад
Класифікація даних
Визначає, що можна ввести
ID = ніколи
Анонімізація
Захищає людину
Вискакує ім'я/рідкісна комбінація
точки схвалення людини
Визначає відповідальність
Подвійна перевірка з високим ризиком
послужний список
Аудитируемость
Джерело + верифікатор + дата
Етичні принципи
Чесний, прозорий, підзвітний
Використання оцінки для виключення
Поширені помилки
- Обмін ідентифікаційними даними, вважаючи їх «анонімними». Рідкісне поєднання рис видає людину.
- Використання несхваленого інструменту. Дані надходять на зовнішній сервер.
- Покладання відповідальності на ШІ. «AI сказав» не є правовим захистом.
- Не ведення послужного обліку. Якщо є помилка, ви не можете показати джерело та перевірку.
- Писати політику і не реалізовувати її. Правило на папері не захищає, якщо це не рефлекс.
Порада: увінчайте свою політику управління списком «золотих правил», які вміщаються на одній сторінці та є достатньо простими для запам’ятовування: не вводьте ідентифікатор, анонімізуйте, використовуйте схвалений транспортний засіб, підтверджуйте, підпис людини. Довгий поліс ніхто не читає; Всі пам'ятають правило п'яти.
Підсумовуючи
Операційна потужність штучного інтелекту безпечна лише за надійної системи конфіденційності, законодавства та етики. Дані про стан здоров’я – це дані про особливу якість; Важливими є анонімізація, мінімізація даних і затверджений інструмент. належне управління; Він поєднує в собі класифікацію даних, анонімізацію, точки схвалення людьми, запис трасування та етичні принципи (справедливість, прозорість, підзвітність). Це суть цього модуля в одному реченні: штучний інтелект прискорює роботу, а людина приймає рішення та несе відповідальність. Неперевірений вихід ШІ такий же ризикований, як і непідписане управлінське рішення.
Аплікаційне завдання
Підготуйте односторінковий проект політики управління для вашої організації, використовуючи шаблони «вихідний запис ШІ» та «класифікація даних». Додайте список «золотих правил» щонайменше з п’яти пунктів. Потім виберіть сферу використання, яку ви вивчали протягом модуля (наприклад, пріоритет ліжка або платіжний код), і напишіть у 5 пунктах, які етапи схвалення та перевірки вимагає ця політика в цій області.
контрольний список
- [ ] Чи класифікуються дані про стан здоров’я як спеціальні та чи застосовувався я правила анонімізації?
- [ ] Чи перевірив я ризик повторної ідентифікації за допомогою рідкісної комбінації ознак?
- [ ] Чи визначив я точку схвалення людини для кожного випадку використання?
- [ ] Чи веду я послужний список (джерело/верифікатор/дата) для результатів ШІ?
- [ ] Чи я написав у полісі, що відповідальність і остаточне схвалення завжди лежить на особі?
Модульний екзамен
1. Керівник лікарні безпосередньо реалізує рекомендації щодо розподілу ліжок, створені штучним інтелектом, без будь-якої клінічної оцінки. У чому принципова помилка такого підходу?
- A) Перетворення вихідних даних штучного інтелекту в рішення без піддавання його клінічній придатності та адміністративної перевірки; Ігнорування того, що відповідальність лежить на людях ✔
- B) Категорично заборонено використовувати штучний інтелект для управління ліжком
- В) Штучний інтелект завжди показує кількість ліжок більше, ніж є насправді
- Г) Пропозиція не представлена в таблиці
Опис: Штучний інтелект створює статистичні рекомендації; Однак розподіл ліжок і пріоритет виписки залежать від клінічного стану пацієнта, і остаточне рішення належить за погодженням лікаря/медичної сестри та відповідального менеджера. Неперевірений вихід схожий на непідписане рішення.
2. Який із наведених нижче підходів є найбільш відповідним під час введення даних пацієнтів у загальнодоступний інструмент штучного інтелекту?
- A) Вставте ім’я пацієнта та номер протоколу для швидкості
- B) Видаліть ідентифікаційну інформацію та анонімізуйте дані та, якщо можливо, скористайтеся корпоративним інструментом за контрактом ✔
- C) Приховайте лише ім’я пацієнта та залиште ідентифікаційний номер TR
- D) Достатньо отримати усний дозвіл від пацієнта перед тим, як надати дані.
Пояснення: Дані про стан здоров’я є спеціальними персональними даними. Інформацію про ідентифікацію, таку як ім’я, TR ID, номер протоколу, слід видалити, дані мають бути анонімними, і, якщо можливо, слід віддавати перевагу інструментам обробки корпоративних даних за контрактом.
3. Як найкраще використовувати оцінку ризику, створену штучним інтелектом, для прогнозування неявок?
- A) Відмова записатися на прийом до пацієнтів групи високого ризику
- B) Ігноруйте оцінку та застосовуйте ту саму процедуру до всіх пацієнтів
- C) Планування справедливих втручань із збереженням доступу, таких як нагадування та надмірне бронювання ✔
- D) Постійне занесення пацієнтів із групи високого ризику до чорного списку
Пояснення: оцінка ризику – це оцінка ймовірності; Його слід використовувати, щоб керувати справедливими втручаннями, такими як щільність нагадувань, надмірне бронювання та полегшення доступу, а не відмова пацієнта. Права доступу пацієнтів мають бути захищені.
4. Яка основна причина роботи з довірчими інтервалами та сценаріями замість єдиного числа, наданого штучним інтелектом у прогнозуванні попиту?
- A) Подання інтервалу робить звіт довшим
- B) Тому що штучний інтелект не може створити одні числа
- C) Оскільки довірчий інтервал завжди точно дає справжнє значення
- D) Оскільки прогноз передбачає невизначеність, необхідно здійснювати гнучке планування відповідно до сценаріїв та управляти ризиками ✔
Пояснення: прогноз базується на історичних даних і передбачає невизначеність. Планування відповідно до діапазону, а не однієї точки, дає змогу бути готовими до сценаріїв низького/високого попиту та гнучко керувати потужністю.
5. Який найбільш критичний ризик, коли у вас є штучний інтелект, який пропонує платіжні коди в циклі доходу?
- A) Штучний інтелект створює недійсний або неправильний код, легко пропонує його та вводить у рахунок без перевірки ✔
- Б) Штучний інтелект створює коди дуже повільно
- C) Пропозиція коду завжди автоматично приймається SGK
- D) Коди можуть створюватися лише англійською мовою
Пояснення: Штучний інтелект може вільно запропонувати код, який насправді не існує або є неправильним (галюцинація). Кодування та білінг регламентовані; Кожен код має бути перевірений уповноваженим експертом із дійсними списками транзакцій і правилами відшкодування.
6. На інформаційній панелі індикаторів якості AI інтерпретує раптове падіння індикатора як «покращення». Що має робити менеджер?
- A) Представлення коментаря безпосередньо раді директорів
- B) Дослідіть, чи може ця зміна бути спричинена якістю даних, зміною визначення або цільовим відхиленням, і перевірте причинно-наслідковий зв’язок ✔
- C) Зніміть індикатор з панелі приладів
- D) Довіряти штучному інтелекту та не робити жодних перевірок
Пояснення: зміна індикатора може бути викликана проблемою якості даних, зміною визначення або грою. Адміністратор має перевірити причинно-наслідковий зв’язок і джерело даних коментаря.
7. Яка найпоширеніша помилка при аналізі задоволеності пацієнтів безкоштовним текстовим відгуком за допомогою штучного інтелекту?
- А) Поділ текстів на теми
- B) Анонімізація зворотного зв’язку
- C) Узагальнення автоматичної мітки та зразка емоцій для всіх пацієнтів без їх перевірки ✔
- D) Пріоритезація скарг
Пояснення: автоматичне маркування емоцій може викликати іронію, заперечення та неправильне розуміння контексту; Крім того, лише думки авторів містять упередження вибірки. Не можна робити узагальнення без перевірки результатів за допомогою вибірки та читання.
8. Яка основна мета аналізу ABC в управлінні запасами?
- А) Розташувати всі предмети в алфавітному порядку
- Б) Враховуючи тільки препарати, що містять вітамін А
- В) Знищення прострочених продуктів
- D) Класифікація товарів на складі відповідно до рівня цінності/критичності та спрямування пріоритету контролю на найбільш важливі товари ✔
Пояснення: аналіз ABC класифікує товарні запаси з точки зору цінності/критичності як A (високий), B (середній), C (низький); Таким чином, увага керівництва та частота контролю зосереджуються на найбільш критичних пунктах.
9. Що означає поняття «вузьке місце» у вдосконаленні процесу?
- A) Ступінь з найменшою пропускною здатністю та обмеженням швидкості всього потоку ✔
- B) Найшвидший етап процесу
- В) підрозділ, де працює найбільше персоналу
- D) Стадія, на якій пацієнти найбільш задоволені
Опис: вузьке місце — це крок із найменшою місткістю, який визначає швидкість усього процесу. Зусилля щодо вдосконалення повинні спершу зосередитися на вузьких місцях; покращення в іншому місці не прискорює загальний потік.
10. Що повинен перевірити менеджер перед застосуванням розкладу, створеного штучним інтелектом, у плануванні зміни?
- A) Чи надрукована діаграма кольоровою чи ні
- B) Дотримання трудового законодавства, періодів відпочинку, клінічної компетентності та правил правосуддя ✔
- В) Скільки секунд потрібно штучному інтелекту, щоб створити діаграму?
- D) Чи надає розклад перевагу найвищому персоналу
Опис: Діаграма; Він повинен відповідати нормам трудового законодавства (максимальна тривалість робочого часу, відпочинку), правам працівників, клінічній компетентності та справедливості. AI може створити проект, який порушує ці правила; Остаточне затвердження – за менеджером.
11. Що з наведеного нижче виражає правильну межу використання штучного інтелекту в управлінні охороною здоров'я?
- А) Штучний інтелект може автоматично приймати всі управлінські рішення
- B) Штучний інтелект можна використовувати лише для написання тексту, а не для числового аналізу
- В) Штучний інтелект є помічником і інструментом підтримки прийняття рішень; Відповідальність і остаточне затвердження критичних рішень лежить на людях ✔
- D) Штучний інтелект може остаточно ухвалювати рішення про погашення без схвалення людини
Опис: Помічник зі штучного інтелекту, генератор чернеток і інструмент підтримки прийняття рішень. Відповідальність і остаточне затвердження рішень, що впливають на розподіл ресурсів, клінічні пріоритети та безпеку пацієнтів, завжди покладаються на компетентного спеціаліста та відповідального керівника.
12. Чому саме по собі зменшення показника середньої тривалості перебування (LOS) не є достатнім доказом «успіху»?
- А) Оскільки тривалість перебування неможливо виміряти
- Б) Оскільки тривалість перебування може розрахувати лише штучний інтелект
- C) Оскільки тривалість перебування взагалі не має значення для відшкодування.
- D) Якщо зниження супроводжується збільшенням кількості ранніх виписок і повторної госпіталізації, безпека пацієнтів може бути порушена, і це слід інтерпретувати разом із відповідними показниками ✔
Пояснення: Зменшення часу перебування може вказувати на хороше використання ресурсів; Однак, якщо це супроводжується збільшенням кількості передчасних виписок і повторних госпіталізацій, безпека пацієнтів може бути порушена. Індикатор слід інтерпретувати разом з іншими пов’язаними показниками.
13. Який статус прогнозування попиту на основі історичних даних у разі раптового збою, наприклад епідемії чи стихійного лиха?
- А) Прогнозування перестає бути орієнтуючим; Експертна оцінка та моніторинг у реальному часі відіграють провідну роль ✔
- B) Прогнозування на основі історичних даних стає найбільш надійним у цих ситуаціях
- C) Прогноз автоматично коригується, втручання не потрібне
- Г) У цих випадках планування слід повністю припинити
Опис: передбачення ШІ базується на минулих моделях. Під час структурних порушень, таких як епідемії, катастрофи чи законодавчі зміни, минулі дані перестають бути орієнтовними; експертне судження та моніторинг у реальному часі займають провідну роль.
14. Що з наведеного нижче слід включити до корпоративної політики управління ШІ?
- A) Тільки який бренд інструменту штучного інтелекту буде придбано?
- B) Класифікація даних, анонімність, точки схвалення персоналом, записи про відповідальність/аудит та етичні принципи ✔
- В) Правило, згідно з яким тільки менеджери можуть використовувати штучний інтелект
- Г) Стаття, яка дозволяє штучному інтелекту приймати всі рішення одноосібно
Опис: Раціональне управління; Він визначає, які дані можуть використовуватися в якому інструменті, правила анонімізації, точки схвалення персоналу, відповідальність і записи аудиту, етичні принципи (справедливість, прозорість, підзвітність).