Поверителност на данните, регулация, етика и управление от край до край — Изкуствен интелект в управлението на здравеопазването

Печалби:

Разбиране, че здравните данни са данни със специално качество и правилата за анонимизиране, съхранение и споделяне в обхвата на KVKK/законодателство
Способност за изготвяне на етични принципи (честност, прозрачност, отчетност) и политика за корпоративно управление при използването на изкуствен интелект
Възможност за създаване на управленска рамка, в която резултатите от изкуствения интелект не заместват управленските и клиничните решения, а отговорността и окончателното одобрение винаги остават на човека.

По време на този модул използвахме AI като ускорител във всяка оперативна област, от срещи до легла, от прогнозиране до приходи, от качество до инвентар. Но има покрив над всички тези мощни употреби: поверителност на данните, съответствие с нормативните изисквания и етика. Без тази рамка всеки бизнес, който ускорите, също е увеличен риск. Тази последна единица обединява разпръснатите правила в една рамка на управление. Управлението е системата за управление, която определя кой какво може да прави в една институция и при какви правила и как работят отговорността и контролът. Нека отново изложим основния принцип, най-ясно: продукцията на AI не замества управленските и клиничните решения; Отговорността и окончателното одобрение винаги са на човека.

Защо здравните данни са лични?

Здравните данни не са обикновени данни. В Турция KVKK (Закон за защита на личните данни) разглежда здравните данни като „лични данни от специално естество“; Това означава най-високо ниво на защита. Неговият европейски еквивалент е GDPR. Ако се разкрият диагнозата, лечението, номерът на протокола на пациента, ще настъпи необратими вреди: стигма, дискриминация, загуба на доверие. Така че има няколко основни правила. Анонимизирането е премахването на цялата информация, която идентифицира лицето (име, лична карта, протокол, рядка диагноза + комбинация от възраст + местоположение) от данните. Минимизирането на данни работи с най-малкото количество данни, което ще свърши работата. Ограничаването на целта означава използване на данни само за целта, за която са били събрани. Ограничението за задържане не е данните да се съхраняват по-дълго от необходимото.

Поставянето на данни на пациента в публичен инструмент за изкуствен интелект изпраща данните към външен сървър и е сериозно нарушение. Правилният подход: анонимизирайте данните, ако е възможно изберете инструменти с корпоративни договори и договори за обработка на данни (които не използват вашите данни за обучение на модели) и имайте писмена политика за това кои данни могат да влизат в кой инструмент. Запомнете: когато малки парчета се съберат, човек може да бъде предефиниран; Докато „68-годишната жена“ е в безопасност, „68-годишната жена, от село X, с рядко заболяване Y“ вече не е анонимна.

Етика и управление от край до край

Доброто управление на ИИ се основава на три етични принципа. Справедливостта е, че AI не поставя системно в неблагоприятно положение група пациенти (възрастни, с ниски доходи, селски); Неизползването на резултата за неявяване за изключване беше пример за това. Прозрачността означава да можеш да обясниш на какво се основава решението; Предпочита се предложение с видима обосновка, а не предложение „черна кутия“. Отчетност означава да има отговорно лице зад всяко решение; „ИИ каза така“ не е защита.

Това, което привежда тези принципи в действие, е политика на управление. Една добра политика определя: какви данни могат да влизат в кое превозно средство (класификация на данните); правила за анонимизиране; човешки точки за одобрение за всяка работа (кой какво подписва); отчетност и одитна пътека (кой какво е направил кога — запис на пътека); и етични принципи. Тази политика съчетава всички твърдения „хората решават“, които видяхме в целия модул, в единна институционална рамка.

Внимание: Изречението „AI предложи, аз внедрих“ не е прехвърляне на отговорност. Законово и етично отговорността остава на лицето, което приема и изпълнява предложението. Управлението прави точно тази отговорност видима и проследима.

три мини калъфа

Случай 1 — Риск от повторна идентификация. Едно звено сподели „анонимно“ резюме на случая: „Единственият пациент със сърдечна трансплантация в нашия град, 34-годишен мъж, изписан миналия месец.“ В това изречение няма съществително, но комбинацията уникално описва този човек. Служителят по качеството възрази срещу това; Комбинация от редки функции нарушава анонимността. Резюмето беше пренаписано чрез премахване на описателни подробности и обобщаване.

Случай 2 — Стойност на запис на проследяване. В болница номер в отчет за управление, изготвен с AI, се оказа грешен и на ръководството беше изпратена невярна информация. По време на одита въпросът "откъде идва този номер, кой го потвърди?" беше попитан. Тъй като политиката за управление на организацията налага запис „източник + верификатор + дата“ за всеки изход на AI, веднага стана ясно, че грешката е възникнала там, където стъпката за проверка е била пропусната. Записването на следи се използва за коригиране на процеса, а не за търсене на престъпници.

Случай 3 — Политиката предотвратява криза. Нов служител се канеше да качи своя списък за освобождаване от отговорност в публичен AI инструмент. Ясната политика на институцията гласи, че „никакви файлове, съдържащи идентификация на пациента, не влизат в отворения инструмент, те първо се анонимизират и се използва само одобреният институционален инструмент“. Служителят си спомни политиката, анонимизира данните и използва одобрения инструмент. Писменото управление предотврати индивидуална грешка като институционален рефлекс.

Четири копируеми шаблона

1) Проект на политика за класифициране на данни:

Вашата роля: асистент на отговорника по информационна сигурност/качество на лечебното заведение. Изготвяне на класификационна таблица „Какви данни могат да влизат в AI“ за нашата институция: червено (никога: ID на пациента, ID, протокол), жълто (анонимизирано), зелено (безплатно: публично, безлично). Напишете примери и правила за всеки клас. Посочете, че това е чернова и правният отдел/отделът за съответствие трябва да го одобри.

2) Контролен списък за анонимизиране:

Подгответе контролен списък за анонимизиране, който ще изпълня, преди да дам каквито и да е данни на AI: изходът за име/TC/протокол ли е, комбинацията от редки характеристики (възраст+местоположение+рядка диагноза) идентифицира ли лицето, има ли ненужно пространство, одобрен ли е корпоративен инструмент. Нека всеки елемент бъде отбелязан с да/не.

3) Карта на точките за одобрение на човека:

Направете таблица „кой одобрява“ за следните области на използване на AI (отчет, прогноза за търсенето, приоритет на леглото, код за фактуриране, график на смени): ниво на риск и задължителен орган за одобрение от човек за всяка област. Подчертайте необходимостта от двойно клинично и административно одобрение в зони с висок риск.

4) Шаблон за запис на трасиране на AI изход:

Напишете шаблон за регистър на пътеки, който да попълвате за всеки резултат от AI: дата, използван инструмент, клас въведени данни (анонимен), обобщение на изхода, лице, което е проверило, мениджър, който е одобрил, решение. Посочете, че това е за одит и отчетност.

Слаба подкана / Силна подкана

Слаба подкана:

Дайте данните на нашите пациенти на AI и ги анализирайте.

Анонимизиране, сигурност на автомобила, без потвърждение и без запис на следи; Риск от директно нарушение на KVKK.

Мощна подкана:

Изготвяне на политика за управление на AI за нашата организация: (1) класификация на данните (червено/жълто/зелено), (2) правила за анонимизиране, (3) точки за одобрение от хора за всеки случай на употреба, (4) регистриране на следи и одит, (5) принципи на справедливост/прозрачност/отчетност. Посочете, че това е чернова и изисква одобрение от закон/съответствие.

Елемент на управление

Какво осигурява

пример

Класификация на данните

Определя какво може да влезе

ID = никога

Анонимизиране

Защитава човека

Изскача име/рядка комбинация

точки на човешко одобрение

Определя отговорността

Двойна проверка при висок риск

рекорд

Проверяемост

Източник + верификатор + дата

Етични принципи

Честен, прозрачен, отговорен

Използване на оценка за изключване

Често срещани грешки

Споделяне на идентифицируеми данни, мислейки, че са „анонимни“. Рядка комбинация от черти издава човек.
Използване на неодобрен инструмент. Данните отиват към външен сървър.
Прехвърляне на отговорността върху AI. „AI каза“ не е правна защита.
Не водене на записи. Когато има грешка, не можете да покажете източника и проверката.
Писане на политиката и не я прилагане. Правилото на хартия не защитава, освен ако не е рефлекс.

Съвет: Увенчайте политиката си на управление със списък от „златни правила“, които се побират на една страница и са достатъчно прости, за да може всеки да ги запомни: не въвеждайте ID, анонимизирайте, използвайте одобрено превозно средство, потвърждавайте, човешки подпис. Никой не чете дългата политика; Всеки помни правилото на петте.

В обобщение

Оперативната мощ на AI е безопасна само при стабилна рамка от поверителност, законодателство и етика. Здравните данни са данни със специално качество; Анонимизирането, минимизирането на данните и одобреният инструмент са от съществено значение. Добро управление; Той съчетава класифициране на данни, анонимизиране, точки за одобрение от хора, запис на следи и етични принципи (честност, прозрачност, отчетност) в една рамка. Това е същността на този модул от едно изречение: AI ускорява, човекът решава и носи отговорност. Непровереният резултат от AI е толкова рискован, колкото и неподписано решение на управление.

Задача за приложение

Подгответе проект на политика за управление от една страница за вашата организация, като използвате шаблоните „изходен запис на AI“ и „класификация на данни“. Включете списък със „златни правила“ от поне пет елемента. След това изберете област на използване, която научихте в модула (например приоритет на леглото или код за таксуване) и напишете в 5 елемента кои стъпки за одобрение и проверка изисква тази политика в тази област.

контролен списък

[ ] Здравните данни класифицирани ли са като специални и дали съм приложил правилата за анонимизиране?
[ ] Проверил ли съм риска от повторна идентификация с комбинация от редки характеристики?
[ ] Определил ли съм точката на човешко одобрение за всеки случай на употреба?
[ ] Водя ли запис (източник/верификатор/дата) за изходите на AI?
[ ] Писал ли съм в полицата, че отговорността и окончателното одобрение винаги са на лицето?

Изпит по модул

1. Мениджър на болница директно прилага препоръката за разпределение на леглото, генерирана от изкуствен интелект, без никаква клинична оценка. Каква е основната грешка в този подход?

A) Преобразуване на изхода на изкуствения интелект в решение, без да се подлага на клинична пригодност и административна проверка; Пренебрегвайки, че отговорността е на хората ✔
B) Строго е забранено използването на изкуствен интелект при управлението на леглото
В) Изкуственият интелект винаги показва броя на леглата повече, отколкото е в действителност
Г) Предложението не е представено в таблица

Описание: Изкуственият интелект изготвя статистическа препоръка; Разпределението на леглото и приоритетът при изписване обаче зависят от клиничното състояние на пациента и окончателното решение принадлежи на одобрението на лекаря/медицинската сестра и отговорния мениджър. Непровереният резултат е като неподписано решение.

2. Кое от следните е най-подходящият подход при въвеждане на данни за пациенти в публично достъпен инструмент за изкуствен интелект?

A) Поставете името на пациента и номера на протокола, както е за бързина
B) Премахнете идентификационната информация и анонимизирайте данните и, ако е възможно, използвайте корпоративен, договорен инструмент ✔
C) Скрийте само името на пациента и оставете TR ID номера
Г) Достатъчно е да получите устно разрешение от пациента, преди да споделите данните.

Обяснение: Здравните данни са специални лични данни. Информацията за самоличност като име, TR ID, номер на протокол трябва да бъде премахната, данните трябва да бъдат анонимизирани и, ако е възможно, трябва да се предпочитат договорени инструменти за обработка на корпоративни данни.

3. Каква е най-подходящата употреба на оценката на риска, произведена от изкуствения интелект при прогнозиране на неявяване?

А) Отказ за записване на час за пациенти с висок риск
B) Игнорирайте оценката и приложете същата процедура към всички пациенти
C) Планиране на справедливи интервенции, запазващи достъпа, като бързи напомняния и свръхрезервиране ✔
Г) Постоянен черен списък на пациенти с висок риск

Обяснение: Рисковият резултат е оценка на вероятността; Той трябва да се използва за насочване на справедливи интервенции като плътност на напомнянията, свръхрезервиране и улесняване на достъпа, а не отхвърляне на пациенти. Правата на достъп на пациентите трябва да бъдат защитени.

4. Каква е основната причина за работа с доверителни интервали и сценарии вместо едно число, дадено от изкуствения интелект при прогнозиране на търсенето?

A) Представянето на интервал прави отчета по-дълъг
Б) Защото изкуственият интелект не може да произвежда единични числа
В) Тъй като доверителният интервал винаги дава точно истинската стойност
D) Тъй като прогнозата включва несигурност, е необходимо да се направи гъвкаво планиране според сценариите и да се управляват рисковете ✔

Обяснение: Прогнозата се основава на исторически данни и включва несигурност. Планирането според диапазон, а не според една точка ви позволява да сте подготвени за сценарии с ниско/високо търсене и да управлявате капацитета гъвкаво.

5. Какъв е най-критичният риск, когато AI предлага кодове за таксуване в цикъла на приходите?

A) Изкуственият интелект съставя невалиден или неправилен код, предлага го свободно и го въвежда във фактурата без проверка ✔
Б) Изкуственият интелект създава кодове много бавно
C) Предложението за код винаги се приема автоматично от SGK
D) Кодовете могат да се изготвят само на английски език

Обяснение: Изкуственият интелект може свободно да предложи код, който всъщност не съществува или е неправилен (халюцинация). Кодирането и таксуването са регламентирани; Всеки код трябва да бъде проверен от оторизиран експерт с валидни списъци с транзакции и правила за възстановяване.

6. На табло за индикатори за качество, AI интерпретира внезапен спад на индикатор като „подобрение“. Какво трябва да направи мениджърът?

А) Представяне на коментара директно на борда на директорите
B) Проучете дали промяната може да се дължи на качеството на данните, промяна на дефиницията или целево отклонение и проверете причинно-следствената връзка ✔
C) Отстранете индикатора от таблото
Г) Доверявам се на изкуствения интелект и не правя никакви проверки

Обяснение: Промяната в индикатора може да е причинена от проблем с качеството на данните, промяна на дефиницията или игра. От администратора зависи да провери причинно-следствената връзка и източника на данни на коментара.

7. Коя е най-честата грешка при анализиране на обратната връзка с безплатен текст за удовлетвореността на пациентите с изкуствен интелект?

А) Разделяне на текстове по теми
B) Анонимизиране на обратната връзка
C) Обобщаване на етикета и извадката за автоматични емоции за всички пациенти, без да ги валидира ✔
Г) Приоритизиране на жалбите

Обяснение: Автоматичното етикетиране на емоциите може да въведе ирония, отрицание и неправилно разчетен контекст; Освен това, само мненията на авторите носят пристрастие към извадката. Не трябва да се правят обобщения без проверка на резултатите чрез вземане на проби и четене.

8. Каква е основната цел на ABC анализа в управлението на запасите?

А) Подреждане на всички елементи по азбучен ред
Б) Преброяване само на лекарства, съдържащи витамин А
В) Унищожаване на продукти с изтекъл срок на годност
D) Класифициране на стокови артикули според ниво на стойност/критичност и насочване на контролния приоритет към най-критичните артикули ✔

Обяснение: ABC анализът класифицира артикулите от инвентара по отношение на стойност/критичност като A (висока), B (средна), C (ниска); по този начин вниманието на ръководството и честотата на контрол се фокусират върху най-критичните елементи.

9. Какво означава понятието „тясно място“ в подобряването на процеса?

A) Стъпката с най-тесен капацитет и ограничаваща скоростта на целия поток ✔
Б) Най-бързо протичащата стъпка от процеса
В) Звеното, в което работи най-много персонал
Г) Етапът, в който пациентите са най-удовлетворени

Описание: Тясното място е стъпката с най-малък капацитет, която определя скоростта на целия процес. Усилията за подобряване трябва да се съсредоточат първо върху пречките; подобряването другаде не ускорява общия поток.

10. Какво трябва да провери мениджърът, преди да приложи графика, създаден от изкуствения интелект при планирането на смени?

A) Дали графиката е отпечатана цветно или не
B) Спазване на трудовото законодателство, периоди на почивка, клинична компетентност и правила за правосъдие ✔
В) Колко секунди са необходими на изкуствения интелект, за да създаде диаграмата?
Г) Дали графикът е в полза на най-високопоставения персонал

Описание: Диаграма; Трябва да отговаря на правилата на трудовото право (максимално работно време, почивка), правата на служителите, клиничната компетентност и справедливостта. AI може да създаде чернова, която нарушава тези правила; Окончателното одобрение е на управителя.

11. Кое от следните изразява правилната граница на използването на изкуствен интелект в управлението на здравеопазването?

А) Изкуственият интелект може да взема автоматично всички управленски решения
Б) Изкуственият интелект може да се използва само при писане на текст, но не и при числен анализ
В) Изкуственият интелект е помощник и инструмент за подпомагане на вземането на решения; Отговорността и окончателното одобрение на критичните решения се носят от хората ✔
Г) Изкуственият интелект може да финализира решенията за изплащане без човешко одобрение

Описание: Асистент за изкуствен интелект, генератор на чернови и инструмент за подпомагане на вземането на решения. Отговорността и окончателното одобрение на решенията, засягащи разпределението на ресурсите, клиничното приоритизиране и безопасността на пациентите, винаги са на компетентния специалист и отговорния мениджър.

12. Защо намаляването на индикатора за средна продължителност на престоя (LOS) само по себе си не е достатъчно доказателство за „успех“?

А) Тъй като продължителността на престоя никога не може да бъде измерена
Б) Тъй като продължителността на престоя може да бъде изчислена само от изкуствен интелект
В) Тъй като продължителността на престоя изобщо не е от значение за възстановяването на разходите.
D) Ако намалението идва с увеличаване на ранното изписване и обратно приемане, безопасността на пациента може да бъде нарушена и трябва да се тълкува заедно със съответните показатели ✔

Обяснение: Намаленото време на престой може да показва добро използване на ресурсите; Въпреки това, ако идва с увеличаване на ранното изписване и повторно приемане, безопасността на пациентите може да бъде нарушена. Индикаторът трябва да се тълкува заедно с други свързани индикатори.

13. Какво е състоянието на прогнозирането на търсенето въз основа на исторически данни в случай на внезапно прекъсване като епидемия или бедствие?

А) Прогнозата престава да бъде водеща; Експертната преценка и наблюдението в реално време са водещи ✔
B) Прогнозата, базирана на исторически данни, става най-надеждна в тези ситуации
C) Прогнозата се коригира автоматично, не е необходима намеса
Г) В тези случаи планирането трябва да се прекрати напълно

Описание: AI прогнозирането се основава на минали модели. При структурни прекъсвания като епидемии, бедствия или законодателни промени, миналите данни престават да бъдат насочващи; експертната преценка и наблюдението в реално време са водещи.

14. Кое от следните трябва да бъде включено в корпоративната политика за управление на ИИ?

A) Само коя марка инструмент за изкуствен интелект ще бъде закупен?
B) Класификация на данните, анонимизиране, точки за одобрение от хора, отчет за отговорност/одит и етични принципи ✔
В) Правилото, че само мениджърите могат да използват изкуствен интелект
Г) Статия, която позволява на изкуствения интелект да взема всички решения сам

Описание: Добро управление; Той определя кои данни могат да влизат в кой инструмент, правила за анонимизиране, точки за одобрение от хора, записи за отговорност и одит, етични принципи (честност, прозрачност, отчетност).