Добици:
- Разумевање да су здравствени подаци подаци посебног квалитета и правила анонимизације, складиштења и дељења у оквиру КВКК/законодавства
- Способност израде етичких принципа (праведност, транспарентност, одговорност) и политике корпоративног управљања у коришћењу вештачке интелигенције
- Бити у стању да успостави оквир управљања у којем излаз вештачке интелигенције не замењује менаџерске и клиничке одлуке, а одговорност и коначно одобрење увек остају на човеку.
Током овог модула користили смо АИ као акцелератор у свакој оперативној области, од заказивања до кревета, од предвиђања до прихода, од квалитета до инвентара. Али постоји кров над свим овим моћним употребама: приватност података, усклађеност са прописима и етика. Без овог оквира, сваки посао који убрзате је такође повећан ризик. Ова последња јединица обједињује дисперзована правила у јединствен оквир управљања. Управљање је систем управљања који дефинише ко шта може да ради у институцији и по којим правилима, и како функционишу одговорност и контрола. Хајде да још једном поставимо главни принцип, најјасније: излаз вештачке интелигенције не замењује менаџерске и клиничке одлуке; Одговорност и коначно одобрење увек лежи на човеку.
Зашто су здравствени подаци приватни?
Здравствени подаци нису обични подаци. У Турској, КВКК (Закон о заштити података о личности) сматра здравствене податке „личним подацима посебне природе“; То значи највиши ниво заштите. Његов европски еквивалент је ГДПР. Ако се открије дијагноза, лечење, број протокола пацијента, наступиће неповратна штета: стигма, дискриминација, губитак поверења. Дакле, постоји неколико основних правила. Анонимизација је уклањање свих информација које идентификују особу (име, ИД, протокол, ретка дијагноза + старост + комбинација локације) из података. Минимизација података је рад са најмањом количином података који ће обавити посао. Ограничење сврхе значи коришћење података само у сврху за коју су прикупљени. Ограничење задржавања није чување података дуже него што је потребно.
Лепљење података о пацијенту у јавни АИ алат је слање података на спољни сервер и представља озбиљно кршење. Прави приступ: анонимизирајте податке, ако је могуће изаберите алате са корпоративним уговорима и уговорима за обраду података (који не користе ваше податке за обуку модела), и имате писану политику о томе који подаци могу да иду у који алат. Запамтите: када се мали комади споје, особа може бити редефинисана; Док је „68-годишња жена” безбедна, „68-годишњакиња, из села Кс, са ретком болешћу И” више није анонимна.
Етика и управљање од краја до краја
Добро управљање вештачком интелигенцијом заснива се на три етичка принципа. Праведност је да вештачка интелигенција не доводи систематски у неповољнији положај групу пацијената (старе особе, особе са ниским приходима, руралне); Некоришћење оцене непојављивања за искључење је пример овога. Транспарентност значи бити у стању да објасни на чему је одлука заснована; Преферира се предлог са видљивим образложењем, а не предлог „црне кутије“. Одговорност значи имати одговорну особу иза сваке одлуке; „АИ је тако рекао“ није одбрана.
Оно што ове принципе спроводи у дело је политика управљања. Добра политика дефинише: који подаци могу да иду у које возило (класификација података); правила анонимизације; тачке одобравања људи за сваки посао (ко шта потписује); праћење одговорности и ревизије (ко је шта урадио када — евиденција); и етички принципи. Ова политика комбинује све изјаве „људи одлучују“ које смо видели током модула у један институционални оквир.
Пажња: Реченица „АИ је предложио, ја имплементирао“ није пренос одговорности. Правно и етички, одговорност остаје на особи која прихвата и спроводи сугестију. Управљање управо ову одговорност чини видљивом и следљивом.
три мини кофера
Случај 1 — Ризик поновне идентификације. Једна јединица је поделила „анонимни“ резиме случаја: „Једини пацијент са трансплантацијом срца у нашем граду, 34-годишњи мушкарац, отпуштен је прошлог месеца“. У овој реченици није било именице, али комбинација је јединствено описала ту особу. Службеник за квалитет се противио овоме; Комбинација ретких карактеристика разбија анонимност. Резиме је поново написан уклањањем описних детаља и уопштавањем.
Случај 2 — Вредност записа о траговима. У болници се показало да је број у извештају менаџмента који је направљен са АИ погрешним и руководству су послате нетачне информације. Током ревизије, питање "одакле овај број, ко је то потврдио?" упитан је. Пошто политика управљања организације налаже запис „извор + верификатор + датум“ за сваки излаз АИ, одмах је било очигледно да је грешка настала када је корак верификације прескочен. Снимање трагова је коришћено за исправљање процеса, а не за тражење злочинаца.
Случај 3 — Политика спречава кризу. Нови запослени се спремао да отпреми своју отпусну листу у јавни алат за вештачку интелигенцију. У јасној политици институције стоји да „никакви фајлови који садрже идентификацију пацијената не улазе у отворени алат, они се прво анонимизирају и користи се само одобрени институционални алат“. Запослени је запамтио политику, анонимизирао податке и користио одобрени алат. Писано управљање спречило је индивидуалну грешку као институционални рефлекс.
Четири шаблона за копирање
1) Нацрт политике класификације података:
Ваша улога: помоћник службеника за безбедност информација/квалитет здравствене установе. Нацртајте класификациону табелу „Који подаци могу да уђу у АИ“ за нашу установу: црвена (никада: ИД пацијента, ИД, протокол), жута (анонимно), зелена (бесплатно: јавно, безлично). Напишите примере и правила за сваки разред. Наведите да је ово нацрт и да га треба одобрити одељење за правна питања/усаглашеност.
2) Контролна листа анонимизације:
Припремите контролну листу за анонимизацију коју ћу покренути пре него што дам било какве податке АИ: да ли је име/ТЦ/протокол излаз, да ли ретка комбинација карактеристика (старост+локација+ретка дијагноза) идентификује особу, да ли постоји непотребан простор, да ли је то корпоративни одобрен алат. Нека свака ставка буде означена са да/не.
3) Мапа тачака људских одобрења:
Направите табелу „ко одобрава“ за следеће области коришћења вештачке интелигенције (извештај, прогноза потражње, приоритет кревета, шифра наплате, распоред смена): ниво ризика и овлашћење за обавезно људско одобрење за сваку област. Нагласите потребу за двоструким клиничким + административним одобрењем у областима високог ризика.
4) АИ шаблон за снимање излазног трага:
Напишите шаблон дневника трага који треба да попуните за сваки излаз АИ: датум, коришћени алат, класа унетих података (анонимно), резиме резултата, особа која је верификовала, менаџер који је одобрио, одлука. Наведите да је ово за ревизију и одговорност.
Слаби промпт / Јаки промпт
Слабо обавештење:
Дајте податке наших пацијената АИ и дајте их на анализу.
Анонимизација, сигурност возила, без потврде и без снимања трагова; Ризик од директног кршења КВКК.
Снажан упит:
Направите нацрт политике управљања вештачком интелигенцијом за нашу организацију: (1) класификација података (црвена/жута/зелена), (2) правила анонимизације, (3) тачке одобрења људи за сваки случај употребе, (4) евиденција трагова и ревизија, (5) принципи правичности/транспарентности/одговорности. Наведите да је ово нацрт и да је потребно правно одобрење/усаглашеност.
Елемент управљања
Шта пружа
пример
Класификација података
Одређује шта може да уђе
ИД = никад
Анонимизација
Штити особу
Појављује се комбинација име/ретка
тачке одобравања људи
Дефинише одговорност
Двострука провера под високим ризиком
рекорд
Ревизија
Извор + верификатор + датум
Етички принципи
Поштено, транспарентно, одговорно
Коришћење резултата за искључење
Уобичајене грешке
- Дељење података који се могу идентификовати мислећи да су „анонимни“. Ретка комбинација особина одаје особу.
- Коришћење неодобреног алата. Подаци иду на сервер ван локације.
- Стављање одговорности на АИ. "АИ је рекао" није правна одбрана.
- Не води евиденцију. Када дође до грешке, не можете приказати извор и верификацију.
- Писање политике а не спровођење. Правило на папиру не штити осим ако није рефлекс.
Савет: Окруните своју политику управљања листом „златних правила“ која се уклапају на једну страницу и која су довољно једноставна да их свако запамти: не уносите ИД, анонимизирајте, користите одобрено возило, верификујте, људски потпис. Нико не чита дугу политику; Сви се сећају правила петице.
Укратко
Оперативна моћ вештачке интелигенције је безбедна само под чврстим оквиром приватности, закона и етике. Здравствени подаци су подаци посебног квалитета; Анонимизација, минимизација података и одобрени алат су неопходни. добро управљање; Он комбинује класификацију података, анонимизацију, тачке одобравања људи, евидентирање трагова и етичке принципе (правичност, транспарентност, одговорност) у једном оквиру. То је суштина овог модула у једној реченици: АИ убрзава, човек одлучује и сноси одговорност. Непроверени излаз вештачке интелигенције је ризичан као и непотписана управљачка одлука.
Задатак апликације
Припремите нацрт политике управљања на једној страници за своју организацију користећи шаблоне „АИ оутпут траил рецорд“ и „дата цлассифицатион“. Укључите листу „златног правила“ од најмање пет ставки. Затим изаберите област коришћења коју сте научили током модула (на пример, приоритет кревета или код за обрачун) и напишите у 5 ставки које кораке за одобравање и верификацију ова политика захтева у тој области.
контролна листа
- [ ] Да ли су здравствени подаци класификовани као посебни и да ли сам применио правила анонимизације?
- [ ] Да ли сам проверио ризик од поновне идентификације са комбинацијом ретких карактеристика?
- [ ] Да ли сам дефинисао тачку одобрења за сваки случај употребе?
- [ ] Да ли водим евиденцију (извор/верификатор/датум) за АИ излазе?
- [ ] Да ли сам написао у политици да одговорност и коначно одобрење увек лежи на лицу?
Модул Екам
1. Менаџер болнице директно примењује препоруку о расподели кревета коју генерише вештачка интелигенција без икакве клиничке евалуације. Шта је суштинска грешка у овом приступу?
- А) Претварање резултата вештачке интелигенције у одлуку без подвргавања клиничкој подобности и административној верификацији; Игнорисање да је одговорност на људима ✔
- Б) Строго је забрањено коришћење вештачке интелигенције у управљању креветом
- Ц) Вештачка интелигенција увек показује број кревета више него што је у ствари
- Д) Предлог није приказан у табели
Опис: Вештачка интелигенција даје статистичку препоруку; Међутим, расподела кревета и приоритет отпуста зависе од клиничког стања пацијента, а коначна одлука припада одобрењу лекара/медицинске сестре и одговорног руководиоца. Непроверени излаз је као непотписана одлука.
2. Шта је од следећег најприкладнији приступ приликом уноса података о пацијенту у јавно доступан алат вештачке интелигенције?
- А) Лепљење имена пацијента и броја протокола као што је за брзину
- Б) Уклоните идентификационе информације и анонимизирајте податке и, ако је могуће, користите корпоративни, уговорени алат ✔
- Ц) Сакријте само име пацијента и оставите ТР ИД број
- Д) Довољно је добити усмену дозволу од пацијента пре него што поделите податке.
Објашњење: Здравствени подаци су посебни лични подаци. Информације о идентитету као што су име, ТР ИД, број протокола треба уклонити, податке анонимизирати и, ако је могуће, треба дати предност уговорним алатима за обраду корпоративних података.
3. Која је најприкладнија употреба оцене ризика коју производи вештачка интелигенција у предвиђању недоласка?
- А) Одбијање заказивање термина за пацијенте са високим ризиком
- Б) Занемарите резултат и примените исту процедуру на све пацијенте
- Ц) Планирање праведних интервенција које чувају приступ, као што су журба са подсетницима и пребукирање ✔
- Д) Трајно стављање на црну листу високоризичних пацијената
Објашњење: Оцена ризика је процена вероватноће; Требало би да се користи за усмеравање праведних интервенција као што су густина подсетника, пребукираност и олакшавање приступа, а не одбијање пацијената. Права приступа пацијената морају бити заштићена.
4. Који је главни разлог за рад са интервалима поверења и сценаријима уместо са једним бројем који даје вештачка интелигенција у предвиђању потражње?
- А) Представљање интервала чини извештај дужим
- Б) Зато што вештачка интелигенција не може произвести појединачне бројеве
- Ц) Зато што интервал поверења увек тачно даје праву вредност
- Д) Пошто прогноза укључује неизвесност, потребно је направити флексибилно планирање према сценаријима и управљати ризицима ✔
Објашњење: Прогноза је заснована на историјским подацима и укључује неизвесност. Планирање према опсегу, а не према једној тачки, омогућава вам да будете спремни за сценарије ниске/велике потражње и флексибилно управљате капацитетом.
5. Који је најкритичнији ризик када АИ предлаже кодове за наплату у циклусу прихода?
- А) Вештачка интелигенција прави неисправан или нетачан код, течно га предлаже и уноси у фактуру без провере ✔
- Б) Вештачка интелигенција производи кодове веома споро
- Ц) СГК увек аутоматски прихвата предлог кода
- Д) Кодови се могу производити само на енглеском
Објашњење: Вештачка интелигенција може течно да предложи шифру која заправо не постоји или је нетачна (халуцинација). Кодирање и фактурисање су регулисани; Сваки код мора бити верификован од стране овлашћеног стручњака са важећим листама трансакција и правилима рефундирања.
6. На контролној табли индикатора квалитета, АИ тумачи нагли пад индикатора као 'побољшање'. Шта менаџер треба да уради?
- А) Представљање коментара директно управном одбору
- Б) Истражите да ли промена може бити последица квалитета података, промене дефиниције или одступања циља и проверите узрочност ✔
- Ц) Уклоните индикатор са инструмент табле
- Д) Веровати вештачкој интелигенцији и не вршити никакве провере
Објашњење: Промена индикатора може бити узрокована проблемом квалитета података, променом дефиниције или играма. На администратору је да провери узрочност и извор података коментара.
7. Која је најчешћа грешка при анализи задовољства пацијената бесплатним текстуалним повратним информацијама помоћу вештачке интелигенције?
- А) Раздвајање текстова на теме
- Б) Анонимизирање повратних информација
- Ц) Уопштавање аутоматске ознаке емоција и узорка за све пацијенте без њихове валидације ✔
- Д) Одређивање приоритета жалби
Објашњење: Аутоматско означавање емоција може увести иронију, негацију и погрешно прочитан контекст; Поред тога, само мишљења аутора носе пристрасност узорковања. Уопштавања не треба правити без провере резултата узорковањем и читањем.
8. Која је главна сврха АБЦ анализе у управљању залихама?
- А) Распоредите све ставке по абецедном реду
- Б) Рачунајући само лекове који садрже витамин А
- Ц) Уништавање производа којима је истекао рок трајања
- Д) Класификација артикала на залихама према нивоу вредности/критичности и усмеравање приоритета контроле на најкритичније ставке ✔
Објашњење: АБЦ анализа класификује ставке залиха у смислу вредности/критичности као А (висока), Б (средња), Ц (ниска); стога је пажња менаџмента и учесталост контроле усмерена на најкритичније ставке.
9. Шта значи концепт 'уског грла' у побољшању процеса?
- А) Корак са најужим капацитетом и ограничавањем брзине целог тока ✔
- Б) Најбржи корак у процесу
- Ц) Јединица у којој ради највише особља
- Д) Фаза у којој су пацијенти најзадовољнији
Опис: Уско грло је корак са најужим капацитетом који одређује брзину целог процеса. Напори за побољшање би се прво требали фокусирати на уско грло; побољшање на другим местима не убрзава укупан ток.
10. Шта менаџер треба да провери пре него што примени распоред који производи вештачка интелигенција у планирању смена?
- А) Да ли је графикон штампан у боји или не
- Б) Усклађеност са законом о раду, периодима одмора, клиничком стручношћу и правилима правде ✔
- Ц) Колико секунди је вештачкој интелигенцији потребно да направи графикон?
- Д) Да ли распоред фаворизује највише старије особље
Опис: Цхарт; Мора да буде у складу са правилима радног права (максимално радно време, одмор), правима запослених, клиничком оспособљеношћу и правдом. АИ може произвести нацрт који крши ова правила; Коначно одобрење је на менаџеру.
11. Шта од следећег изражава тачну границу употребе вештачке интелигенције у менаџменту здравствене заштите?
- А) Вештачка интелигенција може аутоматски да доноси све менаџерске одлуке
- Б) Вештачка интелигенција се може користити само у писању текста, а не у нумеричкој анализи
- Ц) Вештачка интелигенција је помоћник и алат за подршку одлучивању; Одговорност и коначно одобравање критичних одлука је на људима ✔
- Д) Вештачка интелигенција може да финализује одлуке о отплати без људског одобрења
Опис: Помоћник за вештачку интелигенцију, генератор нацрта и алат за подршку одлучивању. Одговорност и коначно одобрење одлука које утичу на расподелу ресурса, клинички приоритет и безбедност пацијената увек имају надлежни специјалиста и одговорни менаџер.
12. Зашто само смањење индикатора просечне дужине боравка (ЛОС) није довољан доказ „успеха“?
- А) Пошто се трајање боравка никада не може измерити
- Б) Пошто дужину боравка може израчунати само вештачка интелигенција
- Ц) Пошто дужина боравка уопште није релевантна за надокнаду.
- Д) Ако смањење долази са повећањем раног отпуштања и поновног пријема, безбедност пацијената може бити нарушена и то треба тумачити заједно са релевантним индикаторима ✔
Објашњење: Смањено време боравка може указивати на добро коришћење ресурса; Међутим, ако дође до повећања раног отпуштања и поновног пријема, безбедност пацијената може бити нарушена. Индикатор треба тумачити заједно са другим повезаним индикаторима.
13. Какав је статус предвиђања потражње на основу историјских података у случају изненадног поремећаја као што је епидемија или катастрофа?
- А) Предвиђање престаје да води; Стручна процена и праћење у реалном времену преузимају предност ✔
- Б) Предвиђање засновано на историјским подацима постаје најпоузданије у овим ситуацијама
- Ц) Прогноза се аутоматски исправља, није потребна интервенција
- Д) У овим случајевима планирање треба потпуно прекинути
Опис: АИ предвиђање је засновано на прошлим обрасцима. У структуралним прекидима као што су епидемије, катастрофе или законске промене, подаци из прошлости престају да буду водећи; стручно мишљење и праћење у реалном времену преузимају водећу улогу.
14. Шта од следећег треба да буде укључено у политику корпоративног управљања вештачком интелигенцијом?
- А) Само који бренд алата за вештачку интелигенцију ће бити купљен?
- Б) Класификација података, анонимизација, тачке одобрења људи, евиденција о одговорности/ревизији и етички принципи ✔
- В) Правило да само менаџери могу да користе вештачку интелигенцију
- Д) Чланак који омогућава вештачкој интелигенцији да сама доноси све одлуке
Опис: Добро управљање; Он дефинише који подаци могу да иду у који алат, правила анонимизације, тачке одобрења људи, евиденцију одговорности и ревизије, етичке принципе (правичност, транспарентност, одговорност).