Добивки:
- Разбирање дека здравствените податоци се податоци за посебен квалитет и правилата за анонимизација, складирање и споделување во рамките на опсегот на KVKK/законодавството
- Способност за изготвување на етички принципи (праведност, транспарентност, отчетност) и политика на корпоративно управување при користење на вештачка интелигенција
- Да се биде во можност да се воспостави рамка за управување во која резултатите од вештачката интелигенција не ги заменуваат менаџерските и клиничките одлуки, а одговорноста и конечното одобрување секогаш остануваат кај човекот.
Во текот на овој модул, ја користевме вештачката интелигенција како забрзувач во секоја оперативна област, од состаноци до кревети, од предвидување до приходи, од квалитет до залихи. Но, постои покрив над сите овие моќни намени: приватност на податоците, усогласеност со регулативата и етика. Без оваа рамка, секој бизнис што го забрзувате е исто така зголемен ризик. Оваа последна единица ги обединува дисперзираните правила во единствена рамка на управување. Управувањето е систем на управување кој дефинира кој што може да прави во институција и според кои правила, и како функционираат одговорноста и контролата. Да го поставиме главниот принцип уште еднаш, најјасно: излезот на вештачката интелигенција не ги заменува менаџерските и клиничките одлуки; Одговорноста и конечното одобрување секогаш лежат кај човекот.
Зошто здравствените податоци се приватни?
Здравствените податоци не се обични податоци. Во Турција, KVKK (Закон за заштита на лични податоци) ги смета здравствените податоци како „лични податоци од посебна природа“; Ова значи највисоко ниво на заштита. Нејзиниот европски еквивалент е GDPR. Доколку се открие дијагнозата, третманот, бројот на протоколот на пациентот, ќе настане неповратна штета: стигма, дискриминација, губење на довербата. Значи, постојат неколку основни правила. Анонимизацијата е да се отстранат сите информации што го идентификуваат лицето (име, лична карта, протокол, ретка дијагноза + возраст + комбинација на локација) од податоците. Минимизирањето на податоците е работа со најмалку податоци што ќе ја завршат работата. Ограничувањето на целта значи користење на податоците само за целта за која се собрани. Границата за задржување не е да се чуваат податоците подолго од потребното.
Вметнувањето податоци за пациентот во јавна алатка за вештачка интелигенција е испраќање на податоците на надворешен сервер и е сериозно прекршување. Вистинскиот пристап: анонимизирајте ги податоците, доколку е можно изберете алатки со корпоративни и договори за обработка на податоци (кои не ги користат вашите податоци за обука на модели) и имајте писмена политика за тоа кои податоци може да се внесат во која алатка. Запомнете: кога ќе се спојат мали парчиња, едно лице може да се редефинира; Додека „68-годишна жена“ е безбедна, „68-годишна жена од село Х, со ретка болест Y“ повеќе не е анонимна.
Етика и владеење од крај до крај
Доброто владеење со вештачката интелигенција се заснова на три етички принципи. Праведноста е што вештачката интелигенција систематски не става во неповолна положба на група пациенти (стари лица, со ниски приходи, рурални); Некористењето на резултатот за неприкажување за исклучување беше пример за ова. Транспарентност значи да се биде во можност да се објасни на што се заснова одлуката; Се претпочита предлог со видливо оправдување, а не предлог „црна кутија“. Одговорноста значи да се има одговорно лице зад секоја одлука; „Ви го кажа тоа“ не е одбрана.
Она што ги спроведува овие принципи во акција е политиката на владеење. Добрата политика дефинира: кои податоци можат да влезат во кое возило (класификација на податоци); правила за анонимизација; поени за одобрување од луѓе за секое работно место (кој што потпишува); отчетност и ревизорска трага (кој што направил кога — евиденција за трага); и етичките принципи. Оваа политика ги комбинира сите изјави „луѓето одлучуваат“ што ги видовме низ модулот во единствена институционална рамка.
Внимание: Реченицата „АИ предложи, јас спроведов“ не е пренос на одговорност. Законски и етички, одговорноста останува на лицето кое го прифаќа и спроведува предлогот. Управувањето ја прави токму оваа одговорност видлива и следлива.
три мини футроли
Случај 1 - Ризик од повторна идентификација. Една единица сподели „анонимно“ резиме на случај: „Единствениот пациент со трансплантација на срце во нашиот град, 34-годишен маж, беше отпуштен минатиот месец“. Немаше именка во оваа реченица, но комбинацијата уникатно ја опиша таа личност. Службеникот за квалитет се спротивстави на ова; Комбинацијата на ретки карактеристики ја нарушува анонимноста. Резимето беше препишано со отстранување на описни детали и негово генерализирање.
Случај 2 - Вредност на запис во трага. Во болница, одреден број во извештајот за управување, изработен со вештачка интелигенција, се покажа како погрешен и неточни информации беа испратени до раководството. За време на ревизијата, прашањето „од каде оваа бројка, кој ја потврдил? беше прашан. Бидејќи политиката на управување на организацијата наложува запис „извор + проверувач + датум“ за секој излез на вештачка интелигенција, веднаш беше очигледно дека грешката се случила кога чекорот за верификација бил прескокнат. Снимањето на траги се користеше за да се поправи процесот, а не да се бараат криминалци.
Случај 3 - Политиката спречува криза. Нов вработен требаше да ја постави својата листа за отпуштање во јавна алатка за вештачка интелигенција. Во јасната политика на институцијата беше наведено дека „ниту една датотека што содржи идентификација на пациентот не влегува во отворената алатка, тие прво се анонимизираат и се користи само одобрената институционална алатка“. Вработениот се сетил на полисата, ги анонимизирал податоците и ја користел одобрената алатка. Писменото владеење спречи индивидуална грешка како институционален рефлекс.
Четири шаблони за копирање
1) Нацрт политика за класификација на податоци:
Вашата улога: помошник на службеникот за безбедност/квалитет на информации во здравствената установа. Нацртај табела за класификација „Кои податоци можат да влезат во ВИ“ за нашата институција: црвено (никогаш: ID на пациентот, ИД, протокол), жолто (анонимизирано), зелено (бесплатно: јавно, безлично). Напишете примери и правила за секој час. Наведете дека ова е нацрт и одделот за правни/усогласеност треба да го одобри.
2) Список за проверка на анонимизација:
Подгответе листа за проверка на анонимизација што ќе ја извршам пред да дадам какви било податоци на вештачката интелигенција: дали е излез од името/TC/протоколот, дали комбинацијата на ретките карактеристики (возраст+локација+ретка дијагноза) го идентификува лицето, дали има некој непотребен простор, дали е корпоративно одобрена алатка. Секоја ставка нека биде означена со да/не.
3) Мапа на точки за одобрување од човек:
Направете табела „кој одобрува“ за следните области за употреба на вештачка интелигенција (извештај, прогноза на побарувачката, приоритет на креветот, код за наплата, распоред на смени): ниво на ризик и задолжителен орган за човечко одобрување за секоја област. Нагласете ја потребата за клиничко + административно двојно одобрување во области со висок ризик.
4) Шаблон за снимање трага на излезна вештачка интелигенција:
Напишете шаблон за евиденција за траги што ќе го пополните за секој излез на вештачка интелигенција: датум, користена алатка, класа на внесени податоци (анонимни), резиме на излезот, лице кое потврдило, менаџер кој одобрил, одлука. Наведете дека ова е за ревизија и одговорност.
Слаб промпт / Силен промпт
Слаба навестување:
Дајте ги податоците за нашите пациенти на вештачката интелигенција и нека бидат анализирани.
Анонимизација, безбедност на возилото, без потврда и без снимање на траги; Ризик од директно прекршување на KVKK.
Моќен потсетник:
Подгответе политика за управување со вештачка интелигенција за нашата организација: (1) класификација на податоци (црвена/жолта/зелена), (2) правила за анонимизација, (3) точки на човечко одобрување за секој случај на употреба, (4) евиденција и ревизија на патеката, (5) принципи на правичност/транспарентност/одговорност. Наведете дека ова е нацрт и бара законско одобрение/усогласеност.
Елемент на управување
Што обезбедува
пример
Класификација на податоци
Одредува што може да влезе
ИД = никогаш
Анонимизација
Ја штити личноста
Се појавува комбинација на име/ретка
точки на човечко одобрување
Ја дефинира одговорноста
Двојна проверка со висок ризик
рекорд на патеката
Ревизија
Извор + проверувач + датум
Етички принципи
Коректно, транспарентно, одговорно
Користење на резултат за исклучување
Вообичаени грешки
- Споделување податоци кои можат да се идентификуваат мислејќи дека се „анонимни“. Ретка комбинација на особини го подарува човекот.
- Користење на неодобрена алатка. Податоците одат на офсајт сервер.
- Ставајќи ја одговорноста на вештачката интелигенција. „АИ рече“ не е правна одбрана.
- Не водење евиденција. Кога има грешка, не можете да го прикажете изворот и потврдата.
- Пишување на политиката, а не спроведување. Правилото на хартија не штити освен ако не е рефлекс.
Совет: крунисувајте ја вашата политика за управување со список на „златни правила“ кои се вклопуваат на една страница и се доволно едноставни за секој да ги запамети: не внесувајте лична карта, анонимизирајте, користете одобрено возило, проверете, човечки потпис. Никој не ја чита долгата политика; Сите се сеќаваат на правилото од пет.
Сумирано
Оперативната моќ на вештачката интелигенција е безбедна само под цврста рамка на приватност, законодавство и етика. Здравствените податоци се податоци за посебен квалитет; Од суштинско значење се анонимизацијата, минимизирањето на податоците и одобрената алатка. Добро владеење; Комбинира класификација на податоци, анонимизација, точки за одобрување од страна на луѓе, евидентирање на траги и етички принципи (праведност, транспарентност, одговорност) во една рамка. Тоа е суштината на овој модул со една реченица: ВИ забрзува, човекот одлучува и носи одговорност. Непроверениот излез на вештачката интелигенција е подеднакво ризичен како непотпишана одлука за управување.
Задача за апликација
Подгответе нацрт политика за управување на една страница за вашата организација користејќи ги шаблоните „АИ излезна трага запис“ и „класификација на податоци“. Вклучете листа на „златно правило“ од најмалку пет ставки. Потоа, изберете област за користење што сте ја научиле низ модулот (на пример, приоритет на креветот или код за наплата) и напишете во 5 ставки кои чекори за одобрување и потврда ги бара оваа политика во таа област.
листа за проверка
- [ ] Дали здравствените податоци се класифицирани како посебни и дали ги применив правилата за анонимизација?
- [ ] Дали го проверив ризикот од повторна идентификација со комбинација на ретки карактеристики?
- [ ] Дали ја дефинирав точката на човечко одобрување за секој случај на употреба?
- [ ] Дали водам евиденција (извор/проверувач/датум) за излезите на вештачката интелигенција?
- [ ] Дали сум напишал во полисата дека одговорноста и конечното одобрување секогаш лежат на лицето?
Модул испит
1. Менаџерот на болницата директно ја спроведува препораката за распределба на кревети генерирана од вештачката интелигенција без никаква клиничка евалуација. Која е основната грешка во овој пристап?
- А) Конвертирање на излезот од вештачка интелигенција во одлука без да се подложи на клиничка соодветност и административна верификација; Игнорирање дека одговорноста е кај луѓето ✔
- Б) Строго е забрането да се користи вештачка интелигенција во управувањето со креветот
- В) Вештачката интелигенција секогаш го покажува бројот на кревети повеќе отколку што всушност е
- Г) Предлогот не е претставен во табела
Опис: Вештачката интелигенција произведува статистичка препорака; Сепак, распределбата на креветот и приоритетот на отпуштање зависат од клиничката состојба на пациентот и конечната одлука е на одобрението од лекарот/сестрата и одговорниот менаџер. Непроверениот излез е како непотпишана одлука.
2. Кој од следниве е најсоодветен пристап кога се внесуваат податоци за пациентите во јавно достапна алатка за вештачка интелигенција?
- А) Вметнување на името на пациентот и бројот на протоколот како што е за брзина
- Б) Отстранете ги информациите за идентификација и анонимизирајте ги податоците и, доколку е можно, користете корпоративна алатка со договор ✔
- В) Сокријте го само името на пациентот и оставете го TR ID бројот
- Г) Доволно е да се добие усна дозвола од пациентот пред да се споделат податоците.
Објаснување: Здравствените податоци се посебни лични податоци. Информациите за идентитетот, како што се името, TR ID, бројот на протоколот, треба да се отстранат, податоците треба да се анонимизираат и ако е можно, треба да се претпочитаат алатки за обработка на корпоративни податоци договорени со договор.
3. Која е најсоодветната употреба на резултатот за ризик произведен од вештачката интелигенција во предвидувањето на не-прикажувања?
- А) Одбивање закажување термини за пациенти со висок ризик
- Б) Игнорирајте го резултатот и применете ја истата процедура за сите пациенти
- В) Саем на планирање, интервенции за зачувување на пристапот, како што се брзање со потсетници и пререзервирање ✔
- Г) Трајно ставање на црната листа на пациенти со висок ризик
Објаснување: Оценката за ризик е проценка на веројатноста; Треба да се користи за насочување на фер интервенции како што се густина на потсетник, пререзервирање и олеснување на пристапот, а не отфрлање на пациентот. Правата за пристап на пациентите мора да бидат заштитени.
4. Која е главната причина за работа со интервали и сценарија на доверливост наместо единствена бројка дадена од вештачката интелигенција во прогнозирањето на побарувачката?
- А) Презентирањето на интервал прави извештајот да изгледа подолг
- Б) Бидејќи вештачката интелигенција не може да произведе единечни броеви
- В) Бидејќи интервалот на доверба секогаш точно ја дава вистинската вредност
- Г) Бидејќи прогнозата вклучува несигурност, неопходно е да се направи флексибилно планирање според сценарија и да се управува со ризиците ✔
Објаснување: Прогнозата се заснова на историски податоци и вклучува несигурност. Планирањето според опсег наместо единствена точка ви овозможува да бидете подготвени за сценарија со мала/висока побарувачка и флексибилно да управувате со капацитетот.
5. Кој е најкритичниот ризик кога Ви предлага АИ кодови за наплата во циклусот на приходи?
- А) Вештачката интелигенција прави невалиден или неточен код, течно го сугерира и го внесува во фактурата без верификација ✔
- Б) Вештачката интелигенција произведува кодови многу бавно
- В) Предлогот за код секогаш автоматски се прифаќа од SGK
- Г) Шифрите може да се произведуваат само на англиски јазик
Објаснување: Вештачката интелигенција може течно да предложи код кој всушност не постои или е неточен (халуцинација). Кодирањето и наплатата се регулирани; Секоја шифра мора да биде потврдена од овластен експерт со валидни списоци на трансакции и правила за рефундирање.
6. На контролната табла со индикатори за квалитет, вештачката интелигенција го толкува ненадејниот пад на индикаторот како „подобрување“. Што треба да направи менаџерот?
- А) Претставување на коментарот директно до одборот на директори
- Б) Истражете дали промената може да се должи на квалитетот на податоците, промената на дефиницијата или целното отстапување и потврдете ја каузалноста ✔
- В) Отстранете го индикаторот од контролната табла
- Г) Да се има доверба во вештачката интелигенција и да не се прават никакви проверки
Објаснување: Промената на индикаторот може да биде предизвикана од проблем со квалитетот на податоците, промена на дефиницијата или играње. Администраторот треба да ја потврди каузалноста и изворот на податоци на коментарот.
7. Која е најчеста грешка кога се анализираат повратните информации за бесплатен текст за задоволството на пациентите со вештачка интелигенција?
- А) Одвојување на текстови во теми
- Б) Анонимизирачки повратни информации
- В) Генерализирање на автоматската ознака за емоции и примерок за сите пациенти без нивна валидација ✔
- Г) Давање приоритет на жалбите
Објаснување: Автоматското означување на емоции може да внесе иронија, негација и погрешно прочитан контекст; Дополнително, само мислењата на авторите носат пристрасност за земање примероци. Не треба да се прават генерализации без да се проверат резултатите со земање примероци и читање.
8. Која е главната цел на ABC анализата во управувањето со залихите?
- А) Подредување на сите ставки по азбучен ред
- Б) Броење само на лекови кои содржат витамин А
- В) Уништување на производи со поминат рок
- Г) Класификација на залихите според нивото на вредност/критичност и насочување на контролниот приоритет кон најкритичните ставки ✔
Објаснување: ABC анализата ги класифицира залихите во однос на вредност/критичност како A (висока), B (средна), C (ниска); така, вниманието на раководството и фреквенцијата на контрола е насочено кон најкритичните ставки.
9. Што значи концептот на „тесно грло“ при подобрување на процесот?
- А) Чекорот со најтесен капацитет и ограничување на брзината на целиот тек ✔
- Б) Најбрзиот чекор од процесот
- В) Единицата каде што работи најмногу персонал
- Г) Фаза во која пациентите се најзадоволни
Опис: Тесното грло е чекор со најтесен капацитет што ја одредува брзината на целиот процес. Напорите за подобрување треба прво да се фокусираат на тесното грло; подобрувањето на друго место не го забрзува целокупниот проток.
10. Што треба да провери менаџерот пред да го примени распоредот произведен од вештачката интелигенција при планирањето на смените?
- А) Дали графиконот е испечатен во боја или не
- Б) Усогласеност со законот за работни односи, периодите на одмор, клиничката компетентност и правилата за правда ✔
- В) Колку секунди ѝ се потребни на вештачката интелигенција за да се создаде графиконот?
- Г) Дали распоредот го фаворизира највисокиот персонал
Опис: Табела; Мора да ги почитува правилата на трудовото право (максимално работно време, одмор), правата на вработените, клиничката компетентност и правдата. ВИ може да произведе нацрт што ги прекршува овие правила; Конечното одобрување е кај менаџерот.
11. Што од наведеното ја изразува точната граница на употреба на вештачка интелигенција во здравствениот менаџмент?
- А) Вештачката интелигенција може автоматски да ги носи сите менаџерски одлуки
- Б) Вештачката интелигенција може да се користи само при пишување текст, а не во нумеричка анализа
- В) Вештачката интелигенција е асистент и алатка за поддршка на одлуки; Одговорноста и конечното одобрување на критичните одлуки се кај луѓето ✔
- Г) Вештачката интелигенција може да ги финализира одлуките за отплата без човечко одобрение
Опис: Помошник за вештачка интелигенција, генератор на нацрти и алатка за поддршка на одлуки. Одговорноста и конечното одобрување на одлуките кои влијаат на распределбата на ресурсите, клиничката приоритизација и безбедноста на пациентите секогаш се на надлежниот специјалист и одговорниот менаџер.
12. Зошто само намалувањето на индикаторот за просечна должина на престој (LOS) не е доволен доказ за „успех“?
- А) Бидејќи времетраењето на престојот никогаш не може да се мери
- Б) Бидејќи должината на престојот може да се пресмета само со вештачка интелигенција
- В) Бидејќи должината на престојот воопшто не е релевантна за надоместокот.
- Г) Ако намалувањето доаѓа со зголемување на раното отпуштање и реадмисија, безбедноста на пациентот може да биде нарушена и тоа треба да се толкува заедно со релевантните индикатори ✔
Објаснување: Намаленото време на престој може да укаже на добро искористување на ресурсите; Меѓутоа, ако дојде со зголемување на раното отпуштање и реадмисија, безбедноста на пациентот може да биде нарушена. Индикаторот треба да се толкува заедно со други поврзани индикатори.
13. Каков е статусот на прогнозирањето на побарувачката врз основа на историски податоци во случај на ненадејно нарушување како што е епидемија или катастрофа?
- А) Предвидувањето престанува да биде водечки; Експертското расудување и следењето во реално време го преземаат водството ✔
- Б) Предвидувањето засновано на историски податоци станува најсигурно во овие ситуации
- В) Прогнозата автоматски се коригира, не е потребна интервенција
- Г) Во овие случаи, планирањето треба целосно да се прекине
Опис: предвидувањето на вештачката интелигенција се заснова на минатите обрасци. Во структурните прекини како што се епидемии, катастрофи или законски измени, податоците од минатото престануваат да бидат водечки; стручното расудување и следењето во реално време го преземаат водството.
14. Што од следново треба да биде вклучено во политиката за управување со корпоративна вештачка интелигенција?
- А) Само која марка алатка за вештачка интелигенција ќе се купи?
- Б) Класификација на податоци, анонимизација, точки на човеково одобрување, одговорност/ревизорско досие и етички принципи ✔
- В) Правилото дека само менаџерите можат да користат вештачка интелигенција
- Г) Статија која дозволува вештачката интелигенција да ги носи сите одлуки сам
Опис: здраво владеење; Дефинира кои податоци можат да влезат во која алатка, правила за анонимизација, точки на човеково одобрување, евиденција за одговорност и ревизија, етички принципи (праведност, транспарентност, отчетност).