Добици:
- Да се може дефинисати зашто се одговорност дијагнозе и лечења не може пренети на вештачку интелигенцију и правни положај лекара
- Способност коришћења вештачке интелигенције у складу са информисаним пристанком, транспарентношћу и професионалним етичким правилима
- Способност да примените како да затворите клиничку одлуку подржану вештачком интелигенцијом уз упутства, преглед и одобрење надлежног лекара
Када је пацијент повређен, прво се поставља питање: ко је одговоран? Ако је вештачка интелигенција (АИ) дала дијагностичку препоруку и одлука се показала погрешном, да ли је вештачка интелигенција одговорна? Одговор је јасан: Не. Медицинска одговорност увек лежи на надлежном лекару који доноси одлуку. АИ је као алат; попут стетоскопа или лабораторијске опреме. Дужност лекара је да протумачи излаз уређаја, прихвати или одбије га и донесе коначну одлуку. У овој јединици ћете научити правни основ одговорности, принципе професионалне етике, транспарентности и информисаног пристанка, и како правилно закључити одлуку уз помоћ вештачке интелигенције.
Зашто је одговорност на доктору?
Медицина је заснована на „дужности бриге“: лекар је дужан да спроводи негу коју захтева добра медицинска пракса. Његово коришћење возила га не ослобађа ове обавезе; Напротив, правилно коришћење алата такође је део бриге. Слепо праћење сугестије вештачке интелигенције или игнорисање корисног упозорења може бити кршење бриге. Лекар мора да процени излаз АИ користећи своју клиничку процену.
Правно гледано, АИ није „субјект права“; не може бити тужен, не плаћа накнаду и не може бити кажњен. Одговорност произвођача за производ је посебно питање, али одговорност за медицински однос и одлуку са пацијентом лежи на лекару. „То је оно што је АИ рекла“ није одбрана; Супротно томе, ослањање на непроверен излаз вештачке интелигенције може да погорша одговорност.
Опрез: Свака одлука донета на основу АИ излаза је сопствена одлука лекара. Праћење неутемељене препоруке чини лекара правно и етички одговорним. Није могуће пренети одговорност на возило.
Професионална етика и АИ
Четири основна принципа медицинске етике воде употребу АИ:
- Добробит: Користите вештачку интелигенцију да побољшате негу у корист пацијента.
- Нонмалефиценце: Управљајте ризиком од штете од непровереног резултата; Када сте у недоумици, изаберите сигуран пут.
- Аутономија: Поштујте право пацијента на одлуку; Информисати, добити сагласност.
- Праведност: Уверите се да пристрасност АИ не штети одређеним групама.
Ови принципи померају АИ од „алата за брзину“ у „део одговорне клиничке праксе“.
Транспарентност и информисани пристанак
Информисани пристанак је пацијентово разумевање и прихватање поступка који ће му се извршити. Дакле, треба ли пацијент знати да АИ доприноси њиховој одлуци? Принцип транспарентности захтева од лекара да искрено изјави да користи вештачку интелигенцију као помоћ и да је коначна одлука његова/њена. Погрешно је сакрити употребу АИ и приписати одлуку у потпуности АИ. Исправан став: „Користим најсавременије ресурсе и помагала приликом доношења одлуке, али процењујем и препоручујем дијагнозу и лечење.“
Савет: Пацијент је питао: „Да ли је вештачка интелигенција одлучила?“ Искрен и уверљив одговор је: „АИ је алат који ми помаже; коначна процена и одлука припадају мени. Прегледао сам вашу ситуацију.“ Ово одржава и транспарентност и поверење.
Корак по корак: Искључите одлуку коју покреће вештачка интелигенција
- Користите АИ као помоћника. Предлог, подсетник, нацрт.
- Процените са клиничком проценом. Да ли препорука одговара стварности пацијента?
- Потврдите са водичем и извором. Одлука мора бити заснована на доказима.
- Консултујте стручњака ако је потребно. Налази се у критичном и неизвесном стању.
- Забележите одлуку и њено образложење. Документ АИ допринос и валидација.
- Будите транспарентни; Прибавите сагласност где је потребно.
три мини кофера
Случај 1 — Ограничење одговорности. Лекар спроводи третман који је препоручила АИ без верификације, а пацијент је оштећен. Одбрана "АИ је предложила" није прихваћена у оцени; Утврђено је да лекар није испунио своју обавезу провере. Лекција: АИ излаз је одлука лекара.
Случај 2 — Исправна транспарентност. Пацијент се пита како му је постављена дијагноза. Лекар објашњава да користи АИ као помоћно средство, али сам обавља преглед, преглед и процену. Пацијент се осећа самоуверено; Информисани пристанак се успоставља на здрав начин.
Случај 3 — Игнорисање корисног упозорења. АИ нас подсећа на занемарену интеракцију са лековима. Лекар то потврђује и чини третман безбедним. Овде, обраћање пажње на упозорење возила постаје део бриге за добробит пацијента.
Табела јасноће одговорности
Статус
ко је одговоран
Зашто
Препорука АИ имплементирана без верификације
лекар
Дужност бриге и провере
АИ упозорење је игнорисано и настала је штета
лекар
По клиничкој процени
АИ излаз је верификован и донета је исправна одлука
Лекар (позитиван)
Одлука припада лекару
Техничка грешка возила (засебна одговорност за производ)
Произвођач (делимично)
Лекарска одлука је и даље у рукама лекара
Четири шаблона за копирање
Задатак: Претворите следећу клиничку одлуку засновану на вештачкој интелигенцији у напомену о РАЗЛОГУ за снимање: која је препорука донета, како је верификована (смерница/испитивач/стручњак), ко је донео коначну одлуку. Додајте фразу "Одговорност је на лекару". Одлука: [...]
Задатак: Напишите кратак текст пацијенту објашњавајући на транспарентан и уверљив начин да сам користио алат да помогнем у његовој одлуци. Нагласите да је коначна одлука моја; немојте се упуштати у техничке детаље.Контекст: [...]
Задатак: Претворите следећу одлуку у контролну листу са четири принципа медицинске етике (добронамерност, незлонамерност, аутономија, правда). Генеришите контролно питање за сваку политику. Одлука: [...]
Задатак: У овом процесу заснованом на вештачкој интелигенцији, означите у којим тачкама су потребни ИНФОРМИСАНИ ПРИСТАНАК и транспарентност и генеришите питање шта треба рећи пацијенту за сваку од њих. Процес: [...]
Слаби промпт / Јаки промпт
Слаб: "АИ је поставио ову дијагнозу, да ли да је применим?"
Гуцлу: „За мене да проценим ову дијагнозу коју је предложила АИ: којим прегледом/прегледом треба да је потврдим, које тренутне смернице да погледам, коју црвену заставицу да искључим? Ја ћу донети одлуку; израдити нацрт записника о потврди и оправдању за ово и додати фразу 'одговорност је на лекару'."
У моћној брзини, АИ није доносилац одлука; То је помоћник који документује и потврђује одлуку лекара.
Уобичајене грешке
- Покушавамо да пребацимо одговорност на АИ. "АИ је рекао" није одбрана.
- Пријављивање без верификације. Дошло би до повреде дужности бриге.
- Игнорисање корисног упозорења. Ово такође може бити кршење неге.
- Скривање употребе АИ. То је против принципа транспарентности.
- Не евидентирање одлуке и образложења. Потребан је проверљиви траг.
Законодавство о медицинским уређајима и одобрена употреба
Неки алати вештачке интелигенције за клиничке сврхе (нпр. софтвер који детектује налазе на сликама, помаже у дијагнози) се законски сматрају медицинским уређајима и морају да прођу релевантно регулаторно одобрење. Модел ћаскања опште намене није одобрен као медицински уређај; То је у најбољем случају помоћ у клиничкој дијагнози, а не "званично средство". Ова разлика је важна: одобрено медицинско средство је валидирано и означено за одређену намену (индикацију); Коришћење ван етикете ствара додатну одговорност.
У пракси, питања која лекар треба да постави су: Да ли је уређај који користим медицински уређај одобрен за клиничку употребу или модел опште намене? Ако је одобрено, да ли сврха за коју га користим одговара сврси означеној? Ова јасноћа је основа и за безбедну употребу и за могућу правну процену. Коришћење модела опште намене као дијагностичког алата и његова примена без валидације резултата је најрањивија позиција.
Опрез: Модел језика опште намене није одобрен медицински уређај. Коришћење као клиничког дијагностичког алата и примена без валидације његовог резултата је неодбрањиво и са регулаторног становишта и са становишта одговорности.
Укратко
Медицинска одговорност увек лежи на надлежном лекару који доноси одлуку; АИ је алат, а не предмет закона. "АИ је рекао" није одбрана, већ погоршање ако је потребно. Користите вештачку интелигенцију на начин који је у складу са четири принципа медицинске етике, транспарентно и уз поштовање информисаног пристанка; оправдати сваку одлуку клиничком проценом, смерницама и стручним мишљењем када је то потребно; Забележите оправдање и проверу. Када пацијент пита "Да ли је АИ одлучила?" Одговорите на питање искрено и уверљиво.
Задатак апликације
Размислите о недавној клиничкој одлуци у којој сте искористили АИ. Документ са горњим шаблоном евиденције оправдања: која препорука је предузета, како је потврђена, ко је донео одлуку? Проверите исту одлуку са четири етичка принципа. Такође запишите како ћете пацијенту транспарентно објаснити своју употребу АИ.
контролна листа
- [ ] Користио сам АИ као помоћни алат, а не као доносилац одлука.
- [ ] Оправдао сам препоруку клиничком проценом и смерницама.
- [ ] Консултовао сам стручњака када је било потребно.
- [ ] Проверио сам одлуку у односу на четири етичка принципа.
- [ ] Био сам транспарентан; Добио сам сагласност где је потребно.
- [ ] Снимио сам одлуку, оправдање и оправдање.
- [ ] Документовао сам да је одговорност на лекару.