Медицинадағы жасанды интеллектке кіріспе: шекаралар, тексеру, жауапкершілік және этика

Табыстар:

• Жасанды интеллект клиникалық жұмыс процесінде нақты уақытты қай жерде үнемдейтінін және диагностика мен емдеуге жауапкершілік тәуекел деңгейіне сәйкес құзыретті дәрігерде қалуы керек екенін ажырата білу.
• Ағымдағы нұсқауларға, клиникалық емтиханға және тәуелсіз көздерге сәйкес әрбір AI нәтижесін сынайтын көп деңгейлі валидация пәнін енгізу мүмкіндігі
• Мәтінмәнді анонимдеу, KVKK талаптарына сәйкес болу және емделуші деректерін қорғау үшін құпиялылықты қамтамасыз ететін құралды таңдау дағдысын алу мүмкіндігі.

Медицина - шағымды дұрыс диагнозға, ал дұрыс диагнозды қауіпсіз емдеуге айналдыратын ұзақ және жауапты шешімдер тізбегі. Бұл тізбектегі кейбір сілтемелер (хат алмасу, түйіндеме, жоба, еске салу) тез автоматтандырылуы мүмкін; Кейбіреулер ешқашан машинаға берілмейді, өйткені олар адам өміріне тікелей әсер етеді. Жасанды интеллект (қысқаша AI; деректердің үлкен көлемінен үлгілерді үйренетін және мәтінді, кескіндерді немесе кодты жасайтын бағдарламалық жасақтама) осы тізбектегі өте қуатты үдеткіш болып табылады: дифференциалды диагноздар тізімін кеңейту, эпикризді құру, әдебиеттерді қорытындылау, пациент туралы ақпарат жазбасын жеңілдету. Бірақ АИ дәрігер емес; Қарамайды, жауапкершілік алмайды, науқасты танымайды, қол қоймайды. Бұл бөлімде сіз клиникалық жұмыста AI-ны қайда қолдану керектігін, қайда тұру керектігін және әрбір нәтижені қалай тексеру керектігін үйренесіз. Мақсат - сізді АИ-ге тәуелді емес, АИ-ді басқаратын дәрігер ету.

Негізгі принцип басынан бастап анық: АИ диагноз қоймайды, емдеуді бастамайды. Диагностика және емдеу шешімдері құзыретті дәрігердің тексеруі және клиникалық қорытындысы бойынша қабылданады; AI тек ұсыныстар мен жобаларды шығарады.

AI медицинада не істей алады және не істей алмайды?

AI-ның нақты күші тілдерді, үлгілерді және нұсқаларды жасауда. Дифференциалды диагноз туралы еске салғыш, анамнез (науқас тарихы) сұлбасы, эпикриз шеңбері, дәлелдемелердің қысқаша мазмұны және пациент туралы ақпарат мәтіні секундтарда пайда болады. Бұл тапсырмаларда AI сізге минуттарды, кейде сағаттарды үнемдей алады және назардан тыс қалған мүмкіндікті еске салады.

AI жасай алмайтын нәрсе - бұл жауапкершілікті қажет ететін клиникалық пайымдау. Науқасты көру, тыңдау және пальпациялау; барлық пациент бойынша қорытындыларды интерпретациялау; белгісіздік жағдайында шешім қабылдау. AI галлюцинациялайды, өйткені ол интернеттегі және кітаптардағы мәтіндерден үйренеді: яғни ол шынайы болып көрінетін нәрсені, бірақ қате дозаны, ойдан шығарылған жұмысты, жоқ бағыттаушы субстанцияны жасай алады. Медицинада қатенің бұл түрі жай ғана қате емес; Қате емдеу, өткізіп алған диагноз науқастың зиянын білдіреді.

Назар аударыңыз: AI нәтижесі сараптамалық қорытынды емес, жоба болып табылады. Қауіпсіздікке қатысты маңызды шешімдерді (диагностика, емдеу, доза, триаж) құзыретті дәрігердің рұқсатынсыз қабылдауға болмайды. AI бұл келісімді алмастырмайды және заңды жауапкершілікті бөліспейді.

Тәуекел деңгейіне сәйкес үш аймақ

AI қауіпсіз пайдаланудың ең практикалық жолы - тәуекел деңгейіне негізделген әр тапсырманы үш аймаққа бөлу. Бұл айырмашылық «бұны AI жасауы керек пе?» Дегенге дейін төмендейді. Сұрақтарға тез және нақты жауап береді.

Аймақ

Тапсырмалар үлгісі

АИ рөлі

Тексеру деңгейі

Жасыл (төмен тәуекел)

Жиналыс жазбасы, тілді жеңілдету, электрондық пошта жобасы, пішімдеу, оқу қорытындысы

еркін өндіріс

Жылдам шолу

Сары (орташа тәуекел)

Анамнез/эпикриз жобасы, әдебиеттерге қысқаша шолу, пациент туралы ақпарат жазбасы, дифференциалды диагнозды еске түсіру, кодтау бойынша ұсыныс

Жоба + ұсыныс

Дәрігерлік бақылау + дереккөзді растау

Қызыл (қауіпсіздік үшін маңызды)

Түпкілікті диагноз, емдеу/доза туралы шешім, триаж, рецепт, бейнелеу есебі

Тек алдын ала сканерлеу/ескерту

Құзыретті дәрігердің тексеруі және бекітуі міндетті болып табылады

Жасыл аймақта жылдам болыңыз. Сары аймақта AI пайдаланыңыз, бірақ әрбір медициналық ақпарат пен дереккөзді тексеріңіз. Қызыл аймақта AI ешқашан соңғы сөзді айта алмайды; Бұл дәрігердің жұмысын тездететін көмекші ғана.

Көп деңгейлі тексеру тәртібі

Тексеру «кейінірек тексеремін» деген оймен кейінге қалдырылатын нәрсе емес; жұмыс процесінің бөлігі болып табылады. Қатты тексеру бес қабаттан тұрады:

1. Дереккөзге оралу. Егер АИ дозаны, диагностикалық критерийлерді немесе ұсынысты берсе, оны ағымдағы клиникалық нұсқаулықта, қаптамада немесе негізгі мақалада растаңыз.
2. Оны клиникалық түрде сынап көріңіз. Ұсынысты пациенттің нақты тексеру нәтижелерімен, зертханалық және бейнелеумен салыстырыңыз. Сәйкес келмейтін ұсыныс қабылданбайды.
3. Тәуелсіз шот. Сандық нәтижені (доза, креатинин клиренсі, сұйықтықты есептеу) өзіңіз немесе расталған құралмен қайта есептеңіз.
4. Маман көз. Тиісті шешім басқа саланың (радиология, кардиология, патология) сараптамасында болса, сол маманмен кеңесіңіз немесе оны бекітіңіз.
5. Өз таңбаңызды қалдырыңыз. Файлда қандай шығыс расталғанын және қалай екенін ескеріңіз; Кейінірек тексерілсін.

Нұсқау: «AI айтты» - бұл ақтау емес. Клиникалық шешімнің негіздемесі әрқашан тексеру, ағымдағы нұсқаулық, зертханалық/бейнелеу немесе құзыретті сарапшылық қорытынды болып табылады. AI бұл негіздемелерді дайындауға көмектеседі, ол оларды алмастырмайды.

үш шағын іс

1-жағдай — Уақытты үнемдейтін дұрыс пайдалану. Жалпы тәжірибелік дәрігер 3 күндік жөтелмен және температурасы 38,2 градус Цельсиймен ауыратын 42 жастағы науқастың эпикризін жазып жатқан АИ-ден анонимді контекстпен жобаны сұрайды. AI 4 минут ішінде тұрақты эпикриз қаңқасын жасайды; Дәрігер әрбір жолды нақты файлмен салыстырып, 2 шағын түзету енгізіп, қол қояды. Жалпы уақыт 25 минуттан 8 минутқа дейін азаяды. Шешім мен жауапкершілік дәрігерге жүктеледі; AI тек теруді жылдамдатты.

2-жағдай – Галлюцинацияға ұшырады. Дәрігер сирек кездесетін синдром үшін AI ресурстарын сұрайды. AI «New England Journal of Medicine 2021» атты өте сенімді 3 мақала береді. Дәрігер оларды PubMed сайтында іздейді; Оның 2-сі мүлде жоқ, 1-нің нәтижесі мүлдем керісінше. AI қауіпсіз тіл ойлап тапты. Егер растау болмаса, бұл дереккөздер жинаққа енгізіледі.

3-жағдай — Қызыл аймақ шекарасы. Жедел жәрдем бөлмесінде дәрігер АИ-ден кеуде ауыруы бар науқасты триажды жылдамдатуды сұрайды. AI «төмен тәуекел» дейді. Дәрігер әлі де ЭКГ жасайды және тропонинді тағайындайды; Тропонин жоғары, жедел коронарлық синдром диагнозы қойылған. AI шығысы клиникалық күдіктерді жоя алмайды; Қызыл аймақта шешім дәрігерге тиесілі.

Қадамдық: AI-ны тапсырмаға қауіпсіз енгізу

1. Тапсырманы аймаққа орналастырыңыз. Жасыл, сары немесе қызыл?
2. Мәтінмәнді анонимдеу. Аты, TR идентификаторы, файл нөмірі (KVKK) сияқты идентификаторларды тазалаңыз.
3. Нақты қысқаша мәлімет беріңіз. Клиникалық контекстті, сұрақты және қалаған форматты анық жазыңыз.
4. Шығарманы нобай ретінде қарастырыңыз. Оны ешқашан соңғы шешім ретінде пайдаланбаңыз.
5. Тексеру қабаттарын қолданыңыз. Дерек, клиника, есеп, сарапшы, із.
6. Шешім мен оның дәлелдемесін жазып алыңыз.

Көшірілетін төрт үлгі

Рөл: Сіз дәрігер емес, клиникалық жазба ассистентісіз. Тапсырма: [тапсырма] үшін жобаны жасаңыз. Мәтінмән (анонимді): Жасы [...], жынысы [...], шағымы [...], нәтижелері [...]. Ереже: Әрбір доза/диагноз үшін «РАСТАУ КЕРЕК» белгісін қойыңыз, емдеудің бастау көзі: диагноз қойыңыз/B; Тек ұсыныстар мен жобаларды беріңіз. Пішім: таңбалы нүктелерде, себептерімен.

Тапсырма: Төмендегі мәтіндегі барлық медициналық мәлімдемелерді, мөлшерлеу мәндерін, диагностикалық критерийлерді және дереккөзге сілтемелерді ТІЗІМ БЕРІҢІЗ. Әрқайсысы үшін «көзді растау қажет» ескертпесін қосыңыз. Оны өзіңіз растамаңыз, жай ғана белгілеңіз. Мәтін: [...]

Тапсырма: Бұл AI нәтижесін дәрігердің көзқарасы бойынша тәуекел деңгейіне сәйкес жіктеңіз. Әрбір тармақ бойынша: жасыл / сары / қызыл және бір сөйлемді негіздеу. Қызыл тармақтарға «дәрігердің білікті тексеруі және рұқсаты қажет» деп жазыңыз. Шығару: [...]

Тапсырма: Төмендегі науқас/жағдай мәтінін анонимді түрде көрсетіңіз. Аты, тегі, TR ID, файл нөмірі, мекенжайы, телефоны және күні сияқты идентификаторларды [LABEL] белгісімен ауыстырыңыз; клиникалық мәнін сақтайды. Мәтін: [...]

Әлсіз шақыру / Күшті шақыру

Әлсіз: «Бұл науқаста не бар, оның диагнозы қандай?».

Күшті: «Ескертпе ретінде анонимді жағдай бойынша дифференциалды диагностиканың МҮМКІНДІКТЕРІН атап өтіңіз: 55 жаста, ер адам, 2 апта бойы ентігудің күшеюі, аяқтың ісінуі, темекі шегу тарихы. ДИАГНОЗ ҚОЙМАҢЫЗ; әрбір мүмкіндік үшін қандай тексеру/тексеру дифференциалдайтынын жазыңыз және мемлекетке бұл шұғыл шешім екенін қызыл жалаушамен белгілеңіз. дәрігер».

Күшті сұрауда контекст, шекара және күтілетін нәтиже анық; AI қайда тұратыны анық.

Жалпы қателер

• Сарапшы пікірі үшін AI шығысын қателесу. AI диагнозды емес, эскиздер мен ұсыныстарды жасайды.
• Қауіпсіздік бойынша маңызды шешім қабылдауды AI-ға беру. Диагностика, емдеу, дозалау, триаж ешқашан АИ-ге қалдырылмайды.
• Ақпарат көзін растамай пайдалану. Әрбір доза, критерий және сілтеме ағымдағы көзден тексерілуі керек.
• Пациент деректерін тікелей жүктеу. Анонимизация және KVKK стандартына сай көлікті таңдау назардан тыс қалмауы керек.
• Галлюцинацияны байқамау. AI сенімді болып көрінгенімен, қате болуы мүмкін; Сенімді мәлімдеме шындықтың дәлелі емес.

Қысқаша айтқанда

AI - медицинадағы нағыз үдеткіш, бірақ ол дәрігерді алмастырмайды. Тапсырмаларды жасыл, сары және қызыл аймақтарға бөлу; Жасыл түсте жылдам болыңыз, сары түсте растаңыз, ешқашан AI-ға қызыл түсте соңғы сөзді бермеңіз. Әрбір шығысты жоба ретінде қарастырып, оны бес қабатты тексеруден өткізіңіз. Пациенттің жеке өміріне және KVKK-ға байыппен қараңыз. Диагностика мен емдеуге жауапкершілік әрқашан құзыретті дәрігерде қалады; AI бұл жауапкершілікті бөліспейді.

Қолданбалы тапсырма

Өз тәжірибеңізден үш тапсырманы таңдаңыз (мысалы, эпикриз жазу, әдебиеттерге қысқаша шолу, дозаны бақылау). Әрқайсысын жасыл/сары/қызыл деп жікте. Сары және қызыл тапсырмалар үшін қандай тексеру қабаттарын қолданатыныңызды және қызыл тапсырмада тексеруді/мақұлдауды қажет ететінін жазыңыз. Сондай-ақ, сіз пайдаланатын AI құралының құпиялылық саясатында оның жаттығуда деректерді пайдаланатынын тауып, ескеріңіз.

бақылау парағы

• [ ] Мен тапсырманы тәуекел аймағына қойдым.
• [ ] Мен контекстті жасырдым (КВКК).
• [ ] Мен нақты, клиникалық маңызды қысқаша мәлімет бердім.
• [ ] Мен шығысты жоба ретінде қарастырдым.
• [ ] Мен дозаны/диагностиканы/ағымдық көзден алынған дереккөздерді растадым.
• [ ] Мен ұсынысты пациенттің нақты клиникалық нәтижелерімен сынап көрдім.
• [ ] Қауіпсіздікке қатысты маңызды шешімді білікті дәрігердің тексеруі және мақұлдауымен аяқтадым.
• [ ] Мен файлға растау ізін сақтадым.