Табыстар:
- KVKK/құпиялылық аясында пациенттің зертханалық деректерін анонимдеу және қауіпсіз құралдар мен деректерді өңдеу ережелерін қолдану мүмкіндігі
- Жасанды интеллект үлгілерін клиникалық қолдануда валидация, өнімділік көрсеткіштері және қиғаштықты бақылау неліктен міндетті екенін түсініңіз.
- Жасанды интеллекттің әрбір қолданылуына төрт этикалық қағиданы және жауапкершілік тізбегін тоқу арқылы түпкілікті жауапкершілікті өз мойнына алу мүмкіндігі
Зертхана денсаулық сақтау жүйесінің ең көп мәліметтерді қажет ететін пункттерінің бірі болып табылады. Әрбір емделуші, әрбір сынақ, әрбір нәтиже деректер бөлігі болып табылады және бұл бөліктердің көпшілігі құпия жеке деректер, яғни денсаулық деректері ауқымында. Жасанды интеллект осы деректермен жұмыс істеу арқылы үлкен құндылық тудыруы мүмкін, бірақ ұқыпсыз пайдаланылған кезде, дәл сол жасанды интеллект құпиялылықтың елеулі бұзылуына, заңды жауапкершілікке және пациенттің сеніміне нұқсан келтіруі мүмкін. Оның үстіне, бұл жай ғана құпиялылық туралы емес: клиникалық қолдануға енгізілген жасанды интеллект үлгісінің шын мәнінде сенімді екенін дәлелдеу, яғни валидация — және бұл модель пациенттердің белгілі бір топтарына әділетсіз емес екеніне көз жеткізу үшін кәсіби және этикалық міндеттеме (біржақтылық).
Бұл бөлімде сіз KVKK/құпиялылық аясында пациенттің зертханалық деректерін қалай қорғау керектігін үйренесіз; клиникалық AI үлгілерінің валидациясы, өнімділік көрсеткіштері және ауытқуды бақылау; және әрбір қолдануда этикалық принциптерді қалай тоқуға болады. Негізгі принцип: Деректер анонимді болмай ешбір көлікке енбейді; ешбір модель сіздің жеке деректеріңізбен расталмайынша клиникалық шешімдерге қатыспайды; және соңғы жауапкершілік әрқашан сарапшыға жүктеледі.
Құпиялық: қандай деректер, оны қалай қорғауға болады
Пациенттің зертханалық деректері (нәтижелер, диагноз, хаттама нөмірі, жеке басы) Түркияда KVKK (Жеке деректерді қорғау заңы), Еуропадағы GDPR бойынша қорғалған және денсаулық деректері «ерекше сипатта» болғандықтан, қосымша қорғауды талап етеді. Жасанды интеллектті пайдаланудың үш негізгі ережесі:
- Анонимдеу. Аты-жөнін, TR идентификаторын, протокол/файл нөмірін, туған күнін, байланыс және мекеме ақпаратын жойыңыз. «68 жастағы науқас әйел» жеткілікті; «Айше Йылмаз, 12.03.1957» емес. Сирек кездесетін ауру + шағын орналасу сияқты комбинациялар жеке басын жанама түрде анықтауы мүмкін екенін ескеріңіз.
- Минималды деректер саясаты. Тапсырмаға қажетті ең аз деректерді бөлісіңіз. Анықтамалық ауқым сұрағы бүкіл емделуші файлын қажет етпейді.
- Қауіпсіз көлікті таңдау. Деректерді өңдеу келісімі бар корпоративтік құралдарды таңдаңыз және деректеріңізді үлгіні оқытуда пайдаланбаңыз. Науқастың өңделмеген файлын жалпыға ортақ құралға жүктеп салу ең жиі кездесетін және ең ауыр бұзушылық болып табылады.
Деректер түрі
тәуекел
дұрыс мінез-құлық
Аты, TR идентификаторы, протокол нөмірі
тікелей сәйкестендіру
Шығару, анонимдеу
Туған күні, мекен-жайы
жанама сәйкестендіру
Жас ауқымына жүктеп алыңыз, мекенжайды жойыңыз
Нәтиже мәндері
денсаулық туралы деректер
Анонимді түрде бөлісіңіз
Сурет (жағынды, патология)
Денсаулық деректері + ID анықтамасы
Оны расталған клиникалық жүйеде сақтаңыз; ашық көлікке тиеу
Назар аударыңыз: "Мен оны шифрладым, сондықтан атын да жібере аламын" қате. Шифрлау тасымалдауды қауіпсіз етеді, бірақ AI құралына сәйкестендіру деректерін жіберуді ақтамайды. Жеке куәлік деректері шығарылады.
Модельді тексеру: неге «жарияланған» жеткіліксіз
AI моделі (мысалы, кескін классификаторы немесе интерпретация механизмі) бір жерде жақсы жұмыс істейтіндіктен, бұл сіздің зертханаңызда жақсы жұмыс істейтінін білдірмейді. Модель басқа популяцияда, басқа құрылғыда, басқа бояу протоколында оқытылған болуы мүмкін; Оның өнімділігі үлгілеріңізде әр түрлі болуы мүмкін. Бұл таратудың ауысуы деп аталады. Сондықтан, клиникалық қолданысқа енгізілетін әрбір модель сіздің жеке деректеріңіз бойынша тексерілуі керек, оның өнімділігі үнемі өлшеніп, бақылануы керек.
Валидацияда қолданылатын негізгі өнімділік көрсеткіштері:
- Сезімталдық: Модель шынымен науқас/позитивті адамдарды дәл түсіретін жылдамдық. Төмен сезімталдық = өткізіп алынған шынайы позитивтер (жалған негативтер) = маңызды нәтижелерді жоғалту қаупі.
- Ерекшелік: Шынайы сау/терістерді жоюдың дұрыс жылдамдығы. Төмен ерекшелік = көптеген жалған дабылдар.
- Жалған теріс/жалған позитивті көрсеткіштер: Зертханада жалған теріс (сыни нәтиженің болмауы) жалған позитивке қарағанда әдетте қауіптірек; Бұл теңгерім үлгіні пайдалану мақсатына сәйкес реттеледі.
Модель расталғаннан кейін ол ұмытылмайды; Уақыт өте келе құрылғы, реагент, популяция өзгеруі және өнімділігі өзгеруі мүмкін. Сондықтан үздіксіз бақылау және мерзімді қайта бағалау қажет.
Біржақтылық: үлгі кімге әділетсіз?
Модель жаттығу деректеріндегі теңгерімсіздіктер туралы біледі. Кескін үлгісі негізінен белгілі бір пациенттер тобының мысалдары бойынша оқытылатын болса, ол жеткіліксіз ұсынылған топта көбірек қателіктер жіберуі мүмкін. Зертханалық контекстте бұл модель белгілі бір жас, жыныс немесе клиникалық топ үшін нашар жұмыс істейтінін білдіреді және бұл әділеттілік/этика мәселесі. Валидациялау кезінде өнімділікті жалпы ғана емес, сонымен қатар ішкі топтар бойынша да тексеру қажет. Біржақтылықты елемеу кейбір науқастарға үнсіз қызмет көрсетуді білдіреді.
Этикалық төрт қағида және жауапкершілік тізбегі
Денсаулық этикасының төрт негізгі қағидасы зертханалық АИ-де де қолданылады:
- Бенефицит: жасанды интеллект пациенттің игілігі үшін қолданылуы керек; жеделдету қауіпсіздікті бұзбауы керек.
- Зиянды емес: тексерілмеген нәтиже, жалған сыни мән, өткізіп алған табу зиян келтіруі мүмкін; Олардың алдын алу этикалық міндет болып табылады.
- Автономия: пациенттің оның деректеріне қатысты құқықтары қорғалады; Құпиялылық пен келісім сақталады.
- Әділеттілік: Модель пациенттердің барлық топтарына бірдей сапалы қызмет көрсетуі керек; бұрмалануын тексеру керек.
Ең бастысы, жауапкершілік тізбегі бар: жасанды интеллект нәтиже бере алады, бірақ сарапшы бұл нәтиженің нәтижесіне жауапты. «АИ солай айтты» - бұл ақтау емес; Қол қою, шешім және жауапкершілік адам баласына тиесілі.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Айше Йылмаздың барлық нәтижелері мен диагнозын (TC 123..., 2024-88 хаттама) түсіндіріп, есеп жазыңыз.
Бұл сұрау тікелей жеке басын куәландыратын деректерді қамтиды (KVKK бұзу), деректердің минималды принципін бұзады және диагнозды сұрайды. Бұл жеке өмір мен шекараны өрескел бұзу.
Күшті шақыру:
Сіздің рөліңіз: зертхана маманының жобаны дайындау жөніндегі көмекшісі. Төмендегі деректер анонимді болып табылады; сәйкестендіру ақпаратын қамтымайды. Қажетті клиникалық/аналитикалық ақпаратпен ғана жұмыс жасаңыз. Диагноз қою; «Мүмкін» тілді қолданыңыз; Дәрігерге хабарласыңыз. Науқас: 68 жаста, қалқанша безінің ауруы белгілі. Анонимді нәтижелер (анықтамамен): TSH 6,2 mIU/L (0,4-4,0 реф.), қалыпты диапазондағы бос T4. Тапсырма: науқасқа қарапайым брифинг контурын жазыңыз; сәйкестендіру анықтамасын жасау.
Күшті шақыру анонимді, ең аз деректермен жұмыс істейді, диагнозды сарапшыға қалдырады және шекті көрсетеді.
үш шағын іс
1-жағдай – Құпиялылықтың бұзылуын болдырмау. Пациент есебін түсіндіру үшін техник алдымен мәтіннен аты, идентификаторы және хаттама нөмірін «Анонимизацияны басқару» үлгісімен шығарады; Ол тек жас, жыныс және нәтиже құндылықтарын қалдырады. Содан кейін ол қауіпсіз, корпоративті құралда жұмыс істейді. Деректер жеке басын куәландыратын мекеменің сыртына шықпайды. Жұмыс басталмай тұрып заңбұзушылықтың алды алынды.
2-жағдай — расталмаған үлгі тұзағы. Зертхана басқа орталықта жасалған зәр шөгіндісінің үлгісін тікелей өз құралында қолдана бастайды; Ол растамайды. Біраз уақыттан кейін модель бояу хаттамаларында белгілі бір кристалдарды жиі өткізіп жіберетіні байқалады (таратудың ауысуы). Жалған негативтер жиналып қалды. Сабақ: модель сіздің жеке деректеріңізде расталмайынша және сезімталдық/ерекшелік өлшенбейінше клиникалық шешім қабылдауға әсер етпейді.
3-жағдай – ығысу. Тиімділік аудитінде модельдің жалпы сезімталдығы жоғары болып көрінгенімен, егде жастағы емделушілердің кіші тобында оның айтарлықтай төмен екендігі анықталды; Модель осы топта көбірек қателер жібереді. Зертхана үлгі шығыстарының осы тобына қосымша сараптамалық шолуды қосады және өндірушімен байланысады. Сабақ: өнімділік тек жалпы ғана емес, сонымен қатар топшалар бойынша да тексеріледі; Әділдік принципі осыны талап етеді.
Көшіретін шақыру үлгілері
АНОНИМДАСТЫРУДЫ БАСҚАРУ ҮЛГІСІ Төмендегі мәтіннен аты-жөні, TR идентификаторы, хаттама/файл нөмірі, туған күні, мекенжайы, телефоны және мекеме ақпараты; "[өшірілді]" дегенге ауыстырыңыз. Жанама идентификаторы бар болса ескертіңіз (сирек диагноз + шағын орын). Тек қажетті клиникалық/аналитикалық ақпаратты қалдырыңыз. Мәтін: [мәтін].
МОДЕЛЬДІ ВАЛИДАЦИЯЛЫҚ ЖОСПАР ҮЛГІСІ Клиникалық пайдалануға енгізетін жасанды интеллект үлгісі үшін валидация жоспарының жобасын дайындаңыз: мен оны қандай деректермен сынаймын, сезімталдықты/ерекшелікті қалай өлшеуге болады, жалған теріс/позитивтердің тепе-теңдігін қалай бағалауға болады, кіші топты қалай бақылауға болады (жасы/жынысы). мен шешемін; Сіз бақылау парағын жасайсыз.
BIAS CHECK TEMPLATEI үлгі өнімділігін бағалайды. Қандай кіші топтарда (жасы, жынысы, клиникалық топ, үлгі түрі) өнімділікті бөлек іздеу керек екенін және бір топта айтарлықтай нашар өнімділікті тапсам, қандай қадамдар жасау керектігін көрсетіңіз. Әділдік/теңдік туралы ескертулерді қосыңыз.
ӨЗІН-ӨЗІ ТЕКСЕРУ ҮЛГІСІ Мен жасағалы отырған AI пайдалану төрт этикалық қағидаға сәйкес тексеріледі: пайдалылық, зиян келтірмеу, автономия (құпиялылық/келісім), әділдік. Әрбір саясат үшін тәуекел туралы сұрақ қойыңыз. Сондай-ақ, «бұл шығысқа кім жауапты?» Сұрағыңызға жауап беруімді сұраңыз. Қолданылуы: [анықтамасы].
Жалпы қателер
- Көлік құралына сәйкестендіру деректерін беру. Аты, TR ID нөмірі және хаттама нөмірі анонимизациясыз бөлісілмейді; шифрлау мұны ақтамайды.
- Жанама сәйкестікті ұмыту. Сирек диагностика + шағын орналасу сияқты комбинациялар жеке басын аша алады.
- Модельді растамай пайдалану. Басқа жерде жұмыс істейтін үлгі деректеріңізде әртүрлі өнімділік беруі мүмкін.
- Жалпы өнімділікке қараңыз. Кіші топтық талдау орындалмаса, ауытқу жасырын қалады.
- Жауапкершілікті үлгіге қою. «AI айтты» - ақтау емес; Шешім мен қол қою сарапшыға тиесілі.
Кеңес: AI-ны әр қолданар алдында бірге екі сұрақ қойыңыз: «Бұл деректер идентификацияланбаған ба?» және «Мен бұл модель менің кірістілігімде қалай жұмыс істейтінін білемін бе?» Біріншісіне жауап құпиялылықты қорғайды, екіншісіне жауап қауіпсіздікті қорғайды.
Қысқаша
Зертханалық деректер денсаулықтың арнайы сапасы туралы деректер; Жасанды интеллектті пайдалану кезінде анонимизация, минималды деректер саясаты және қауіпсіз құралды таңдау міндетті болып табылады. Клиникалық қолданысқа енгізілетін үлгілер сіздің жеке деректеріңіз бойынша тексерілуі керек; сезімталдықты, ерекшелікті және жалған теріс/оң балансты өлшеу керек; Сондай-ақ, ауытқуды тексеру үшін өнімділікті ішкі топтарда тексеру керек. Төрт этикалық қағидалар - игілік, зиян келтірмеу, автономия, әділеттілік - әрбір қолдануда өрілген және олардың бәрінен жоғары жауапкершілік тізбегі тұрады: нәтиже үлгіден шыққанымен, шешім мен жауапкершілік сарапшыда.
Қолданбалы тапсырма
«Анонимизацияны басқару» үлгісімен емделуші мәтінінің үлгісін анонимдеңіз және қандай ақпаратты жойғаныңызды тізімдеңіз. «Модельді тексеру жоспары» үлгісімен пайдаланып жатқан (немесе пайдалануды қарастыратын) AI үлгісі үшін тексеруді тексеру тізімін жасаңыз; Сезімталдық/ерекшелік және ішкі топтық талдауды қосыңыз. Соңында, «Этикалық өзін-өзі тексеру» үлгісімен төрт қағидаға сәйкес пайдалануды бағалаңыз.
бақылау парағы
- [ ] Мен деректерді жасырдым; Тікелей және жанама сәйкестік белгілерін алып тастадым.
- [ ] Мен минималды деректер саясатын қолдандым; Мен тек қажетті нәрселермен бөлістім.
- [ ] Мен қауіпсіз, корпоративтік және деректерді өңдеуге арналған келісімшарттық құралды қолдандым.
- [ ] Мен үлгіні өз деректерімде растадым; Мен сезімталдықты/ерекшелікті өлшедім.
- [ ] Мен ішкі топтардағы өнімділікті тексердім және ауытқуды тексердім.
- [ ] Мен төрт этикалық қағиданы сақтадым және жауапкершілік сарапшыда екенін растадым.