Табыстар:
- Жасанды интеллект қай жерде биомедициналық жұмыс процесінде қауіпсіз құндылықты тудыратынын және қандай шешімдер дәрігер мен уәкілетті инженердің жауапкершілігінде болатынын ажырата білу.
- Әрбір AI нәтижесін физиологиялық шама тәртібімен, клиникалық дәлелділікпен және тәуелсіз дәлелдермен салыстыратын пәнді қолдану мүмкіндігі
- Галлюцинация, деректердің ағып кетуі және пациенттің қауіпсіздігі тәуекелдерін мойындаңыз және контекстті анонимдеу арқылы қауіпсіз ескертулерді орнату әдетін дамытыңыз.
Биомедициналық инженерия - адам денесінің күрделілігі мен инженерияның дәлдікке ұмтылысы тоғысатын мамандық. ЭКГ сигналы – жүректің электрлік көлеңкесі, МРТ – бұл тіннің магниттік эхосы, зертханалық көрсеткіш – сурет. Бұл өлшемдердің барлығы жанама, шулы және түсіндіруді қажет етеді. Жасанды интеллект (AI; үлкен деректер үлгілерінен үйренетін және мәтінді/суреттерді/сандарды шығаратын бағдарламалық қамтамасыз ету жүйелері) бұл интерпретацияны жылдамдатуы мүмкін, сонымен қатар оның қателерін еркін тілмен жасыра алады. Бұл құрылғы бүкіл модуль салынатын екі негізді қалайды: биомедициналық жұмыс процесінде AI нақты мәнді қай жерде жасайды және біз әрбір нәтижені қалай тексереміз.
Басынан абсолютті сызық сызайық: осы модуль бойы үйренетін әдістердің ешқайсысы білікті дәрігердің диагнозын, құзыретті инженердің мақұлдауын және расталған құрылғы процестерін алмастырмайды. Жасанды интеллект диагноз қоймайды. Жасанды интеллект көмекші болып табылады; Тез оқиды, тез қол қояды, үлгілерді ұстайды. Бірақ егер ісік жіберіп алса, құрылғы жалған дабыл берсе, доза қате есептелсе, жауапкершілік бағдарламалық жасақтамада емес, шешім қабылдаған дәрігер мен инженерде болады. Сіз бұл сөйлемді әр бөлімде әртүрлі пішінде көресіз, өйткені бұл пациенттің қауіпсіздігіне қатысты инженериядағы жалғыз шындық.
Жасанды интеллект биомедициналық жұмыс процесінде қай жерде құндылық жасайды?
Биомедициналық инженер немесе клиникалық технология тобының жұмыс аптасы шамамен үш жұмыс түріне бөлінеді: деректерді дайындау (сигналдарды тазалау, кескінді алдын ала өңдеу, кестені өңдеу, журналды шығару), интерпретация және талдау (анықтауды табу, жіктеу, болжамды модельдеу, тәуекелді бағалау) және байланыс және құжаттама (техникалық файл, валидация есебі, әдебиеттер жиынтығы, құрылғы нұсқаулығы). AI барлық үш салаға әсер етеді, бірақ оның үлесі мен тәуекелі әрқайсысында әртүрлі.
Деректерді дайындау жасанды интеллекттің ең қауіпсіз және ең тиімді саласы болып табылады. Шикі сигналдан шуды жою, кескіндерді стандартты өлшемге дейін масштабтау, еркін мәтінді клиникалық жазбаларды құрылымдық өрістерге аудару, сәйкес келмейтін бірліктерді туралау — бұл қайталанатын, ережеге негізделген және тексеруге оңай тапсырмалар. Бұл жерде қате болса да, көзге (шикі деректер) оралып, оны тексеруге бірнеше минут кетеді.
Түсіндіру және талдау саласы ең жоғары құндылықты және ең жоғары тәуекелді қамтиды. AI суреттегі күдікті аймақты белгілей алады, сигналдағы ықтимал аритмияны анықтай алады; бұл бос емес емханада назардан тыс қалуы мүмкін үлгіні анықтауы мүмкін. Бірақ дәл сол модель сенімді түрде жоқ тұжырым жасай алады (бұл құбылыс галлюцинация деп аталады: модель жоқ ақпаратты шынайы ретінде көрсетеді). Бұл салада AI шешім қабылдаушы емес, гипотеза мен басымдықты анықтау құралы болып табылады.
Байланыс пен құжаттамадағы AI жобасының үдеткіші. Валидация есебінің әдістер бөлімін, әдебиеттік қорытындыны немесе тәуекелді талдаудың бірінші жобасын минуттарда шығарады. Мұндағы қауіп – жасанды дереккөздер мен қате сандар ағынды мәтінге байқамай өтіп кетуі мүмкін.
Тексеру пәні: Үш якорь ережесі
Бұл модульдің жүрегі бір әдет болып табылады: оны растамай клиникалық немесе инженерлік шешімге AI нәтижесін қоспау. Біз тексеруді үш тәуелсіз якорьге негіздейміз.
Бірінші зәкір — Шаманың физиологиялық тәртібі. Нәтиже адам физиологиясының белгілі диапазонында ма? Тыныштықтағы жүрек соғу жиілігі әдетте минутына 50-100 соққы; Модель 400 мәнін берсе, артефакт немесе өңдеу қатесі бар. Ересектердің дене температурасы 36-38 ° C диапазонында; 45 °C физиологиялық тұрғыдан тірі заттармен үйлеспейді. Ересек адамның жалпы қан көлемі шамамен 5 литрді құрайды. Бұл тексеру секундқа созылады және көптеген қателерді анықтайды.
Екінші зәкір — Клиникалық орындылық. Нәтиже пациенттің клиникалық тарихы мен медициналық негіздемесіне сәйкес келе ме? Егер модель 25 жастағы асимптоматикалық емделуші үшін «жоғары сенімділік» кеңейтілген нәтижені ұсынса, алдын ала сынақ ықтималдығы төмен және бұл сигнал қосымша күдікпен қаралады. Жасы, жынысы, тарихы және симптомдары әр интерпретациядан өтуі керек болатын сенімділік сүзгісі болып табылады.
Үшінші якорь — Тәуелсіз дәлелдер. Бұл ең күшті тірек. Анықтамалық стандартты сынақ, екінші бейнелеу әдісі, зертханалық растау, сарапшының екінші қорытындысы. AI белгілеген қорытынды алтын стандартты әдіспен немесе сарапшының тәуелсіз бағалауымен сыналады. Клиникалық шындық әрқашан жеңеді.
Үш шағын корпус: сандар бойынша
1-жағдай — сигналды алдын ала өңдеудегі уақытты үнемдеу. Клиникалық инженер ғылыми зерттеу үшін 320 ЭКГ жазбасында артефакттарды қолмен сегменттеу және белгілеу болды; бір жазбаға орта есеппен 7 минут, барлығы шамамен 37 сағат. Жасанды интеллектпен жұмыс істейтін алдын ала өңдеу жұмыс үрдісімен ол бірінші нобайды белгілеуді бір жазбаға 40 секундқа дейін қысқартып, қалған уақытты визуалды тексеруге арнады. Жалпы уақыт шамамен 12 сағатқа дейін төмендеді; Ең бастысы, үнемделген уақыт тексеруге жұмсалды.
2-жағдай - Түсірілген галлюцинация. Биомедициналық инженер құрылғыны клиникалық бағалау есебі үшін әдебиеттік қысқаша ақпаратты сұрағанда, мәтінде «Йылмаз және т.б. 2019 98% сезімталдық туралы хабарлады» деген сөйлем бар. Мұндай мақала болған жоқ; модель нақты үлгіге еліктеу арқылы атрибуцияны ойлап тапты. Дереккөзді тексеру (DOI және журналды тексеру) есепке қол қойылғанға дейін қатені анықтады.
3-жағдай — Бірлік қатесі. Дозаны есептеу құралында модель препараттың концентрациясын мг/мл орнына мкг/мл-мен шатастырып, ұсынылған көлемді 1000 есеге ауыстырды. Маңызды тексерудің физиологиялық тәртібі — «ересек адамға 2 литр емес, 2 миллилитр беріледі» — қатені бірден анықтады. Бұл есептеу әлі де мақұлдау үшін фармацевт пен дәрігерге барды; AI тек аралық басқару құралы болды.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Осы науқастың деректеріне қарап, оның диагнозын айтыңыз.[деректер]
Күшті шақыру:
Сіздің рөліңіз: Сіз биомедициналық деректер талдаушысысыз (СІЗ ДИАГНОСТИЯ ҚОЙМАЙСЫЗ). ТЕК берілген деректерге негізделген келесі анонимді өлшемдерді қорытындылаңыз. - Диагноз қоймаңыз; Тек сандық нәтижелер мен қалыпты диапазонды салыстыру. - Деректерде жоқ ешқандай қорытындыларды, құндылықтарды немесе оқиғаларды қоспаңыз. - Әрбір бақылаудың жанындағы жақшамен негізделген деректер жолын көрсетіңіз. - Түсініксіз жерге «деректер жеткіліксіз» деп жазыңыз. - Соңында: дәрігер растауы керек 3 тармақтан тұратын жеке тізім жасаңыз. Анонимді деректер: [өлшемдер]
Күшті шақыру үлгіге үш нәрсені жүктейді: дереккөзді ұстану, диагностикалық өкілеттікті қабылдамау және тексеру үшін нәрселерді белгілеу. Бұл галлюцинацияны толығымен аяқтамайды, бірақ оны көрінетін етеді және рөлді дұрыс орналастырады.
Көшірілетін төрт үлгі
1) Анонимді контекст құру:
Мен биомедициналық миссияға көмек алғым келеді. Пациенттің аты-жөні, жеке басы, күні және мекеме туралы ақпарат ҚҰПИЯ; Мен оларға «Пациент-А», «Күн-0» сияқты репрезентативті өрнектермен беремін. Квест: [квест]. Мен берген анонимді техникалық деректерге сеніңіз.
2) Зәкірді растаудың үш сұрауы:
Келесі нәтиже үшін үш тексеру жасаңыз: 1) Шаманың физиологиялық тәртібі: әрбір сан адам ауқымында ма? Егер жоқ болса, белгілеңіз. 2) Клиникалық дәлелділік: жасына/анамнезіне/симптомына сәйкес келмейтін шағымдар бар ма?3) Тексеру тізімі: тәуелсіз тестілеу/сарапшы арқылы расталатын элементтер. Шығару: [мәтін]
3) түсініксіздікті күшейту:
Түсіндірмеңізді сенімділіктің үш деңгейінде беріңіз:- Жоғары сенімділік (тікелей деректермен қамтамасыз етілген)- Орташа сенімділік (ақылға қонымды қорытынды)- Алыпсатарлық (қосымша деректер/тестілеу қажет) Тапсырма: [тапсырма]. Деректер: [анонимді деректер]
4) Шешім/қолдау айырмашылығы:
Келесі тапсырманы екіге бөліңіз:A) Жасанды интеллект сенімді түрде орындай алатын деректер/жоба жұмысыB) Уәкілетті дәрігер/инженер мақұлдау МІНДЕТТІ болатын шешім нүктелері Тапсырма сипаттамасы: [анықтама]
AI рөлі: Миссия түрі бойынша тәуекел
Тапсырма түрі
AI үлесі
Тәуекел деңгейі
Тексеру тығыздығы
Сигнал/бейне алдын ала өңдеу
жоғары
төмен
жерді тексеру
Алдын ала таңбалауды табу
жоғары
орташа
Сарапшы + парасаттылық
Болжау/тәуекелді бағалау
орташа
жоғары
Калибрлеу + тәуелсіз
Диагностика/емдеу туралы шешім
шектелген
өте жоғары
Толық дәрігердің рұқсаты
Баяндама/әдебиет жобасы
жоғары
орташа
дереккөзді растау
Құрылғы қауіпсіздігі туралы шешім
шектелген
өте жоғары
Стандартты + V&V + мақұлдау
Кеңес: Тапсырманың қауіп деңгейін анықтау үшін бір сұрақ қойыңыз: «Егер бұл нәтиже дұрыс болмаса, науқасқа не болады?» Егер жауап «Мен бірнеше минут жоғалтамын» болса, жеңіл түрде тексеріңіз; Егер «науқасқа зиян тигізуі мүмкін болса», нәтижені гипотеза ретінде қарастырыңыз және оны толық клиникалық/инженерлік процестен өткізіңіз.
Назар аударыңыз: Жасанды интеллекттің ең қауіпті қасиеті – оның қателесуінде емес, сенімді түрде және медициналық тілде қателесуінде. Еркін, техникалық және кәсіби мәтін оның дұрыс екенін білдірмейді. Стильге емес, дәлелдерге сеніңіз.
Жалпы қателер
- Еркін сөйлеуді дәлдікпен қателесу. Мәтін қаншалықты медициналық көрінсе де, фактілік мәлімдемелер (мән, табу, дерек көзі, доза) тәуелсіз тексерілуі керек.
- Тапсырма түрі бойынша тәуекелді масштабтамаңыз. Доза тіркелгісін электрондық пошта жобасы сияқты қарау. Валидация пациентке ықтимал зиян бойынша масштабталады.
- Емделуші деректерін ойланбастан енгізу. Денсаулық туралы деректер арнайы жеке деректер болып табылады; бақыланбайтын көлікке кірер алдында анонимді болыңыз.
- AI диагностикалық өкілеттігін беру. AI диагноз қоймайды; гипотезаларды тудырады. Диагностика және емдеу туралы шешім дәрігерге тиесілі.
- Белгісіздікті елемеу. Модельдің «сенімді» көрінуі белгісіздік жойылады дегенді білдірмейді; Сенімділік деңгейі мен ауқымын сұраңыз.
Қысқаша айтқанда
- Биомедициналық өлшемдер жанама және шулы; Жасанды интеллект оларды тездетіп, қателерін жасыра алады.
- Жасанды интеллект деректерді дайындаудағы ең қауіпсіз және ең тиімдісі, интерпретация/талдаудағы ең құнды, бірақ ең қауіптісі және құжаттамадағы үдеткіш болып табылады.
- Әрбір нәтиже үш зәкірмен расталады: шаманың физиологиялық тәртібі, клиникалық орындылық, тәуелсіз дәлелдер.
- Нәтиженің қаупі, егер ол дұрыс болмаса, науқасқа келтіретін зиянға тең; сәйкесінше валидация шкалалары.
- AI диагноз қоймайды; Пациенттің қауіпсіздігіне қатысты әрбір шешім уәкілетті дәрігер мен инженердің рұқсатымен қабылданады.
Қолданбалы тапсырма
Өзіңіздің жұмысыңыздан бір апта ішінде орындайтын бес биомедициналық тапсырманы тізімдеңіз (мысалы, сигналдарды тазарту, алдын ала ұшуды табу, есеп бөлімі, қауіп аннотациясы, құрылғыны сынау). Әрқайсысын осы бөлімшедегі кестеге сәйкес тәуекел деңгейіне қойып, «егер ол дұрыс емес болса, науқасқа не болады?» Деп сұраңыз. Сұраққа бір сөйлеммен жауап беріңіз. Содан кейін тәуекелі ең төмен тапсырмаға күшті, анонимді сұрау жазып, оны қолданып көріңіз; Шығуды үш якорь арқылы тексеріңіз және қандай якорь ақаулыққа ұшырағанын ескеріңіз.
бақылау парағы
- [ ] Мен биомедициналық жұмыс процесінде жасанды интеллект қай жерде қауіпсіз және қай жерде қауіпті мән беретінін ажырата аламын.
- [ ] Мен әрбір нәтижені физиологиялық шамамен, клиникалық дәлелділікпен және тәуелсіз дәлелдермен тексеру үшін рефлекске ие болдым.
- [ ] Тапсырманың қауіп деңгейі "егер ол дұрыс емес болса, науқасқа не болады?" сұрақ арқылы анықтай аламын.
- [ ] Мен галлюцинация мен белгісіздіктің не екенін және оларды қалай көрінетінін білемін.
- [ ] Мен жасанды интеллект диагноз қоймайтынын және диагноз/емдеу шешімін дәрігер шешеді деп түсіндім.