Daromadlar:
- Sun'iy intellekt biomedikal ish jarayonida xavfsiz qiymatni qayerda ishlab chiqarishini va qaysi qarorlar shifokor va vakolatli muhandisning mas'uliyati bo'lib qolishi mumkinligini ajrata olish.
- Har bir AI chiqishini fiziologik kattalik, klinik ishonchlilik va mustaqil dalillar bilan o'zaro tasdiqlaydigan intizomni qo'llash qobiliyati
- Gallyutsinatsiya, ma'lumotlarning sizib chiqishi va bemor xavfsizligi xavfini tan oling va kontekstni anonimlashtirish orqali xavfsiz ko'rsatmalarni o'rnatish odatini rivojlantiring.
Biotibbiyot muhandisligi - bu inson tanasining murakkabligi va muhandislikning aniqlikka intilishi kesishadigan kasb. EKG signali - yurakning elektr soyasi, MRI tasviri - to'qimalarning magnit aks sadosi, laboratoriya qiymati - oniy tasvir. Bu o'lchovlarning barchasi bilvosita, shovqinli va talqin qilishni talab qiladi. Sun'iy intellekt (AI; katta ma'lumotlar namunalaridan o'rganadigan va matn/tasvir/raqamlar ishlab chiqaradigan dasturiy ta'minot tizimlari) bu talqinni tezlashtirishi mumkin, ammo ravon til bilan xatolarini yashirishi mumkin. Ushbu birlik butun modul quriladigan ikkita poydevorni qo'yadi: biotibbiy ish jarayonida AI haqiqiy qiymatni qaerdan ishlab chiqaradi va biz har bir chiqishni qanday tekshiramiz.
Keling, boshidan mutlaq chiziq chizamiz: ushbu modul davomida siz o'rganadigan usullarning hech biri malakali shifokor tashxisini, malakali muhandisning roziligini va tasdiqlangan qurilma jarayonlarini almashtirmaydi. Sun'iy intellekt tashxis qo'ymaydi. Sun'iy intellekt - bu yordamchi; Tez o'qiydi, tez ishora qiladi, naqshlarni ushlaydi. Ammo agar o'simta o'tkazib yuborilsa, qurilma noto'g'ri signal beradi, doza noto'g'ri hisoblansa, javobgarlik dasturiy ta'minotda emas, balki qaror qabul qilgan shifokor va muhandisda bo'ladi. Siz ushbu jumlani har bir birlikda turli shakllarda ko'rasiz, chunki bu muhandislikdagi bemorlarning xavfsizligiga taalluqli yagona haqiqatdir.
Sun'iy intellekt biotibbiyot jarayonida qayerda qiymat yaratadi?
Biotibbiyot muhandisi yoki klinik texnologiya guruhining haftaligi taxminan uch ish turiga bo'linadi: ma'lumotlarni tayyorlash (signallarni tozalash, tasvirni oldindan qayta ishlash, jadvalni tahrirlash, jurnalni chiqarish), sharhlash va tahlil qilish (aniqlash, tasniflash, bashoratli modellashtirish, xavfni baholash) va aloqa va hujjatlar (texnik fayl, tekshirish hisoboti, adabiyotlar xulosasi, qurilma qo'llanmasi). AI barcha uch sohaga ta'sir qiladi, ammo uning hissasi va xavfi har birida har xil.
Ma'lumotlarni tayyorlash - sun'iy intellektning eng xavfsiz va eng daromadli sohasi. Xom signaldan shovqinni olib tashlash, tasvirlarni standart o'lchamga o'lchash, erkin matnli klinik eslatmalarni tuzilgan maydonlarga tarjima qilish, nomuvofiq birliklarni tekislash - bular takrorlanadigan, qoidalarga asoslangan va tekshirish oson bo'lgan vazifalardir. Bu erda xatolik bo'lsa ham, manbaga (xom ma'lumotlar) qaytish va uni tekshirish uchun bir necha daqiqa kerak bo'ladi.
Sharhlash va tahlil qilish sohasi eng yuqori qiymat va eng yuqori xavfni o'z ichiga oladi. AI tasvirdagi shubhali joyni belgilashi, signaldagi mumkin bo'lgan aritmiyani aniqlashi mumkin; bu band bo'lgan klinikada e'tibordan chetda qolishi mumkin bo'lgan naqshni ko'rsatishi mumkin. Ammo xuddi shu model ishonch bilan mavjud bo'lmagan topilmani keltirib chiqarishi mumkin (bu hodisa gallyutsinatsiya deb ataladi: model mavjud bo'lmagan ma'lumotni haqiqiy sifatida taqdim etadi). Ushbu sohada AI qaror qabul qiluvchi emas, balki gipoteza va ustuvorlik vositasidir.
Aloqa va hujjatlarda AI qoralama tezlatgichi. Tasdiqlash hisobotining usullar bo'limi, adabiyotlar xulosasi yoki xavf tahlilining birinchi loyihasini bir necha daqiqada ishlab chiqaradi. Bu erda xavf shundaki, uydirma manbalar va noto'g'ri raqamlar e'tiborga olinmasdan oqimli matnga tushishi mumkin.
Tasdiqlash intizomi: Uch langar qoidasi
Ushbu modulning yuragi bitta odatdir: AI natijasini tasdiqlamasdan klinik yoki muhandislik qaroriga kiritmaslik. Biz tasdiqlashni uchta mustaqil langarga asoslaymiz.
Birinchi langar - Kattalikning fiziologik tartibi. Natija inson fiziologiyasining ma'lum doirasiga kiradimi? Dam olish paytida yurak urish tezligi odatda daqiqada 50-100 marta; Agar model 400 ni bersa, artefakt yoki tahrirlash xatosi mavjud. Katta yoshdagi tana harorati 36-38 ° C oralig'ida; 45 °C fiziologik jihatdan tirik mavjudotlarga mos kelmaydi. Katta yoshli odamning umumiy qon hajmi taxminan 5 litrni tashkil qiladi. Bu tekshirish soniyalar davom etadi va ko'p xatolarni aniqlaydi.
Ikkinchi langar - Klinik ishonchlilik. Natija bemorning klinik tarixi va tibbiy asoslariga mos keladimi? Agar model 25 yoshli asemptomatik bemor uchun "yuqori ishonch" ilg'or topilmani taklif qilsa, testdan oldingi ehtimollik past bo'ladi va bu signalga qo'shimcha shubha bilan qaraladi. Yoshi, jinsi, tarixi va alomatlari har bir talqindan o'tishi kerak bo'lgan ishonchlilik filtridir.
Uchinchi langar - Mustaqil dalillar. Bu eng kuchli langar. Ma'lumotnoma standart sinovi, ikkinchi tasvirlash usuli, laboratoriya tasdiqlashi, ekspertning ikkinchi fikri. AI tomonidan belgilangan topilma oltin standart usul yoki ekspert tomonidan mustaqil baholash bilan sinovdan o'tkaziladi. Klinik haqiqat har doim g'alaba qozonadi.
Uchta mini holat: raqamlar bo'yicha
1-holat - Signalni oldindan qayta ishlashda vaqtni tejash. Klinik muhandis tadqiqot uchun 320 ta EKG yozuvlarida artefaktlarni qo'lda segmentlarga bo'lib, belgilab qo'ygan; Har bir yozuv uchun o'rtacha 7 daqiqa, jami taxminan 37 soat. Sun'iy intellekt yordamida ishlaydigan dastlabki ishlov berish jarayoni bilan u birinchi qoralama belgilashni har bir yozuv uchun 40 soniyagacha qisqartirdi va qolgan vaqtni vizual tekshirishga bag'ishladi. Umumiy vaqt taxminan 12 soatga kamaydi; muhimi shundaki, tejalgan vaqt tekshirishga sarflangan.
2-holat - olingan gallyutsinatsiya. Biotibbiyot muhandisi qurilmaning klinik baholash hisoboti uchun adabiyotlar xulosasini so‘raganda, matnda “Yilmaz va boshq. 2019 98% sezuvchanlik haqida xabar berdi” jumlasi kiritilgan. Bunday maqola yo'q edi; model haqiqiy naqshga taqlid qilib, atributni o'ylab topdi. Manbani tekshirish (DOI va jurnal tekshiruvi) hisobot imzolanishidan oldin xatoni aniqladi.
3-holat - birlik xatosi. Dozani hisoblash yordamida model dori kontsentratsiyasini mg/ml o'rniga mkg/ml bilan chalkashtirib, tavsiya etilgan hajmni 1000 barobarga o'zgartirdi. Kattalikni tekshirishning fiziologik tartibi - "katta odamga 2 litr emas, balki 2 millilitr beriladi" - xatoni darhol aniqladi. Bu hisob-kitob hali ham tasdiqlash uchun farmatsevt va shifokorga bordi; AI shunchaki oraliq boshqaruv vositasi edi.
Zaif taklif / Kuchli taklif
Zaif taklif:
Bu bemorning maʼlumotlariga qarang va uning tashxisini ayting.[maʼlumotlar]
Kuchli so'rov:
Sizning rolingiz: Siz biotibbiyot bo'yicha ma'lumotlar tahlilchisisiz (SIZ tashhis qo'ymaysiz). FAQAT taqdim etilgan ma'lumotlar asosida quyidagi anonim o'lchovlarni umumlashtiring. - tashxis qo'ymang; Faqat raqamli topilmalar va normal diapazonni taqqoslang. - Ma'lumotlarda bo'lmagan topilmalar, qadriyatlar yoki hikoyalarni qo'shmang. - Har bir kuzatuv yonidagi qavslar bilan asoslanayotgan ma'lumotlar qatorini ko'rsating. - Noaniq joyga "ma'lumotlar etarli emas" deb yozing. - Oxirida: shifokor tasdiqlashi kerak bo'lgan 3 ta nuqtadan iborat alohida ro'yxat tuzing. Anonim ma'lumotlar: [o'lchovlar]
Kuchli so'rov modelga uchta narsani yuklaydi: manbaga yopishib olish, diagnostika vakolatini o'z zimmasiga olmaslik va tekshirish uchun narsalarni belgilash. Bu gallyutsinatsiyani to'liq tugatmaydi, lekin uni ko'rinadigan qiladi va rolni to'g'ri joylashtiradi.
To'rt nusxa ko'chirish shablonlari
1) Anonim kontekstni o'rnatish:
Men biomedikal missiyada yordam so‘rayman. Bemorning ismi, shaxsi, sanasi va muassasa ma'lumotlari MAXFIY; Men ularga "Bemor-A", "Kun-0" kabi ifodalovchi iboralar bilan beraman. Kvest: [kvest]. Men taqdim etgan anonim texnik ma'lumotlarga ishoning.
2) Ankrajni tekshirish uchun uchta so'rov:
Quyidagi natijalar uchun uchta tekshiruvni o'tkazing: 1) Kattalikning fiziologik tartibi: har bir raqam inson doirasiga kiradimi? Agar yo'q bo'lsa, belgilang. 2) Klinik asoslilik: yoshga/tarixga/alomatga mos kelmaydigan da'volar bormi?3) Tekshirish ro'yxati: mustaqil test/ekspert tomonidan tasdiqlanishi kerak bo'lgan narsalar. Natija: [matn]
3) noaniqlikni amalga oshirish:
Sharhingizni uchta ishonch darajasida bering: - Yuqori ishonch (to'g'ridan-to'g'ri ma'lumotlar bilan qo'llab-quvvatlanadi) - O'rtacha ishonch (oqilona xulosa) - Spekulyativ (qo'shimcha ma'lumotlar/test talab qilinadi) Vazifa: [vazifa]. Ma'lumotlar: [anonim ma'lumotlar]
4) Qaror/qo‘llab-quvvatlash farqi:
Quyidagi vazifani ikkiga bo'ling:A) AI ishonch bilan bajarishi mumkin bo'lgan ma'lumotlar/qoralama ishiB) Vakolatli shifokor/muhandis tomonidan ma'qullangan qaror nuqtalari Vazifa tavsifi: [ta'rif]
AIning roli: Missiya turi bo'yicha xavf
Vazifa turi
AI hissasi
Xavf darajasi
Tasdiqlash zichligi
Signal/tasvirni oldindan qayta ishlash
yuqori
past
joyni tekshirish
Dastlabki belgilarni topish
yuqori
o'rta
Mutaxassis + oqilona
Prognoz/xavfni baholash
o'rta
yuqori
Kalibrlash + mustaqil
Tashxis / davolash qarori
cheklangan
juda yuqori
To'liq shifokor roziligi
Hisobot/adabiyot loyihasi
yuqori
o'rta
manbani tasdiqlash
Qurilma xavfsizligi qarori
cheklangan
juda yuqori
Standart + V&V + tasdiqlash
Maslahat: Vazifaning xavf darajasini aniqlash uchun bitta savol bering: "Agar bu natija noto'g'ri bo'lsa, bemorga nima bo'ladi?" Agar javob "Men bir necha daqiqa yo'qotaman" bo'lsa, engil tasdiqlang; Agar "bemorga zarar yetkazilishi mumkin" bo'lsa, natijani gipoteza sifatida ko'rib chiqing va uni to'liq klinik/muhandislik jarayonidan o'tkazing.
Diqqat: Sun'iy intellektning eng xavfli xususiyati xato qilishida emas, balki ishonch bilan va tibbiy tilda xatoga yo'l qo'yishidadir. Ravon, texnik va professional matn uning to'g'ri ekanligini anglatmaydi. Uslubga emas, dalillarga ishoning.
Umumiy xatolar
- Ravonlikni aniqlik bilan adashtirish. Matn qanchalik tibbiy ko'rinishidan qat'i nazar, faktik da'volar (qiymat, topilma, manba, doza) mustaqil ravishda tekshirilishi kerak.
- Vazifa turi bo'yicha xavfni ko'paytirmaslik. Elektron pochta loyihasi bilan bir xil tarzda doza hisobiga qarash. Tasdiqlash bemorga mumkin bo'lgan zararni hisobga olgan holda amalga oshiriladi.
- Bemor ma'lumotlarini o'ylamasdan kiritish. Sog'liqni saqlash ma'lumotlari - maxsus shaxsiy ma'lumotlar; nazoratsiz transport vositasiga kirishdan oldin anonimlashtiring.
- AI diagnostikasi vakolatini berish. AI tashxis qo'ymaydi; gipotezalarni hosil qiladi. Tashxis va davolash qarorlari shifokorga tegishli.
- Noaniqlikka e'tibor bermaslik. Modelning "ishonchli" ko'rinishi noaniqlik yo'qoladi degani emas; Ishonch darajasi va diapazonini so'rang.
Xulosa
- Biomedikal o'lchovlar bilvosita va shovqinli; Sun'iy intellekt ularni tezlashtirishi va xatolarini yashirishi mumkin.
- Sun'iy intellekt ma'lumotlarni tayyorlashda eng xavfsiz va eng foydali, izohlash/tahlil qilishda eng qimmatli, ammo eng xavfli va hujjatlarda tezlatuvchi hisoblanadi.
- Har bir natija uchta langar bilan tasdiqlangan: kattalikning fiziologik tartibi, klinik ishonchlilik, mustaqil dalillar.
- Natija xavfi, agar u noto'g'ri bo'lsa, bemorga yetkazadigan zararga teng; mos ravishda tasdiqlash shkalasi.
- AI tashxis qo'ymaydi; Bemor xavfsizligiga oid har bir qaror vakolatli shifokor va muhandisning roziligi bilan qabul qilinadi.
Ilova vazifasi
O'zingizning ishingiz bo'yicha bir haftada bajaradigan beshta biotibbiyot vazifasini sanab o'ting (masalan, signalni tozalash, parvozdan oldin topish, hisobot bo'limi, xavf izohi, qurilma sinovi). Har birini ushbu bo'limdagi jadvalga muvofiq xavf darajasiga qo'ying va "agar bu noto'g'ri bo'lsa, bemorga nima bo'ladi?" Deb so'rang. Savolga bitta jumla bilan javob bering. Keyin eng past xavfli vazifaga kuchli, anonim taklif yozing va uni sinab ko'ring; Chiqishni uchta langar bilan tekshiring va qaysi langar muammoga duch kelganiga e'tibor bering.
nazorat ro'yxati
- [ ] Men sun'iy intellekt qayerda xavfsiz va biomedikal ish jarayonida xavfli qiymatni ishlab chiqarishini ajrata olaman.
- [ ] Men har bir natijani fiziologik kattalik, klinik ishonchlilik va mustaqil dalillar bilan tekshirish uchun refleksga ega bo'ldim.
- [ ] Vazifaning xavf darajasi "agar u noto'g'ri bo'lsa, bemorga nima bo'ladi?" Men savol bilan aniqlay olaman.
- [ ] Men gallyutsinatsiya va noaniqlik nima ekanligini va ularni qanday qilib ko'rinadigan qilish kerakligini bilaman.
- [ ] Men sun'iy intellekt tashxis qo'ymasligini va tashxis/davolash qarori shifokorga bog'liqligini o'zlashtirdim.