Ieguvumi:
- Spēja atšķirt, kur mākslīgais intelekts rada drošu vērtību biomedicīnas darbplūsmā un kuri lēmumi paliek ārsta un pilnvarotā inženiera ziņā.
- Spēja pielietot disciplīnu, kas savstarpēji apstiprina katru AI izvadi ar fizioloģisko lieluma secību, klīnisko ticamību un neatkarīgiem pierādījumiem
- Atzīstiet halucināciju, datu noplūdes un pacientu drošības riskus un attīstiet ieradumu izveidot drošus uzvednes, anonimizējot kontekstu.
Biomedicīnas inženierija ir profesija, kurā krustojas cilvēka ķermeņa sarežģītība un inženierijas tiekšanās pēc precizitātes. EKG signāls ir sirds elektriskā ēna, MRI attēls ir audu magnētiskā atbalss, laboratorijas vērtība ir momentuzņēmums. Visi šie mērījumi ir netieši, trokšņaini un prasa interpretāciju. Mākslīgais intelekts (AI; programmatūras sistēmas, kas mācās no lieliem datu modeļiem un rada tekstu/attēlus/skaitļus) var paātrināt šo interpretāciju, taču var arī slēpt savas kļūdas, izmantojot tekošu valodu. Šī vienība veido divus pamatus, uz kuriem tiks veidots viss modulis: kur biomedicīnas darbplūsmā AI rada reālu vērtību un kā mēs apstiprinām katru rezultātu.
No sākuma novilksim absolūtu līniju: neviena no metodēm, ko apgūsit šajā modulī, neaizstās kvalificēta ārsta diagnozi, kompetenta inženiera apstiprinājumu un apstiprinātos ierīču procesus. Mākslīgais intelekts nenosaka diagnozi. Mākslīgais intelekts ir palīgs; Ātri lasa, ātri parakstās, tver rakstus. Bet, ja audzējs tiek palaists garām, ierīce dod viltus trauksmi, tiek nepareizi aprēķināta deva, atbildība gulstas nevis uz programmatūru, bet gan uz ārstu un inženieri, kas pieņēma lēmumu. Jūs redzēsiet šo teikumu dažādās formās katrā nodaļā, jo tā ir vienīgā patiesība inženierzinātnēs, kas attiecas uz pacientu drošību.
Kur mākslīgais intelekts rada vērtību biomedicīnas darbplūsmā?
Biomedicīnas inženiera vai klīnisko tehnoloģiju komandas nedēļa ir aptuveni sadalīta trīs darba veidos: datu sagatavošana (signālu tīrīšana, attēlu pirmapstrāde, tabulas rediģēšana, žurnālu iegūšana), interpretācija un analīze (atklāšana, klasifikācija, paredzamā modelēšana, riska vērtēšana) un komunikācija un dokumentācija (tehniskais fails, validācijas ziņojums, literatūras kopsavilkums, ierīces rokasgrāmata). AI skar visas trīs jomas, taču tā ieguldījums un risks katrā ir atšķirīgs.
Datu sagatavošana ir visdrošākā un ienesīgākā mākslīgā intelekta joma. Trokšņu noņemšana no neapstrādāta signāla, attēlu mērogošana līdz standarta izmēram, brīvā teksta klīnisko piezīmju pārvēršana strukturētos laukos, nekonsekventu vienību izlīdzināšana — tie ir uzdevumi, kas atkārtojas, ir balstīti uz noteikumiem un ir viegli pārbaudāmi. Pat ja šeit ir kļūda, būs nepieciešamas minūtes, lai atgrieztos pie avota (neapstrādāti dati) un pārbaudītu to.
Interpretācijas un analīzes jomai ir visaugstākā vērtība un vislielākais risks. AI var iezīmēt attēlā aizdomīgu apgabalu, noteikt signālā iespējamu aritmiju; tas var atklāt modeli, ko var neievērot aizņemtā klīnikā. Bet tas pats modelis var droši radīt neesošu atradumu (šo parādību sauc par halucinācijām: modelis neesošu informāciju parāda kā reālu). Šajā jomā AI ir hipotēzes un prioritāšu noteikšanas rīks, nevis lēmumu pieņēmējs.
AI melnrakstu paātrinātājs komunikācijā un dokumentācijā. Minūtēs sagatavo validācijas ziņojuma metožu sadaļu, literatūras kopsavilkumu vai riska analīzes pirmo melnrakstu. Šeit pastāv risks, ka izdomāti avoti un nepareizi skaitļi var ieslīdēt plūstošā tekstā, nepamanīti.
Validācijas disciplīna: Trīs enkuru noteikums
Šī moduļa būtība ir viens ieradums: klīniskajā vai inženiertehniskajā lēmumā neiekļaut nekādu AI izvadi, to neapstiprinot. Mēs pamatojam validāciju uz trim neatkarīgiem enkuriem.
Pirmais enkurs — fizioloģiskā lieluma secība. Vai rezultāts ir cilvēka fizioloģijas zināmajā diapazonā? Sirdsdarbības ātrums miera stāvoklī parasti ir 50-100 sitieni minūtē; Ja modelis dod 400, ir vai nu artefakts, vai rediģēšanas kļūda. Pieaugušā ķermeņa temperatūra ir 36-38 °C diapazonā; 45 °C ir fizioloģiski nesaderīgs ar dzīvām būtnēm. Pieauguša cilvēka kopējais asins tilpums ir aptuveni 5 litri. Šī pārbaude aizņem sekundes un konstatē lielāko daļu kļūdu.
Otrais enkurs — klīniskā ticamība. Vai rezultāts atbilst pacienta klīniskajai vēsturei un medicīniskajam pamatojumam? Ja modelis 25 gadus vecam asimptomātiskam pacientam norāda uz “augstu pārliecību”, pirmspārbaudes varbūtība ir zema un šis signāls tiek skatīts ar īpašām aizdomām. Vecums, dzimums, vēsture un simptomi ir ticamības filtrs, kas jāiztur katrai interpretācijai.
Trešais enkurs — neatkarīgi pierādījumi. Šis ir spēcīgākais enkurs. Atsauces standarta tests, otrā attēlveidošanas metode, laboratorijas apstiprinājums, eksperta otrais atzinums. Ar AI atzīmēto atradumu pārbauda saskaņā ar zelta standarta metodi vai neatkarīgu eksperta novērtējumu. Klīniskā patiesība vienmēr uzvar.
Trīs mini futrāļi: pēc skaitļiem
1. gadījums — laika ietaupījums signāla priekšapstrādē. Klīniskais inženieris pētnieciskā pētījuma vajadzībām manuāli segmentēja un atzīmēja artefaktus 320 EKG ierakstos; vidēji 7 minūtes vienam ierakstam, kopā aptuveni 37 stundas. Ar mākslīgā intelekta darbināmu priekšapstrādes darbplūsmu tas samazināja pirmā uzmetuma marķējumu līdz 40 sekundēm vienam ierakstam, atlikušo laiku veltot vizuālai pārbaudei. Kopējais laiks samazinājās līdz aptuveni 12 stundām; svarīgi bija tas, ka ietaupītais laiks tika iztērēts pārbaudei.
2. gadījums — fiksētas halucinācijas. Kad biomedicīnas inženieris pieprasīja literatūras kopsavilkumu ierīces klīniskā novērtējuma ziņojumam, tekstā bija teikums "Yilmaz et al. 2019 ziņoja par 98% jutīgumu." Tāda raksta nebija; modelis bija safabricējis attiecinājumu, atdarinot īstu rakstu. Avota verifikācija (DOI un žurnāla pārbaude) konstatēja kļūdu pirms ziņojuma parakstīšanas.
3. gadījums — vienības kļūda. Devas aprēķināšanas palīgā modelis novirzīja ieteicamo tilpumu 1000 reižu, sajaucot zāļu koncentrāciju ar µg/mL, nevis mg/mL. Fizioloģiskās kārtas pārbaude — “pieaugušam cilvēkam tiek doti 2 mililitri, nevis 2 litri” — uzreiz atklāja kļūdu. Šis aprēķins joprojām tika apstiprināts farmaceitam un ārstam; AI bija tikai starpposma kontroles rīks.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Apskatiet šī pacienta datus un norādiet viņa diagnozi.[dati]
Spēcīga uzvedne:
Jūsu loma: Jūs esat biomedicīnas datu analītiķis (JUMS DIAGNOZĒT NEIZPILDĪT). Apkopojiet šādus anonīmos mērījumus, pamatojoties TIKAI uz sniegtajiem datiem. - Neveiciet diagnozi; Sniedziet tikai skaitliskus rezultātus un normālā diapazona salīdzinājumu. - Nepievienojiet nekādus atradumus, vērtības vai stāstus, kas nav datos. - Parādiet datu rindu, uz kuras balstītaties, ar iekavām blakus katram novērojumam. - Neskaidrajā vietā ierakstiet "dati nepietiekami". - Beigās: izveidojiet atsevišķu sarakstu ar 3 punktiem, kas ārstam jāapstiprina. Anonīmi dati: [mērījumi]
Spēcīgā uzvedne modelim uzliek trīs lietas: pieturēšanos pie avota, neuzņemšanos diagnostikas autoritātē un pārbaudāmo lietu atzīmēšanu. Tas pilnībā neizbeidz halucinācijas, bet padara to redzamu un pareizi novieto lomu.
Četras kopējamas veidnes
1) Anonimizēta konteksta izveide:
Es vēlētos saņemt palīdzību biomedicīnas misijā. Pacienta vārds, identitāte, datums un iestādes informācija ir KONFIDENCIĀLI; Es tos došu ar reprezentatīviem izteicieniem, piemēram, "Pacients-A", "Day-0". Quest: [quest]. Vienkārši paļaujieties uz manis sniegtajiem anonīmajiem tehniskajiem datiem.
2) Trīs enkura verifikācijas pieprasījumi:
Trīs reizes pārbaudiet šādu rezultātu: 1) Fizioloģiskā lieluma secība: vai katrs skaitlis ir cilvēka diapazonā? Ja nē, atzīmējiet.2) Klīniskā ticamība: vai ir apgalvojumi, kas neatbilst vecumam/vēsturei/simptomam?3) Pārbaudes saraksts: vienumi, kas jāapstiprina neatkarīgai pārbaudei/ekspertam.Izvade: [teksts]
3) Neskaidrības nodrošināšana:
Sniedziet savu interpretāciju trīs ticamības līmeņos: - Augsta ticamība (tieši atbalstīta ar datiem) - Vidēja ticamība (saprātīgs secinājums) - Spekulatīvs (nepieciešami papildu dati/testēšana) Uzdevums: [uzdevums]. Dati: [anonīmi dati]
4) Lēmuma/atbalsta atšķirība:
Sadaliet šādu uzdevumu divās daļās: A) datu/uzmetuma darbs, ko mākslīgais intelekts var veikt ar pārliecību;B) lēmumu pieņemšanas punkti, kuriem pilnvarota ārsta/inženiera apstiprinājums ir OBLIGĀTIUzdevuma apraksts: [definīcija]
AI loma: risks pēc misijas veida
Uzdevuma veids
AI ieguldījums
Riska līmenis
Pārbaudes blīvums
Signāla/attēla pirmapstrāde
augsts
zems
pārbaude uz vietas
Iepriekšēja marķējuma atrašana
augsts
vidējs
Eksperts + saprātīgums
Prognozēšana/riska vērtēšana
vidējs
augsts
Kalibrēšana + neatkarīga
Lēmums par diagnozi/ārstēšanu
ierobežots
ļoti augsts
Pilnīga ārsta atļauja
Ziņojuma/literatūras melnraksts
augsts
vidējs
avota apstiprinājums
Lēmums par ierīces drošību
ierobežots
ļoti augsts
Standarta + V&V + apstiprinājums
Padoms. Lai noteiktu uzdevuma riska līmeni, uzdodiet vienu jautājumu: "Kas notiek ar pacientu, ja šī izvade ir nepareiza?" Ja atbilde ir "Es zaudēšu dažas minūtes", pārbaudiet viegli; Ja "pacientam var tikt nodarīts kaitējums", uzskatiet rezultātu kā hipotēzi un palaidiet to cauri visam klīniskajam/inženierijas procesam.
Uzmanību: Mākslīgā intelekta visbīstamākā iezīme ir nevis tā, ka tas kļūdās, bet gan tas, ka tas kļūdās pārliecinoši un medicīnas valodā. Raids, tehnisks un profesionāls teksts nenozīmē, ka tas ir pareizs. Uzticieties pierādījumiem, nevis stilam.
Biežas kļūdas
- Plūsmu sajauc ar precizitāti. Neatkarīgi no tā, cik medicīnisks teksts ir, faktu apgalvojumi (vērtība, atradums, avots, deva) ir neatkarīgi jāpārbauda.
- Riska mērogošana pēc uzdevuma veida. Skatoties uz devas kontu tāpat kā uz e-pasta melnrakstu. Validācija tiek mērogota, ņemot vērā iespējamo kaitējumu pacientam.
- Pacienta datu ievadīšana bez domāšanas. Veselības dati ir īpaši personas dati; anonimizēt pirms iekāpšanas nekontrolējamā transportlīdzeklī.
- AI diagnostikas pilnvaru piešķiršana. AI neveic diagnozi; ģenerē hipotēzes. Lēmumi par diagnozi un ārstēšanu ir ārsta ziņā.
- Nenoteiktības ignorēšana. Tas, ka modelis izskatās "pārliecināts", nenozīmē, ka pazūd nenoteiktība; Jautājiet par uzticamības līmeni un diapazonu.
Rezumējot
- Biomedicīnas mērījumi ir netieši un trokšņaini; Mākslīgais intelekts var gan paātrināt, gan slēpt viņu kļūdas.
- Mākslīgais intelekts ir drošākais un ienesīgākais datu sagatavošanā, visvērtīgākais, bet riskantākais interpretācijā/analīzē un paātrinātājs dokumentācijā.
- Katru iznākumu apstiprina trīs enkuri: fizioloģiska lieluma secība, klīniskā ticamība, neatkarīgi pierādījumi.
- Iznākuma risks ir vienāds ar kaitējumu, ko tas radīs pacientam, ja tas būs nepareizs; validācijas skalas.
- AI neveic diagnozi; Katrs lēmums par pacienta drošību tiek pieņemts ar pilnvarota ārsta un inženiera apstiprinājumu.
Lietojumprogrammas uzdevums
Uzskaitiet piecus biomedicīnas uzdevumus, ko veicat nedēļas laikā no sava darba (piemēram, signāla notīrīšana, pirmslidojuma atrašana, ziņojuma sadaļa, riska anotācija, ierīces pārbaude). Novietojiet katru riska līmenī saskaņā ar tabulu šajā nodaļā un jautājiet: "Kas notiek ar pacientu, ja tas ir nepareizi?" Atbildiet uz jautājumu vienā teikumā. Pēc tam uzrakstiet spēcīgu, anonimizētu uzvedni uz zemākā riska uzdevumu un izmēģiniet to; Pārbaudiet izvadi ar trim enkuriem un atzīmējiet, kurš enkurs radīja problēmu.
kontrolsaraksts
- [ ] Es varu atšķirt, kur mākslīgais intelekts rada drošu un kur riskantu vērtību biomedicīnas darbplūsmā.
- [ ] Esmu apguvis refleksu, lai pārbaudītu katru iznākumu ar fizioloģisko lielumu, klīnisko ticamību un neatkarīgiem pierādījumiem.
- [ ] Uzdevuma riska līmenis "kas notiek ar pacientu, ja tas noiet greizi?" Es varu noteikt ar jautājumu.
- [ ] Es zinu, kas ir halucinācijas un nenoteiktība un kā tās padarīt redzamas.
- [ ] Esmu internalizējis, ka mākslīgais intelekts nenosaka diagnozi un lēmumu par diagnozi/ārstēšanu pieņem ārsts.