Ieguvumi:
- Spēja atšķirt, kur mākslīgais intelekts ietaupa reālo laiku attēlveidošanas darbplūsmā (pirmsiegūšana, iegūšana, nolasīšana, ziņošana) un kur drošībai kritiski lēmumi (diagnoze, ziņojuma izdošana, paziņojums par kritisku konstatējumu) tiek atstāti radiologa ziņā atkarībā no uzdevuma riska līmeņa.
- Spēja piemērot disciplīnu, lai katru AI izvadi savienotu ar attēlu un klīnisko kontekstu, neatkarīga pārskatīšana un galīgā paraksta apstiprināšana
- DICOM attēlu un ziņojumu datu anonimizācija KVKK/privātuma ietvaros un ieradums izvēlēties drošu transportlīdzekli
Katru dienu radioloģijas nodaļā plūst simtiem attēlu. Vai krūškurvja rentgenogrammā redzamā ēna ir parasts asinsvads vai mazs mezgliņš; vai smadzeņu CT aiz pacienta galvassāpēm ir klusa asiņošana; vai mikrokalcifikācijas kopums mammogrammā ir labdabīgs vai pirmā agrīna vēža pazīme; Kontroles tomogrāfijā, vai mezgliņš tiešām ir pieaudzis, vai tas ir tikai mērīts citā plaknē. Daži no šiem jautājumiem atkārtojas un ir laikietilpīgi; Daži no tiem ir lēmumi, kas tieši noteiks cilvēka dzīvi un kuru kļūdas robežai jābūt tuvu nullei. Mākslīgais intelekts (saīsināti AI – datorsistēmas, kas spēj atpazīt modeļus attēlos, klasificēt tos, izmērīt un ģenerēt tekstu) iederas tieši šī attēla vidū: pareizi lietojot, tas virza steidzamo lietu uz priekšu, paātrina mērījumu, sastāda atskaiti un dod laiku pārdomām; Ja to lieto nepareizi, tas var pārsūtīt šķietami drošu, bet nepareizu izvadi uz pacienta ziņojumu vai radīt nepatiesu pārliecību.
Šī moduļa pirmā vienība nav programmatūras ievads. Tās mērķis ir precizēt, kur AI savā profesijā ievietot un kur to nelietot vispār. Tā kā radioloģija ir "drošībai kritiska" joma: katrs jūsu sagatavotais ziņojums ietekmē ārsta diagnostisko lēmumu, operācijas plānu, ķīmijterapijas devu, pacienta satraukuma nedēļas. No sākuma izklāstīsim pamatprincipu: Mākslīgais intelekts ir asistents, nevis radiologs. Diagnoze, ziņojuma izdošana (parakstīšana) un paziņojums par kritisko konstatējumu pieder kompetentajam ekspertam – ziņojošajam radiologam un ārstējošajam klīnicistam. Nepārbaudīta AI izvade ir neparakstīts ziņojums.
Attēlveidošanas darbplūsma un AI vieta
Lai izprastu radioloģijas biznesu, ir lietderīgi procesu sadalīt četros posmos. Pirmsekstrakcijas fāze: izmeklējuma pieprasījums, indikācijas (medicīniska iemesla dēļ, kam nepieciešama izmeklēšana) izvērtēšana, protokola izvēle, pacienta sagatavošana. Iegūšanas fāze: modalitātes pielietošana (attēlveidošanas metode — rentgens, CT/datortomogrāfija, MRI/magnētiskā rezonanse, ultraskaņa, mammogrāfija), devas un kvalitātes pielāgošana. Lasīšanas fāze: radiologs novērtē attēlu, mērījumus, salīdzinājumu ar iepriekšējiem izmeklējumiem. Ziņošanas posms: konstatējumu strukturēšana, secinājumu rakstīšana, ziņošana par kritisko konstatējumu un ziņojuma nosūtīšana klīnicistam. AI var pieskarties visiem četriem posmiem, taču ne katram ir vienāda autoritāte.
Ar “modalitāti” mēs domājam attēlveidošanas modalitāti. “Atrast” ir attēlā konstatēta neparasta vai pārsteidzoša situācija. "Triāža" nozīmē steidzamu lietu izvirzīšanu darba saraksta priekšgalā. “Kļūdaini negatīvs” trūkst konstatējuma, kas faktiski pastāv; Tas ir visbaidītākais kļūdu veids radioloģijā, jo tas klusi rada kaitējumu. AI var izveidot prioritātes signālu, karodziņu vai ziņojuma projektu auditam; Bet tikai radiologs izvērtē, vai tie atbilst pacienta klīniskajam stāvoklim, vēsturei un iepriekšējiem izmeklējumiem.
Šajā tabulā ir apkopota AI loma un riska līmenis pēc misijas:
Meklējumi
AI loma
Riska līmenis
Kas apstiprina
Darba slodzes novērtēšana, darba sarakstu plānošana
akselerators, plānotājs
zems
Vienības vadītājs
Protokols/devas ieteikums
Ieteikums, pārbaudīts
Zems-Vidējs
Tehniķis + radiologs
Uzrakstiet ziņojuma melnrakstu
skiču ģenerators
vidējs
radiologs
Automātiska mērīšana (mezgls, tilpums)
Kalkulators, pārbaudīts
vidējs
radiologs
Šķirošanas/prioritātes karogs
Prioritātes noteikšana, nevis pēdējais vārds
Vidēji augsts
Radiologs (joprojām lasa)
Bojājumu marķēšana (CAD)
Iepriekšējs skrīnings, otrā acs
augsts
Radiologs (norāda diagnozi)
Brīdinājums par kritisku atrašanu
atgādinājums, melnraksts
ļoti augsts
Radiologs (apstiprina + ziņo)
Diagnoze / gala ziņojums
nav noderīgi
ļoti augsts
Radiologs + klīnicists
Paturiet prātā vienu rindiņu šajā diagrammā: pieaugot riskam, mākslīgā intelekta loma samazinās, cilvēku piekrišana pieaug. AI nevar "atbrīvot" pētījumu nevienā pozīcijā.
Kāpēc verifikācija ir šī biznesa pamatā?
Šķiet, ka mākslīgais intelekts ir pārliecināts par tā sniegto rezultātu, taču tas var nebūt pārliecināts. Attēlu modeļi var nepamanīt atradumu (viltus negatīvs) vai atzīmēt neesošu atradumu (viltus pozitīvs). Savukārt tekstu ģenerējošie valodu modeļi var ziņojumam raitā teikumā pievienot konstatējumu, kas patiesībā nav attēlā, gluži it kā tas būtu patiess; to sauc par halucinācijām. Piemēram, teikums "labās virsnieru adenoma" var tikt iekļauts krūškurvja CT ziņojuma projektā, kas nekad nav apskatīts. Abiem slazdiem ir vienāda plūstamība; Vienīgais, kas atšķir pareizo no nepareizā, ir jūsu zināšanas un ieradums pārbaudīt.
Pārbaudes disciplīna sastāv no trim posmiem:
- Saite uz attēlu: katru atradumu AI karodziņiem un katru teikumu, ko tas ieraksta ziņojumā, saskaņojiet ar pašu attēlu. Pārskatā nevar iekļaut jebkuru izteiksmi, kurai attēlā nav ekvivalenta. Izmantojiet AI, lai piesaistītu uzmanību, nevis kā pierādījumu.
- Lasiet patstāvīgi / novērtējiet atkārtoti: noteikti izlasiet apgabalus, kas nav atzīmēti ar AI. Negatīvs mākslīgā intelekta rezultāts negarantē, ka nav nekādu atradumu; Nekad neizlaidiet savu sistemātisku pārbaudi.
- Klīniskais filtrs: pārbaudiet ar eksperta aci, vai rezultāts nav pretrunā pacienta vēsturei, indikācijai, iepriekšējiem izmeklējumiem un izmeklēšanas rezultātiem.
Uzmanību: AI sagatavota ziņojuma projekta parakstīšana, nesaskaņojot katru teikumu ar attēlu, ir tāda pati kā neparakstīta ziņojuma iesniegšana. Vienmērīga izvade nav pareiza.
Privātums: attēla dati ir privāti dati
Radioloģiskie attēli un ziņojumi ir īpaši personas dati, un tie ir aizsargāti saskaņā ar KVKK (personas datu aizsardzības likumu) Turcijā un GDPR Eiropā. Turklāt radioloģiskie dati satur identitāti divos atsevišķos slāņos: DICOM galvenē (tādi lauki kā pacienta vārds, identifikācijas numurs, dzimšanas datums, iestāde, izmeklēšanas datums attēla faila sākumā) un dažreiz ierakstīts teksts (pacienta informācija, kas iegūta no ultraskaņas vai skenera ekrāna un apstrādāta pikseļos). Ielādējot attēlu vai pārskatu tādā formā, kāds tas ir publiskajā AI rīkā, tiek atklāti abi slāņi. Noteikums ir vienkāršs: vispirms anonimizēt. Notīrīt DICOM galveni, maskas iegulto tekstu; Daloties stāstā, ierakstiet "62 gadus veca sieviete, zināma krūts vēža vēsture", nevis "Ayşe Yılmaz, protokols 2024-114523, krūts vēzis". Ja iespējams, izvēlieties korporatīvos rīkus, kuriem ir datu apstrādes līgums un neizmantojiet savus datus modeļu apmācībā.
trīs mini futrāļi
1. gadījums — droša lietošana. Radiologs aizņemtas maiņas laikā saskaras ar 40 smadzeņu CT skenēšanas darbu sarakstu. Triage AI izvirza divus testus kā "iespējamu akūtu asiņošanu". Radiologs vispirms nolasa šos divus, vienā konstatē patiešām lielu subdurālu asiņošanu un 6 minūšu laikā izsauc neiroķirurģiju; Viņš redz, ka otrs ir kustības artefakts, un novērš to. Viņš pilnībā izlasa atlikušos 38 pētījumus secībā. AI mainīja secību, nevis nolasīja; Kritiskais notikums ieguva minūtes.
2. gadījums — nepārbaudīta iegrimes lamatas. Cits radiologs ātri paraksta AI izveidoto ziņojuma projektu par krūškurvja CT. Uzmetumā ir teikums "2 cm adenoma labajā virsnieru dziedzerī"; tā kā šajā sadaļā nebija šādu bojājumu — modelis izraisīja halucinācijas. Šajā formā ziņojums nonāk klīnicistam, un pacients tiek ievietots nevajadzīgā endokrīno izmeklējumu ķēdē. Validācija tika izlaista, teikums nesakrita ar attēlu.
3. gadījums — konfidencialitātes pārkāpums. Tehniķis augšupielādē viņam interesantu ultraskaņas attēlu ar pacienta vārdu un uzvārdu publiskajā AI rīkā un jautā: "Kas tas varētu būt?" Attēls kopā ar pacienta ID tika nosūtīts uz ārēju serveri. Iestādi gaida KVKK pārskatīšana. Pareizais veids bija maskēt iegulto tekstu, notīrīt DICOM galveni un kopīgot tikai anonīmo attēlu.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Uzrakstiet šo krūškurvja CT ziņojumu: Ayşe Yılmaz, TC 123..., protokols 2024-114523, es domāju, ka plaušās ir kaut kas.
Šis pieprasījums ir nepareizs trīs aspektos: tiek dalīta identitātes informācija (KVKK pārkāpums), nav norādīti konstatējumi un modalitātes informācija, nav noteiktas lomas un robežas. AI aizpilda nepilnības ar minējumiem, un pastāv nepatiesu atradumu risks.
Spēcīga uzvedne:
Jūsu loma: PROJEKTA sagatavošanas asistents ziņojošajam radiologam. Neveiciet diagnozi, neuzskatiet, ka ziņojums ir pabeigts. Izveidojiet strukturētu PROGRAMMU, pamatojoties tikai uz manis sniegtajiem atklājumiem; attēlam neatbilstošu atradumu pievienošana; Atzīmējiet apgabalu, par kuru neesat pārliecināts, kā "[ļaujiet radiologam apstiprināt]". Pacients: 62 gadus veca sieviete, klepus, smēķēšana anamnēzē. Modalitāte: bezkontrastiskā krūškurvja CT. Dotie atradumi: 8 mm mīksto audu blīvuma mezgliņš labajā augšējā daivā; Mediastīnā nav patoloģiska izmēra limfmezglu; Nav pleiras izsvīduma. Virsraksti: Klīniskā informācija, Tehnika, Secinājumi, Secinājums, Ieteikums.
Spēcīgā griba ir anonīma, nosaka lomu un robežas, dod modalitāti un atklājumus, aizliedz izdomājumus un prasa pārbaudes zīmi.
Kopējamas uzvedņu veidnes
LOMA UN ROBEŽU APRAKSTU VEIDNEJūsu loma: PROJEKTA sagatavošana ziņotāja radiologa palīgs. Jūs neesat radiologs; diagnozes noteikšana, ziņojuma publicēšana, kritisku konstatējumu ziņošana. Galīgais apstiprinājums un paraksts ir radiologam. Nepievienojiet attēlam neatbilstošus atradumus; Ja neesat pārliecināts, atzīmējiet to kā "[ļaujiet radiologam apstiprināt]", neizdomājiet. Uzdevums: [uzrakstīt uzdevumu].
ANONIMIZĀCIJAS VADĪBAS VEIDNE No tālāk esošā teksta izņemiet vārdu, uzvārdu, TR ID, protokola/pārbaudījuma numuru, dzimšanas datumu, kontaktinformāciju un iestādes informāciju; Tā vietā ierakstiet "[noņemts]". Atstājiet tikai klīniski nozīmīgu informāciju (vecuma grupa, dzimums, attiecīgā vēsture). Piezīme. Atgādiniet man, ka, ja es gatavojos kopīgot attēlu, man ir jāizdzēš arī DICOM galvene un teksts, kas iegults attēlā. Teksts: [ielīmēt tekstu]
APSTIPRINĀJUMA PĀRBAUDES VEIDNE Katram konstatējuma paziņojumam jūsu sagatavotajā uzmetumā norādiet: (1) uz kādu ievadi šis atradums ir balstīts, (2) kas ir attēlā, kas ir jāpārbauda, (3) kur tas ir atkarīgs no klīniskā konteksta. Ja nepieciešams, izmantojiet "iespējamu/aizdomīgu" valodu, nevis galīgo paziņojumu.
RISKA LĪMEŅA KĀRTOŠANAS VEIDNENovietojiet un pamatojiet radioloģijas uzdevumu. Es jūs iedalīšu šādās kategorijās: (A) zems risks – AI izklāsts/ieteikums atbilstošs, (B) vidējs risks – jāapstiprina radiologam, (C) augsts/ļoti augsts risks – diagnoze/lēmums/paziņojums pieder radiologam, AI ir tikai palīgs. Uzdevums: [uzrakstīt uzdevumu].
Biežas kļūdas
- AI sajaukt ar radiologu. AI skenē modeļus, taču tam nav atbildības un paraksta; Diagnoze ir jūsu. Rezultāts ir projekts, nevis lēmums.
- Aizmirstot attēlā iestrādāto identitāti. Ar DICOM galvenes notīrīšanu nepietiek; Ultraskaņas/skenera attēlos pikseļos iegravētajam nosaukumam arī jābūt anonimizētam.
- Paļaujoties uz negatīvu AI izvadi un atslābinot skenēšanu. "Nav zīmes" nenozīmē, ka nav atrasts; Nekad neizlaidiet savu sistemātisku lasīšanu.
- Ziņojuma projekta parakstīšana bez saskaņošanas. Varat pievienot atradumu, kas nav modelis; Katrs teikums ir jāpārbauda pēc attēla.
- Nesniedzot klīnisko kontekstu. Interpretācija, kas veikta bez norādēm, vēstures vai iepriekšējas pārbaudes, ir maldinoša.
Padoms. Katram izmeklējumam uzdodiet sev vienu jautājumu: "Kas notiek ar pacientu, ja šī izdruka ir nepareiza?" Ja atbilde ir nopietna — un radioloģijā tā bieži ir —, izmantojiet mākslīgo intelektu tikai priekšielādēšanai/skicēšanai/mērīšanai un nekad neizlaidiet validāciju.
Rezumējot
Mākslīgais intelekts ir spēcīgs radioloģijas palīgs: tas izvirza steidzamu lietu, veic mērījumus, veido skices, kļūst par otro aci. Bet, tā kā jūs strādājat drošībai kritiskā jomā, kvalificēta radiologa kompetencē ir diagnoze, ziņojuma izdošana un paziņošana par kritiskiem konstatējumiem. AI loma četros attēlveidošanas procesa posmos (priekšuztveršana, tveršana, lasīšana, ziņošana) atšķiras atkarībā no riska līmeņa; Palielinoties riskam, pieaug cilvēku piekrišana. Trīs disciplīnas aizsargā katru soli: attēla saite, neatkarīga lasīšana, klīniskais filtrs. Un zem tā visa slēpjas konfidencialitāte: attēls un pārskats neienāk nevienā ārējā ierīcē, ja tie nav anonimizēti, tostarp DICOM galveni un iegulto tekstu.
Lietojumprogrammas uzdevums
Izvēlieties trīs dažādus uzdevumus no savas nodaļas (vai no scenārija piemēra): vienu zemu risku (piemēram, ikdienas darba saraksta kopsavilkums), vienu vidējam riskam (piemēram, ziņojuma sastādīšana), vienu ļoti augstam riskam (piemēram, paziņojums par kritiskiem konstatējumiem). Katram no tiem (1) vienā teikumā aprakstiet AI lomu, (2) pierakstiet, kādu verifikācijas darbību veiksit, (3) norādiet, kā anonimizēsiet datus (gan tekstu, gan attēlus). Pēc tam pielāgojiet iepriekš minēto veidni “Lomas un robežu definīcija” savam vidēja riska uzdevumam un uzrakstiet uzvedni.
kontrolsaraksts
- [ ] Noteicu uzdevuma riska līmeni (zems/vidējs/augsts/ļoti augsts).
- [ ] Es ierobežoju mākslīgā intelekta lomu līdz "asistents/foster/draft/measure"; diagnozi un radiologa parakstu.
- [ ] Es padarīju tekstu anonīmu; Parādījās vārds, TR ID, protokols un dzimšanas datums.
- [ ] Es atzīmēju, ka, kopīgojot attēlus, es notīrītu DICOM galveni un iegulto tekstu.
- [ ] Uzvednei pievienoju klīnisko kontekstu (vecums, dzimums, indikācijas, vēsture, iepriekšējā izmeklēšana).
- [ ] Neskatoties uz negatīvo AI rezultātu, es apņēmos veikt sistemātisku lasīšanu.
- [ ] Es neparakstīšu manuskriptu, nesaskaņojot katru teikumu ar attēlu.