Potek dela od konca do konca, upravljanje kakovosti in samopreverjanje

Dobički:

• Sposobnost oblikovanja delovnega toka od konca do konca, ki pokaže, kje in s kakšno odobritvijo pride umetna inteligenca v poštev v celotni verigi, od predhodnega snemanja do podpisa poročila.
• Sposobnost vzpostavitve spremljanja uspešnosti, povratne zanke in redne samorevizije v procesih, podprtih z umetno inteligenco.
• Sposobnost narediti uporabo umetne inteligence v slikovni enoti trajnostno z načeli upravljanja, odgovornosti in nenehnega izboljševanja

V prejšnjih desetih enotah smo obravnavali dele umetne inteligence v radiologiji: triažo, strukturirano poročanje, avtomatizacijo meritev, integracijo PACS, metrike, orodja, specifična za modalitete, kakovost slike, sledenje in zasebnost. V tej zadnji enoti bomo združili dele in vzpostavili potek dela od konca do konca: holistični zemljevid, ki prikazuje, kje in s kakšno odobritvijo se umetna inteligenca uporablja v verigi, ki jo revizija opravi od trenutka zahteve do podpisanega poročila. Nato bomo razmislili o dveh stvareh, zaradi katerih je ta tok vzdržen: upravljanje kakovosti (spremljanje delovanja, povratna zanka) in samoregulacija (redni pregledi, upravljanje).

Osnovno načelo: Varna uporaba slikanja, ki ga poganja AI, ni enkratna namestitev; Je živ proces, ki zahteva stalno spremljanje uspešnosti, povratno zanko, pregledovanje vzorcev napak in redno samorevizijo. Na vsakem koraku ostaja odgovornost, podpis in končna odločitev na strani radiologa.

Pretok od konca do konca: Kje je AI, kar potrjuje

Spremljajmo pot revizije, vključno s točkami, kjer pride v poštev umetna inteligenca, in človeško odobritvijo na vsaki točki.

1. Zahteva in indikacija: Zdravnik zahteva pregled. AI lahko priporoči primernost indikacije in izbiro protokola; Tehnik/radiolog odobri. (Enota 8)
2. Snemanje in kakovost: modalnost ustvari sliko. Optimizacija odmerka umetne inteligence, odstranjevanje šuma in označevanje artefaktov; Tehnik se odloči za kvaliteto in po potrebi ponovno posname. (Enota 8)
3. Triaža: Slika pade v PACS. AI daje prednost časovno kritičnim dogodkom; Radiolog še vedno odčita vsak pregled. (enota 2)
4. Branje in odkrivanje: Radiolog bere. CAD oznake kot drugo oko; Radiolog oceni, kaj je označeno in kaj ne. (Enota 6, 7)
5. Merjenje in spremljanje: AI meri in primerja s prejšnjim pregledom; Radiolog preveri skladnost. (Enota 4, 9)
6. Poročanje: AI ustvari strukturiran osnutek; Radiolog vsako poved poveže s sliko in jo podpiše. (Enota 3)
7. Obvestilo o kritični najdbi: AI opominja na kritično najdbo; Radiolog potrdi, sporoči kliniku in zaključi zaprto zanko. (Enota 2, 6)
8. Arhiviranje in beleženje sledi: izhod AI je shranjen kot ločen sloj; Izvirnik se ne spreminja, zapis sledi se ohrani. (Enota 5)

Oder

vloga AI

človeško odobravanje

Povezana enota

Zahteva/protokol

Predlog

Tehnik + radiolog

8

Posnetek/kakovost

Doza, odpravljanje hrupa, artefakt

tehnik

8

triaža

prednostna zastava

Radiolog (še bere)

2

Branje/zaznavanje

CAD drugo oko

Radiolog (diagnostik)

6, 7

Merjenje/sledenje

Izračun, primerjava

Radiolog (popravlja)

4, 9

Poročanje

osnutek

Radiolog (podpis)

3

kritična ugotovitev

opomnik

Radiolog (oddaja, potrdi)

2, 6

arhiv

ločena plast

Sistem + snemanje sledi

5

Ta tabela je povzetek modula: ko tveganje narašča, se vloga umetne inteligence zmanjšuje, človeško soglasje raste; V nobeni vrstici AI ne prevzame branja, diagnoze ali podpisa.

Poročanje o kritičnih ugotovitvah: zaprta zanka

Kritični izvid (večja krvavitev, masivna embolija, napet pnevmotoraks) se ne šteje za sporočenega zgolj s pisanjem v izvidu. Komunikacija v zaprtem krogu pomeni potrditev, da informacije dosežejo in jih prejme neposredno lečeči zdravnik. AI lahko prikliče kritično ugotovitev ali celo pripravi osnutek obvestila; Vendar pa je odgovornost radiologa, da potrdi ugotovitev, jo sporoči pravemu zdravniku, dokumentira komunikacijo in zapre zanko. Samodejno opozarjanje ni nadomestilo za človeško komunikacijo.

Pozor: Samo zato, ker se opozorilo o kritični ugotovitvi AI pojavi na delovnem seznamu, še ne pomeni, da je bilo obvestilo poslano. Obveščanje je zaključeno šele, ko radiolog potrdi izvid, doseže lečečega zdravnika in prejme informacijo. Človekova naloga je, da zapre zaprto zanko.

Vodenje kakovosti in samopresoja

Proces, ki ga poganja AI, se lahko sčasoma pokvari: model se posodobi, naprava se spremeni, populacija se premakne, lažno pozitivna stopnja se poveča. Zato je treba delovanje nenehno spremljati.

• Spremljanje učinkovitosti: Zbiranje lažno pozitivnih/negativnih vzorcev; Sledite stopnjam triažnih zastavic in resničnemu pozitivnemu odstotku.
• Zanka povratnih informacij: sistematično zbirajte povratne informacije radiologov "ta oznaka je bila napačna/spregledano" in jih delite s proizvajalcem.
• Pregled napak: pregled zgrešenih ugotovitev in lažnih alarmov na rednih sestankih; Razločite glavni vzrok (model, protokol, človek).
• Sledenje distribucijskim spremembam: ponovite lokalno preverjanje, ko se spremeni naprava/protokol/populacija.
• Upravljanje: kdo uporablja kateri model, s katero različico, v kakšnem kontekstu; Kdo je odgovoren - to naj bo pisno.

trije mini kovčki

1. primer – povratna zanka deluje. Ena enota iz podatkov spremljanja vidi, da se je stopnja lažno pozitivnih pnevmotoraksa triažnega modela v nekaj mesecih povečala na 75 %. Radiologi zbirajo njihove povratne informacije, pregledajo prag s proizvajalcem; stopnja pade na 45 % in utrujenost zaradi alarma se zmanjša. Brez spremljanja bi model tiho postal nezanesljiv.

2. primer – analiza temeljnega vzroka ni bila ugotovljena. Pri enomesečnem pregledu opazimo dva izostala majhna vozliča. Analiza kaže, da se oboje pojavlja na prenosnih grafih in na napravi, na kateri model ni bil učen (distribucijski premik). Enota zoži obseg modela na prenosnih radiografijah in opozori radiologe. Napaka je bila uporabljena za popravljanje sistema, namesto da bi krivili eno osebo.

Primer 3 – kritična ugotovitev je zaprta zanka. AI opozarja na večjo krvavitev na CT možganov. Radiolog potrdi v 90 sekundah, pokliče nevrokirurga, preveri prejem informacije in dokumentira komunikacijo (čas, oseba, vsebina). Zaprta zanka je zaključena. AI spomnil; Radiolog je opravil obvestilo in potrditev. Če bi bilo prepuščeno samodejnemu opozarjanju, ne bi bilo nobenega zagotovila, da je zdravnik prejel informacijo.

Šibek poziv/močan poziv

Šibek poziv:

Nastavite potek dela AI v radiologiji, avtomatizirajte vse.

»Avtomatiziraj vse« je nevarno v domeni, ki je kritična za varnost; Ignorira človeške kontrolne točke in varno privzeto.

Močan poziv:

Vaša vloga: PRIDRUŽENI svetovalec enote za radiologijo pri oblikovanju poteka dela z umetno inteligenco od konca do konca. Sprejemanje odločitev; pripravite oris in kontrolni seznam. Določite, kje je umetna inteligenca dodana v zahtevo→zajem→triaža→branje→merjenje→poročanje→kritična ugotovitev→arhivska veriga in na VSAKEM koraku navedite človeško odobritev. Predlagajte tudi meritve za spremljanje uspešnosti, povratno zanko in samorevidiranje. Načelo: ko se tveganje povečuje, se vloga umetne inteligence zmanjšuje, človeško odobravanje raste; diagnoza/podpis/obvestilo pri radiologu. Kontekst enote: [napiši]

Močna volja se osredotoča na točke človeškega odobravanja, spremljanje in samokontrolo.

Kopirane predloge pozivov

PREDLOGA OD END-TO-END FLOW DRAFT Vaša vloga: POMOČNIK svetovalca. Za verigo zahtev→slikanje→triaža→branje→merjenje→poročanje→kritična ugotovitev→arhivska veriga izdelajte tabelo, v kateri je navedena vloga umetne inteligence in odobritve ljudi na vsaki stopnji. Označite stopnjo tveganja in ne pustite, da bi umetna inteligenca "prevzela" nobene varnostno kritične odločitve. Kontekst enote: [napiši]

PERFORMANCE MONITORING TEMPLATEI vam bo zagotovil obdobje triažnih/CAD podatkov. Izračunajte stopnjo lažno pozitivnih rezultatov, število zgrešenih ugotovitev in odstotek resnično pozitivnih rezultatov; opozori na utrujenost alarma in porazdelitev; Priporočite, pri katerem pragu je treba pregledati proizvajalca/model. Odločitev je v zavodu. Podatki: [napiši]

PREDLOGA ZA PREGLED GLAVNEGA VZROKAI vam bo ponudila primer zgrešene najdbe/lažnega alarma. Razlikujte glavni vzrok: model (usposabljanje/obseg), protokol/naprava (distribucijski odmik), človek (avtomatizirana pristranskost/utrujenost alarma). Izdelajte predloge, osredotočene na popravek sistema, ne na obtoževanje. Dogodek: [napiši]

PREDLOGA ZAPRTE ZANKE ZA KRITIČNE UGOTOVITVE Izdelajte kontrolni seznam z zaprto zanko za obveščanje o kritičnih ugotovitvah: potrditev ugotovitve, identifikacija pravilnega zdravnika, neposredni prenos, potrditev prejema informacije, dokumentacija komunikacije (čas/oseba/vsebina). Opomnite nas, da samodejna opozorila ne nadomestijo obvestil. Kontekst: [napiši]

Pogoste napake

• "Avtomatizacija vsega". Varnostno kritične odločitve zahtevajo človeško odobritev; Popolna avtomatizacija je nevarna.
• Namestite ga enkrat in ga ne gledate. Vzorec se sčasoma poruši; Nenehno spremljanje delovanja je nujno.
• Uporaba napake za obtoževanje osebe. Analiza temeljnega vzroka bi se morala osredotočiti na popravek sistema.
• Prepustite kritično ugotovitev samodejnemu opozorilu. Zaprto zanko zapre radiolog; Prenos in potrditev je človeško delo.
• Ne dajanje upravljanja v pisni obliki. Kdo, kateri model, katera različica, kateri obseg, kdo je odgovoren — je treba dokumentirati.

Namig: v svoji enoti redno postavljajte to vprašanje: "Če bi danes izklopili AI, ali bi še naprej delovali varno?" Odgovor naj bo vedno "da". Umetna inteligenca pospeši branje, vendar ne bo nikoli nadomestila branja, prepoznavanja in podpisovanja.

Če povzamem

Umetna inteligenca pride v poštev na številnih točkah v verigi od trenutka naročila do podpisanega poročila v radiologiji: priporočilo protokola, kakovost, triaža, odkrivanje, merjenje, spremljanje, poročanje in opomnik kritičnih ugotovitev. Holistično načelo je povzetek celotnega modula: ko tveganje narašča, se vloga umetne inteligence zmanjšuje, človeško soglasje raste; Umetna inteligenca v nobenem koraku ne prevzame branja, diagnoze, podpisa ali poročanja o kritičnih ugotovitvah. Tisto, zaradi česar je ta tok trajnosten, je spoznanje, da je varna uporaba živ proces, ne pa enkratna nastavitev: spremljanje delovanja, povratna zanka, pregled hrošča, sledenje distribucijskega premika in pisno upravljanje. Ko poroča o kritičnem izvidu, radiolog sklene zaprto zanko. Pod vsem stoji nespremenljiv stavek: odločitev pripada osebi.

Aplikacijska naloga

Narišite diagram poteka dela umetne inteligence od konca do konca za vašo enoto (ali vzorčno organizacijo): zapišite vlogo umetne inteligence, človeško odobritev in stopnjo tveganja na vsaki stopnji. Nato določite tri metrike (stopnja lažno pozitivnih rezultatov, zgrešene ugotovitve, odstotek resnično pozitivnih rezultatov) in pragove dejanj, ki jim boste sledili s predlogo »Sledenje uspešnosti«. Izberite scenarij kritične ugotovitve in napišite korake z uporabo predloge "Zaprta zanka kritične ugotovitve". Nazadnje, "Ali bi delali varno, če bi danes izključili AI?" Iskreno odgovorite na vprašanje za svojo enoto in upoštevajte pomanjkljivosti.

kontrolni seznam

• [ ] Definiral sem človeško validacijo vsake točke AI v toku od konca do konca.
• [ ] Nobenih varnostno kritičnih odločitev (diagnoza/podpis/obvestilo) nisem prenesel na AI.
• [ ] Določil sem merila za spremljanje uspešnosti in pragove ukrepanja.
• [ ] Nastavil sem povratno zanko in postopek pregleda hroščev.
• [ ] Naredil sem, da bom ponovil lokalno preverjanje za distribucijski premik.
• [ ] Zagotovil sem, da je radiolog zaprl zaprto zanko ob obvestilu o kritični ugotovitvi.
• [ ] "Ali bomo delali varno, če izklopimo AI?" Na vprašanje lahko odgovorim pritrdilno.

Modulni izpit

1. Umetna inteligenca za radiološko triažo je CT možganov označila kot 'nizko prednostno' in ga premaknila na konec delovnega seznama. Kaj mora narediti radiolog za to preiskavo?

• A) še vedno prebere in v celoti poroča o reviziji; triaža samo spremeni vrstni red, ne odpravi branja ✔
• B) Umetna inteligenca običajno zaključi študijo, ne da bi jo prebrala, ker pravi, da ima nizko prednost.
• C) Samodejno prestavi pregled na naslednji dan
• D) Pogleda samo območje, označeno z umetno inteligenco, in skrajša poročilo

Opis: Triage AI samo spremeni vrstni red branja; Iz branja ne more izključiti nobenega pregleda. "Nizka prioriteta" ni diagnoza in je lahko lažno negativna. Vsak pregled mora še vedno v celoti prebrati in poročati s strani radiologa; Ne nadomesti branja prednostnega signala.

2. Kakšna kombinacija tveganj je, da umetna inteligenca zamudi pravo patologijo (npr. majhen pnevmotoraks) in se radiolog zanaša nanjo in slike ne pregleda ustrezno?

• A) Samo lažno pozitivno in alarmno utrujenost
• B) Lažno negativno in pristranskost avtomatizacije (pretirano zanašanje na AI) ✔
• C) Samo slaba kakovost slike
• D) Samo napaka v glavi DICOM

Pojasnilo: Lažno negativno je, če model zgreši ugotovitev; Pristranskost avtomatizacije je, ko radiolog pretirano zaupa umetni inteligenci in omili lastno preiskavo. Ko se oboje združi, raison d'être človeškega spremljanja izgine in ugotovitev je lahko v celoti spregledana. Zato je treba prebrati tudi področja, ki niso zaznamovana z umetno inteligenco.

3. AI je v osnutek poročila CT toraksa dodal stavek 'adenom desne nadledvične žleze', ki na sliki ni imel ekvivalenta. Kaj naj stori radiolog?

• A) Meni, da je stavek zanesljiv in ga neposredno podpiše.
• B) Ker ni prepričan, prepiše celotno poročilo umetni inteligenci in ga podpiše.
• C) poveži stavek s sliko; Če določbe ni, jo odstrani in podpiše osnutek kot overjen ✔
• D) Pusti stavek, vendar na koncu napiše 'dodana umetna inteligenca'

Pojasnilo: Jezikovni modeli se lahko tekoče prilegajo ugotovitvi, ki ni na sliki; to se imenuje halucinacija. Radiolog mora povezati vsak stavek v izvidu s sliko, odstraniti vse nepomembne stavke in nikoli ne podpisati osnutka, ne da bi ga preveril. Osnutek poročila je začetek, ne dokaz.

4. Specialist naloži sliko DICOM z imenom bolnika in številko protokola brez anonimizacije v javno dostopno orodje AI. Kaj je tukaj glavni problem?

• A) Ločljivost slike je nezadostna za umetno inteligenco
• B) Umetna inteligenca ne more brati formata DICOM
• C) Pripomb ni mogoče dati, ker je slika črno-bela
• D) Podatki o identiteti v glavi DICOM in vdelani v sliko se delijo brez anonimizacije; To je kršitev KVKK ✔

Opis: Datoteke DICOM vsebujejo informacije, kot so ime bolnika, identiteta, datum rojstva v glavi in včasih podatke o identiteti, vdelane v sliko (vžgane). Nalaganje teh v zunanje orodje brez njihove anonimizacije je razkritje občutljivih zdravstvenih podatkov in kršitev KVKK. Najprej je treba počistiti glavo in vdelane podatke.

5. Kateri je najpomembnejši korak preverjanja pri primerjavi avtomatske meritve pljučnega nodula (npr. 8 mm), ki jo izvede AI, z ročno meritvijo (5 mm) iz prejšnjega pregleda?

• A) Prepričajte se, da so meritve primerjane z isto metodo, ravnino in doslednostjo segmentacije, ter ocenite odstopanje s strani radiologa ✔
• B) Ob predpostavki, da je nova meritev vedno točna in poroča o rasti
• C) Vzemite povprečje dveh meritev in poročajte o njih
• D) Popolnoma zanemarite meritev in zapišite samo vizualne vtise

Pojasnilo: Meritev je ocena in je odvisna od meje segmentacije, izbire rezine, protokola in merilne metode. Če se avtomatske in ročne meritve izvajajo z različnimi metodami, se lahko pojavi napačen vtis o "rasti". Preden se odločite za razširitev, je treba opraviti primerjavo z isto metodo, na isti ravnini in z doslednimi mejami, morebitna neskladja pa mora oceniti radiolog.

6. Kakšno je zlato pravilo glede izvirne slike DICOM pri dodajanju rezultatov AI v PACS?

• A) Oznake umetne inteligence morajo biti trajno napisane čez izvirno sliko
• B) Izhod AI je dodan kot ločena serija/plast; izvirna diagnostična slika se ne spremeni in zapis sledi se ohrani ✔
• C) Izvirne slike sploh ne smete shranjevati, ohraniti je treba samo obdelano različico
• D) Izhod AI mora biti vdelan kot besedilo v glavo bolnika

Opis: oznake, meritve in poudarke AI je treba shraniti kot ločeno serijo, plast ali predmet strukturiranega poročila; Izvirne diagnostične slike se ne sme nikoli spreminjati. Na ta način lahko radiolog vedno vidi neobdelane podatke, posnetek sledi se ohrani, izhod AI pa se razlikuje od izvirnika.

7. Mamografska umetna inteligenca deluje z visoko "občutljivostjo", a nizko "specifičnostjo". Kaj to pomeni v praksi?

• A) Model ne označuje skoraj nobenih najdb
• B) Model nikoli ne ustvari lažno pozitivnih rezultatov
• C) Model zajame večino resničnih ugotovitev, vendar lahko proizvede veliko lažno pozitivnih rezultatov, kar povzroči nepotreben priklic ✔
• D) Model samo označi primere, za katere lahko postavi dokončno diagnozo.

Pojasnilo: Visoka občutljivost pomeni zajemanje večine resničnih pozitivnih rezultatov (nekaj lažno negativnih). Nizka specifičnost pomeni pogosto označevanje zdravih primerov, kar pomeni ustvarjanje velikega števila lažno pozitivnih rezultatov. To zmanjša uhajanje, vendar poveča breme nepotrebnega odpoklica in preiskave; Izbira praga je klinično ravnovesje in je urejena z interpretacijo radiologa.

8. Model AI se usposablja na napravi določenega proizvajalca in določeni populaciji bolnikov. Kakšen je najboljši pristop pred uporabo na drugi napravi in ​​populaciji v vaši ustanovi?

• A) Ob predpostavki, da bo model povsod zagotavljal enako zmogljivost
• B) Obvezni vsi pregledi brez testiranja modela
• C) Šteje se, da je varno le, če je uporabniški vmesnik v turščini.
• D) Izvedite lokalno validacijo in preverite delovanje na svoji napravi in prebivalstvu ter preglejte raven odobritve/dokazov ✔

Pojasnilo: Zmogljivost se lahko zmanjša, ko se odmaknete od distribucije podatkov, na kateri je bil model učen; To se imenuje distribucijski premik. Pred uporabo v novi napravi, protokolu ali populaciji je treba izvesti lokalno validacijo (preverjanje delovanja na vaših lastnih podatkih) ter pregledati regulativno odobritev in raven dokazov.

9. Kaj je najpomembnejša varnostna prednost strukturiranega poročanja pred poročanjem s prostim besedilom?

• A) Zahvaljujoč standardnim naslovom in obveznim poljem zmanjšuje tveganje manjkajočih ugotovitev in dvoumnosti ter zagotavlja doslednost ✔
• B) Skrajša poročila
• C) Zaradi tega radiologu ni treba gledati slike.
• D) Umetni inteligenci omogoča pošiljanje poročila brez odobritve radiologa

Opis: Strukturirano poročanje uporablja standardne naslove, obvezna polja in skupni glosar; To zmanjša tveganje manjkajočih ugotovitev, zgrešenih polj in nesporazumov, zagotavlja doslednost med zdravniki, umetni inteligenci pa olajša izpolnjevanje polj in preverjanje doslednosti. Prosto besedilo je bolj prilagodljivo, vendar prinaša večjo nevarnost izpustitve in dvoumnosti.

10. Algoritem za izboljšanje slike (super-ločljivost) lahko 'očisti' CT z majhnimi odmerki, hkrati pa doda fino strukturo, ki dejansko ni prisotna. Na kaj vas to spominja?

• A) Izboljšana slika je vedno bolj zanesljiva
• B) Izboljšava lahko doda umetne podrobnosti ali izbriše dejansko ugotovitev; V primeru dvoma je treba vrniti neobdelano sliko in dvomiti o diagnostični veljavnosti ✔
• C) Po odpravi šuma se odmerek samodejno zmanjša
• D) Izboljšava spremeni samo barvo, na vsebino sploh ne vpliva

Pojasnilo: Čeprav algoritmi za izboljšanje slike zmanjšajo šum, lahko dodajo umetne podrobnosti ali izbrišejo prave majhne ugotovitve. To je opomnik, da je diagnostična veljavnost izboljšane slike lahko omejena in da je v primeru dvoma potrebna vrnitev na neobdelano/izvirno sliko in po potrebi ponovno ovrednotenje z ustreznim protokolom. Lep estetski videz ne pomeni diagnostične natančnosti.

11. Kakšno je pravilno vedenje pri anonimiziranju pacientove zgodbe, ki se pošlje javnemu orodju AI?

• A) Dovolj je, da izbrišete samo priimek in pustite ime in številko protokola
• B) Brisanje vseh kliničnih informacij, tako da AI ne vidi konteksta
• C) Odstranite identiteto, protokol, kontaktne in institucionalne podatke ter pustite samo klinično potrebne anonimne podatke ✔
• D) Anonimizacija je nepotrebna; vozilo je že varno

Pojasnilo: ime, številko TR ID, številko protokola/datoteke, kontaktne podatke in podatke o ustanovi je treba odstraniti; Pustiti je treba le klinično potrebne podatke (starostna skupina, spol, ustrezna anamneza). Pravilen pristop je, da napišete '62-letna ženska, znana zgodovina raka dojke' namesto 'Ayşe Yılmaz, protokol 2024-114523'.

12. AI ​​ni označil nobenih ugotovitev na CT angiogramu pljučne embolije (PE) (negativen AI). Kakšna je pravilna razlaga tega za radiologa?

• A) Embolije zagotovo ni, izvid lahko hitro zaključimo kot negativen
• B) Pregled je treba ponoviti
• C) Posvetovanje s klinikom ni potrebno, ker umetna inteligenca pravi negativno
• D) Negativni AI ni jamstvo; Radiolog prebere celotno sliko z lastno oceno, model je morda zgrešil izvid ✔

Pojasnilo: Negativen rezultat AI ne pomeni, da je embolija izključena; model je morda zgrešil izvid (lažno negativen). Radiolog mora prebrati celotno sliko po lastni klinični presoji, vključno z območji, ki niso označena z AI. Negativni AI ni zagotovilo diagnoze, ampak kvečjemu pomožni signal.

13. Umetna inteligenca je ustvarila opozorilo za kritično ugotovitev (npr. obsežna intrakranialna krvavitev). Kdo je odgovoren za poročanje o kritičnih ugotovitvah v zaprtem krogu?

• A) Radiolog je dolžan potrditi ugotovitev, jo sporočiti kliniku, dokumentirati komunikacijo in dokončati zaprto zanko ✔
• B) Obveščanje je popolnoma samodejno, radiolog nima nobene vloge
• C) Odgovornost preide na proizvajalca umetne inteligence
• D) Ker je opozorilo na delovnem seznamu, dodatna komunikacija ni potrebna

Opis: Opozorilo AI je opomnik; Radiolog je odgovoren, da potrdi kritično ugotovitev, jo sporoči neposredno lečečemu zdravniku, dokumentira komunikacijo in zaključi zaprto zanko (potrdilo o prejemu informacije). Avtomatizirano opozarjanje ni nadomestilo za človeško komunikacijo in potrditev.

14. Kateri je najboljši pristop upravljanja za zagotovitev, da je uporaba umetne inteligence v slikovni enoti trajnostna in varna?

• A) Namestite enkrat in nikoli več ne pregledujte
• B) Redno spremljajte uspešnost, vzpostavite cikel povratnih informacij in samopresoje, preglejte primere napak in končno odločitev prepustite radiologu ✔
• C) Prenos vseh odločitev na model in zmanjšanje števila radiologov
• D) Nikoli ne snemajte rezultatov umetne inteligence in ne puščajte sledi

Opis: varna uporaba ni enkratna namestitev; Zahteva redno spremljanje delovanja, zbiranje povratnih informacij radiologov, pregledovanje lažno negativnih/pozitivnih vzorcev, spremljanje posodobitev modela in distribucijskega premika ter redno samopregledovanje. Odgovornost, podpis in končna odločitev je vedno v rokah radiologa.