Zyski:
- Możliwość rozróżnienia, gdzie sztuczna inteligencja oszczędza czas rzeczywisty w procesie obrazowania (przed akwizycją, akwizycją, odczytem, raportowaniem) i gdzie decyzje krytyczne dla bezpieczeństwa (diagnoza, publikacja raportu, powiadomienie o krytycznym znalezisku) pozostawia się radiologowi, w zależności od poziomu ryzyka zadania
- Umiejętność zastosowania dyscypliny polegającej na powiązaniu każdego wyniku AI z obrazem i kontekstem klinicznym, niezależna recenzja i ostateczna akceptacja podpisu
- Anonimizacja danych obrazowych i raportowych DICOM w zakresie KVKK/prywatność i wyrobienie nawyku wyboru bezpiecznego pojazdu
Codziennie przez oddział radiologii przepływają setki zdjęć. Czy cień na radiogramie klatki piersiowej to normalne naczynie czy mały guzek? czy w tomografii komputerowej mózgu za bólem głowy pacjenta występuje ciche krwawienie; czy skupisko mikrozwapnień na mammografii jest łagodne, czy też pierwszą oznaką wczesnego nowotworu; W tomografii kontrolnej sprawdza się, czy guzek rzeczywiście się urósł, czy też jest po prostu mierzony w innej płaszczyźnie. Niektóre z tych pytań są powtarzalne i czasochłonne; Część z nich to decyzje, które bezpośrednio zadecydują o życiu człowieka i których margines błędu powinien być bliski zeru. Sztuczna inteligencja (w skrócie AI – systemy komputerowe, które potrafią rozpoznawać wzorce na obrazach, klasyfikować je, mierzyć i generować tekst) wpisuje się w sam środek tego obrazu: prawidłowo wykorzystana przyspiesza pilną sprawę, przyspiesza pomiar, sporządza raport i daje czas do namysłu; W przypadku nieprawidłowego użycia może przenieść pozornie bezpieczne, ale nieprawidłowe wyniki do raportu pacjenta lub spowodować fałszywe zaufanie.
Pierwszą częścią tego modułu nie jest wprowadzenie do oprogramowania. Jego celem jest wyjaśnienie, gdzie umieścić sztuczną inteligencję w swoim zawodzie, a gdzie w ogóle jej nie umieszczać. Ponieważ radiologia jest dziedziną „krytyczną dla bezpieczeństwa”: każdy sporządzony raport ma wpływ na decyzję diagnostyczną lekarza, plan operacji, dawkę chemioterapii i tygodnie niepokoju pacjenta. Ustalmy od początku podstawową zasadę: sztuczna inteligencja jest asystentem, a nie radiologiem. Postawienie diagnozy, wydanie (podpisanie) raportu i powiadomienie o krytycznych ustaleniach należą do kompetentnego eksperta – radiologa zgłaszającego i lekarza prowadzącego. Niezweryfikowany wynik AI to niepodpisany raport.
Proces obrazowania i miejsce AI
Aby zrozumieć istotę radiologii, warto podzielić proces na cztery etapy. Faza przedekstrakcyjna: wniosek o badanie, wskazanie (przyczyna medyczna wymagająca badania), ocena, wybór protokołu, przygotowanie pacjenta. Faza akwizycji: zastosowanie metody (metoda obrazowania — RTG, CT/tomografia komputerowa, MRI/rezonans magnetyczny, USG, mammografia), dostosowanie dawki i jakości. Faza odczytania: radiolog ocenia obraz, dokonuje pomiarów, porównuje z poprzednimi badaniami. Faza raportowania: ustrukturyzowanie ustaleń, napisanie wniosków, zgłoszenie krytycznych ustaleń i dostarczenie raportu lekarzowi. Sztuczna inteligencja może dotknąć wszystkich czterech etapów, ale nie każdy z taką samą władzą.
Przez „modalność” rozumiemy modalność obrazowania. „Znalezienie” to nienormalna lub uderzająca sytuacja wykryta na obrazie. „Triage” oznacza umieszczenie pilnych spraw na pierwszym planie listy roboczej. W przypadku „fałszywie negatywnego wyniku” brakuje ustalenia, które faktycznie istnieje; Jest to błąd, którego najbardziej się obawiamy w radiologii, ponieważ po cichu powoduje szkody. Sztuczna inteligencja może wygenerować sygnał priorytetowy, flagę lub projekt raportu na potrzeby audytu; Ale tylko radiolog ocenia, czy są one zgodne ze stanem klinicznym pacjenta, historią i wcześniejszymi badaniami.
W poniższej tabeli podsumowano rolę i poziom ryzyka sztucznej inteligencji według misji:
Zadanie
Rola sztucznej inteligencji
Poziom ryzyka
Kto zatwierdza
Szacowanie nakładu pracy, planowanie listy zadań
akcelerator, planista
niski
Kierownik jednostki
Zalecenia dotyczące protokołu/dawki
Sugestia, sprawdzona
Niski-Średni
Technik + radiolog
Napisz projekt raportu
generator szkiców
średni
radiolog
Pomiar automatyczny (guzek, objętość)
Kalkulator, sprawdzony
średni
radiolog
Flaga segregacyjna/priorytetowa
Ustal priorytety, a nie ostatnie słowo
Średnio-wysoki
Radiolog (nadal czyta)
Znakowanie zmian (CAD)
Osoba przeprowadzająca wstępne badanie przesiewowe, drugie oko
wysoki
Radiolog (stawia diagnozę)
Alarm o znalezieniu krytycznym
przypomnienie, wersja robocza
bardzo wysoki
Radiolog (potwierdza + raportuje)
Diagnoza / raport końcowy
nie pomocne
bardzo wysoki
Radiolog + lekarz klinicysta
Należy pamiętać o jednej linii na tym wykresie: wraz ze wzrostem ryzyka rola sztucznej inteligencji maleje, a akceptacja ludzi rośnie. Sztuczna inteligencja nie może „zwolnić” z badania w żadnej linii.
Dlaczego weryfikacja jest sercem tego biznesu
Sztuczna inteligencja wydaje się pewna co do wyników, jakie daje, ale może nie być tego pewna. Modele obrazu mogą przeoczyć wynik (fałszywie ujemny) lub oznaczyć wynik, który nie istnieje (fałszywie dodatni). Z drugiej strony modele języka generującego tekst mogą dodać do raportu wynik, którego w rzeczywistości nie ma na obrazie, płynnym zdaniem, tak jakby był prawdziwy; nazywa się to halucynacją. Na przykład zdanie „gruczolak prawego nadnercza” może zostać zawarte w projekcie raportu z tomografii komputerowej klatki piersiowej, który nigdy nie był przeglądany. Obie pułapki charakteryzują się równą płynnością; Jedyną rzeczą, która odróżnia dobro od zła, jest Twoja wiedza i nawyk sprawdzania.
Dyscyplina weryfikacji składa się z trzech etapów:
- Link do obrazu: Dopasuj każde znalezisko, flagi AI i każde zdanie, które zapisuje w raporcie, do samego obrazu. Żadne wyrażenie, które nie ma odpowiednika na obrazie, nie może zostać uwzględnione w raporcie. Używaj sztucznej inteligencji, aby przyciągnąć uwagę, a nie jako dowód.
- Przeczytaj samodzielnie/oceń ponownie: Koniecznie zapoznaj się z obszarami nieoznaczonymi przez sztuczną inteligencję. Ujemny wynik sztucznej inteligencji nie gwarantuje „braku wyników”; Nigdy nie pomijaj własnych, systematycznych badań przesiewowych.
- Filtr kliniczny: Sprawdź okiem eksperta, czy wynik jest sprzeczny z historią pacjenta, wskazaniami, wcześniejszymi badaniami i wynikami badań.
Uwaga: Podpisanie projektu raportu opracowanego przez AI bez dopasowania każdego zdania do obrazu pociąga za sobą taką samą odpowiedzialność, jak złożenie raportu bez podpisu. Płynne wyjście nie jest prawidłowym wyjściem.
Prywatność: dane obrazu są danymi prywatnymi
Zdjęcia i raporty radiologiczne stanowią szczególne dane osobowe i są chronione na mocy KVKK (ustawy o ochronie danych osobowych) w Turcji oraz RODO w Europie. Co więcej, dane radiologiczne niosą ze sobą tożsamość w dwóch odrębnych warstwach: nagłówku DICOM (pola takie jak imię i nazwisko pacjenta, numer identyfikacyjny, data urodzenia, instytucja, data badania na początku pliku obrazu) oraz czasami wypalony tekst (informacje o pacjencie pobrane z ekranu USG lub skanera i przetworzone na piksele). Załadowanie obrazu lub raportu w niezmienionej postaci do publicznego narzędzia AI powoduje odsłonięcie obu warstw. Zasada jest prosta: najpierw zanonimizuj. Wyczyść nagłówek DICOM, osadzony tekst maski; Dzieląc się tą historią, napisz „62-letnia kobieta, znana historia raka piersi” zamiast „Ayşe Yılmaz, protokół 2024-114523, rak piersi”. Jeśli to możliwe, wybieraj narzędzia korporacyjne, które mają umowę powierzenia przetwarzania danych i nie wykorzystuj swoich danych w szkoleniach modeli.
trzy mini etui
Przypadek 1 – Bezpieczne użytkowanie. Radiolog ma przed sobą listę roboczą obejmującą 40 tomografii komputerowej mózgu podczas pracowitej zmiany. Triage AI przedstawia dwa testy jako „możliwe ostre krwawienie”. Radiolog czyta najpierw te dwa, w jednym znajduje naprawdę duże krwawienie podtwardówkowe i w ciągu 6 minut wzywa neurochirurgię; Widzi, że ten drugi jest artefaktem ruchowym i eliminuje go. Czyta pozostałe 38 badań w całości, w kolejności. AI zmieniła kolejność, a nie wyeliminowała czytanie; Krytyczne wydarzenie zyskało minuty.
Przypadek 2 — Niezweryfikowany pułapka ciągu. Inny radiolog szybko podpisuje wygenerowany przez sztuczną inteligencję projekt raportu dotyczący tomografii komputerowej klatki piersiowej. Projekt zawiera zdanie „2 cm gruczolak w prawym nadnerczu”; podczas gdy w tej części nie było takiej zmiany – model wywołał halucynację. W takiej formie raport trafia do lekarza, a pacjentka zostaje wciągnięta w niepotrzebny łańcuch badań endokrynologicznych. Pominięto weryfikację, zdanie nie zostało dopasowane do obrazu.
Przypadek 3 – Naruszenie poufności. Technik przesyła obraz USG, który uzna za interesujący, z umieszczonym na nim nazwiskiem pacjenta, do publicznego narzędzia sztucznej inteligencji i zadaje pytanie „co to może być?” Obraz wraz z identyfikatorem pacjenta trafił na serwer zewnętrzny. Instytucję czeka przegląd KVKK. Prawidłowym sposobem było zamaskowanie osadzonego tekstu, wyczyszczenie nagłówka DICOM i udostępnienie wyłącznie anonimowego obrazu.
Słaba zachęta/silna zachęta
Słaba zachęta:
Napisz ten raport z tomografii komputerowej klatki piersiowej: Ayşe Yılmaz, TC 123..., protokół 2024-114523, myślę, że coś jest w płucach.
To żądanie jest błędne w trzech aspektach: udostępnia się informacje o tożsamości (naruszenie KVKK), nie podaje się ustaleń i szczegółów dotyczących modalności, nie definiuje się roli ani granic. Sztuczna inteligencja wypełnia luki na podstawie domysłów, co wiąże się z ryzykiem fałszywych ustaleń.
Potężny monit:
Twoja rola: Asystent przygotowujący projekt projektu dla radiologa raportującego. Nie stawiaj diagnozy, nie uważaj raportu za kompletny. Przygotuj ustrukturyzowany PROJEKT wyłącznie na podstawie ustaleń, które ci przekazuję; dodanie wszelkich ustaleń, które nie odpowiadają obrazowi; Oznacz obszar, którego nie jesteś pewien, jako „[pozwól radiologowi potwierdzić]”. Pacjent: 62-letnia kobieta, kaszel, palenie tytoniu. Modalność: tomografia komputerowa klatki piersiowej bez kontrastu. Przedstawione wyniki: guzek gęstości tkanki miękkiej o średnicy 8 mm w prawym górnym płacie; W śródpiersiu nie ma węzłów chłonnych o wielkości patologicznej; Nie ma wysięku w jamie opłucnej. Nagłówki: Informacje kliniczne, Technika, Wyniki, Wnioski, Zalecenia.
Silna wola jest anonimowa, określa rolę i granicę, podaje modalność i ustalenia, zabrania fabrykacji i wymaga znaku weryfikacji.
Kopiowalne szablony podpowiedzi
ROLA I SZABLON OPISU GRANIC Twoja rola: Asystent przygotowujący PROJEKT dla zgłaszającego radiologa. Nie jesteś radiologiem; postawienie diagnozy, opublikowanie raportu, zaraportowanie krytycznych ustaleń. Ostateczna akceptacja i podpis należy do radiologa. Nie dodawaj żadnych ustaleń, które nie odpowiadają obrazowi; Jeśli nie jesteś pewien, zaznacz to jako „[pozwól radiologowi potwierdzić]”, nie wymyślaj. Zadanie: [napisz zadanie].
SZABLON KONTROLI ANONIMIZACJI Wyodrębnij imię i nazwisko, identyfikator TR, numer protokołu/badania, datę urodzenia, dane kontaktowe i instytucję z poniższego tekstu; Zamiast tego napisz „[usunięto]”. Pozostaw tylko informacje istotne klinicznie (grupa wiekowa, płeć, istotna historia). Uwaga: Przypomnij mi, że jeśli mam zamiar udostępnić obraz, muszę wyczyścić także nagłówek DICOM i tekst osadzony w obrazie. Tekst: [wklej tekst]
SZABLON KONTROLI POTWIERDZENIA Dla każdego stwierdzenia w sporządzonym przez siebie projekcie należy wskazać: (1) na jakich danych wejściowych opiera się to ustalenie, (2) co na obrazie wymaga weryfikacji, (3) gdzie zależy to od kontekstu klinicznego. W razie potrzeby użyj sformułowania „możliwe/podejrzane”, a nie ostatecznego stwierdzenia.
SZABLON SORTOWANIA POZIOMU RYZYKAUmieść i uzasadnij przydział z radiologii, który dam Ci w następujących kategoriach: (A) niskie ryzyko – zarys/zalecenie AI odpowiednie, (B) średnie ryzyko – radiolog musi potwierdzić, (C) wysokie/bardzo wysokie ryzyko – diagnoza/decyzja/powiadomienie należy do radiologa, AI ma jedynie charakter pomocniczy. Zadanie: [napisz zadanie].
Typowe błędy
- Mylenie sztucznej inteligencji z radiologiem. AI skanuje w poszukiwaniu wzorców, ale nie ponosi odpowiedzialności ani podpisu; Diagnoza należy do Ciebie. Wynik stanowi projekt, a nie decyzję.
- Zapominanie o tożsamości zawartej w obrazie. Wyczyszczenie nagłówka DICOM nie wystarczy; Imię i nazwisko wygrawerowane w pikselach na obrazach USG/skanera również powinno być anonimowe.
- Poleganie na ujemnych wynikach AI i rozluźnianie skanowania. „Brak znaku” nie oznacza braku znalezienia; Nigdy nie pomijaj własnego systematycznego czytania.
- Podpisanie projektu raportu bez dopasowania. Możesz dodać wynik, który nie jest modelem; Każde zdanie musi zostać zweryfikowane obrazem.
- Nie podając kontekstu klinicznego. Interpretacja dokonana bez wskazania, historii lub wcześniejszych badań wprowadza w błąd.
Wskazówka: Przy każdym badaniu zadaj sobie jedno pytanie: „Co stanie się z pacjentem, jeśli ten wydruk będzie nieprawidłowy?” Jeśli odpowiedź jest poważna – a w radiologii często tak się dzieje – używaj sztucznej inteligencji tylko do wstępnego pobierania/szkicowania/pomiarów i nigdy nie pomijaj weryfikacji.
Podsumowując
Sztuczna inteligencja jest potężnym pomocnikiem w radiologii: przedstawia pilną sprawę, dokonuje pomiarów, tworzy szkice, staje się drugim okiem. Ponieważ jednak pracujesz w obszarze o krytycznym znaczeniu dla bezpieczeństwa, diagnoza, wydanie raportu i powiadomienie o krytycznych wynikach należy do wykwalifikowanego radiologa. Rola sztucznej inteligencji na czterech etapach procesu obrazowania (wstępne przechwytywanie, przechwytywanie, odczytywanie, raportowanie) różni się w zależności od poziomu ryzyka; Wraz ze wzrostem ryzyka rośnie akceptacja ludzi. Na każdym etapie strzegą trzy dyscypliny: łącze do obrazu, niezależny odczyt, filtr kliniczny. A pod tym wszystkim kryje się poufność: obraz i raport nie przedostają się do żadnego urządzenia zewnętrznego bez anonimizacji, łącznie z nagłówkiem DICOM i osadzonym tekstem.
Zadanie aplikacji
Wybierz trzy różne zadania ze swojej jednostki (lub z przykładowego scenariusza): jedno o niskim ryzyku (na przykład codzienne podsumowanie listy roboczej), jedno o średnim ryzyku (na przykład sporządzenie raportu), jedno o bardzo wysokim ryzyku (na przykład powiadomienie o krytycznych ustaleniach). Dla każdego z nich (1) opisz w jednym zdaniu rolę AI, (2) zapisz, jaki krok weryfikacji podejmiesz, (3) wskaż, w jaki sposób będziesz anonimizować dane (zarówno tekst, jak i obrazy). Następnie dostosuj powyższy szablon „Definicja roli i granic” do zadania o średnim ryzyku i napisz podpowiedź.
lista kontrolna
- [ ] Określiłem poziom ryzyka zadania (niski/średni/wysoki/bardzo wysoki).
- [ ] Ograniczyłem rolę sztucznej inteligencji do „asystenta/opiekuna/projektu/pomiaru”; diagnoza i podpis radiologa.
- [ ] Zanonimizowałem tekst; Pojawiło się imię i nazwisko, TR ID, protokół i data urodzenia.
- [ ] Zauważyłem, że gdybym miał udostępniać obrazy, wyczyściłbym nagłówek DICOM i osadzony tekst.
- [ ] Dodałem kontekst kliniczny (wiek, płeć, wskazanie, historia, poprzednie badania) do podpowiedzi.
- [ ] Pomimo negatywnego wyniku AI, zdecydowałem się na własne systematyczne czytanie.
- [ ] Nie podpiszę manuskryptu bez dopasowania każdego zdania do obrazu.