Zyski:
- Możliwość rozróżnienia, gdzie sztuczna inteligencja wytwarza bezpieczną wartość w procesie biomedycznym, a za którymi decyzjami pozostaje lekarz i upoważniony inżynier.
- Umiejętność zastosowania dyscypliny, która sprawdza krzyżowo każdy wynik AI z fizjologicznym rzędem wielkości, wiarygodnością kliniczną i niezależnymi dowodami
- Rozpoznaj ryzyko halucynacji, wycieku danych i bezpieczeństwa pacjenta oraz wykształć nawyk konfigurowania bezpiecznych podpowiedzi poprzez anonimizację kontekstu.
Inżynieria biomedyczna to zawód, w którym krzyżuje się złożoność ludzkiego ciała i dążenie inżyniera do precyzji. Sygnał EKG jest cieniem elektrycznym serca, obraz MRI jest echem magnetycznym tkanki, a wartość laboratoryjna jest migawką. Wszystkie te pomiary są pośrednie, zaszumione i wymagają interpretacji. Sztuczna inteligencja (AI; systemy oprogramowania, które uczą się na podstawie wzorców dużych zbiorów danych i tworzą tekst/obrazy/liczby) może przyspieszyć tę interpretację, ale może też ukryć swoje błędy za pomocą płynnego języka. Ta jednostka kładzie dwie podstawy, na których zostanie zbudowany cały moduł: gdzie w procesie biomedycznym sztuczna inteligencja generuje rzeczywistą wartość i w jaki sposób sprawdzamy każdy wynik.
Narysujmy od początku absolutną granicę: żadna z technik, których nauczysz się w tym module, nie zastąpi diagnozy wykwalifikowanego lekarza, zgody kompetentnego inżyniera ani zatwierdzonych procesów związanych z urządzeniem. Sztuczna inteligencja nie diagnozuje. Sztuczna inteligencja jest asystentem; Szybko czyta, szybko podpisuje, łapie schematy. Jeśli jednak guz zostanie pominięty, urządzenie generuje fałszywy alarm, dawka zostanie błędnie obliczona, odpowiedzialność nie leży po stronie oprogramowania, ale lekarza i inżyniera, który podjął decyzję. To zdanie zobaczysz w różnych formach w każdym oddziale, ponieważ jest to jedyna prawda w inżynierii, która dotyczy bezpieczeństwa pacjenta.
Gdzie sztuczna inteligencja tworzy wartość w procesie pracy biomedycznej?
Tydzień inżyniera biomedycznego lub zespołu technologii klinicznej można z grubsza podzielić na trzy rodzaje pracy: przygotowanie danych (czyszczenie sygnału, wstępne przetwarzanie obrazu, edycja tabeli, wyodrębnianie logów), interpretacja i analiza (wykrywanie wyników, klasyfikacja, modelowanie predykcyjne, punktacja ryzyka) oraz komunikacja i dokumentacja (dokumentacja techniczna, raport z walidacji, streszczenie literatury, instrukcja urządzenia). Sztuczna inteligencja dotyka wszystkich trzech obszarów, ale w każdym z nich jej wkład i ryzyko są inne.
Przygotowanie danych to najbezpieczniejsza i najbardziej dochodowa dziedzina sztucznej inteligencji. Usuwanie szumu z surowego sygnału, skalowanie obrazów do standardowego rozmiaru, tłumaczenie dowolnych notatek klinicznych na ustrukturyzowane pola, wyrównywanie niespójnych jednostek — to zadania, które są powtarzalne, oparte na regułach i łatwe do zweryfikowania. Nawet jeśli wystąpi tu błąd, powrót do źródła (surowych danych) i sprawdzenie go zajmie kilka minut.
Pole interpretacji i analizy niesie ze sobą najwyższą wartość i największe ryzyko. Sztuczna inteligencja może oznaczyć podejrzany obszar na obrazie, wykryć możliwą arytmię w sygnale; może to ujawnić prawidłowość, którą można przeoczyć w ruchliwej klinice. Ale ten sam model może z pewnością doprowadzić do nieistniejącego odkrycia (zjawisko to nazywa się halucynacją: model przedstawia nieistniejące informacje jako rzeczywiste). W tej dziedzinie sztuczna inteligencja jest narzędziem służącym do formułowania hipotez i ustalania priorytetów, a nie do podejmowania decyzji.
Akcelerator projektów AI w komunikacji i dokumentacji. Tworzy w ciągu kilku minut sekcję dotyczącą metod w raporcie z walidacji, streszczenie literatury lub pierwszy projekt analizy ryzyka. Istnieje ryzyko, że zmyślone źródła i nieprawidłowe liczby mogą niezauważone przedostać się do tekstu.
Dyscyplina walidacji: zasada trzech kotwic
Sednem tego modułu jest jeden nawyk: nie włączać wyników sztucznej inteligencji do decyzji klinicznych lub inżynieryjnych bez ich walidacji. Walidację opieramy na trzech niezależnych kotwicach.
Pierwsza kotwica — fizjologiczny rząd wielkości. Czy wynik mieści się w znanym zakresie fizjologii człowieka? Tętno spoczynkowe wynosi zazwyczaj 50–100 uderzeń na minutę; Jeśli model podaje 400, oznacza to albo artefakt, albo błąd edycji. Temperatura ciała osoby dorosłej mieści się w przedziale 36–38°C; Temperatura 45°C jest fizjologicznie niezgodna z organizmami żywymi. Całkowita objętość krwi dorosłego człowieka wynosi około 5 litrów. Ta kontrola zajmuje kilka sekund i pozwala wykryć większość błędów.
Druga kotwica — wiarygodność kliniczna. Czy wyniki są zgodne z historią kliniczną pacjenta i uzasadnieniem medycznym? Jeśli model sugeruje „wysoką pewność” zaawansowanego wyniku u 25-letniego bezobjawowego pacjenta, prawdopodobieństwo przed badaniem jest niskie i sygnał ten należy traktować z większą podejrzliwością. Wiek, płeć, historia i objawy są filtrem wiarygodności, który musi przejść każda interpretacja.
Trzecia kotwica — niezależny dowód. To najsilniejsza kotwica. Badanie wzorcowe, druga metoda obrazowa, potwierdzenie laboratoryjne, druga opinia biegłego. Odkrycie oznaczone przez sztuczną inteligencję jest sprawdzane w oparciu o metodę złotego standardu lub niezależną ocenę przeprowadzaną przez eksperta. Prawda kliniczna zawsze zwycięża.
Trzy mini etui: w liczbach
Przypadek 1 — Oszczędność czasu na wstępnym przetwarzaniu sygnału. Inżynier kliniczny ręcznie segmentował i oznaczał artefakty w 320 zapisach EKG na potrzeby badania badawczego; średnio 7 minut na nagranie, łącznie około 37 godzin. Dzięki procesowi wstępnego przetwarzania opartemu na sztucznej inteligencji skrócono znaczniki w pierwszej wersji roboczej do 40 sekund na rekord, poświęcając pozostały czas na kontrolę wizualną. Całkowity czas spadł do około 12 godzin; najważniejsze było to, że zaoszczędzony czas został przeznaczony na weryfikację.
Przypadek 2 — Uchwycona halucynacja. Kiedy inżynier biomedyczny poprosił o streszczenie literatury na potrzeby raportu z oceny klinicznej urządzenia, w tekście znalazło się zdanie „Yilmaz i wsp. 2019 odnotowali czułość na poziomie 98%. Nie było takiego artykułu; model sfabrykował atrybucję, naśladując prawdziwy wzór. Weryfikacja źródła (DOI i sprawdzenie dziennika) wykryła błąd przed podpisaniem raportu.
Przypadek 3 – Błąd jednostki. W pomocy przy obliczaniu dawki model przesunął zalecaną objętość 1000-krotnie, myląc stężenie leku z µg/ml zamiast z mg/ml. Fizjologiczna kontrola rzędu wielkości – „dorosły otrzymuje 2 mililitry, a nie 2 litry” – natychmiast ujawniła błąd. Obliczenia te nadal trafiały do farmaceuty i lekarza do zatwierdzenia; Sztuczna inteligencja była jedynie pośrednim narzędziem kontroli.
Słaba podpowiedź/silna podpowiedź
Słaba zachęta:
Spójrz na dane tego pacjenta i podaj jego diagnozę.[dane]
Potężny monit:
Twoja rola: Jesteś analitykiem danych biomedycznych (NIE DIAGNOZUJESZ). Podsumuj poniższe anonimowe pomiary w oparciu WYŁĄCZNIE o dostarczone dane. - Nie diagnozuj; Podaj tylko wyniki numeryczne i porównanie zakresu normalnego. - Nie dodawaj żadnych ustaleń, wartości ani historii, których nie ma w danych. - Pokaż linię danych, na której się opierasz, w nawiasach obok każdej obserwacji. - W niejasnym miejscu wpisz „dane niewystarczające”. - Na koniec: sporządź osobną listę 3 punktów, które lekarz musi potwierdzić. Dane anonimowe: [pomiary]
Potężny monit narzuca modelowi trzy rzeczy: trzymanie się źródła, nie przyjmowanie autorytetu diagnostycznego i zaznaczanie rzeczy do sprawdzenia. Nie kończy to całkowicie halucynacji, ale uwidocznia ją i prawidłowo ustawia rolę.
Cztery szablony do kopiowania
1) Ustalenie anonimowego kontekstu:
Chciałbym pomóc w misji biomedycznej. Imię i nazwisko pacjenta, tożsamość, data i informacje o instytucji są POUFNE; Podam je za pomocą reprezentatywnych wyrażeń, takich jak „Pacjent-A”, „Dzień-0”. Zadanie: [zadanie]. Polegaj tylko na anonimowych danych technicznych, które udostępniam.
2) Trzy prośby o weryfikację kotwicy:
Wykonaj trzy sprawdzenia następujących wyników: 1) Fizjologiczny rząd wielkości: czy każda liczba mieści się w ludzkim zakresie? Jeśli nie, zaznacz.2) Wiarygodność kliniczna: czy istnieją twierdzenia niezgodne z wiekiem/historią/objawem?3) Lista weryfikacyjna: pozycje do potwierdzenia przez niezależne badanie/eksperta. Wynik: [tekst]
3) Wymuszanie niejednoznaczności:
Podaj swoją interpretację na trzech poziomach ufności: - Wysoki poziom ufności (bezpośrednio poparty danymi) - Średni poziom ufności (rozsądne wnioskowanie) - Spekulacyjny (wymagane dodatkowe dane/testy) Zadanie: [zadanie]. Dane: [dane anonimowe]
4) Rozróżnienie decyzja/wsparcie:
Podziel następujące zadanie na dwie części:A) Dane/wersje robocze, które sztuczna inteligencja może wykonać z pewnością B) Punkty decyzyjne, w przypadku których zatwierdzenie upoważnionego lekarza/inżyniera jest OBOWIĄZKOWEOpis zadania: [definicja]
Rola sztucznej inteligencji: ryzyko według rodzaju misji
Typ zadania
Wkład AI
Poziom ryzyka
Gęstość weryfikacji
Wstępne przetwarzanie sygnału/obrazu
wysoki
niski
kontrola na miejscu
Znalezienie wstępnego oznakowania
wysoki
średni
Ekspert + rozsądek
Przewidywanie/punktacja ryzyka
średni
wysoki
Kalibracja + niezależna
Decyzja o diagnozie/leczeniu
ograniczone
bardzo wysoki
Pełna zgoda lekarza
Raport/projekt literatury
wysoki
średni
potwierdzenie źródła
Decyzja dotycząca bezpieczeństwa urządzenia
ograniczone
bardzo wysoki
Standard + V&V + atest
Wskazówka: aby określić poziom ryzyka zadania, zadaj jedno pytanie: „Co stanie się z pacjentem, jeśli wynik będzie nieprawidłowy?” Jeśli odpowiedź brzmi „stracę kilka minut”, zweryfikuj lekko; Jeśli „pacjentowi może stać się krzywda”, potraktuj wyniki jako hipotezę i poddaj je pełnemu procesowi klinicznemu/inżynieryjnemu.
Uwaga: Najbardziej niebezpieczną cechą sztucznej inteligencji nie jest to, że popełnia błędy, ale to, że popełnia je pewnie i w języku medycznym. Tekst płynny, techniczny i profesjonalny nie oznacza, że jest poprawny. Zaufaj dowodom, a nie stylowi.
Typowe błędy
- Mylisz płynność z dokładnością. Niezależnie od tego, jak medyczny wydaje się tekst, twierdzenia faktyczne (wartość, ustalenie, źródło, dawka) powinny zostać niezależnie zweryfikowane.
- Brak skalowania ryzyka według rodzaju zadania. Patrzenie na konto dawki w taki sam sposób, jak na wersję roboczą wiadomości e-mail. Walidacja jest skalowana według potencjalnej szkody dla pacjenta.
- Bezmyślne wprowadzanie danych pacjenta. Dane dotyczące zdrowia to szczególne dane osobowe; anonimizacji przed wejściem do niekontrolowanego pojazdu.
- Nadanie uprawnień diagnostycznych AI. AI nie diagnozuje; generuje hipotezy. Decyzje dotyczące diagnozy i leczenia należą do lekarza.
- Ignorowanie niepewności. To, że model wygląda na „pewnego siebie”, nie oznacza, że niepewność znika; Zapytaj o poziom pewności i zasięg.
Podsumowując
- Pomiary biomedyczne są pośrednie i zaszumione; Sztuczna inteligencja może je zarówno przyspieszyć, jak i ukryć ich błędy.
- Sztuczna inteligencja jest najbezpieczniejsza i najbardziej opłacalna w przygotowaniu danych, najcenniejsza, ale najbardziej ryzykowna w interpretacji/analizie i akceleratorem w dokumentacji.
- Każdy wynik jest weryfikowany przez trzy kotwice: fizjologiczny rząd wielkości, wiarygodność kliniczna, niezależne dowody.
- Ryzyko wyniku jest równe szkodzie, jaką wyrządzi pacjentowi, jeśli będzie nieprawidłowe; walidacja jest odpowiednio skalowana.
- AI nie diagnozuje; Każda decyzja dotycząca bezpieczeństwa pacjenta podejmowana jest za zgodą uprawnionego lekarza i inżyniera.
Zadanie aplikacji
Wymień pięć zadań biomedycznych, które wykonujesz w ciągu tygodnia na podstawie własnej pracy (np. usuwanie sygnału, znajdowanie lotu wstępnego, sekcja raportu, adnotacja o ryzyku, testowanie urządzeń). Umieść każde z nich na poziomie ryzyka zgodnie z tabelą znajdującą się w tym oddziale i zapytaj „co stanie się z pacjentem, jeśli coś będzie nie tak?” Odpowiedz na pytanie jednym zdaniem. Następnie napisz mocny, anonimowy monit dotyczący zadania o najniższym ryzyku i wypróbuj go; Sprawdź wynik dla trzech kotwic i zanotuj, która kotwica wykryła problem.
lista kontrolna
- [ ] Potrafię rozróżnić, gdzie sztuczna inteligencja generuje bezpieczną, a gdzie ryzykowną wartość w procesie biomedycznym.
- [ ] Nabyłem odruchu sprawdzania każdego wyniku pod względem fizjologicznym, wiarygodności klinicznej i niezależnych dowodów.
- [ ] Poziom ryzyka zadania „Co stanie się z pacjentem, jeśli coś pójdzie nie tak?” Mogę to ustalić za pomocą pytania.
- [ ] Wiem, czym są halucynacje i niepewność i jak je uwidocznić.
- [ ] Przyjęłam do wiadomości, że sztuczna inteligencja nie stawia diagnozy, a decyzja o diagnozie/leczeniu należy do lekarza.